엔비디아-미스트랄 AI, 신형 오픈 모델 ‘미스트랄 3’ 제품군으로 AI 대중화 가속

전문가 혼합 방식 기술과 엣지 최적화로 클라우드부터 개인용 PC까지 고성능 AI 구현

엔비디아(NVIDIA)가 미스트랄 AI(Mistral AI)와 협업하여 새로운 인공지능 모델 제품군인 ‘미스트랄 3(Mistral 3)’를 공개했다. 이번 제품군은 대규모 연산을 처리하는 ‘미스트랄 라지 3(Mistral Large 3)’와 개인용 기기에서도 가볍게 돌아가는 ‘미니스트랄 3(Ministral 3)’로 구성된다. 이들은 엔비디아의 슈퍼컴퓨팅 기술과 결합하여 기업들이 인공지능을 실제 업무에 더 쉽고 저렴하게 적용할 수 있도록 돕는다.

필요한 부분만 골라 쓰는 효율적 AI, ‘전문가 혼합 방식’의 도입

대규모 모델인 ‘미스트랄 라지 3’의 핵심은 전문가 혼합 방식(Mixture-of-Experts, MoE) 기술이다. 기존의 인공지능은 어떤 문제를 풀 때 모델 전체를 가동해야 했지만, MoE 방식은 문제 해결에 가장 적합한 특정 부분(전문가)만 골라서 활성화한다. 덕분에 불필요한 에너지 낭비를 줄이면서도 정확하고 빠른 결과를 낼 수 있다.

이 모델은 엔비디아의 최신 시스템인 GB200 NVL72에서 구동될 때 이전 세대보다 10배나 뛰어난 성능을 보여준다. 이는 기업 입장에서 인공지능을 운영하는 데 드는 비용과 전력을 획기적으로 줄여주는 효과를 가져온다. 특히 25만 6천 개의 단어를 한꺼번에 기억하고 처리할 수 있는 대용량 컨텍스트 윈도우(Context Window)를 갖추고 있어, 복잡한 기업용 문서를 분석하는 데 매우 유리하다.

내 노트북에서도 돌아가는 인공지능, 엣지 AI 시대의 본격화

미스트랄 AI는 거대한 모델뿐만 아니라, 개발자가 어디서든 인공지능을 실행할 수 있도록 돕는 소형 모델 제품군 ‘미니스트랄 3’도 함께 공개했다. 이들은 인터넷 연결 없이도 노트북이나 스마트 기기 자체에서 인공지능 연산을 수행하는 엣지(Edge) 환경에 최적화되어 있다.

엔비디아는 라마.cpp(llama.cpp)나 올라마(Ollama)와 같은 인기 있는 인공지능 프레임워크와 협력하여, 사용자가 자신의 PC나 젯슨(Jetson) 같은 산업용 소형 기기에서 미니스트랄 3를 즉시 체험할 수 있도록 지원한다. 또한 이 모델들은 누구나 자유롭게 이용할 수 있는 오픈소스로 공개되어 전 세계 개발자들이 자신만의 맞춤형 인공지능 서비스를 만드는 데 큰 도움을 줄 것으로 기대된다.