프랑스 AI 스타트업 Mistral은 최근 로컬 처리 및 개인 정보 보호 우선 순위 요구 사항을 충족하도록 설계된 Ministral3B 및 Ministral8B를 포함한 엣지 장치용 생성 AI 모델 시리즈인 "Les Ministraux"를 출시했습니다. Downcodes의 편집자는 Mistral의 최신 성과와 AI 분야의 개발 전략을 자세히 설명합니다.
프랑스의 AI 스타트업 Mistral은 최근 노트북, 휴대폰 등 엣지 디바이스용으로 설계된 새로운 생성 AI 모델 시리즈를 출시했다고 발표했습니다. Mistral은 이 모델 시리즈를 "Les Ministraux"라고 명명했으며 로컬 처리 및 개인 정보 보호에 대한 시장의 요구를 먼저 충족시키는 것을 목표로 합니다.
새로 출시된 Les Ministraux 시리즈에는 Ministral3B와 Ministral8B의 두 가지 모델이 포함되어 있습니다. 두 모델의 컨텍스트 창은 128,000개의 토큰에 도달하고 책의 약 50페이지에 해당하는 텍스트 길이를 처리할 수 있다는 점은 주목할 가치가 있습니다. 이는 텍스트 생성, 기기에서의 번역, 오프라인 지능형 비서 서비스 제공 등 모든 모델이 이를 쉽게 처리할 수 있음을 의미합니다.
Mistral은 블로그를 통해 점점 더 많은 고객과 파트너가 기기 내 번역, 로컬 분석 및 자율 로봇과 같은 중요한 애플리케이션 시나리오를 포함하는 로컬 추론을 수행할 수 있는 솔루션을 찾고 있다고 밝혔습니다. Les Ministraux는 이러한 시나리오에서 계산적으로 효율적이고 지연 시간이 짧은 솔루션을 제공하기 위해 개발되었습니다.
현재 Ministral8B는 다운로드가 가능하지만 연구 목적으로만 사용할 수 있습니다. Ministral3B 또는 Ministral8B의 상업적 사용을 위한 라이센스를 취득하려는 개발자 및 회사는 Mistral에 직접 문의해야 합니다. 동시에 개발자는 Mistral의 클라우드 플랫폼 La Platforme과 앞으로 몇 주 안에 협력할 다른 클라우드 서비스를 통해 이 두 모델을 사용할 수도 있습니다. Ministral8B는 입력/출력 토큰 백만 개당 10센트를 청구하는 반면 Ministral3B는 4센트를 청구합니다.
최근에는 훈련, 미세 조정, 실행이 더 저렴하고 빠르기 때문에 더 작은 모델을 선호하는 경향이 있습니다. Google은 소형 모델의 Gemma 라인에 새로운 모델을 계속 추가하고 있으며 Microsoft는 Phi 모델 라인을 출시했습니다. Meta는 최신 Llama 시리즈 업데이트에서 엣지 하드웨어에 최적화된 여러 소형 모델도 출시했습니다.
Mistral은 지시 따르기 및 문제 해결 능력을 평가하기 위해 설계된 여러 AI 벤치마크에서 Ministral3B 및 Ministral8B가 유사한 Llama 및 Gemma 모델은 물론 자체 Mistral7B 모델보다 성능이 뛰어났다고 주장합니다. 파리에 본사를 둔 Mistral은 최근 6억 4천만 달러를 모금했으며 점차 AI 제품 포트폴리오를 확장하고 있습니다. 지난 몇 달 동안 회사는 개발자가 모델을 테스트할 수 있는 무료 서비스를 출시하고 고객이 해당 모델을 미세 조정할 수 있도록 SDK를 출시했습니다. 또한 Codestral이라는 코드 생성 모델이 도입되었습니다.
Mistral의 공동 창업자는 Meta와 Google의 DeepMind 출신이며 OpenAI의 GPT-4o, Anthropic의 Claude 등 상위 모델과 경쟁할 수 있는 플래그십 모델을 만들고 그 과정에서 수익을 창출하는 것이 회사의 목표입니다. 수익 창출은 많은 생성 AI 스타트업에게 어려운 목표이지만 Mistral은 올 여름부터 수익 창출을 시작한 것으로 알려졌습니다.
가장 밝은 부분:
1. Mistral이 출시한 Les Ministraux 모델 시리즈는 엣지 장치용으로 설계되었으며 로컬 개인정보 처리를 지원합니다.
2. 새 모델에는 강력한 컨텍스트 처리 기능을 갖추고 다양한 애플리케이션 시나리오에 적합한 Minor3B 및 Ministral8B가 포함되어 있습니다.
3. Mistral은 수익성을 확보했으며 업계 최고의 모델과 경쟁하기 위해 AI 제품 포트폴리오를 지속적으로 확장하고 있습니다.
Mistral의 Les Ministraux 모델 시리즈는 엣지 장치에 대한 강력한 성능과 최적화를 통해 로컬 AI 애플리케이션에 새로운 가능성을 제공합니다. 앞으로도 Mistral의 개발은 지속적인 관심을 받을 가치가 있으며, 이것이 AI 분야에서 어떻게 더 많은 혁신을 만들어낼지 지켜보겠습니다.