다운코드 편집자 보고서: 프랑스 인공 지능 스타트업 Mistral AI는 최근 "Ministraux" 시리즈의 일부이며 엣지 장치 및 엣지 컴퓨팅 시나리오를 위해 특별히 설계된 차세대 언어 모델 Ministral3B 및 Ministral8B를 출시했습니다. 이 두 모델은 최대 128,000개 토큰의 컨텍스트 길이를 지원하고 데이터 개인 정보 보호 및 로컬 처리에 상당한 이점을 가지며 로컬 번역, 오프라인 지능형 보조자, 데이터 분석 및 자율 로봇 공학과 같은 애플리케이션에 대한 강력한 지원을 제공합니다. 여러 벤치마크 테스트에서 다수의 유사 모델을 능가하는 성능을 보여 강력한 경쟁력을 입증했습니다.
최근 프랑스 인공지능 스타트업 Mistral AI는 차세대 언어 모델인 Ministral3B와 Ministral8B를 발표했습니다.
두 가지 새로운 모델은 "Ministraux" 시리즈의 일부로 에지 장치 및 에지 컴퓨팅 시나리오용으로 설계되었으며 최대 128,000개의 토큰의 컨텍스트 길이를 지원합니다. 이는 이러한 모델이 강력할 뿐만 아니라 데이터 개인 정보 보호 및 로컬 처리가 특히 중요한 상황에서 사용될 수 있음을 의미합니다.
Mistral은 Ministraux 모델 제품군이 로컬 번역, 오프라인 스마트 보조 장치, 데이터 분석 및 자율 로봇공학과 같은 다양한 애플리케이션에 이상적으로 적합하다고 말했습니다. 효율성을 더욱 향상시키기 위해 Ministraux 모델을 더 큰 언어 모델(예: Mistral Large)과 결합하여 다단계 작업 흐름에서 효과적인 중개자 역할을 할 수도 있습니다.
성능 측면에서 Mistral이 제공한 벤치마크에 따르면 Ministral3B 및 8B는 Song의 Gemma22B 및 Meta의 Llama3.18B와 같은 여러 범주에서 많은 유사한 모델보다 성능이 뛰어납니다. Minitral3B는 더 적은 수의 매개변수를 가지고 있음에도 불구하고 일부 테스트에서 이전 제품인 Mistral7B보다 성능이 뛰어났다는 점을 언급할 가치가 있습니다.
실제로 Mistral8B는 모든 테스트, 특히 지식, 일반 지식, 함수 호출 및 다국어 기능과 같은 영역에서 좋은 성능을 보였습니다.
가격과 관련하여 Ministry AI의 이 두 가지 새로운 모델은 이미 API를 통해 제공됩니다. Ministral8B의 수수료는 백만 토큰당 $0.10인 반면 Ministral3B의 수수료는 $0.04입니다. 또한 Mistral은 연구 목적으로 Ministral8B Instruct에 대한 모델 가중치를 제공합니다. Mistral의 이 두 가지 새로운 모델도 Google Vertex 및 AWS와 같은 클라우드 파트너를 통해 곧 출시될 예정이라는 점은 주목할 가치가 있습니다.
가장 밝은 부분:
- Mistral AI는 Minitral3B 및 8B를 출시하여 최대 128,000개의 토큰까지 컨텍스트 길이를 지원합니다.
- 이 두 모델은 로컬 번역, 오프라인 도우미, 데이터 분석 및 자율 로봇과 같은 애플리케이션에 적합합니다.
- 가격 측면에서 Ministral8B의 백만 토큰당 수수료는 US$0.10이고 Ministral3B의 수수료는 US$0.04입니다.
전체적으로 Mistral AI의 Minitral3B 및 8B는 강력한 성능, 긴 컨텍스트 길이 및 유연한 애플리케이션 시나리오를 통해 인공 지능 분야에 새로운 가능성을 제공합니다. 이 두 모델은 엣지 컴퓨팅과 위치 파악 애플리케이션에서 중요한 역할을 할 것으로 믿어집니다. Downcodes의 편집자는 후속 개발에 계속해서 주의를 기울일 것입니다.