法國AI新創公司Mistral近日發布了專為邊緣設備設計的生成式AI模型系列“Les Ministraux”，包含Ministral3B和Ministral8B兩個模型，旨在滿足本地處理和隱私優先的需求。 Downcodes小編將為您詳細解讀Mistral的這項最新成果，以及其在AI領域的發展策略。
法國AI 新創公司Mistral 最近宣布推出了一系列新的生成式AI 模型，這些模型專為邊緣設備設計，例如筆記型電腦和手機。 Mistral 將這系列模型命名為“Les Ministraux”，旨在滿足市場上對本地處理和隱私優先的需求。
新發布的Les Ministraux 系列包括兩個模型:Ministral3B 和Ministral8B。值得注意的是，這兩個模型的上下文視窗達到了128，000個token，能夠處理大約50頁書的文字長度。這意味著無論是文字生成、在裝置上進行翻譯，或是提供離線的智慧助理服務，這些模型都能應付自如。
Mistral 在其部落格中表示，越來越多的客戶和合作夥伴正在尋求能夠在本地進行推理的解決方案，這些方案涉及到重要的應用場景，如設備上的翻譯、本地分析和自主機器人等。 Les Ministraux 正是為了在這些場景中提供運算高效、低延遲的解決方案而開發的。
目前，Ministral8B 已可供下載，但僅限於研究目的。希望取得Ministral3B 或Ministral8B 商業使用許可的開發者和公司需要直接聯繫Mistral。同時，開發者也可以透過Mistral 的雲端平台La Platforme，以及未來幾週內與其合作的其他雲端服務使用這兩個模型。 Ministral8B 的收費標準為每百萬個輸入/ 輸出token10美分，而Ministral3B 則為4美分。
最近，小型模型的趨勢愈演愈烈，因為它們的訓練、微調和運行成本更低且速度更快。谷歌在其Gemma 小型模型系列中持續添加新模型，而微軟則推出了Phi 系列模型。 Meta 也在最新的Llama 系列更新中推出了多個針對邊緣硬體優化的小型模型。
Mistral 聲稱，Ministral3B 和Ministral8B 在多個旨在評估指令遵循和問題解決能力的AI 基準測試中，表現超越了同類的Llama 和Gemma 模型，以及其自身的Mistral7B 模型。 Mistral 總部位於巴黎，最近成功融資6.4億美元，正在逐步擴展其AI 產品組合。過去幾個月，該公司推出了一項免費的服務，允許開發者測試其模型，並發布了一個SDK，以便客戶能夠微調這些模型。此外，也推出了一個名為Codestral 的程式碼產生模型。
Mistral 的共同創辦人來自Meta 和Google的DeepMind，該公司的目標是創建能夠與OpenAI 的GPT-4o 和Anthropic 的Claude 等頂尖模型相媲美的旗艦模型，並在此過程中實現盈利。儘管「獲利」 這個目標對於許多生成式AI 新創公司來說都頗具挑戰性，但Mistral 據報導已經在今年夏天開始實現收入。
劃重點:
1. Mistral 推出的Les Ministraux 系列車型專為邊緣設備設計，支援本地隱私處理。
2. 新模型包含Ministral3B 和Ministral8B，具備超強的情境處理能力，適用於多種應用情境。
3. Mistral 已開始獲利，並持續擴展其AI 產品組合，致力於與產業頂尖模型競爭。
Mistral 的Les Ministraux 系列車型憑藉其強大的性能和對邊緣設備的優化，為本地AI 應用帶來了新的可能性。 未來，Mistral 的發展值得持續關注，讓我們拭目以待其在AI 領域創造更多突破。