法国AI初创公司Les Ministraux发布了两款轻量级AI模型Ministral3B和Ministral8B，参数分别为30亿和80亿，专为边缘设备设计。这两款模型在指令跟随基准测试中表现突出，尤其是在知识、常识、推理和效率方面超越了同级别模型，甚至在某些方面优于参数更大的模型，为低参数模型树立了新标杆。Downcodes小编将对这两款模型的性能、特点以及其背后的公司进行详细解读。
法国AI初创公司Les Ministraux 推出两款全新轻量级模型Ministral3B和Ministral8B，专为边缘设备设计，参数分别为30亿和80亿。这两款模型在指令跟随基准测试中表现出色，Ministral3B超越了Llama38B和Mistral7B，Ministral8B则在除代码能力外其他方面均优于这两个模型。
测试结果显示，Ministral3B和Ministral8B的性能可媲美Gemma2和Llama3.1等开源模型。 这两款模型都支持高达128k的上下文，并在知识、常识、推理、函数调用和效率方面为低于10B参数的模型树立了新的标杆。 Ministral8B还配备了滑动窗口注意机制，以实现更快、更高效的内存推理。 它们可以被微调到各种用例中，例如管理复杂的AI智能体工作流程或创建专门的任务助手。
研究人员对Les Ministraux模型进行了多项基准测试，涵盖知识与常识、代码、数学和多语言等方面。 在预训练模型阶段，Ministral3B在与Gema22B、Llama3.23B的比较中取得了最佳成绩。 Ministral8B在与Llama3.18B、Mistral7B的比较中，除代码能力外其他方面均表现最佳。 在微调后的指令模型阶段，Ministral3B在不同基准测试中均取得最佳成绩，Ministral8B仅在Wild bench上略逊于Gema29B。
Les Ministraux模型的推出为用户提供了高计算效率、低延迟的解决方案，满足了越来越多用户对关键应用程序本地优先推理的需求。 用户可以将这些模型应用于设备上翻译、无需联网的智能助理以及自动机器人等场景。 Ministral8B的输入输出价格为每百万token0.1美元，Ministral3B则为每百万token0.04美元。
值得注意的是，Mistral 公司此前曾以磁力链接方式开源多款模型，并获得AI社区的认可。 然而，该公司今年陷入争议，因为它不再像以前那样开放。 有消息称微软将收购Mistral的部分股份并对其进行投资，这意味着Mistral的模型将在Azure AI上托管。 Reddit网友发现Mistral已从官网上删除了关于开源的承诺。 该公司的一些模型也开始收费，包括此次发布的Ministral3B和Ministral8B。
详情：https://mistral.ai/news/ministraux/
总而言之，Ministral3B和Ministral8B的出现为边缘计算AI应用提供了强有力的选择，其高效的性能和低廉的价格使其具有显著的竞争优势。 但Mistral公司策略的转变也引发了业界对于开源模式和商业化之间的平衡的思考。 未来，我们将持续关注Les Ministraux模型的应用和发展。