阿联酋技术创新研究所（TII）发布了新一代开源小型语言模型Falcon3系列，包含四个不同规模的模型（1B、3B、7B和10B），并提供基础版与指令版两种变体。这一发布旨在降低AI技术的使用门槛，为开发者、研究人员和企业提供高效且经济的AI解决方案。Falcon3在Hugging Face排行榜上表现出色，超越了同尺寸的开源模型，并在多个基准测试中胜过谷歌、Meta和阿里巴巴等巨头的产品，体现了其在推理速度、语言理解和指令执行等方面的技术优势。
图源备注:图片由AI生成，图片授权服务商Midjourney
Falcon3的表现已在Hugging Face排行榜上脱颖而出，超越了与之尺寸相同的开源模型，如Meta的Llama和Qwen-2.5。特别是7B和10B版本在推理速度、语言理解、指令执行以及代码和数学任务等方面，展现了领先的技术优势，甚至在多个基准测试中超越了谷歌、Meta和阿里巴巴等竞争对手。
与传统的大型语言模型（LLM）相比，SLM模型因其较少的参数和更简洁的设计，具备高效性和低成本优势，尤其适合在客户服务、医疗保健、物联网等领域中应用。根据市场研究公司Valuates Reports的数据，SLM市场预计将在未来五年实现18%的年均增长。
Falcon3系列的训练数据规模达到了14万亿tokens，是其前身Falcon2的两倍多。该系列采用了仅解码器架构和分组查询注意机制，最大限度地减少了内存使用，同时提升了推理效率。Falcon3支持英语、法语、西班牙语和葡萄牙语等四种语言，并配备了32K的上下文窗口，能够处理长输入文本，满足各类行业的需求。
TII表示，Falcon3的基础模型适合通用任务，指令版则专为对话任务如客户服务和虚拟助手优化。该系列的推出将进一步推动边缘计算和隐私敏感应用的发展，支持如个性化推荐、数据分析、医疗诊断和供应链优化等场景。
所有Falcon3模型都遵循TII Falcon License2.0发布，这是一个基于Apache2.0的宽松许可证，支持负责任的AI开发和部署。为了帮助开发者和研究人员上手，TII还推出了Falcon Playground测试环境，用户可以在集成这些模型之前进行试用。
Falcon3系列的开源特性和高效性能，使其成为轻量级AI应用的理想选择，有望加速AI技术在各个领域的普及和应用，推动AI技术进一步民主化进程。其在多个基准测试中超越竞争对手的优异表现，也预示着小型语言模型未来发展潜力巨大。