阿联酋技术创新研究所（TII）发布了新一代开源小型语言模型Falcon3系列，包含四个不同规模的模型，并提供基础版与指令版两种变体。该系列模型在Hugging Face排行榜上表现出色，超越了同尺寸的开源模型，甚至在多个基准测试中胜过谷歌、Meta和阿里巴巴等竞争对手。Falcon3系列高效、低成本，特别适用于计算资源有限的设备和应用场景，例如客户服务、医疗保健和物联网等领域。其训练数据规模庞大，并采用了先进的架构和机制，以最大限度地减少内存使用并提升推理效率。TII还提供了Falcon Playground测试环境，方便开发者和研究人员进行试用。
图源备注:图片由AI生成，图片授权服务商Midjourney
Falcon3的表现已在Hugging Face排行榜上脱颖而出，超越了与之尺寸相同的开源模型，如Meta的Llama和Qwen-2.5。特别是7B和10B版本在推理速度、语言理解、指令执行以及代码和数学任务等方面，展现了领先的技术优势，甚至在多个基准测试中超越了谷歌、Meta和阿里巴巴等竞争对手。
与传统的大型语言模型（LLM）相比，SLM模型因其较少的参数和更简洁的设计，具备高效性和低成本优势，尤其适合在客户服务、医疗保健、物联网等领域中应用。根据市场研究公司Valuates Reports的数据，SLM市场预计将在未来五年实现18%的年均增长。
Falcon3系列的训练数据规模达到了14万亿tokens，是其前身Falcon2的两倍多。该系列采用了仅解码器架构和分组查询注意机制，最大限度地减少了内存使用，同时提升了推理效率。Falcon3支持英语、法语、西班牙语和葡萄牙语等四种语言，并配备了32K的上下文窗口，能够处理长输入文本，满足各类行业的需求。
TII表示，Falcon3的基础模型适合通用任务，指令版则专为对话任务如客户服务和虚拟助手优化。该系列的推出将进一步推动边缘计算和隐私敏感应用的发展，支持如个性化推荐、数据分析、医疗诊断和供应链优化等场景。
所有Falcon3模型都遵循TII Falcon License2.0发布，这是一个基于Apache2.0的宽松许可证，支持负责任的AI开发和部署。为了帮助开发者和研究人员上手，TII还推出了Falcon Playground测试环境，用户可以在集成这些模型之前进行试用。
Falcon3系列的开源发布，降低了AI技术应用的门槛，为开发者和研究人员提供了强大的工具，加速了AI技术在各领域的应用和创新，预示着AI技术进一步普及和民主化的趋势。