Microsoft が Orca-Math を発表: Mistral-7B アーキテクチャに基づく小規模言語モデル
Microsoft 研究チームは、Mistral-7B アーキテクチャに基づいて微調整された 7 億個のパラメータを備えた小規模言語モデルである Orca-Math を発表しました。反復学習メカニズムを通じて教育方法を再定義し、GSM8K ベンチマークで顕著な結果を達成しました。 Orca-Math の革新的なアプローチと効率的な運用は、教育における SLM の力を実証しています
2025-01-04