メタプラットフォームは、LLAMA 3.21Bおよび3Bが本日、大規模な言語モデルを合理化したことをリリースしました。これは、通常の携帯電話やタブレットでの大規模な言語モデルの安定した操作を実現した業界で初めてです。定量的トレーニングテクノロジーと最適化アルゴリズムを通じて、このバージョンはファイルサイズを56％削減し、実行中のメモリを41％削減し、速度を元のバージョンの4倍に増やします。この画期的な進行は、集中サーバーから個人端子へのデータ処理モードの変換を示し、モバイルデバイスの将来のアプリケーション開発のための新しい方法を開きます。
Meta Platformsは本日、Llama 3.21bおよび3B製品を含むLlamaモデルの新しい合理化されたバージョンをリリースし、通常のスマートフォンやタブレットで初めて大規模な言語モデルの安定した操作を実現しました。定量的トレーニングテクノロジーと最適化アルゴリズムを革新的に統合することにより、新しいバージョンは、元の処理品質を維持しながらファイルサイズを56％削減し、オペレーティングメモリの要件を41％削減し、処理速度を4倍に増やします。 8,000文字のテキストの継続的な処理。
Android携帯電話でテストすると、Metaの圧縮AIモデル（SpinQuantおよびQlora）は、標準バージョンと比較して速度と効率を大幅に改善しました。小さいモデルは4倍速く実行され、メモリの使用量が減少します
OnePlus12電話の実際のテストでは、この圧縮バージョンは標準バージョンのパフォーマンスに匹敵するパフォーマンスを示し、動作効率を大幅に改善し、モバイルデバイスのコンピューティングパワーが不十分な長期的なトラブルを効果的に解決しました。メタは、オープンな協力市場戦略を採用し、QualcommやMediaTekなどの主流のモバイルプロセッサメーカーとの詳細な協力を実施することを選択しました。 。
この戦略は、業界の他の巨人とは対照的です。 GoogleとAppleが新しいテクノロジーをオペレーティングシステムと深く統合することを選択すると、MetaのOpen Routeは開発者にイノベーションスペースを向上させます。このリリースは、集中型サーバーから個人用端末までのデータ処理モードの変換をマークします。
この技術的なブレークスルーは、パーソナルコンピューターが普及している期間のような大きな変化を引き起こす可能性がありますが、デバイスのパフォーマンス要件や開発者プラットフォームの選択などの課題に依然として課題に直面しています。モバイルデバイスのパフォーマンスが向上し続けるにつれて、ローカライズされた処理ソリューションの利点が徐々に現れます。 Metaは、オープンな協力を通じて、より効率的で安全な方向に発展し、モバイルデバイスの将来のアプリケーション開発のための新しい方法を開くように業界全体を促進したいと考えています。
メタのオープンな協力戦略の選択は、他のテクノロジーの巨人とは対照的であり、開発者に革新のためのより広範なスペースを提供し、また、ローカライズされたAI処理の将来の開発方向を告げます。この技術的なブレークスルーは、モバイルデバイスの使用方法を変更し、パーソナルコンピューターの普及の期間などの大きな変化をもたらすことが期待されており、将来の開発を楽しみにしています。