携帯電話は大型モデルを 5 倍の速度で実行できます。 Microsoft Research Asia CPUの新しいオープンソース新技術の超高速体験もお楽しみいただけます
スマート デバイスがどこにでも存在するこの時代において、私たちは携帯電話、タブレット、さらにはスマート ホーム デバイスに、より強力なインテリジェントな処理機能を持たせることに熱心に取り組んでいます。ただし、これらのエッジ デバイスにはハードウェア リソース、特にメモリとコンピューティング能力が限られているため、大規模言語モデル (LLM) の展開と実行が制限されます。これらのデバイスを作ることができたら想像してみてください
2024-12-16