スーパークラスターは必要ありません。 Nous Research、大規模モデルの開発手法を覆すグローバルな分散型 AI トレーニングを開始
急速に発展している生成 AI の分野で、Nous Research チームはユニークな実験を行っています。彼らは、世界中に分散したマシンを使用して、15 億パラメータの大規模言語モデル (LLM) を事前トレーニングしています。このプロセスは、従来の集中型の必要性を回避します。高価で電力を大量に消費するデータセンターやスーパークラスターでの開発。
2024-12-18