AI21 が、256K のコンテキスト長をサポートする世界初の Mamba の実稼働レベル モデル Jamba をリリース
AI21 は、SSM-Transformer アーキテクチャを採用し、52B のパラメータを持ち、256K のコンテキスト長をサポートする世界初の Mamba 製品レベル モデル Jamba をリリースしました。 Jamba モデルは、SSM テクノロジーと Transformer アーキテクチャを組み合わせており、長いテキスト タスクの処理に優れたパフォーマンスを発揮します。ミストラルA
2025-02-20