Das KI-Modell der nächsten Generation von xAI, Grok3, dessen Veröffentlichung ursprünglich für Ende 2024 geplant war, konnte nicht wie geplant veröffentlicht werden, was in der Branche Anlass zur Sorge gab. Grok3 ist als Konkurrenzprodukt zu GPT-4 und Gemini positioniert, verfügt über Bildanalyse- und Fragebeantwortungsfunktionen und wird auf Musks sozialer Plattform X verwendet. Verzögerungen im Entwicklungsprozess sowie Verzögerungen bei ähnlichen Projekten anderer KI-Unternehmen haben Anlass zum Nachdenken über die Engpässe aktueller KI-Trainingsmethoden gegeben.
Kürzlich kam das KI-Modell Grok3 der nächsten Generation, das ursprünglich Ende 2024 von xAI, einem von Elon Musk gegründeten KI-Unternehmen, auf den Markt kommen sollte, nicht wie geplant auf den Markt. Diese Nachricht hat in der Branche große Aufmerksamkeit erregt. Grok3 gilt als das Hauptkonkurrenzprodukt von xAI gegenüber GPT-4 von OpenAI und Gemini von Google. Es verfügt über Bildanalyse- und Frage-Antwort-Funktionen und wurde im sozialen Netzwerk X von Musk eingesetzt.
Letzten Sommer sagte Musk auf der X-Plattform, dass Grok3 „ein erwarteter großer Durchbruch nach 100.000 H100-Trainings“ sein würde. Aber am 2. Januar, kurz nach Neujahr, kam Grok3 immer noch nicht heraus und es gab keine Anzeichen dafür, dass es bald erscheinen würde. Es wird berichtet, dass zunächst eine Zwischenversion „Grok2.5“ veröffentlicht werden könnte.
Dieses Phänomen ist kein Einzelfall. Viele Unternehmen der KI-Branche haben ähnliche peinliche Situationen erlebt. Nehmen wir als Beispiel das KI-Startup Anthropic, das letztes Jahr den Nachfolger seines Claude3Opus-Modells, Claude3.5Opus, nicht wie geplant auf den Markt bringen konnte, und beschloss sogar, die Veröffentlichung des Modells abzubrechen, nachdem es angekündigt hatte, dass das Modell bis zum Ende auf den Markt kommen würde von 2024. Darüber hinaus kam es auch bei Google und OpenAI zu Verzögerungen bei der Veröffentlichung ihrer Flaggschiffmodelle.
Hinter dieser Reihe von Verzögerungen könnten die Engpässe stehen, mit denen aktuelle KI-Trainingsmethoden konfrontiert sind. In der Vergangenheit konnten Unternehmen durch enorme Rechenleistung und größere Datensätze für das Training erhebliche Leistungssteigerungen erzielen. Doch da die Leistungsverbesserung jeder Modellgeneration allmählich abnimmt, beginnen Unternehmen, nach alternativen Technologien zu suchen, um den aktuellen Engpass zu überwinden. In einem Interview mit Podcast-Moderator Lex Fridman sagte Musk, dass seine Erwartungen an Grok 3 zwar hoch seien, er aber auch zugab, dass es möglicherweise nicht realisiert werde.
Darüber hinaus könnte die geringe Größe des xAI-Teams auch einer der wichtigen Gründe für die Verzögerung von Grok3 sein. Unter den Wettbewerbern verfügt xAI über relativ begrenzte Ressourcen und Arbeitskräfte, was sie zweifellos vor größere Herausforderungen bei der Entwicklung neuer Modelle stellt.
Insgesamt ist die Verzögerung von Grok3 nicht nur eine kleine Episode von xAI, sondern auch ein allgemeiner Trend, den die gesamte KI-Branche bei technischen Engpässen zeigt.
Die verzögerte Veröffentlichung von Grok3 verdeutlicht die technischen Herausforderungen und den kommerziellen Druck, denen die groß angelegte Forschung und Entwicklung von Sprachmodellen ausgesetzt ist. In Zukunft muss die KI-Branche neue Trainingsmethoden und -technologien erforschen, um den Engpass bei der Verbesserung der Modellleistung zu bewältigen und die Forschungs- und Entwicklungseffizienz zu verbessern.