Anthropic-Mitbegründer Jack Clark wies kürzlich in seinem Newsletter „Import AI“ darauf hin, dass sich die Entwicklung künstlicher Intelligenz nicht verlangsamt, sondern beschleunigt. Er nahm das o3-Modell von OpenAI als Beispiel, um zu verdeutlichen, dass der Fortschritt der KI nicht mehr nur auf der Vergrößerung der Modellgröße beruht, sondern sich einem neuen Modell des „Denkens beim Laufen“ zuwendet, das verstärkendes Lernen mit leistungsfähigerer Rechenleistung kombiniert. Dies markiert eine neue Stufe in der KI-Entwicklung und die Integration traditioneller Methoden und neuer Technologien wird zu einem zukünftigen Entwicklungstrend werden.
Kürzlich kam eine weitere große Neuigkeit, die im Bereich der künstlichen Intelligenz für Aufsehen sorgte, von Jack Clark, dem Mitbegründer von Anthropic. In seinem Newsletter „Import AI“ widerlegt er frühere Behauptungen, der KI-Fortschritt verlangsame sich, und argumentiert, dass sich die Entwicklung tatsächlich beschleunigt. Clark erwähnte, dass das kürzlich von OpenAI eingeführte o3-Modell zeigt, dass die KI noch viel Raum für Wachstum hat, ihre Implementierungsmethoden sich jedoch ändern.
Im Gegensatz zu herkömmlichen Methoden treibt das o3-Modell den Fortschritt nicht einfach durch die Vergrößerung des Modells voran, sondern nutzt verstärktes Lernen und eine leistungsfähigere Rechenleistung. Während des Modelllaufs verfügt o3 über die Fähigkeit, „während des Laufens zu denken“, was neue Möglichkeiten für den weiteren Ausbau eröffnet. Clark prognostiziert, dass sich dieser Trend der Kombination traditioneller Methoden mit neuen Technologien im Jahr 2025 beschleunigen wird, wenn mehr Unternehmen große Basismodelle mit neuen Rechenmethoden kombinieren werden, um den KI-Fortschritt voranzutreiben.
Allerdings wies Clark auch darauf hin, dass hinter der rasanten Entwicklung eine Herausforderung steckt, die nicht ignoriert werden darf: die Rechenkosten. Er sagte, dass die erweiterte Version von o3 die 170-fache Rechenleistung der Basisversion benötige, während der Ressourcenverbrauch der Basisversion den von o1 übersteigt und der Energieverbrauch von o1 selbst ebenfalls höher sei als der von GPT-4o. Der Ressourcenbedarf dieser neuen Systeme variiert von Aufgabe zu Aufgabe, wodurch Kostenprognosen immer komplexer werden. In der Vergangenheit hing der Modell-Overhead hauptsächlich mit der Modellgröße und der Ausgabelänge zusammen, aber die Flexibilität von o3 macht dies viel weniger vorhersehbar.
Dennoch ist Clark fest davon überzeugt, dass durch die Kombination traditioneller Skalierungsmethoden und neuer Methoden die KI-Entwicklung im Jahr 2025 bedeutender sein wird als zuvor. Wenn es um die Zukunftspläne von Anthropic geht, löste Clarks Vorhersage viel Aufsehen aus. Anthropic hat noch kein „Inferenz“- oder „Testzeit“-Modell veröffentlicht, das mit der O-Serie von OpenAI oder Googles Gemini Flash Thinking konkurriert. Das Flaggschiffmodell des Unternehmens, Opus3.5, wurde wegen unzureichender Leistungsverbesserung vorübergehend eingestellt. Die Forschung und Entwicklung dieses Modells scheiterte jedoch nicht vollständig, sondern spielte eine wichtige Rolle bei der Ausbildung des neuen Sonnet3.5-Modells beliebtestes Modell auf dem Markt.
Highlight:
Die KI-Entwicklung verlangsamt sich nicht, sondern beschleunigt sich, insbesondere bei Modellen, die traditionelle und neue Rechenmethoden kombinieren.
Die „Think while Running“-Fähigkeit des o3-Modells eröffnet neue Erweiterungsmöglichkeiten und bringt Kraft in die zukünftige Entwicklung der KI.
Trotz rascher Fortschritte bleibt die Unsicherheit der Rechenkosten eine Herausforderung für die zukünftige Entwicklung.
Alles in allem zeigt uns Clarks Analyse eine neue Richtung in der Entwicklung der KI, das heißt, wir müssen beim Streben nach höherer Leistung auf die Kontrolle der Rechenkosten achten. Bei der künftigen KI-Entwicklung wird das Gleichgewicht zwischen Effizienz und Kosten stärker berücksichtigt, was zu einem der Schlüsselfaktoren für den Fortschritt der KI-Technologie werden wird. Auch wenn es weiterhin Herausforderungen gibt, wird das Innovationstempo im Bereich der KI nicht aufhören.