Am 7. August 2024 kündigte OpenAI die Einführung einer bahnbrechenden funktionsstrukturierten Ausgabe in seiner API an, die die Zuverlässigkeit und Anwendungsgenauigkeit der API erheblich verbesserte. Diese neue Funktion stellt sicher, dass die vom Modell generierte Ausgabe vollständig dem vom Entwickler bereitgestellten JSON-Schema entspricht. Dadurch wird die Einschränkung früherer JSON-Schemas behoben, die nicht garantieren konnten, dass die Ausgabe vollständig einem bestimmten Schema entspricht. Darüber hinaus gab OpenAI auch bekannt, dass der Preis des neuen Modells gesenkt wurde, wobei der Eingabepreis halbiert und der Ausgabepreis um ein Drittel gesenkt wurde, was zweifellos eine gute Nachricht für Entwickler ist. Der Herausgeber von Downcodes wird diese technologische Innovation im Detail erläutern.
Am 7. August 2024 gab OpenAI heute die Einführung einer bahnbrechenden funktionsstrukturierten Ausgabe in seiner API bekannt. Diese neue Funktion stellt sicher, dass die vom Modell generierte Ausgabe vollständig dem vom Entwickler bereitgestellten JSON-Schema entspricht, wodurch die Zuverlässigkeit der API und die Genauigkeit der Anwendung erheblich verbessert werden. Im Gegensatz zum vorherigen JSON-Schema kann die aktuelle strukturierte Ausgabe nicht nur das Schema von JSON definieren (d. h. wie die Struktur der JSON-Ausgabe aussieht), sondern auch sicherstellen, dass die JSON-Ausgabe zu 100 % korrekt ist. Gleichzeitig gab OpenAI bekannt, dass der Preis des neuen Modells gesenkt wurde. Der Eingabepreis beträgt nur noch die Hälfte des ursprünglichen Preises und der Ausgabepreis ist ebenfalls um ein Drittel günstiger.
Letztes Jahr führte OpenAI JSON Schema als leistungsstarkes Tool für Entwickler ein, die Anwendungen erstellen. Obwohl das JSON-Schema die Wahrscheinlichkeit erhöht, eine gültige JSON-Ausgabe zu erzeugen, garantiert es jedoch nicht, dass die Ausgabe einem bestimmten Schema entspricht. Die Einführung einer strukturierten Ausgabe dient genau dazu, diese Einschränkung zu lösen, indem die Modellausgabe so eingeschränkt wird, dass sie dem voreingestellten Muster entspricht, wodurch die Genauigkeit und Konsistenz der Ausgabedaten sichergestellt wird.
Bei der Tracking-Bewertung komplexer JSON-Muster durch OpenAI erreichte das neue Modell gpt-4o-2024-08-06 eine hervorragende Punktzahl von 100 % bei der strukturierten Ausgabe, während das alte Modell gpt-4-0613 weniger als 40 % erreichte. Dieser bedeutende Fortschritt verdeutlicht nicht nur den Technologiesprung von OpenAI, sondern bringt Entwicklern auch eine höhere Arbeitseffizienz und geringere Fehlerquoten.
Die API von OpenAI führt zwei Formen der strukturierten Ausgabe ein:
1. Funktionsaufruf: Eine strukturierte Ausgabe kann verwendet werden, indem sie in der Funktionsdefinition festgelegt wird. Diese Funktion ist für alle Tools-fähigen Modelle verfügbar, einschließlich aller Modelle und höher. Wenn die strukturierte Ausgabe aktiviert ist, stimmt die Modellausgabe mit der bereitgestellten Werkzeugdefinition überein.
API-Anfrageeinstellungen
API-Antwort
2. Neue Option des Parameters „response_format“ : Entwickler können strukturiert auf Benutzeranfragen reagieren, indem sie das JSON-Schema „json_schema“ als neue Option des Parameters bereitstellen.
Sicherheit hat bei OpenAI immer oberste Priorität. Die neue strukturierte Ausgabefunktion respektiert bestehende Sicherheitsrichtlinien und ermöglicht es Modellen, unsichere Anfragen bei Bedarf abzulehnen. Darüber hinaus wurden die Python- und Node-SDKs von OpenAI aktualisiert, um strukturierte Ausgaben nativ zu unterstützen und so den Entwicklungsprozess zu vereinfachen.
Strukturierte Ausgabe kann für eine Vielzahl von Anwendungen verwendet werden, einschließlich der dynamischen Generierung von Benutzeroberflächen basierend auf der Benutzerabsicht, der Trennung endgültiger Antworten von unterstützenden Überlegungen und der Extraktion strukturierter Daten aus unstrukturierten Daten. Diese Anwendungsfälle demonstrieren die Praktikabilität und Flexibilität der strukturierten Ausgabe in verschiedenen Szenarien.
OpenAI erreicht durch den Einsatz eingeschränkter Decodierungstechnologie eine 100-prozentige Übereinstimmung zwischen Modellausgabe und JSON-Schema. Dieser Ansatz stellt sicher, dass das Modell bei jedem Schritt nur gültige Token auswählen kann, indem die Decodierung dynamisch eingeschränkt wird, wodurch die Möglichkeit von Fehlern verringert wird.
Die strukturierte Ausgabefunktion von OpenAI bietet Entwicklern nicht nur ein zuverlässigeres und genaueres Werkzeug, sondern fördert auch die Weiterentwicklung der Technologie der künstlichen Intelligenz in der Datenverarbeitung und Anwendungsentwicklung. Mit der offiziellen Einführung dieser Funktion freuen wir uns auf die Einführung weiterer innovativer Anwendungen.
Alles in allem ist die strukturierte Ausgabefunktion von OpenAI ein wichtiger technologischer Fortschritt, der die Zuverlässigkeit und Effizienz von KI-Anwendungen erheblich verbessern und Entwicklern ein komfortableres Entwicklungserlebnis bieten wird. Der Herausgeber von Downcodes glaubt, dass diese Technologie in Zukunft eine immer wichtigere Rolle bei der Entwicklung von KI-Anwendungen spielen wird.