2024 年 8 月 7 日、OpenAI は、API に画期的な機能構造化出力の導入を発表しました。これにより、API の信頼性とアプリケーションの精度が大幅に向上しました。この新機能により、モデルによって生成された出力が開発者によって提供された JSON スキーマに完全に準拠していることが保証され、出力が特定のスキーマに完全に準拠していることを保証できなかった以前の JSON スキーマの制限が解決されます。さらに、OpenAI は、新モデルの価格を引き下げ、入力価格を半分に、出力価格を 3 分の 1 に値下げしたことも発表しました。これは開発者にとって間違いなく素晴らしいニュースです。この技術革新についてダウンコード編集長が詳しく解説します。
2024 年 8 月 7 日、 OpenAI は本日、API に画期的な機能構造化出力の導入を発表しました。この新機能により、モデルによって生成された出力が開発者によって提供された JSON スキーマに完全に準拠していることが保証され、API の信頼性とアプリケーションの精度が大幅に向上します。以前の JSON スキーマとは異なり、現在の構造化出力では、JSON のスキーマ (つまり、JSON 出力の構造がどのようなものであるか) を定義できるだけでなく、出力 JSON が 100% 正しいことも保証できます。同時に、OpenAIは、新モデルの価格を値下げし、入力価格は元の価格の半分に過ぎず、出力も1/3安くなったと発表しました。
昨年、OpenAI は、アプリケーションを構築する開発者のための強力なツールとして JSON Schema を導入しました。ただし、JSON スキーマは有効な JSON 出力を生成する可能性を高めますが、出力が特定のスキーマに準拠していることを保証するものではありません。構造化出力の導入は、モデル出力をプリセット パターンに一致するように制約することで、まさにこの制限を解決し、出力データの精度と一貫性を確保することです。
OpenAI による複雑な JSON パターンの追跡評価では、新しいモデル gpt-4o-2024-08-06 は構造化出力で 100% という優れたスコアを達成しましたが、古いモデル gpt-4-0613 のスコアは 40% 未満でした。この大きな進歩は、OpenAI の技術的飛躍を証明するだけでなく、開発者に作業効率の向上とエラー率の減少をもたらします。
OpenAI の API では、次の 2 つの形式の構造化出力が導入されています。
1. 関数呼び出し：関数定義に設定することで構造化出力を利用できます。この機能は、すべてのモデル以降を含むすべてのツール対応モデルで利用できます。構造化出力が有効になっている場合、モデル出力は提供されたツール定義と一致します。
APIリクエストの設定
APIレスポンス
2. パラメーター response_format の新しいオプション: 開発者は、パラメーターの新しいオプションとして JSON スキーマ json_schema を提供することで、構造化された方法でユーザーのリクエストに応答できます。
OpenAI にとってセキュリティは常に最優先事項です。新しい構造化出力機能は既存のセキュリティ ポリシーを尊重し、必要に応じてモデルが安全でないリクエストを拒否できるようにします。さらに、OpenAI の Python および Node SDK が更新され、構造化出力をネイティブにサポートするようになり、開発プロセスが簡素化されました。
構造化出力は、ユーザーの意図に基づいてユーザー インターフェイスを動的に生成する、最終的な回答を裏付ける推論から分離する、非構造化データから構造化データを抽出するなど、幅広いアプリケーションに使用できます。これらの使用例は、さまざまなシナリオにおける構造化出力の実用性と柔軟性を示しています。
OpenAI は、制限されたデコード技術を使用することで、モデル出力と JSON スキーマの間の 100% の一致を実現します。このアプローチにより、モデルは各ステップでデコードを動的に制約することによって有効なトークンのみを選択できるようになり、それによってエラーの可能性が低減されます。
OpenAI の構造化出力機能は、開発者により信頼性が高く正確なツールを提供するだけでなく、データ処理とアプリケーション開発における人工知能テクノロジーの進歩をさらに促進します。この機能の正式リリースにより、さらに革新的なアプリケーションがリリースされることを楽しみにしています。
全体として、OpenAI の構造化出力機能は、AI アプリケーションの信頼性と効率を大幅に向上させ、開発者により便利な開発エクスペリエンスをもたらす重要な技術進歩です。 Downcodes の編集者は、このテクノロジーが将来 AI アプリケーションの開発においてますます重要な役割を果たすようになるだろうと信じています。