Pada tanggal 7 Agustus 2024, OpenAI mengumumkan pengenalan keluaran terstruktur fitur terobosan dalam API-nya, yang secara signifikan meningkatkan keandalan dan akurasi aplikasi API. Fitur baru ini memastikan bahwa keluaran yang dihasilkan oleh model sepenuhnya sesuai dengan skema JSON yang disediakan oleh pengembang, memecahkan batasan skema JSON sebelumnya yang tidak dapat menjamin bahwa keluaran sepenuhnya sesuai dengan skema tertentu. Selain itu, OpenAI juga mengumumkan bahwa harga model baru telah diturunkan, dengan harga input dikurangi setengahnya dan harga output dikurangi sepertiganya, yang tidak diragukan lagi merupakan kabar baik bagi para pengembang. Redaksi Downcodes akan menjelaskan inovasi teknologi ini secara detail.
Pada tanggal 7 Agustus 2024, OpenAI hari ini mengumumkan pengenalan keluaran terstruktur fitur terobosan dalam API-nya. Fitur baru ini memastikan bahwa keluaran yang dihasilkan oleh model sepenuhnya sesuai dengan skema JSON yang disediakan oleh pengembang, sehingga secara signifikan meningkatkan keandalan API dan keakuratan aplikasi. Berbeda dengan skema JSON sebelumnya, keluaran terstruktur saat ini tidak hanya dapat menentukan Skema JSON (yaitu, seperti apa struktur keluaran JSON), tetapi juga memastikan bahwa keluaran JSON 100% benar. Pada saat yang sama, OpenAI mengumumkan bahwa harga model baru telah diturunkan. Harga masukan hanya setengah dari harga aslinya, dan keluarannya juga 1/3 lebih murah.
Tahun lalu, OpenAI memperkenalkan Skema JSON sebagai alat canggih bagi pengembang yang membangun aplikasi. Namun, meskipun Skema JSON meningkatkan kemungkinan menghasilkan keluaran JSON yang valid, hal ini tidak menjamin bahwa keluaran tersebut sesuai dengan skema tertentu. Pengenalan keluaran terstruktur justru untuk mengatasi keterbatasan ini, dengan membatasi keluaran model agar sesuai dengan pola yang telah ditetapkan, memastikan keakuratan dan konsistensi data keluaran.
Dalam evaluasi pelacakan OpenAI terhadap pola JSON yang kompleks, model baru gpt-4o-2024-08-06 mencapai skor luar biasa sebesar 100% dalam keluaran terstruktur, sedangkan model lama gpt-4-0613 mendapat skor kurang dari 40%. Kemajuan signifikan ini tidak hanya menunjukkan lompatan teknologi OpenAI, namun juga menghadirkan efisiensi kerja yang lebih tinggi dan tingkat kesalahan yang lebih sedikit bagi pengembang.
API OpenAI memperkenalkan dua bentuk keluaran terstruktur:
1. Panggilan fungsi: Output terstruktur dapat digunakan dengan mengaturnya dalam definisi fungsi. Fitur ini tersedia untuk semua model yang mendukung alat, termasuk Semua model dan versi lebih tinggi. Jika keluaran terstruktur diaktifkan, keluaran model akan cocok dengan definisi alat yang disediakan.
Pengaturan permintaan API
Respons API
2. Opsi baru pada parameter respon_format : Pengembang dapat merespons permintaan pengguna secara terstruktur dengan menyediakan skema JSON json_schema sebagai opsi parameter baru.
Keamanan selalu menjadi prioritas utama OpenAI. Fitur keluaran terstruktur baru menghormati kebijakan keamanan yang ada, memungkinkan model menolak permintaan tidak aman bila diperlukan. Selain itu, Python dan Node SDK OpenAI telah diperbarui untuk mendukung keluaran terstruktur secara asli, sehingga menyederhanakan proses pengembangan.
Keluaran terstruktur dapat digunakan untuk berbagai aplikasi, termasuk menghasilkan antarmuka pengguna secara dinamis berdasarkan maksud pengguna, memisahkan jawaban akhir dari alasan pendukung, dan mengekstraksi data terstruktur dari data tidak terstruktur. Kasus penggunaan ini menunjukkan kepraktisan dan fleksibilitas keluaran terstruktur dalam berbagai skenario.
OpenAI mencapai 100% pencocokan antara keluaran model dan Skema JSON dengan menggunakan teknologi decoding terbatas. Pendekatan ini memastikan bahwa pada setiap langkah, model hanya dapat memilih token yang valid dengan membatasi decoding secara dinamis, sehingga mengurangi kemungkinan kesalahan.
Fungsi output terstruktur OpenAI tidak hanya menyediakan alat yang lebih andal dan akurat bagi pengembang, namun juga semakin mendorong kemajuan teknologi kecerdasan buatan dalam pemrosesan data dan pengembangan aplikasi. Dengan peluncuran resmi fitur ini, kami berharap dapat melihat lebih banyak aplikasi inovatif yang diluncurkan.
Secara keseluruhan, fungsi keluaran terstruktur OpenAI merupakan kemajuan teknologi penting yang secara signifikan akan meningkatkan keandalan dan efisiensi aplikasi AI serta menghadirkan pengalaman pengembangan yang lebih nyaman bagi pengembang. Redaksi Downcodes meyakini bahwa teknologi ini akan semakin berperan penting dalam pengembangan aplikasi AI di masa depan.