openai_multi_tool_use_parallel_patch

Menambal multi_tool_use.parallel di OpenAI

Perbaikan patching monyet yang cepat untuk masalah multi_tool_use.parallel OpenAI yang berhalusinasi.

Ini adalah solusi sederhana untuk masalah ini ketika GPT ChatCompletions API terkadang berhalusinasi tentang cara alternatif yang aneh untuk memanggil beberapa alat sekaligus. Menurut pengalaman saya, panggilan ini setidaknya selalu mengikuti struktur yang dapat diprediksi dan dapat diperbaiki agar terlihat seperti panggilan alat hukum yang normal. Patch ini melakukan hal itu, dan juga menulis ulang pesan yang sesuai (yang, menurut pengalaman saya, membuat model melakukan panggilan berfungsi dengan cara normal yang diharapkan.)

Perbaikan ini akan segera menjadi mubazir, tetapi sepertinya saya bukan satu-satunya yang terkadang mengalami kesalahan ini, jadi saya pikir saya akan membagikan solusi ini.

Instalasi dan penggunaan

pip install openai-multi-tool-use-parallel-patch

Dalam kode Anda:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

Itu saja - secara teoritis ini akan berfungsi bahkan jika Anda import openai terlebih dahulu, tetapi setidaknya Anda harus memastikan untuk tidak membuat instance openai.OpenAI atau openai.AsyncOpenAI sebelum mengimpor patch ini.