openai_multi_tool_use_parallel_patch
1.0.0
multi_tool_use.parallel
針對 OpenAI 的幻覺 multi_tool_use.parallel 問題進行快速猴子修補。
這是針對此問題的簡單解決方法,其中 GPT ChatCompletions API 有時會產生一種奇怪的替代方法來同時呼叫多個工具。根據我的經驗,這些呼叫至少總是遵循可預測的結構,並且可以進行熱修復,使其看起來像正常的合法工具呼叫。這個補丁做到了這一點,並且還相應地重寫了訊息(根據我的經驗,這使得模型以正常的預期方式執行呼叫工作。)
這個修復很快就會變得多餘,但看起來我並不是唯一一個偶爾遇到這個錯誤的人,所以我想我會分享這個解決方法。
pip install openai-multi-tool-use-parallel-patch
在你的程式碼中:
import openai_multi_tool_use_parallel_patch # import applies the patch
import openai
client = openai . AsyncOpenAI (...) # sync client will be patched too
...
response = await client . chat . completions . create (...) # no changes to the call signature or response vs vanilla OpenAI client
就是這樣 - 理論上,即使您先import openai
,這也應該有效,但至少您需要確保在導入此補丁之前不要創建openai.OpenAI
或openai.AsyncOpenAI
實例。