openai_multi_tool_use_parallel_patch
1.0.0
multi_tool_use.parallel
针对 OpenAI 的幻觉 multi_tool_use.parallel 问题进行快速猴子修补。
这是针对此问题的一个简单解决方法,其中 GPT ChatCompletions API 有时会产生一种奇怪的替代方法来同时调用多个工具。根据我的经验,这些调用至少总是遵循可预测的结构,并且可以进行热修复,使其看起来像正常的合法工具调用。这个补丁做到了这一点,并且还相应地重写了消息(根据我的经验,这使得模型以正常的预期方式执行调用工作。)
这个修复很快就会变得多余,但看起来我并不是唯一一个偶尔遇到这个错误的人,所以我想我会分享这个解决方法。
pip install openai-multi-tool-use-parallel-patch
在你的代码中:
import openai_multi_tool_use_parallel_patch # import applies the patch
import openai
client = openai . AsyncOpenAI (...) # sync client will be patched too
...
response = await client . chat . completions . create (...) # no changes to the call signature or response vs vanilla OpenAI client
就是这样 - 理论上,即使您先import openai
,这也应该有效,但至少您需要确保在导入此补丁之前不要创建openai.OpenAI
或openai.AsyncOpenAI
实例。