openai_multi_tool_use_Parallel_patch

OpenAI でのmulti_tool_use.parallelへのパッチ適用

OpenAI の幻覚 multi_tool_use.Parallel 問題に対するクイック モンキー パッチ修正。

これは、GPT ChatCompletions API が複数のツールを同時に呼び出す奇妙な代替方法を幻覚させる場合があるこの問題に対する簡単な回避策です。私の経験では、これらの呼び出しは少なくとも常に予測可能な構造に従い、ホットフィックスを適用して通常の合法的なツール呼び出しのように見せることができます。このパッチはそれを行い、それに応じてメッセージも書き換えます (私の経験では、これにより、モデルの呼び出しが通常の期待どおりに機能するようになります)。

この修正は間もなく不要になりますが、このエラーに時々遭遇するのは私だけではないようです。そのため、この回避策を共有したいと思いました。

インストールと使用方法

pip install openai-multi-tool-use-parallel-patch

コード内:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

以上です。理論的には、最初にimport openaiてもこれは機能するはずですが、少なくとも、このパッチをインポートする前にopenai.OpenAIまたはopenai.AsyncOpenAIインスタンスを作成しないようにする必要があります。