openai_multi_tool_use_parallel_patch

OpenAI에서 multi_tool_use.parallel 패치

OpenAI의 환각적인 multi_tool_use.parallel 문제에 대한 빠른 원숭이 패치 수정입니다.

이는 GPT ChatCompletions API가 때때로 여러 도구를 한 번에 호출하는 이상한 대체 방법을 환각하는 이 문제에 대한 간단한 해결 방법입니다. 내 경험에 따르면 이러한 호출은 적어도 항상 예측 가능한 구조를 따르며 정상적이고 합법적인 도구 호출처럼 보이도록 긴급 수정될 수 있습니다. 이 패치는 이를 수행하고 그에 따라 메시지를 다시 작성합니다(내 경험상 모델이 정상적으로 예상되는 방식으로 호출 작업을 수행하도록 만듭니다).

이 수정 사항은 곧 중복될 예정이지만 가끔 이 오류가 발생하는 사람이 저 뿐만이 아닌 것 같아서 이 해결 방법을 공유해야겠다고 생각했습니다.

설치 및 사용법

pip install openai-multi-tool-use-parallel-patch

코드에서:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

그게 전부입니다. 이론적으로는 import openai 경우에도 작동하지만 최소한 이 패치를 가져오기 전에 openai.OpenAI 또는 openai.AsyncOpenAI 인스턴스를 생성하지 않도록 해야 합니다.