openai_multi_tool_use_parallel_patch

Correção de multi_tool_use.parallel no OpenAI

Correção rápida de patch de macaco para o problema multi_tool_use.parallel alucinado da OpenAI.

Esta é uma solução simples para esse problema, em que a API GPT ChatCompletions às vezes alucina uma maneira alternativa estranha de chamar várias ferramentas ao mesmo tempo. Na minha experiência, essas chamadas pelo menos sempre seguem uma estrutura previsível e podem ser corrigidas para parecerem chamadas normais de ferramentas legais. Este patch faz isso e também reescreve a mensagem de acordo (o que, na minha experiência, faz com que o modelo execute chamadas funcionem da maneira normal esperada).

Essa correção será redundante em breve, mas parece que não sou o único que ocasionalmente encontra esse erro, então pensei em compartilhar esta solução alternativa.

Instalação e uso

pip install openai-multi-tool-use-parallel-patch

No seu código:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

É isso - teoricamente, isso deve funcionar mesmo se você import openai primeiro, mas pelo menos você precisará ter certeza de não criar suas instâncias openai.OpenAI ou openai.AsyncOpenAI antes de importar este patch.