openai_multi_tool_use_parallel_patch

Patcher multi_tool_use.parallel dans OpenAI

Correctif rapide de patch singe pour le problème halluciné multi_tool_use.parallel d'OpenAI.

Il s'agit d'une solution de contournement simple à ce problème, dans laquelle l'API GPT ChatCompletions hallucine parfois une étrange manière alternative d'appeler plusieurs outils à la fois. D'après mon expérience, ces appels suivent au moins toujours une structure prévisible et peuvent être corrigés pour ressembler à des appels d'outils légaux normaux. Ce correctif fait cela et réécrit également le message en conséquence (ce qui, d'après mon expérience, permet au modèle d'effectuer des appels de la manière normale attendue.)

Ce correctif sera bientôt redondant, mais il semble que je ne sois pas le seul à rencontrer occasionnellement cette erreur, j'ai donc pensé partager cette solution de contournement.

Installation et utilisation

pip install openai-multi-tool-use-parallel-patch

Dans ton code :

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

C'est tout - théoriquement, cela devrait fonctionner même si vous import openai en premier, mais au moins vous devrez vous assurer de ne pas créer vos instances openai.OpenAI ou openai.AsyncOpenAI avant d'importer ce patch.