openai_multi_tool_use_parallel_patch

Parcheando multi_tool_use.parallel en OpenAI

Solución rápida de parcheo de mono para el alucinado problema multi_tool_use.parallel de OpenAI.

Esta es una solución sencilla para este problema en el que la API GPT ChatCompletions a veces alucina con una extraña forma alternativa de llamar a varias herramientas a la vez. En mi experiencia, estas llamadas al menos siempre siguen una estructura predecible y pueden corregirse para que parezcan llamadas de herramientas legales normales. Este parche hace eso y también reescribe el mensaje en consecuencia (lo que, en mi experiencia, hace que el modelo realice llamadas de la manera normal esperada).

Esta solución pronto será redundante, pero parece que no soy el único que ocasionalmente se encuentra con este error, así que pensé en compartir esta solución.

Instalación y uso

pip install openai-multi-tool-use-parallel-patch

En tu código:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

Eso es todo: en teoría, esto debería funcionar incluso si import openai primero, pero al menos deberá asegurarse de no crear sus instancias openai.OpenAI o openai.AsyncOpenAI antes de importar este parche.