openai_multi_tool_use_parallel_patch

Patchen von multi_tool_use.parallel in OpenAI

Schnelle Affen-Patching-Lösung für das halluzinierte multi_tool_use.parallel-Problem von OpenAI.

Dies ist eine einfache Problemumgehung für dieses Problem, bei dem die GPT ChatCompletions-API manchmal eine seltsame alternative Möglichkeit zum gleichzeitigen Aufrufen mehrerer Tools halluziniert. Meiner Erfahrung nach folgen diese Aufrufe zumindest immer einer vorhersehbaren Struktur und können per Hotfix so angepasst werden, dass sie wie normale, legale Tool-Aufrufe aussehen. Dieser Patch erledigt dies und schreibt auch die Nachricht entsprechend um (was meiner Erfahrung nach dazu führt, dass das Modell Aufrufe wie erwartet funktioniert).

Dieser Fix wird bald überflüssig sein, aber es sieht so aus, als ob ich nicht der Einzige bin, der gelegentlich auf diesen Fehler stößt, also dachte ich, ich würde diesen Workaround mit Ihnen teilen.

Installation und Nutzung

pip install openai-multi-tool-use-parallel-patch

In Ihrem Code:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

Das ist es – theoretisch sollte dies auch dann funktionieren, wenn Sie import openai , aber Sie müssen zumindest sicherstellen, dass Sie Ihre openai.OpenAI oder openai.AsyncOpenAI -Instanzen nicht erstellen, bevor Sie diesen Patch importieren.