openai_multi_tool_use_parallel_patch

تصحيح multi_tool_use.parallel في OpenAI

إصلاح سريع لمشكلة multi_tool_use.parallel المهلوسة في OpenAI.

يعد هذا حلاً بسيطًا لهذه المشكلة حيث تهلوس واجهة برمجة تطبيقات GPT ChatCompletions أحيانًا بطريقة بديلة غريبة لاستدعاء أدوات متعددة في وقت واحد. من خلال خبرتي، تتبع هذه الاستدعاءات دائمًا على الأقل بنية يمكن التنبؤ بها ويمكن إصلاحها بسرعة لتبدو وكأنها استدعاءات أدوات قانونية عادية. يقوم هذا التصحيح بذلك، كما يعيد كتابة الرسالة وفقًا لذلك (مما يجعل النموذج، حسب تجربتي، يقوم بإجراء المكالمات بالطريقة العادية المتوقعة.)

سيكون هذا الإصلاح زائدًا عن الحاجة قريبًا، ولكن يبدو أنني لست الوحيد الذي يواجه هذا الخطأ أحيانًا، لذلك اعتقدت أنني سأشارك هذا الحل البديل.

التثبيت والاستخدام

pip install openai-multi-tool-use-parallel-patch

في الكود الخاص بك:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

هذا كل شيء - من الناحية النظرية يجب أن يعمل هذا حتى إذا قمت import openai أولاً، ولكن على الأقل ستحتاج إلى التأكد من عدم إنشاء مثيلات openai.OpenAI أو openai.AsyncOpenAI قبل استيراد هذا التصحيح.