openai_multi_tool_use_parallel_patch

การแก้ไข multi_tool_use.parallel ใน OpenAI

การแก้ไขการแพตช์ลิงอย่างรวดเร็วสำหรับปัญหา multi_tool_use.parallel ประสาทหลอนของ OpenAI

นี่เป็นวิธีแก้ปัญหาง่ายๆ สำหรับปัญหานี้ ซึ่งบางครั้ง GPT ChatCompletions API ทำให้เกิดภาพหลอนทางเลือกแปลกๆ ในการเรียกใช้เครื่องมือหลายรายการพร้อมกัน จากประสบการณ์ของฉัน อย่างน้อยการโทรเหล่านี้เป็นไปตามโครงสร้างที่คาดเดาได้เสมอ และสามารถแก้ไขด่วนเพื่อให้ดูเหมือนการเรียกใช้เครื่องมือทางกฎหมายตามปกติ โปรแกรมปรับปรุงนี้ทำเช่นนั้นและยังเขียนข้อความใหม่ตามนั้น (ซึ่งจากประสบการณ์ของฉัน ทำให้แบบจำลองดำเนินการโทรทำงานได้ตามปกติที่คาดไว้)

การแก้ไขนี้จะซ้ำซ้อนในเร็วๆ นี้ แต่ดูเหมือนว่าฉันไม่ใช่คนเดียวที่พบข้อผิดพลาดนี้เป็นครั้งคราว ดังนั้นฉันคิดว่าฉันจะแบ่งปันวิธีแก้ปัญหานี้

การติดตั้งและการใช้งาน

pip install openai-multi-tool-use-parallel-patch

ในรหัสของคุณ:

 import openai_multi_tool_use_parallel_patch  # import applies the patch
import openai

client = openai . AsyncOpenAI (...)  # sync client will be patched too

...

response = await client . chat . completions . create (...)  # no changes to the call signature or response vs vanilla OpenAI client

เพียงเท่านี้ - ตามทฤษฎีแล้วสิ่งนี้ควรจะได้ผลแม้ว่าคุณจะ import openai ก่อน แต่อย่างน้อยคุณจะต้องแน่ใจว่าจะไม่สร้างอินสแตนซ์ openai.OpenAI หรือ openai.AsyncOpenAI ของคุณก่อนที่จะนำเข้าแพตช์นี้