ประมาณการการใช้โทเค็น OpenAI สำหรับการแชทให้เสร็จสิ้น รวมถึงฟังก์ชันต่างๆ ด้วยยูทิลิตี้ Python นี้!
แพ็คเกจนี้อิงตาม openai-chat-token ของ hmarr
ณ ขณะนี้ (กันยายน 2023) ยังไม่มีเอกสารอย่างเป็นทางการจาก openai เกี่ยวกับวิธีการทำนายจำนวนโทเค็นจากฟังก์ชันอย่างแม่นยำ แพ็คเกจนี้แก้ปัญหานั้นได้! ใช้เพื่อรับการประมาณค่าโทเค็นสำหรับการแชทสำเร็จอย่างแม่นยำ และจัดการการใช้งาน OpenAI API ของคุณได้ดียิ่งขึ้น
ส่วนใหญ่มักจะถูกต้องจนถึงโทเค็น
ติดตั้งแพ็คเกจผ่าน pip
pip install openai-function-tokens
นำเข้าฟังก์ชันการประมาณค่า
from openai_function_tokens import estimate_tokens
หากต้องการใช้ตัวประมาณ ให้เรียกใช้ฟังก์ชัน estimate_tokens
:
estimate_tokens ( messages , functions = None , function_call = None )
ส่งผ่าน messages
และอาจใช้ functions
และ function_call
เพื่อรับจำนวนโทเค็นที่แม่นยำ
ขอมอบเครดิตให้กับ hmarr สำหรับเครื่องมือ TypeScript ดั้งเดิม เพื่อความเข้าใจที่ดีขึ้นเกี่ยวกับตรรกะการนับโทเค็น โปรดดูบล็อกโพสต์ของเขา
การเรียกใช้ฟังก์ชัน
วิธีเรียกใช้ฟังก์ชันด้วยโมเดลแชท
วิธีใช้ฟังก์ชันกับฐานความรู้
เอกสารประกอบสคีมา JSON
การนับโทเค็น (เฉพาะข้อความ)
ข้อเสนอแนะข้อเสนอแนะและการมีส่วนร่วมได้รับการชื่นชมอย่างสูง ช่วยทำให้เครื่องมือนี้ดียิ่งขึ้น!