openai function tokens

Penaksir Token Fungsi OpenAI

Perkirakan penggunaan token OpenAI untuk penyelesaian obrolan, termasuk fungsi, dengan utilitas Python ini!

Paket ini didasarkan pada token openai-chat hmarr . Sampai saat ini (September 2023) belum ada dokumentasi resmi dari openai tentang cara memprediksi jumlah token dari fungsi secara akurat. Paket ini menyelesaikannya! Gunakan ini untuk mendapatkan perkiraan jumlah token yang sangat tepat untuk penyelesaian obrolan dan mengelola penggunaan OpenAI API Anda dengan lebih baik.

Paling sering itu benar sampai ke token.

Instalasi

1. Instal Paket melalui pip

    pip install openai-function-tokens

2. Impor Fungsi Estimasi

    from openai_function_tokens import estimate_tokens 

Penggunaan

Untuk menggunakan estimator, panggil fungsi estimate_tokens :

 estimate_tokens ( messages , functions = None , function_call = None )

Kirimkan messages , dan secara opsional functions dan function_call , untuk menerima jumlah token yang tepat.

Ucapan Terima Kasih

Penghargaan untuk hmarr untuk alat TypeScript asli. Untuk pemahaman yang lebih baik tentang logika penghitungan token, lihat postingan blognya.

Bacaan Lebih Lanjut

Pemanggilan Fungsi

Cara memanggil fungsi dengan model chat

Cara menggunakan fungsi dengan basis pengetahuan

Dokumentasi Skema JSON

Menghitung token (hanya pesan)

Berkontribusi

Masukan, saran, dan kontribusi sangat kami hargai. Bantu jadikan alat ini lebih baik lagi!