openai function tokens
1.0.0
使用此 Python 實用程式估算聊天完成(包括功能)的 OpenAI 令牌使用情況!
軟體包基於hmarr
的 openai-chat-tokens。截至目前(2023 年 9 月),openai 還沒有關於如何準確預測函數中代幣數量的官方文件。這個包解決了這個問題!使用它可以非常精確地估計聊天完成的令牌計數,並更好地管理您的 OpenAI API 使用情況。
大多數情況下,它對於令牌來說都是正確的。
透過 pip 安裝包
pip install openai-function-tokens
導入估計函數
from openai_function_tokens import estimate_tokens
若要使用估計器,請呼叫estimate_tokens
函數:
estimate_tokens ( messages , functions = None , function_call = None )
傳入messages
以及可選的functions
和function_call
,以接收精確的令牌計數。
感謝 hmarr 提供的原始 TypeScript 工具。為了更好地理解令牌計數邏輯,請查看他的部落格文章。
函數呼叫
如何使用聊天模型呼叫函數
如何透過知識庫使用函數
JSON 架構文檔
計算令牌(僅訊息)
非常感謝回饋、建議和貢獻。幫助使這個工具變得更好!