openai function tokens

OpenAI 功能代币估算器

使用此 Python 实用程序估算聊天完成（包括功能）的 OpenAI 令牌使用情况！

该软件包基于hmarr的 openai-chat-tokens。截至目前（2023 年 9 月），openai 还没有关于如何准确预测函数中代币数量的官方文档。这个包解决了这个问题！使用它可以非常精确地估计聊天完成的令牌计数，并更好地管理您的 OpenAI API 使用情况。

大多数情况下，它对于令牌来说都是正确的。

安装

1. 通过 pip 安装包

    pip install openai-function-tokens

2. 导入估计函数

    from openai_function_tokens import estimate_tokens 

用法

要使用估计器，请调用estimate_tokens函数：

 estimate_tokens ( messages , functions = None , function_call = None )

传入messages以及可选的functions和function_call ，以接收精确的令牌计数。

致谢

感谢 hmarr 提供的原始 TypeScript 工具。为了更好地理解令牌计数逻辑，请查看他的博客文章。

进一步阅读

函数调用

如何使用聊天模型调用函数

如何通过知识库使用函数

JSON 架构文档

计算令牌（仅消息）

贡献

非常感谢反馈、建议和贡献。帮助使这个工具变得更好！