openai function tokens

Estimador de tokens de función OpenAI

Calcule el uso del token OpenAI para completar el chat, incluidas las funciones, con esta utilidad de Python.

Este paquete se basa en los tokens de chat openai de hmarr . En este momento (septiembre de 2023), no existe documentación oficial de openai sobre cómo predecir con precisión la cantidad de tokens de funciones. ¡Este paquete resuelve eso! Úselo para obtener una estimación muy precisa del recuento de tokens para la finalización del chat y administrar mejor el uso de la API OpenAI.

La mayoría de las veces es correcto hasta el último detalle.

Instalación

1. Instalar el paquete mediante pip

    pip install openai-function-tokens

2. Importar la función de estimación

    from openai_function_tokens import estimate_tokens 

Uso

Para utilizar el estimador, llame a la función estimate_tokens :

 estimate_tokens ( messages , functions = None , function_call = None )

Pase los messages y, opcionalmente, functions y function_call para recibir un recuento de tokens preciso.

Expresiones de gratitud

Crédito a hmarr por la herramienta TypeScript original. Para comprender mejor la lógica del conteo de tokens, consulte la publicación de su blog.

Lectura adicional

Llamada de función

Cómo llamar funciones con modelos de chat

Cómo utilizar funciones con una base de conocimientos

Documentación del esquema JSON

Contando tokens (solo mensajes)

Contribuyendo

Se agradecen mucho los comentarios, sugerencias y contribuciones. ¡Ayuda a que esta herramienta sea aún mejor!