okahu demo lc openai

Demostración de Okahu con OpenAI + Langchain

Este repositorio incluye una aplicación de chat de demostración creada con OpenAI y Langchain que está previamente instrumentada para la observación con la nube Okahu AI Observability. Puede bifurcar este repositorio y ejecutar la aplicación en Github Codespaces para comenzar rápidamente.

Prueba Okahu con esta aplicación OpenAI

Para probar este chatbot

• Bifurca este repositorio y ejecútalo en Github Codespace
• Para ejecutar esto en Mac
  • Instalar dependencias de Python: pip install -r requirement.txt
  • Eliminar libmagic: pip uninstall python-magic
• Para ejecutar esto en Windows
  • Instalar dependencias de Python: pip install -r requirement.txt

necesitarás

• Una suscripción a OpenAI y una clave API para la plataforma de desarrolladores OpenAI
• Un inquilino de Okahu y una clave API para Okahu AI Observability Cloud

Configurar el entorno de demostración

• Copie el archivo botenv.sh.template a botenv.sh
• Edite el archivo botenv.sh para agregar la clave API de OpenAI y la clave API de Okahu y guárdelo.

Ejecute el chatbot interactivo

Esta aplicación es un chatbot interactivo que responde preguntas sobre café y está construido con un patrón de diseño RAG. Workflow es un programa de Python que utiliza el marco de orquestación Langchain LLM. El conjunto de datos vectoriales se construye utilizando el modelo de incrustación de texto-incrustación-3-grande de OpenAI a partir de un conjunto de datos local sobre café. Los datos vectoriales se almacenan en un Chroma vectorDB local basado en archivos. La aplicación utiliza el modelo OpenAI gpt-4o-mini para realizar inferencias.

Para probar Okahu desde Github Codespace

1. Ejecute la aplicación de chatbot preinstrumentada con el siguiente comando desde el directorio de nivel superior

   python lc-openai-with-okahu.py

2. Vea el flujo de trabajo descubierto por Okahu AI Observability Cloud con los siguientes comandos con su clave API de Okahu

   • Descubra todos los componentes curl --location --request PUT 'https://api.okahu.ai/api/v1/discovery' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'
   • Obtenga componentes descubiertos curl --location 'https://api.okahu.ai/api/v1/components' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'

   Consulte los documentos de la API de Okahu AI Observability Cloud aquí

Salida de ejemplo

 $ python lc-openai-with-okahu.py 

Ask a coffee question [Press return to exit]: What is an americano?
An americano is a type of coffee drink that is made by diluting an espresso shot with hot water at a 1:3 to 1:4 ratio, resulting in a drink that retains the complex flavors of espresso, but in a lighter way.

instrumentación okahu

Para ejecutar la aplicación chatbot sin la instrumentación de Okahu, use el comando python lc-openai.py

Para comprender cómo funciona la instrumentación de Okahu, compare lc-openai.py y lc-openai-with-okahu.py