okahu demo lc openai

Démo Okahu avec OpenAI + Langchain

Ce référentiel comprend une application de discussion de démonstration construite à l'aide d'OpenAI et Langchain et pré-instrumentée pour l'observation avec le cloud Okahu AI Observability. Vous pouvez créer ce dépôt et exécuter l'application dans Github Codespaces pour démarrer rapidement.

Essayez Okahu avec cette application OpenAI

Pour essayer ce chatbot

• Forkez ce dépôt et exécutez-le dans le Github Codespace
• Pour exécuter ceci sur Mac
  • Installer les dépendances Python : pip install -r requirement.txt
  • Supprimer libmagic : pip uninstall python-magic
• Pour l'exécuter sous Windows
  • Installer les dépendances Python : pip install -r requirement.txt

Vous aurez besoin

• Un abonnement OpenAI et une clé API vers la plateforme de développement OpenAI
• Un locataire Okahu et une clé API pour Okahu AI Observability Cloud

Configurer l'environnement de démonstration

• Copiez le fichier botenv.sh.template dans botenv.sh
• Modifiez le fichier botenv.sh pour ajouter la clé API OpenAI et la clé API Okahu et enregistrez

Exécutez le chatbot interactif

Cette application est un chatbot interactif qui répond aux questions sur le café et construit avec un modèle de conception RAG. Workflow est un programme python utilisant le framework d'orchestration Langchain LLM. L'ensemble de données vectorielles est construit à l'aide du modèle d'intégration text-embedding-3-large d'OpenAI à partir d'un ensemble de données local sur le café. Les données vectorielles sont stockées dans une base de données vectorielle Chroma basée sur un fichier local. L'application utilise le modèle OpenAI gpt-4o-mini pour l'inférence.

Pour essayer Okahu depuis le Github Codespace

1. Exécutez l'application chatbot pré-instrumentée avec la commande suivante à partir du répertoire de niveau supérieur

   python lc-openai-with-okahu.py

2. Affichez le flux de travail découvert par Okahu AI Observability Cloud avec les commandes suivantes avec votre clé API Okahu

   • Découvrez tous les composants curl --location --request PUT 'https://api.okahu.ai/api/v1/discovery' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'
   • Obtenez les composants découverts curl --location 'https://api.okahu.ai/api/v1/components' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'

   Consultez la documentation de l'API Okahu AI Observability Cloud ici

Exemple de sortie

 $ python lc-openai-with-okahu.py 

Ask a coffee question [Press return to exit]: What is an americano?
An americano is a type of coffee drink that is made by diluting an espresso shot with hot water at a 1:3 to 1:4 ratio, resulting in a drink that retains the complex flavors of espresso, but in a lighter way.

Instrumentation d'Okahu

Pour exécuter l'application chatbot sans instrumentation Okahu, utilisez la commande python lc-openai.py

Pour comprendre le fonctionnement de l'instrumentation Okahu, comparez lc-openai.py et lc-openai-with-okahu.py