okahu demo lc openai

Okahu-Demo mit OpenAI + Langchain

Dieses Repo enthält eine Demo-Chat-Anwendung, die mit OpenAI und Langchain erstellt wurde und für die Beobachtung mit der Okahu AI Observability Cloud vorinstrumentiert ist. Sie können dieses Repo forken und die App in Github Codespaces ausführen, um schnell loszulegen.

Probieren Sie Okahu mit dieser OpenAI-App aus

Um diesen Chatbot auszuprobieren

• Forken Sie dieses Repo und führen Sie es im Github-Codespace aus
• Um dies auf einem Mac auszuführen
  • Installieren Sie Python-Abhängigkeiten: pip install -r requirement.txt
  • Entfernen Sie libmagic: pip uninstall python-magic
• Um dies unter Windows auszuführen
  • Installieren Sie Python-Abhängigkeiten: pip install -r requirement.txt

Du wirst brauchen

• Ein OpenAI-Abonnement und ein API-Schlüssel für die OpenAI-Entwicklerplattform
• Ein Okahu-Mandant und API-Schlüssel für die Okahu AI Observability Cloud

Konfigurieren Sie die Demoumgebung

• Kopieren Sie die Datei botenv.sh.template nach botenv.sh
• Bearbeiten Sie die Datei botenv.sh, um den OpenAI-API-Schlüssel und den Okahu-API-Schlüssel hinzuzufügen, und speichern Sie sie

Führen Sie den interaktiven Chatbot aus

Bei dieser Anwendung handelt es sich um einen interaktiven Chatbot, der Fragen zum Thema Kaffee beantwortet und auf einem RAG-Designmuster basiert. Workflow ist ein Python-Programm, das das Langchain LLM-Orchestrierungsframework verwendet. Der Vektordatensatz wird mithilfe des Einbettungsmodells text-embedding-3-large von OpenAI aus einem lokalen Datensatz über Kaffee erstellt. Die Vektordaten werden in einer lokalen dateibasierten Chroma vectorDB gespeichert. Die App verwendet das OpenAI gpt-4o-mini-Modell für die Inferenz.

Probieren Sie Okahu aus dem Github-Codespace aus

1. Führen Sie die vorinstrumentierte Chatbot-App mit dem folgenden Befehl aus dem Verzeichnis der obersten Ebene aus

   python lc-openai-with-okahu.py

2. Sehen Sie sich den von Okahu AI Observability Cloud erkannten Workflow mit den folgenden Befehlen mit Ihrem Okahu-API-Schlüssel an

   • Entdecken Sie alle Komponenten curl --location --request PUT 'https://api.okahu.ai/api/v1/discovery' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'
   • Erkannte Komponenten abrufen curl --location 'https://api.okahu.ai/api/v1/components' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'

   Sehen Sie sich hier die Okahu AI Observability Cloud API-Dokumente an

Beispielausgabe

 $ python lc-openai-with-okahu.py 

Ask a coffee question [Press return to exit]: What is an americano?
An americano is a type of coffee drink that is made by diluting an espresso shot with hot water at a 1:3 to 1:4 ratio, resulting in a drink that retains the complex flavors of espresso, but in a lighter way.

Okahu-Instrumentierung

Um die Chatbot-App ohne Okahu-Instrumentierung auszuführen, verwenden Sie den Befehl python lc-openai.py

Um zu verstehen, wie die Okahu-Instrumentierung funktioniert, vergleichen Sie lc-openai.py und lc-openai-with-okahu.py