okahu demo lc openai

Demonstração de Okahu com OpenAI + Langchain

Este repositório inclui um aplicativo de bate-papo de demonstração desenvolvido usando OpenAI e Langchain que é pré-instrumentado para observação com a nuvem Okahu AI Observability. Você pode bifurcar este repositório e executar o aplicativo no Github Codespaces para começar rapidamente.

Experimente Okahu com este aplicativo OpenAI

Para experimentar este chatbot

• Bifurque este repositório e execute no Github Codespace
• Para executar isso no Mac
  • Instale dependências python: pip install -r requirement.txt
  • Remover libmagic: pip uninstall python-magic
• Para executar isso no Windows
  • Instale dependências python: pip install -r requirement.txt

Você vai precisar

• Uma assinatura OpenAI e uma chave API para a plataforma de desenvolvedor OpenAI
• Um locatário Okahu e uma chave de API para Okahu AI Observability Cloud

Configurar o ambiente de demonstração

• Copie o arquivo botenv.sh.template para botenv.sh
• Edite o arquivo botenv.sh para adicionar a chave de API OpenAI e a chave de API Okahu e salve

Execute o chatbot interativo

Este aplicativo é um chatbot interativo que responde perguntas sobre café e é construído com um padrão de design RAG. Workflow é um programa python que usa a estrutura de orquestração Langchain LLM. O conjunto de dados vetoriais é construído usando o modelo de incorporação text-embedding-3-large da OpenAI a partir de um conjunto de dados local sobre café. Os dados vetoriais são armazenados em um Chroma vectorDB baseado em arquivo local. O aplicativo usa o modelo OpenAI gpt-4o-mini para inferência.

Para experimentar o Okahu no Github Codespace

1. Execute o aplicativo chatbot pré-instrumentado com o seguinte comando do diretório de nível superior

   python lc-openai-with-okahu.py

2. Visualize o fluxo de trabalho descoberto pelo Okahu AI Observability Cloud com os seguintes comandos com sua chave de API Okahu

   • Descubra todos os componentes curl --location --request PUT 'https://api.okahu.ai/api/v1/discovery' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'
   • Obtenha os componentes descobertos curl --location 'https://api.okahu.ai/api/v1/components' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'

   Confira os documentos da API Okahu AI Observability Cloud aqui

Exemplo de saída

 $ python lc-openai-with-okahu.py 

Ask a coffee question [Press return to exit]: What is an americano?
An americano is a type of coffee drink that is made by diluting an espresso shot with hot water at a 1:3 to 1:4 ratio, resulting in a drink that retains the complex flavors of espresso, but in a lighter way.

Instrumentação Okahu

Para executar o aplicativo chatbot sem instrumentação Okahu, use o comando python lc-openai.py

Para entender como funciona a instrumentação Okahu, compare lc-openai.py e lc-openai-with-okahu.py