okahu demo lc openai

Демо-версия Okahu с OpenAI + Langchain

Этот репозиторий включает в себя демонстрационное приложение для чата, созданное с использованием OpenAI и Langchain, которое предварительно оснащено инструментами для наблюдения с помощью облака Okahu AI Observability. Вы можете создать форк этого репозитория и запустить приложение в Github Codespaces, чтобы быстро приступить к работе.

Попробуйте Okahu с этим приложением OpenAI

Чтобы попробовать этого чат-бота

• Создайте форк этого репозитория и запустите его в кодовом пространстве Github.
• Чтобы запустить это на Mac
  • Установите зависимости Python: pip install -r requirement.txt
  • Удалить libmagic: pip uninstall python-magic
• Чтобы запустить это в Windows
  • Установите зависимости Python: pip install -r requirement.txt

Вам понадобится

• Подписка OpenAI и ключ API для платформы разработчиков OpenAI.
• Арендатор Okahu и ключ API для облака Okahu AI Observability Cloud

Настройте демонстрационную среду

• Скопируйте файл botenv.sh.template в botenv.sh.
• Отредактируйте файл botenv.sh, добавив ключ API OpenAI и ключ API Okahu, и сохраните его.

Запустите интерактивный чат-бот

Это приложение представляет собой интерактивный чат-бот, который отвечает на вопросы о кофе и создан с использованием шаблона дизайна RAG. Workflow — это программа на Python, использующая структуру оркестровки Langchain LLM. Набор векторных данных построен с использованием модели встраивания text-embedding-3-large от OpenAI из локального набора данных о кофе. Векторные данные хранятся в локальной файловой базе данных Chroma VectorDB. Приложение использует для вывода модель OpenAI gpt-4o-mini.

Чтобы попробовать Okahu из Github Codespace

1. Запустите предварительно настроенное приложение чат-бота с помощью следующей команды из каталога верхнего уровня.

   python lc-openai-with-okahu.py

2. Просмотрите рабочий процесс, обнаруженный Okahu AI Observability Cloud, с помощью следующих команд с помощью ключа API Okahu.

   • Откройте для себя все компоненты curl --location --request PUT 'https://api.okahu.ai/api/v1/discovery' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'
   • Получить обнаруженные компоненты curl --location 'https://api.okahu.ai/api/v1/components' --header 'x-api-key: <YOUR_OKAHU_API_KEY>;'

   Ознакомьтесь с документацией Okahu AI Observability Cloud API здесь.

Пример вывода

 $ python lc-openai-with-okahu.py 

Ask a coffee question [Press return to exit]: What is an americano?
An americano is a type of coffee drink that is made by diluting an espresso shot with hot water at a 1:3 to 1:4 ratio, resulting in a drink that retains the complex flavors of espresso, but in a lighter way.

Инструменты Окаху

Чтобы запустить приложение чат-бота без инструментов Okahu, используйте команду python lc-openai.py

Чтобы понять, как работает инструментарий Okahu, сравните lc-openai.py и lc-openai-with-okahu.py.