hello sajal

Привет, Саджал!

Обзор

Этот проект предназначен для демонстрации комплексного приложения чат-бота, использующего модель OpenAI GPT-4, а также новейшие возможности Langchain, включая язык выражений Langchain и LangGraph, интегрированные с интерфейсом Gradio для простого взаимодействия.

Он инкапсулирован в контейнер Docker для простоты развертывания и масштабируемости.

Начиная

Создание Docker-контейнера

1. Клонируйте репозиторий на свой локальный компьютер:

 git clone <repository-link>
cd <repository-name>

2. Создайте образ Docker из файла Dockerfile, предоставленного в проекте:

 docker build -t hello-sajal-app .

Эта команда создает образ Docker с именем hello-sajal-app на основе инструкций в Dockerfile.

3. Запуск приложения

После создания образа вы можете запустить приложение с помощью следующей команды:

 docker run -p 7860:7860 gradio-openai-app

Эта команда запускает контейнер и сопоставляет порт 7860 контейнера с портом 7860 на вашем хосте, позволяя вам получить доступ к приложению Gradio через веб-браузер.

4. Доступ к приложению. После запуска контейнера Docker откройте веб-браузер и перейдите по адресу http://localhost:7860, чтобы взаимодействовать с приложением Gradio.

Под капотом

И Docker-контейнер, и приложение Gradio следуют следующему алгоритму:

1. src/ingest_data.py: извлечение и загрузка данных в векторную базу данных ChromaDB, которая сохраняется как на диске.
2. src/app.py: Инициализация приложения Gradio, управляемого langchain для оркестровки.

Каталоги и файлы

• Данные:
  • source.md: источник информации о Саджале Шарме в формате уценки.
  • chroma_db: сохранить каталог для chromadb.
• источник:
  • app.py: точка входа для приложения, код приложения Gradio.
  • graph.py: код для графа оркестровки langgraph.
  • ingest_data.py: код для извлечения, преобразования и приема данных.
  • return.py: код для поиска по векторному индексу ChromaDb.
  • Chains/*.py: пользовательские и готовые цепочки langchain для конкретных функций LLM.

Компоненты

• ChromaDB для индексации и поиска по частям документов.
• Langchain для проектирования потоков.
• Модели OpenAI для выполнения вызовов LLM.
• Gradio для базового интерфейса чата.
• Лэнгсмиту за оперативное розыск.

Функции и архитектура приложения GenAI

Приложение активно использует langchain для подсказок, цепочек, инструментов, вызова функций LLM и проектирования потоков, демонстрируя некоторые расширенные варианты использования.

Архитектура высокого уровня:

Каждое входящее сообщение от пользователя проходит через модули распознавания намерений, RAG, корректирующего RAG и smalltalk Chain.

На следующей диаграмме показан поток каждого входящего сообщения пользователя в приложение чата: