bharat chatbot groq

Бхарат ЧатАИ

Bharat ChatAI — это приложение чат-бота на базе искусственного интеллекта, которое объединяет различные модели искусственного интеллекта и функции обработки документов. Это приложение позволяет пользователям общаться с ИИ, используя различные модели, загружать и обрабатывать документы, а также получать информацию по URL-адресам.

Оглавление

• Установка
• Использование
• Настройка докера
• Развертывание AWS EC2
• Структура файла
• Обзор кода
  • Конфигурация
  • ДокументПроцессор
  • ЧатХэндлер
  • ИнструментыИАгентыИнициализатор
  • БхаратЧатАИ
  • StreamlitИнтерфейс
• Лицензия
• Контакт

Установка

1. Клонируем репозиторий:

   git clone https://github.com/itsmohitkumar/bharat-chatbot-groq.git
   cd bharat-chatbot-groq

2. Создайте виртуальную среду и активируйте ее:

   python -m venv env
   source env/bin/activate  # On Windows, use `envScriptsactivate`

3. Установите необходимые пакеты:

   pip install -r requirements.txt

4. Создайте файл .env в корневом каталоге проекта и добавьте свой ключ API:

    GROQ_API_KEY=your_api_key_here
   

Использование

Запустите приложение Streamlit:

streamlit run app.py

Настройка докера

Чтобы контейнеризировать приложение Bharat ChatAI с помощью Docker, выполните следующие действия:

1. Создайте файл Dockerfile. В корневом каталоге вашего проекта создайте Dockerfile со следующим содержимым:

    # Use an official Python runtime as a parent image
   FROM python:3.9-slim
   
   # Set the working directory in the container
   WORKDIR /app
   
   # Copy the current directory contents into the container at /app
   COPY . /app
   
   # Install any needed packages specified in requirements.txt
   RUN pip install --no-cache-dir -r requirements.txt
   
   # Make port 8501 available to the world outside this container
   EXPOSE 8501
   
   # Define environment variable
   ENV GROQ_API_KEY=your_api_key_here
   
   # Run the application
   CMD [ "streamlit" , "run" , "app.py" ]

2. Создайте образ Docker. Чтобы создать образ Docker, выполните следующую команду в терминале:

   docker build -t bharat-chatai .

3. Запустите контейнер Docker. После создания образа вы можете запустить приложение в контейнере с помощью:

   docker run -p 8501:8501 bharat-chatai

   Приложение будет доступно по адресу http://localhost:8501 .

Развертывание AWS EC2

Чтобы развернуть приложение Bharat ChatAI на AWS EC2, выполните следующие действия:

1. Запустите экземпляр EC2:

   • Перейдите на панель управления AWS EC2 и запустите новый экземпляр.
   • Выберите образ машины Amazon (AMI), например Ubuntu Server 20.04 LTS.
   • Выберите тип инстанса, например t2.micro (доступен уровень бесплатного пользования).
   • Настройте детали экземпляра, хранилище и при необходимости добавьте теги.
   • В разделе «Группа безопасности» настройте правило, разрешающее HTTP-трафик (порт 80) и порт 8501 для Streamlit.

2. Подключитесь к экземпляру EC2:

   • Используйте SSH для подключения к вашему экземпляру:

   ssh -i " your-key.pem " [email protected]

3. Установите Docker на экземпляр EC2:

   sudo apt update
   sudo apt install docker.io
   sudo systemctl start docker
   sudo systemctl enable docker

4. Клонируйте репозиторий Bharat ChatAI:

   git clone https://github.com/itsmohitkumar/bharat-chatbot-groq.git
   cd bharat-chatbot-groq

5. Создайте и запустите контейнер Docker:

   • Следуйте приведенным выше инструкциям по настройке Docker, чтобы создать и запустить контейнер на экземпляре EC2:

   sudo docker build -t bharat-chatai .
   sudo docker run -p 80:8501 bharat-chatai

6. Доступ к приложению:

   • После запуска контейнера вы можете получить доступ к приложению, перейдя по общедоступному IP-адресу экземпляра EC2 в браузере ( http://ec2-xx-xx-xx-xx.compute-1.amazonaws.com ).

Структура файла

Файловая структура проекта следующая:

 bharat-chatai/
├── src/
│   ├── __init__.py
│   ├── logger.py
│   ├── prompt.py
│   ├── bharatchat/
│   │   ├── __init__.py
│   │   └── chatbot.py
├── setup.py
├── app.py

• src/__init__.py : файл инициализации пакета src .
• src/logger.py : Модуль для регистрации конфигурации.
• src/prompt.py : Модуль для определения шаблонов подсказок.
• src/bharatchat/__init__.py : файл инициализации пакета bharatchat .
• src/bharatchat/chatbot.py : основной модуль логики чат-бота.
• setup.py : сценарий установки пакета.
• app.py : основной файл приложения для запуска интерфейса Streamlit.

Обзор кода

Конфигурация

Класс Config обрабатывает конфигурацию приложения, включая получение ключа API и выборку доступных параметров модели из API Groq.

ДокументПроцессор

Класс DocumentProcessor обрабатывает документы из загруженных файлов или URL-адресов, разбивает их на фрагменты и сохраняет в векторном хранилище FAISS. Он также генерирует сводки обработанных документов.

ЧатХэндлер

Класс ChatHandler обрабатывает запросы чата, отображает историю чата и получает ответы, используя векторы документов.

ИнструментыИАгентыИнициализатор

Класс ToolsAndAgentsInitializer инициализирует инструменты и агенты для интерфейса чата, включая настройку модели и создание объединенных цепочек для обработки документов и запросов.

БхаратЧатАИ

Класс BharatChatAI инициализирует приложение, включая внедрения, обработку документов и обработку чата. Он также запускает интерфейс приложения Streamlit.

StreamlitИнтерфейс

Класс StreamlitInterface отображает интерфейс приложения Streamlit, включая инициализацию боковой панели и обработку выбора пользователя.

Лицензия

Этот проект лицензируется по лицензии MIT. Подробности смотрите в файле ЛИЦЕНЗИИ.

Контакт

По любым вопросам или поддержке обращайтесь:

Автор: Мохит Кумар
Электронная почта: [email protected]