тряпичный чат-бот

Общайтесь с несколькими PDF-файлами локально

Настраивать

1. Каггл (рекомендуется)

• Импортируйте notebooks/kaggle.ipynb в Kaggle.

• Замените своими токенами.

2. Местный

2.1. Клонировать проект

 git clone https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 Установить

2.2.1 Докер

 докер составить --build

2.2.2 Использование скрипта (Ollama, Ngrok, пакет Python)

 источник ./scripts/install_extra.sh

2.2.3 Установка вручную

1. Ollama

• MacOS, Окно: Загрузить

• Линукс

 завиток -fsSL https://ollama.com/install.sh | ш

2. Ngrok

• Макос

 заварить установку ngrok/ngrok/ngrok

• Линукс

 локон -s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com buster main" | sudo тройник /etc/apt/sources.list.d/ngrok.list
 && обновление sudo apt
 && sudo apt установить ngrok

3. Установите пакет rag_chatbot .

 источник ./scripts/install.sh

2.3 Бег

 источник ./scripts/run.sh

или

 python -m rag_chatbot --host localhost

• Использование Нгрока

 источник ./scripts/run.sh --ngrok

3. Перейдите по адресу: http://0.0.0.0:7860/ или по ссылке Ngrok после завершения установки.

Тодо

• Добавьте оценку.

• Улучшенная обработка документов.

• Поддержка улучшенной модели внедрения для вьетнамского и других языков.

• Агент Реакт.

• Управление документами (Qrdant, MongoDB,...)