chatbot en chiffon

Discutez avec plusieurs PDF localement

Installation

1. Kaggle (recommandé)

• Importer notebooks/kaggle.ipynb dans Kaggle

• Remplacez par vos jetons.

2. Locale

2.1. Projet de clonage

 clone git https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 Installer

2.2.1 Docker

 docker compose --build

2.2.2 Utilisation du script (Ollama, Ngrok, package python)

 source ./scripts/install_extra.sh

2.2.3 Installer manuellement

1. Ollama

• MacOS, Fenêtre : Télécharger

• Linux

 curl -fsSL https://ollama.com/install.sh | merde

2. Ngrok

• Macos

 brasser installer ngrok/ngrok/ngrok

• Linux

 curl -s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com buster main" | sudo tee /etc/apt/sources.list.d/ngrok.list
 && sudo apt mise à jour
 && sudo apt installer ngrok

3. Installez le package rag_chatbot

 source ./scripts/install.sh

2.3 Exécuter

 source ./scripts/run.sh

ou

 python -m rag_chatbot --host localhost

• Utiliser Ngrok

 source ./scripts/run.sh --ngrok

3. Accédez à : http://0.0.0.0:7860/ ou au lien Ngrok une fois la configuration terminée

Faire

• Ajouter une évaluation.

• Meilleur traitement des documents.

• Prend en charge un meilleur modèle d'intégration pour le vietnamien et d'autres langues.

• Agent Réagir.

• Gestion de documents (Qrdant, MongoDB,...)