chatbot de trapo

Chatea con múltiples archivos PDF localmente

Configuración

1. Kaggle (recomendado)

• Importar notebooks/kaggle.ipynb a Kaggle

• Reemplace con sus tokens.

2. locales

2.1. Clonar proyecto

 clon de git https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 Instalar

2.2.1 Ventana acoplable

 ventana acoplable componer --compilar

2.2.2 Uso de script (Ollama, Ngrok, paquete Python)

 fuente ./scripts/install_extra.sh

2.2.3 Instalar manualmente

1. Ollama

• MacOS, Ventana: Descargar

• linux

 curl -fsSL https://ollama.com/install.sh | sh

2. Ngrok

• Macos

 instalar cerveza ngrok/ngrok/ngrok

• linux

 rizo -s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com buster main" | sudo tee /etc/apt/sources.list.d/ngrok.list
 && sudo actualización apta
 && sudo apto instalar ngrok

3. Instale el paquete rag_chatbot

 fuente ./scripts/install.sh

2.3 Ejecutar

 fuente ./scripts/run.sh

o

 python -m rag_chatbot --host localhost

• Usando Ngrok

 fuente ./scripts/run.sh --ngrok

3. Vaya a: http://0.0.0.0:7860/ o al enlace Ngrok después de completar la configuración

Hacer

• Agregar evaluación.

• Mejor procesamiento de documentos.

• Admite un mejor modelo de integración para vietnamita y otros idiomas.

• Agente de reacción.

• Gestión de documentos (Qrdant, MongoDB,...)