chatbot de pano

Converse com vários PDFs localmente

Configurar

1. Kaggle (recomendado)

• Importe notebooks/kaggle.ipynb para Kaggle

• Substitua pelos seus tokens.

2. Locais

2.1. Clonar projeto

 clone do git https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 Instalar

2.2.1 Janela de encaixe

 docker compor --build

2.2.2 Usando script (pacote Ollama, Ngrok, python)

 fonte ./scripts/install_extra.sh

2.2.3 Instalar manualmente

1. Ollama

• MacOS, janela: baixar

• Linux

 curl -fsSL https://ollama.com/install.sh | eh

2. Ngrok

• MacOS

 preparar instalar ngrok/ngrok/ngrok

• Linux

 curl -s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com buster main" | sudo tee /etc/apt/sources.list.d/ngrok.list
 && sudo atualização apt
 && sudo apt instalar ngrok

3. Instale o pacote rag_chatbot

 fonte ./scripts/install.sh

2.3 Executar

 fonte ./scripts/run.sh

ou

 python -m rag_chatbot --host localhost

• Usando o Ngrok

 fonte ./scripts/run.sh --ngrok

3. Vá para: http://0.0.0.0:7860/ ou link Ngrok após a configuração ser concluída

Pendência

• Adicione avaliação.

• Melhor processamento de documentos.

• Suporta melhor modelo de incorporação para vietnamita e outros idiomas.

• Agente React.

• Gerenciamento de documentos (Qrdant, MongoDB,...)