chatbot kain

Mengobrol dengan banyak PDF secara lokal

Pengaturan

1. Kaggle (Disarankan)

• Impor notebooks/kaggle.ipynb ke Kaggle

• Ganti dengan token Anda.

2. Lokal

2.1. Proyek klon

 git clone https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 Instal

2.2.1 buruh pelabuhan

 buruh pelabuhan menyusun --build

2.2.2 Menggunakan skrip (paket Ollama, Ngrok, python)

 sumber ./scripts/install_extra.sh

2.2.3 Instal secara manual

1. Ollama

• MacOS, Jendela: Unduh

• Linux

 curl -fsSL https://ollama.com/install.sh | sh

2. Ngrok

• makro

 brew install ngrok/ngrok/ngrok

• Linux

 curl -s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com buster utama" | sudo tee /etc/apt/sources.list.d/ngrok.list
 && sudo pembaruan yang tepat
 && sudo tepat instal ngrok

3. Instal Paket rag_chatbot

 sumber ./scripts/install.sh

2.3 Jalankan

 sumber ./scripts/run.sh

atau

 python -m rag_chatbot --host localhost

• Menggunakan Ngrok

 sumber ./scripts/run.sh --ngrok

3. Kunjungi: http://0.0.0.0:7860/ atau link Ngrok setelah setup selesai

Semua yang harus dilakukan

• Tambahkan evaluasi.

• Pemrosesan Dokumen yang Lebih Baik.

• Mendukung Model Penyematan yang lebih baik untuk bahasa Vietnam dan bahasa lainnya.

• Agen Bereaksi.

• Manajemen dokumen (Qrdant, MongoDB,...)