破布聊天機器人

在本地與多個 PDF 聊天

設定

1.Kaggle（推薦）

• 將notebooks/kaggle.ipynb匯入Kaggle

• 將替換為您的令牌。

2. 本地

2.1.克隆項目

git 克隆 https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 安裝

2.2.1 碼頭工人

docker 組成——構建

2.2.2 使用腳本（Ollama、Ngrok、python 套件）

來源./scripts/install_extra.sh

2.2.3 手動安裝

1. Ollama

• MacOS、Windows：下載

• Linux

捲曲-fsSL https://ollama.com/install.sh |噓

2. Ngrok

• 麥科斯

釀造安裝ngrok/ngrok/ngrok

• Linux

捲曲-s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com buster main" | sudo tee /etc/apt/sources.list.d/ngrok.list
 && sudo apt 更新
 && sudo apt install ngrok

3.安裝rag_chatbot包

來源./scripts/install.sh

2.3 運行

來源./scripts/run.sh

或者

python -m rag_chatbot --主機本地主機

• 使用 Ngrok

來源 ./scripts/run.sh --ngrok

3. 設定完成後，請造訪： http://0.0.0.0:7860/或 Ngrok 鏈接

托多

• 新增評價。

• 更好的文檔處理。

• 支援更好的越南語和其他語言的嵌入模型。

• 反應代理。

• 文件管理（Qrdant、MongoDB...）