破布聊天机器人

在本地与多个 PDF 聊天

设置

1.Kaggle（推荐）

• 将notebooks/kaggle.ipynb导入到Kaggle

• 将替换为您的令牌。

2. 本地

2.1.克隆项目

git 克隆 https://github.com/datvodinh/rag-chatbot.gitcd rag-chatbot

2.2 安装

2.2.1 码头工人

docker 组成——构建

2.2.2 使用脚本（Ollama、Ngrok、python 包）

源./scripts/install_extra.sh

2.2.3 手动安装

1. Ollama

• MacOS、Windows：下载

• Linux

卷曲-fsSL https://ollama.com/install.sh |嘘

2. Ngrok

• 麦科斯

酿造安装ngrok/ngrok/ngrok

• Linux

卷曲-s https://ngrok-agent.s3.amazonaws.com/ngrok.asc
 | sudo tee /etc/apt/trusted.gpg.d/ngrok.asc >/dev/null
 && echo "deb https://ngrok-agent.s3.amazonaws.com buster main" | sudo tee /etc/apt/sources.list.d/ngrok.list
 && sudo apt 更新
 && sudo apt install ngrok

3.安装rag_chatbot包

源./scripts/install.sh

2.3 运行

源./scripts/run.sh

或者

python -m rag_chatbot --主机本地主机

• 使用 Ngrok

源 ./scripts/run.sh --ngrok

3. 设置完成后，访问： http://0.0.0.0:7860/或 Ngrok 链接

托多

• 添加评价。

• 更好的文档处理。

• 支持更好的越南语和其他语言的嵌入模型。

• 反应代理。

• 文档管理（Qrdant、MongoDB...）