AnyChat

AnyChat：与您的文档聊天

AnyChat 是一款功能强大的聊天机器人，可让您以自然的对话方式与文档（PDF、TXT、DOCX、ODT、PPTX、CSV 等）进行交互。它利用 LangChain、Ollama、Groq、Gemini 和 Streamlit 的功能来提供直观且信息丰富的体验。

聊天机器人-20_04_24.mp4

特征

• 对话交互：询问有关您的文档的问题并从聊天机器人接收类似人类的响应。
• 多文档支持：上传和处理各种文档格式，包括 PDF、文本文件、Word 文档、电子表格和演示文稿。
• 网站聊天支持：与任何有效的网站聊天。
• 高级语言模型：从 Ollama、Groq 和 Gemini 等不同的语言模型 (LLM) 中进行选择，以支持聊天机器人的响应。
• 嵌入模型：从 Ollama Embeddings 或 GooglePalm Embeddings 中进行选择，以增强聊天机器人对文档的理解。
• 用户友好的界面： Streamlit 提供了一个干净直观的界面，用于与聊天机器人交互。

安装

先决条件

• Python 3.10 或更高版本
• 虚拟环境（推荐）

克隆存储库

从 GitHub 克隆 AnyChat 存储库：

git clone https://github.com/shitan198u/AnyChat.git

导航到工作目录

 cd Anychat

使用Rye （推荐）

1. 安装 Rye 包管理器：安装指南

2. 同步项目：

rye sync

使用venv

1. 创建虚拟环境：

python -m venv anychat-env

2. 激活虚拟环境：

 source anychat-env/bin/activate

3. 安装所需的依赖项：

pip install -r requirements.txt

使用conda

1. 创建conda环境：

conda create -n anychat-env python=3.12

2. 激活conda环境：

conda activate anychat-env

3. 安装所需的依赖项：

conda install --file requirements.txt

配置

• 将src/anychat/.streamlit/目录中的secrets_example.toml文件重命名为secrets.toml 。

奥拉马安装

要使用 Ollama for AnyChat，您需要安装 Ollama 并下载必要的模型。请按照以下说明操作：

1. 安装奥拉马：

访问 Ollama 官方网站获取安装说明：Ollama 下载

2. 下载奥拉马模型：

打开终端并运行以下命令来下载所需的模型：

ollama pull nomic-embed-text

此命令下载nomic-embed-text模型，这是运行 Ollama 嵌入所必需的。

ollama pull openchat

此命令下载openchat模型，您可以将其用作 AnyChat 中的语言模型。

用法

1. 设置 API 密钥：

• 如果您使用的是 Google Gemini 或 Groq，请获取必要的 API 密钥并将其安全地存储在src/anychat/.streamlit/secrets.toml文件中，或将其上传到聊天机器人界面中。

2. 运行应用程序：

 cd src/anychat
streamlit run chatbot.py

3. 使用黑麦

 cd src/anychat
rye run streamlit run chatbot.py

4. 上传文件：

• 在 Streamlit 界面中，上传您想要聊天的文档。
• 单击“处理”按钮处理文档。

5. 开始聊天：

• 处理文档后，您可以开始在聊天输入字段中提问。
• 聊天机器人将分析您的文档并根据其内容提供相关答案。

执照

该项目已获得 MIT 许可证的许可。有关详细信息，请参阅LICENSE文件。

附加说明

• 为了获得最佳性能，请确保您拥有必要的资源（CPU、RAM）来处理文档处理和 LLM 计算。
• 聊天机器人的准确性和响应能力可能会有所不同，具体取决于您的文档的复杂性和所选的法学硕士。
• 如果您可以使用支持 GPU 的环境，请考虑使用它，因为它可以显着加快处理速度。