everything ai

一切-ai

您的完全熟练、人工智能驱动的本地聊天机器人助手？

一切的流程图-ai

快速入门

1.克隆这个存储库

git clone https://github.com/AstraBert/everything-ai.git
cd everything-ai

2. 设置.env文件

调整：

• .env 文件中的VOLUME变量，以便您可以将本地文件系统挂载到 Docker 容器中。
• .env 文件中的MODELS_PATH变量，以便您可以告诉 llama.cpp 您下载的 GGUF 模型的存储位置。
• .env 文件中的MODEL变量，以便您可以告诉 llama.cpp 使用什么模型（使用 gguf 文件的实际名称，并且不要忘记 .gguf 扩展名！）
• .env 文件中的MAX_TOKENS变量，以便您可以告诉 llama.cpp 它可以生成多少个新令牌作为输出。

.env文件的示例可以是：

VOLUME= " c:/Users/User/:/User/ "
MODELS_PATH= " c:/Users/User/.cache/llama.cpp/ "
MODEL= " stories260K.gguf "
MAX_TOKENS= " 512 "

这意味着现在本地计算机上“c:/Users/User/”下的所有内容都位于 Docker 容器中的“/User/”下，llama.cpp 知道在哪里查找模型以及要查找什么模型，及其输出的最大新令牌。

3. 拉取必要的镜像

docker pull astrabert/everything-ai:latest
docker pull qdrant/qdrant:latest
docker pull ghcr.io/ggerganov/llama.cpp:server

4. 运行多容器应用程序

docker compose up

5. 访问localhost:8670并选择您的助手

你会看到这样的东西：

从以下选项中选择任务：

• 检索文本生成：使用qdrant后端构建检索友好的知识库，您可以在该知识库上查询和调整模型的响应。您必须传递一个 pdf/一堆指定为逗号分隔路径的 pdf，或者传递一个存储所有感兴趣的 pdf 的目录（不要同时提供两者）；您还可以使用 ISO 命名法指定 PDF 的编写语言 -多语言
• 不可知文本生成：类似 ChatGPT 的文本生成（无检索架构），但支持 HF Hub 上的每个文本生成模型（只要您的硬件支持！） -多语言
• 文本摘要：总结文本和 pdf，支持 HF Hub 上的每个文本摘要模型 -仅限英语
• 图像生成：稳定扩散，支持 HF Hub 上的每个文本到图像模型 -多语言
• image- Generation-polnations ：稳定扩散，使用 Pollinations AI API；如果您选择“图像生成授粉”，则除了任务之外无需指定任何其他内容 -多语言
• 图像分类：对图像进行分类，支持 HF Hub 上的每个图像分类模型 -仅英文
• image-to-text ：描述图像，支持 HF Hub 上的每个图像到文本模型 -仅英文
• 音频分类：对音频文件或麦克风录音进行分类，支持 HF hub 上的音频分类模型
• 语音识别：转录音频文件或麦克风录音，支持 HF 集线器上的自动语音识别模型。
• 视频生成：根据文本提示生成视频，支持 HF hub 上的文本到视频模型 -仅限英语
• 蛋白质折叠：使用 ESM-2 主干模型从蛋白质的氨基酸序列中获取蛋白质的 3D 结构 -仅适用于 GPU
• autotrain ：使用 autotrain-advanced 对特定下游任务的模型进行微调，只需指定 HF 用户名、HF 写入令牌以及用于训练的 yaml 配置文件的路径
• space-api-supabase ：将 HF Spaces API 与 Supabase PostgreSQL 数据库结合使用，以释放更强大的 LLM 和更大的面向 RAG 的矢量数据库 -多语言
• llama.cpp-and-qdrant ：与检索文本生成相同，但使用llama.cpp作为推理引擎，因此您不得指定模型 - MULTILINGUAL
• build-your-llm ：构建一个可定制的聊天 LLM，将 Qdrant 数据库与您的 PDF 以及 Anthropic、OpenAI、Cohere 或 Groq 模型的强大功能相结合：您只需要一个 API 密钥！要构建 Qdrant 数据库，必须传递指定为逗号分隔路径的 pdf/一堆 pdf 或存储所有感兴趣的 pdf 的目录（请勿同时提供两者）；您还可以使用 ISO 命名法指定 PDF 的编写语言 - MULTILINGUAL 、 LANGFUSE INTEGRATION
• simple-chatting ：利用 Anthropic、OpenAI、Cohere 或 Groq 模型（无 RAG 管道）的强大功能构建可定制的聊天 LLM：您只需要一个 API 密钥！ -多语言、 LANGFUSE集成
• fal-img2img ：使用 fal.ai ComfyUI API 从您的 PNG 和 JPEG 图像开始生成图像：您只需要一个 API 密钥！您还可以使用提示和种子自定义生成 -仅英文
• image-retrieval-search ：搜索图像数据库，上传文件夹作为数据库输入。该文件夹应具有以下结构：

 ./
├── test/
|   ├── label1/
|   └── label2/
└── train/
    ├── label1/
    └── label2/

您可以从自己的照片开始查询数据库。

6. 访问localhost:7860并开始使用你的助手

一切准备就绪后，您可以前往localhost:7860并开始使用助手：