任何事情

AnythingLLM：您正在寻找的一体化人工智能应用程序。
与您的文档聊天，使用人工智能代理，超可配置，多用户，并且不需要令人沮丧的设置。

| |文档 |托管实例

英语· 简体中文 · 日本语

AnythingLLM 桌面版（Mac、Windows 和 Linux）！立即下载

一个全栈应用程序，使您能够将任何文档、资源或内容片段转换为任何法学硕士可以在聊天期间用作参考的上下文。该应用程序允许您选择要使用的法学硕士或矢量数据库，并支持多用户管理和权限。

观看演示！

产品概述

AnythingLLM 是一个全栈应用程序，您可以使用商业现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建私有 ChatGPT，无需任何妥协，您可以在本地运行，也可以远程托管并能够智能聊天以及您提供的任何文件。

AnythingLLM 将您的文档划分为称为workspaces对象。工作区的功能很像线程，但增加了文档的容器化。工作区可以共享文档，但它们不会相互通信，因此您可以保持每个工作区的上下文干净。

AnythingLLM 的炫酷功能

• ？定制人工智能代理
• ️多模式支持（封闭式和开源法学硕士！）
• ？仅支持多用户实例和许可 Docker 版本
• ？您工作空间内的代理（浏览网页、运行代码等）
• 仅适用于您的网站 Docker 版本的自定义可嵌入聊天小部件
• 多种文档类型支持（PDF、TXT、DOCX 等）
• 简单的聊天用户界面，具有拖放功能和清晰的引用。
• 100% 云部署就绪。
• 与所有流行的封闭式和开源 LLM 提供商合作。
• 与任何其他聊天 UI 相比，内置节省成本和时间的措施，用于管理非常大的文档。
• 用于自定义集成的完整开发人员 API！
• 更多...安装并找出答案！

支持的法学硕士、嵌入器模型、语音模型和矢量数据库

大型语言模型（LLM）：

• 任何开源 llama.cpp 兼容模型
• 开放人工智能
• OpenAI（通用）
• Azure 开放人工智能
• AWS 基岩
• 人择
• 谷歌双子座专业版
• 抱脸（聊天款）
• Ollama（聊天模型）
• LM Studio（所有型号）
• LocalAi（所有型号）
• Together AI（聊天模型）
• Fireworks AI（聊天模型）
• 困惑（聊天模型）
• OpenRouter（聊天模型）
• DeepSeek（聊天模型）
• 米斯特拉尔
• 格罗克
• 连贯
• 狗头人CPP
• 莱特法学硕士
• 文本生成 Web UI
• 阿皮皮
• 人工智能
• Novita AI（聊天模型）

包埋机型号：

• AnythingLLM 原生嵌入器（默认）
• 开放人工智能
• Azure 开放人工智能
• 本地人工智能（全部）
• 奥拉马（全部）
• LM工作室(全部)
• 连贯

音频转录模型：

• AnythingLLM 内置（默认）
• 开放人工智能

TTS（文本转语音）支持：

• 内置本机浏览器（默认）
• PiperTTSLocal - 在浏览器中运行
• OpenAI TTS
• 十一实验室
• 任何 OpenAI 兼容的 TTS 服务。

STT（语音转文本）支持：

• 内置本机浏览器（默认）

矢量数据库：

• LanceDB（默认）
• 阿斯特拉数据库
• 松果
• 色度
• 韦维阿特
• 奎德兰特
• 米尔乌斯
• 齐利兹

技术概述

这个 monorepo 包含三个主要部分：

• frontend ：一个 viteJS + React 前端，您可以运行它来轻松创建和管理 LLM 可以使用的所有内容。
• server ：一个 NodeJS Express 服务器，用于处理所有交互并执行所有 vectorDB 管理和 LLM 交互。
• collector ：NodeJS Express 服务器，用于处理和解析来自 UI 的文档。
• docker ：Docker 说明和构建过程+从源代码构建的信息。
• embed ：用于生成和创建 Web 嵌入小部件的子模块。
• browser-extension ：chrome 浏览器扩展的子模块。

？自托管

Mintplex 实验室和社区维护着许多部署方法、脚本和模板，您可以使用它们在本地运行 AnythingLLM。请参阅下表了解如何在您的首选环境中部署或自动部署。

码头工人	AWS	GCP	数字海洋	渲染网

铁路	回购云	埃莱斯蒂奥

或在没有 Docker 的情况下设置生产 AnythingLLM 实例 →

如何设置开发

• 要填写所需的.env yarn setup ，您需要在每个应用程序部分（从存储库的根目录）。
  • 在继续之前先填写这些内容。确保server/.env.development已填充，否则将无法正常工作。
• yarn dev:server在本地启动服务器（从存储库的根目录）。
• yarn dev:frontend在本地启动前端（从存储库的根目录）。
• 然后运行文档yarn dev:collector （从存储库的根目录）。

了解文档

了解矢量缓存

遥测和隐私

Mintplex Labs Inc 的 AnythingLLM 包含收集匿名使用信息的遥测功能。

有关 AnythingLLM 的遥测和隐私的更多信息

为什么？

我们使用这些信息来帮助我们了解 AnythingLLM 的使用方式，帮助我们确定新功能和错误修复工作的优先级，并帮助我们提高 AnythingLLM 的性能和稳定性。

选择退出

将服务器或 docker .env 设置中的DISABLE_TELEMETRY设置为“true”以选择退出遥测。您还可以在应用程序内执行此操作，方法是转到侧边栏 > Privacy并禁用遥测。

您明确跟踪什么？

我们只会跟踪有助于我们做出产品和路线图决策的使用详细信息，特别是：

• 您的安装类型（Docker 或桌面）
• 添加或删除文档时。没有有关该文档的信息。只是事件发生了。这给了我们一个使用的想法。
• 正在使用的矢量数据库的类型。让我们知道哪个矢量数据库提供程序最常用于在更新到达该提供程序时确定更改的优先级。
• 正在使用的法学硕士类型。让我们了解最受欢迎的选择，并在该提供商的更新到达时优先考虑更改。
• 聊天已发送。这是最常见的“事件”，让我们了解该项目在所有设施中的日常活动。同样，仅发送事件 - 我们没有有关聊天本身的性质或内容的信息。

您可以通过查找所有调用Telemetry.sendTelemetry的位置来验证这些声明。此外，这些事件会写入输出日志，因此您还可以查看发送的特定数据（如果启用）。不会收集 IP 或其他识别信息。遥测提供者是 PostHog - 一个开源遥测收集服务。

查看源代码中的所有遥测事件

贡献

• 创建问题
• 创建 PR，分支名称格式为-
• 核心团队 LGTM

？贡献者

？更多产品

• VectorAdmin：用于管理矢量数据库的一体化 GUI 和工具套件。
• OpenAI Assistant Swarm：将整个 OpenAI 助手库转变为由单个代理指挥的一支军队。

---

版权所有 © 2024 Mintplex 实验室。
该项目已获得麻省理工学院许可。