ai companion

人工智能伴侣v1

一个小二进制文件，具有您需要的所有功能！

AI Companion是一个项目，旨在提供一种快速、简单、轻便、方便的方式在本地计算机上创建AI聊天机器人，它不需要任何外部API，安装任何库，您只需安装与您的操作相对应的二进制文件系统和设备，下载所选模型，您就可以开始使用该工具：用于与 LLM 聊天的 WebUI、用于与 AI 角色进行角色扮演的 WebUI，或用作需要 AI 聊天机器人的其他项目的 API。

该项目包括许多独特的功能，例如短期记忆、CUDA、OpenCL 和 Metal 支持、长期记忆、对话调整、时间识别、通过聊天学习、作为 REST API 工作的能力、读取字符卡、轻松学习使用 WebUI 允许您编辑数据、编辑配置、发送、编辑和删除消息。

安装

从这里下载适合您的操作系统和设备的二进制文件（例如ai-companion-windows-cuda.exe ），然后安装扩展名为.gguf 的llm 模型（例如这个），然后启动 ai-companion 二进制文件，打开您的网络浏览器http://localhost:3000 ，您将看到 AI Companion WebUI，接下来单击网站上的齿轮图标，转到config ，并将Path to your Large Language Model (LLM)替换为路径添加到您驱动器上的.gguf模型，完成后，您就可以开始与您的同伴聊天了！

特征

• 在本地工作 - 不需要其他服务的 API 密钥，这使得它完全免费使用（好吧，除了电费 - 你的计算机必须以某种方式工作），也不需要互联网工作
• 隐私 - 所有对话都保存在本地 SQLite 数据库中，这意味着您的对话或 AI 的特征仅保留在您的计算机上
• API - 您可以将其用作需要法学硕士、自定义人工智能聊天机器人或自定义人工智能角色的其他项目的后端
• 速度 - 用 Rust 编写的在 CPU、GPU（没有任何东西会减慢你的一代）和 RAM（你不需要使用较弱的人工智能模型）方面表现出良好的效率
• 易于使用 - 所有内容都可以在 Web 用户界面中更改，并且所有内容都编译成可以在您的计算机上启动的单个二进制文件（无需处理数百个令人困惑的文件，也无需与错误的库/解释器作斗争/框架版本）
• 定制 - 您可以更改人工智能的名称、个性、外观和发送的第一条消息。人工智能的短期和长期记忆也可以被修改
• 短期记忆 - 人工智能会记住最近收到/发送的消息
• 长期记忆 - 人工智能可以记住对话，甚至可以使用长期记忆记住数千个提示 - 将事物与不同的单词、短语、句子甚至日期联系起来
• 实时学习——与AI聊天时，它能够创造“记忆”并了解与之聊天的人（他们的职业是什么，他们喜欢吃什么，喝什么等）
• 向人工智能提供自定义数据 - 使用 API，可以将其保存到人工智能的长期记忆中，例如文档、文章、歌词、诗歌的片段
• 角色扮演 - 人工智能聊天机器人可以（如果启用）在星号（*）之间执行操作，例如靠近，挥手打招呼
• 您可以加载 .json 或 .png（角色卡）格式的角色文件。例如，您可以使用此工具创建自己的
• 您可以在同伴的角色、示例对话、第一条消息和用户角色中使用 {{char}} 和 {{user}} （如果您更改用户名或同伴名称，则不需要更改这些，它会自动更改）
• 时间 - AI聊天机器人可以从计算机获取有关当前时间的信息，并且其长期记忆可以记住某些对话发生的日期

支持的AI模型

经过测试和工作的人工智能模型的小列表：

• 米斯特拉尔7B
• Zephyr 7B 测试版
• 骆驼 3 8B 指导

以及许多其他 .gguf 格式的 LLM 模型

API文档

API 文档可以在这里找到

基于ai-companion Backend/API/Library的项目

• 本地助手 - llm 支持的人工智能虚拟助手
• 矩阵伴侣机器人 - 在 Matrix 协议上运行的基于人工智能的聊天机器人

用作 python 库（已弃用）

如果您正在寻找一个允许您在项目中使用 ai-companion 后端的 Python 库，可以在此处找到 ai-companion-py

从源码编译：

要构建可执行文件，您需要：Node.js 和 npm、Rust 和 Cargo

要使软件与 CUDA、OpenCL 和 Metal 配合使用，您还必须遵循与本文档中类似的步骤

创建存储库的 git 克隆：

 git clone https://github.com/Hukasx0/ai-companion

转到文件夹

 cd ai-companion/

安装节点模块

 npm i

将所有内容编译成一个二进制文件

 npm run build-full

或者

使用 CUDA 支持将所有内容编译为一个二进制文件

 npm run build-full-cuda

或者

使用 OpenCL 支持将所有内容编译为一个二进制文件

 npm run build-full-opencl

或者

使用 Metal 支持将所有内容编译为一个二进制文件

 npm run build-full-metal

（编译后，二进制文件应位于 ai-companion/backend/target/release 中）

然后进行与安装相同的操作