ai companion

人工智慧伴侶v1

一個小二進位文件，具有您需要的所有功能！

AI Companion是一個項目，旨在提供一種快速、簡單、輕便、便捷的方式在本地電腦上創建AI聊天機器人，它不需要任何外部API，安裝任何庫，您只需安裝與您的操作相對應的二進位檔案系統和設備，下載所選模型，您就可以開始使用該工具：用於與LLM 聊天的WebUI、用於與AI 角色進行角色扮演的WebUI，或用作需要AI 聊天機器人的其他專案的API。

該專案包括許多獨特的功能，例如短期記憶、CUDA、OpenCL 和 Metal 支援、長期記憶、對話調整、時間識別、透過聊天學習、作為 REST API 工作的能力、讀取字元卡、輕鬆學習使用WebUI 允許您編輯資料、編輯配置、傳送、編輯和刪除訊息。

安裝

從這裡下載適合您的作業系統和裝置的二進位檔案（例如ai-companion-windows-cuda.exe ），然後安裝副檔名為.gguf 的llm 模型（例如這個），然後啟動 ai-companion 二進位文件，打開您的網頁瀏覽器http://localhost:3000 ，您將看到 AI Companion WebUI，接下來點擊網站上的齒輪圖標，前往config ，並將Path to your Large Language Model (LLM)替換為.gguf的路徑模型在你的驅動器上，完成後，你就可以開始和你的同伴聊天了！

特徵

• 在本地工作 - 不需要其他服務的 API 金鑰，這使得它完全免費使用（好吧，除了電費 - 你的電腦必須以某種方式工作），也不需要網路工作
• 隱私 - 所有對話都保存在本機 SQLite 資料庫中，這表示您的對話或 AI 的特徵僅保留在您的電腦上
• API - 您可以將其用作需要法學碩士、自訂人工智慧聊天機器人或自訂人工智慧角色的其他專案的後端
• 速度 - 用 Rust 編寫的在 CPU、GPU（沒有任何東西會減慢你的生成速度）和 RAM（你不需要使用較弱的 AI 模型）方面顯示出良好的效率
• 易於使用- 所有內容都可以在Web 使用者介面中更改，並且所有內容都編譯成可以在您的電腦上啟動的單一二進位檔案（無需處理數百個令人困惑的文件，也無需與錯誤的庫/解釋器作鬥爭/框架版本）
• 客製化 - 您可以更改人工智慧的名稱、個性、外觀和發送的第一條訊息。人工智慧的短期和長期記憶也可以被修改
• 短期記憶 - 人工智慧會記住最近收到/發送的訊息
• 長期記憶 - 人工智慧可以記住對話，甚至可以使用長期記憶來記住數千個提示 - 將事物與不同的單字、短語、句子甚至日期聯繫起來
• 即時學習－與AI聊天時，它能夠創造「記憶」並了解與之聊天的人（他們的職業是什麼，他們喜歡吃什麼，喝什麼等等）
• 向人工智慧提供自訂資料 - 使用 API，可以將其保存到人工智慧的長期記憶中，例如文件、文章、歌詞、詩歌的片段
• 角色扮演 - 人工智慧聊天機器人可以（如果啟用）在星號（*）之間執行操作，例如靠近，揮手打招呼
• 您可以載入 .json 或 .png（角色卡）格式的角色檔案。例如，您可以使用此工具建立自己的
• 您可以在同伴的角色、範例對話、第一個訊息和使用者角色中使用{{char}} 和{{user}} （如果您變更使用者名稱或同伴名稱，則不需要變更這些，它會自動變更）
• 時間 - AI聊天機器人可以從計算機獲取有關當前時間的信息，並且其長期記憶可以記住某些對話發生的日期

支持的AI模型

經過測試和工作的人工智慧模型的小列表：

• 米斯特拉爾7B
• Zephyr 7B 測試版
• 駱駝 3 8B 指導

以及許多其他 .gguf 格式的 LLM 模型

API文件

API 文件可以在這裡找到

基於ai-companion Backend/API/Library的項目

• 本地助理 - llm 支援的人工智慧虛擬助手
• 矩陣伴侶機器人 - 在 Matrix 協議上運行的基於人工智慧的聊天機器人

用作 python 函式庫（已棄用）

如果您正在尋找一個允許您在專案中使用 ai-companion 後端的 Python 庫，可以在此處找到 ai-companion-py

從原始碼編譯：

要建立可執行文件，您需要：Node.js 和 npm、Rust 和 Cargo

若要讓軟體與 CUDA、OpenCL 和 Metal 搭配使用，您還必須遵循與本文檔中類似的步驟

建立儲存庫的 git 克隆：

 git clone https://github.com/Hukasx0/ai-companion

轉到資料夾

 cd ai-companion/

安裝節點模組

 npm i

將所有內容編譯成一個二進位文件

 npm run build-full

或者

使用 CUDA 支援將所有內容編譯為一個二進位文件

 npm run build-full-cuda

或者

使用 OpenCL 支援將所有內容編譯為一個二進位文件

 npm run build-full-opencl

或者

使用 Metal 支援將所有內容編譯為一個二進位文件

 npm run build-full-metal

（編譯後，二進位檔案應位於 ai-companion/backend/target/release 中）

然後進行與安裝相同的操作