everything ai

一切-ai

您的完全熟練、人工智慧驅動的本地聊天機器人助理？

一切的流程圖-ai

快速入門

1.克隆這個儲存庫

git clone https://github.com/AstraBert/everything-ai.git
cd everything-ai

2. 設定.env文件

調整：

• .env 檔案中的VOLUME變量，以便您可以將本機檔案系統掛載到 Docker 容器中。
• .env 檔案中的MODELS_PATH變量，以便您可以告訴 llama.cpp 您下載的 GGUF 模型的儲存位置。
• .env 檔案中的MODEL變量，以便您可以告訴 llama.cpp 使用什麼模型（使用 gguf 檔案的實際名稱，並且不要忘記 .gguf 擴展名！）
• .env 檔案中的MAX_TOKENS變量，以便您可以告訴 llama.cpp 它可以產生多少個新令牌作為輸出。

.env檔的範例可以是：

VOLUME= " c:/Users/User/:/User/ "
MODELS_PATH= " c:/Users/User/.cache/llama.cpp/ "
MODEL= " stories260K.gguf "
MAX_TOKENS= " 512 "

這表示現在本機電腦上「c:/Users/User/」下的所有內容都位於 Docker 容器中的「/User/」下，llama.cpp 知道在哪裡尋找模型以及要尋找什麼模型，及其輸出的最大新令牌。

3. 拉取必要的鏡像

docker pull astrabert/everything-ai:latest
docker pull qdrant/qdrant:latest
docker pull ghcr.io/ggerganov/llama.cpp:server

4. 運行多容器應用程式

docker compose up

5. 造訪localhost:8670並選擇您的助手

你會看到這樣的東西：

從以下選項中選擇任務：

• 檢索文字產生：使用qdrant後端建立檢索友善的知識庫，您可以在該知識庫上查詢和調整模型的回應。您必須傳遞一個 pdf/一堆指定為逗號分隔路徑的 pdf，或傳遞一個儲存所有感興趣的 pdf 的目錄（不要同時提供兩者）；您也可以使用 ISO 命名法指定 PDF 的編寫語言 -多語言
• 不可知文本生成：類似 ChatGPT 的文本生成（無檢索架構），但支援 HF Hub 上的每個文本生成模型（只要您的硬體支援！） -多語言
• 文本摘要：總結文本和 pdf，支援 HF Hub 上的每個文本摘要模型 -僅限英語
• 影像生成：穩定擴散，支援 HF Hub 上的每個文字到影像模型 -多語言
• image- Generation-polnations ：穩定擴散，使用 Pollinations AI API；如果您選擇“圖像生成授粉”，則除了任務之外無需指定任何其他內容 -多語言
• 影像分類：將影像分類，支援 HF Hub 上的每個影像分類模型 -僅英文
• image-to-text ：描述圖像，支援 HF Hub 上的每個圖像到文字模型 -僅英文
• 音訊分類：將音訊檔案或麥克風錄音進行分類，支援 HF hub 上的音訊分類模型
• 語音辨識：轉錄音訊檔案或麥克風錄音，支援 HF 集線器上的自動語音辨識模型。
• 視頻生成：根據文字提示生成視頻，支援 HF hub 上的文本到視頻模型 -僅限英語
• 蛋白質折疊：使用 ESM-2 主幹模型從蛋白質的胺基酸序列中獲取蛋白質的 3D 結構 -僅適用於 GPU
• autotrain ：使用 autotrain-advanced 微調特定下游任務的模型，只需指定 HF 使用者名稱、HF 寫入令牌和用於訓練的 yaml 設定檔的路徑
• space-api-supabase ：將 HF Spaces API 與 Supabase PostgreSQL 資料庫結合使用，以釋放更強大的 LLM 和更大的面向 RAG 的向量資料庫 -多語言
• llama.cpp-and-qdrant ：與檢索文字產生相同，但使用llama.cpp作為推理引擎，因此您不得指定模型 - MULTILINGUAL
• build-your-llm ：建立一個可自訂的聊天 LLM，將 Qdrant 資料庫與您的 PDF 以及 Anthropic、OpenAI、Cohere 或 Groq 模型的強大功能結合在一起：您只需要一個 API 金鑰！要建立 Qdrant 資料庫，必須傳遞指定為逗號分隔路徑的 pdf/一堆 pdf 或儲存所有感興趣的 pdf 的目錄（請勿同時提供兩者）；您也可以使用 ISO 命名法指定 PDF 的編寫語言 - MULTILINGUAL 、 LANGFUSE INTEGRATION
• simple-chatting ：利用 Anthropic、OpenAI、Cohere 或 Groq 模型（無 RAG 管道）的強大功能建立可自訂的聊天 LLM：您只需要一個 API 金鑰！ -多語言、 LANGFUSE集成
• fal-img2img ：使用 fal.ai ComfyUI API 從您的 PNG 和 JPEG 圖片開始產生圖片：您只需要一個 API 金鑰！您還可以使用提示和種子自訂生成 -僅英文
• image-retrieval-search ：搜尋圖片資料庫，上傳資料夾作為資料庫輸入。該資料夾應具有以下結構：

 ./
├── test/
|   ├── label1/
|   └── label2/
└── train/
    ├── label1/
    └── label2/

您可以從自己的照片開始查詢資料庫。

6. 造訪localhost:7860並開始使用你的助手

一切準備就緒後，您可以前往localhost:7860並開始使用助手：