self hosted ai starter kit

自託管 AI 入門套件

自託管 AI Starter Kit是一個開源 Docker Compose 模板，旨在快速初始化全面的本地 AI 和低程式碼開發環境。

它由 https://github.com/n8n-io 策劃，將自架 n8n 平台與精選的兼容 AI 產品和組件清單相結合，以快速開始建立自架 AI 工作流程。

提示

閱讀公告

包含什麼

✅自架 n8n - 具有 400 多個整合和高級 AI 元件的低程式碼平台

✅ Ollama - 跨平台LLM平台，用於安裝和運行最新的本地LLM

✅ Qdrant - 具有綜合 API 的開源高效能向量存儲

✅ PostgreSQL - 資料工程領域的主力，安全地處理大量資料。

您可以建立什麼

️ 用於安排約會的人工智慧代理

️ 安全地彙整公司 PDF，不會洩露數據

️更聰明的 Slack 機器人，用於增強公司溝通和 IT 運營

️ 以最低成本進行私人財務文件分析

安裝

克隆儲存庫

git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit

使用 Docker Compose 運行 n8n

對於 Nvidia GPU 用戶

 git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
docker compose --profile gpu-nvidia up

筆記

如果您之前沒有將 Nvidia GPU 與 Docker 一起使用過，請按照 Ollama Docker 說明進行操作。

對於 Mac / Apple Silicon 用戶

不幸的是，如果您使用的是配備 M1 或更新處理器的 Mac，則無法將 GPU 暴露給 Docker 執行個體。在這種情況下有兩種選擇：

1. 完全在 CPU 上運行入門套件，如下面的“對於其他人”部分所示
2. 在 Mac 上執行 Ollama 以加快推理速度，並從 n8n 實例連接到該實例

如果您想在 Mac 上執行 Ollama，請檢查 Ollama 主頁以取得安裝說明，然後執行入門工具包，如下所示：

 git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
docker compose up

按照下面的快速啟動設定進行操作後，請使用http://host.docker.internal:11434/作為主機來變更 Ollama 憑證。

對於其他人

 git clone https://github.com/n8n-io/self-hosted-ai-starter-kit.git
cd self-hosted-ai-starter-kit
docker compose --profile cpu up

⚡️快速啟動和使用

自託管 AI 入門套件的核心是 Docker Compose 文件，預先配置了網路和儲存設置，最大限度地減少了額外安裝的需要。完成上述安裝步驟後，只需按照以下步驟開始。

1. 在瀏覽器中開啟 http://localhost:5678/ 以設定 n8n。您只需執行一次此操作。
2. 開啟包含的工作流程：http://localhost:5678/workflow/srOnR8PAY3u4RSwb
3. 選擇測試工作流程以開始執行工作流程。
4. 如果這是您第一次運行工作流程，您可能需要等待 Ollama 完成下載 Llama3.2。您可以檢查 docker 控制台日誌來檢查進度。

若要隨時開啟 n8n，請在瀏覽器中造訪 http://localhost:5678/。

透過您的 n8n 實例，您將可以存取 400 多個整合以及一套基本和進階 AI 節點，例如 AI 代理、文字分類器和資訊擷取器節點。為了將所有內容保持在本地，請記住使用 Ollama 節點作為您的語言模型，並使用 Qdrant 作為向量儲存。

筆記

此入門套件旨在協助您開始使用自架 AI 工作流程。雖然它沒有針對生產環境進行完全最佳化，但它結合了強大的組件，可以在概念驗證專案中很好地協同工作。您可以對其進行定制以滿足您的特定需求

升級中

• 對於 Nvidia GPU 設定：

docker compose --profile gpu-nvidia pull
docker compose create && docker compose --profile gpu-nvidia up

對於 Mac / Apple Silicon 用戶

 docker compose pull
docker compose create && docker compose up

• 對於非 GPU 設定：

docker compose --profile cpu pull
docker compose create && docker compose --profile cpu up

？推薦閱讀

n8n 充滿了有用的內容，可協助您快速入門其 AI 概念和節點。如果您遇到問題，請尋求支援。

• 開發人員的 AI 代理：n8n 從理論到實踐
• 教學：在 n8n 中建立 AI 工作流程
• n8n 中的 Langchain 概念
• 展示代理商和連鎖店之間的主要區別
• 什麼是向量資料庫？

？影片演練

• 安裝並使用 n8n 的本地 AI

?️更多AI模板

有關更多 AI 工作流程創意，請造訪官方 n8n AI 範本庫。從每個工作流程中，選擇使用工作流程按鈕以自動將工作流程匯入本機 n8n 實例中。

學習人工智慧關鍵概念

• 人工智慧代理聊天
• 與任何資料來源進行 AI 聊天（也使用 n8n 工作流程）
• 與 OpenAI Assistant 聊天（透過添加記憶體）
• 使用開源法學碩士（透過 Hugging Face）
• 使用 AI 與 PDF 文件聊天（引用來源）
• 可以抓取網頁的AI代理

本地AI模板

• 稅碼助理
• 使用 MistralAI 和 Qdrant 將文件分解為學習筆記
• 使用 Qdrant 和 Mistral.ai 的財務文檔助理
• Qdrant 和 Mistral 的食譜推薦

提示和技巧

存取本地文件

自託管 AI 入門套件將建立一個共用資料夾（預設位於同一目錄中），該資料夾安裝到 n8n 容器並允許 n8n 存取磁碟上的檔案。 n8n 容器中的此資料夾位於/data/shared —— 這是您需要在與本機檔案系統互動的節點中使用的路徑。

與本機檔案系統互動的節點

• 從磁碟讀取/寫入文件
• 本地文件觸發器
• 執行命令

執照

該項目根據 Apache License 2.0 獲得許可 - 有關詳細信息，請參閱許可證文件。

支援

加入 n8n 論壇中的對話，您可以：

• 分享您的作品：展示您使用 n8n 建立的內容並激勵社群中的其他人。
• 提出問題：無論您是新手還是經驗豐富的專業人士，社群和我們的團隊都準備好為您應對任何挑戰提供支援。
• 提出想法：對功能或改進有想法嗎？讓我們知道！我們總是渴望聽到您接下來想看到的內容。