eternal

永恆

Eternal 是一個用於機器學習工作流程的實驗平台。

注意：此應用程式正在開發中，不穩定。請考慮此存儲庫供您參考。我們歡迎貢獻者和建設性回饋。也歡迎您將其用作您自己的項目的參考。

Eternal 整合了各種項目，例如llama.cpp 、 ComfyUI和codapi以及許多其他項目，這些項目的開發人員友善地與世界分享。所有功勞都屬於該儲存庫所依賴的所有依賴項的各自貢獻者。感謝您與世界分享您的專案。

Eternal 前端使用傳奇的HTMX框架進行渲染。

重要的：

根據您的系統規格，在config.yml中配置模型的量化等級。如果本機模型運行失敗，請透過查看產生的main.log檔案排查原因。最常見的原因是 RAM 不足或提示模板不正確。我們將在未來的提交中實現更強大的錯誤處理和日誌記錄。

特徵

• 輕鬆 ML 模型設定和下載。請參閱.config.yml中的預設模型目錄範例
• 使用本地語言模型產生文本，例如 Meta 的 Llama-3-8b-Instruct、Mistral AI 的 Codestral 和強大的公共 OpenAI GPT-4o、Anthropic Sonnet 3.5、Google Gemini。 （公共模型需要您自己的 API 金鑰）
• Web 檢索，取得 URL 內容以供 LLM 參考。
• 網路搜尋可自動檢索使用者提示的熱門結果以供 LLM 參考。需要安裝 Chrome 瀏覽器。不需要開啟瀏覽器，因為 Eternal 會自動管理無頭實例。
• 使用 ComfyUI 後端和自訂工作流程進行進階影像生成。 Eternal將自動部署和管理ComfyUI。

入門

此儲存庫的docs資料夾中提供了基本文件。

展示櫃

網頁檢索 - 搜尋

• webget ：嘗試取得作為提示的一部分傳入的 URL。
• websearch ：在公共網路上搜尋與您的提示相關的頁面。

需要安裝 Chrome 瀏覽器。

程式碼執行

在安全沙箱的聊天檢視中執行和編輯 LLM 產生的程式碼。目前，JavaScript 是透過 WASM 實現的。更多語言即將推出！

影像生成

Eternal 可以使用強大的自訂 ComfyUI 工作流程產生映像，該工作流程會自動管理和調整以實現高品質輸出。不再需要調整數百個參數。描述並生成。將角色設為image_bot並選擇任何本地或公共 LLM 以增強您的提示。

基本影像提示

大語言模型增強提示

配置

將提供的.config.yml檔案重新命名為config.yml並將其放置在與應用程式二進位檔案相同的路徑中。根據您的環境和用例修改內容。

建造

Eternal 目前支援使用 CUDA（需要 nVidia GPU）或 MacOS/Metal（需要 M 系列 Mac）在 Linux 或 Windows WSL 上建置。

建立應用程式：

 $ git clone https://github.com/intelligencedev/eternal.git
$ cd eternal
$ git submodule update --init --recursive
$ make all

如果您在建置過程中遇到任何問題，請提交問題。

故障排除

建議在初始應用程式啟動之前建立新的 Python 3.10 conda 環境和虛擬環境。這將避免與所需的軟體包安裝相關的錯誤訊息，例如error: externally-managed-environment 。

如果 Eternal 啟動失敗，請執行下列指令設定新的 Conda 環境和 Python venv：

 $ conda create -n eternal python=3.10
$ conda activate eternal
$ python python-m venv .
$ source bin/activate

# Apply execute permissions
$ sudo chmod +x ./eternal

# Run the Eternal binary
$ ./eternal

注意：請記得將包含的.config.yml重新命名為config.yml ，修改環境的設置，並將檔案儲存在與 Eternal 二進位檔案相同的路徑中。

免責聲明

本自述文件是 Eternal 應用程式的高階概述。應在實際應用程式文件中查閱詳細的設定說明以及功能、依賴項和配置的完整清單。