歡迎來到 AI Horde,這是一個免費開放的去中心化協作人工智慧平台! AI Horde 使世界各地的人們能夠貢獻他們的 GPU 能力來產生圖像、文字等。透過在本地電腦上運行工作程序,您可以獲得榮譽,這可以讓您在向部落提出自己的請求時獲得優先權。
Worker 是一款處理 AI Horde 作業的軟體,例如根據文字提示產生影像。當您的工人成功完成工作時,您會獲得榮譽獎勵。您擁有的榮譽越多,您自己的請求處理的速度就越快。
運行工作線程不僅可以為您贏得榮譽,還有助於支援 AI Horde 生態系統,並讓您的 GPU 在空閒週期內工作。無論您是希望產生自訂資產的藝術家、需要大規模處理圖像的開發人員,還是只是對人工智慧民主化感到興奮的人,Horde 都能提供一些幫助。
如果您還沒有這樣做,請前往 AI Horde 並註冊帳戶,然後將您的 API 金鑰儲存在安全的地方。將您的 API 金鑰視為密碼。您稍後將在這些說明中需要它。這將使您的工作人員為您的帳戶贏得榮譽。
如果您已經安裝了 Windows 版 git,請使用這些說明。
建議使用此選項,因為它將使您的儲存庫保持最新狀態變得更加容易。
從開始功能表開啟powershell
(也稱為終端)或cmd
。
使用cd
導航到您想要安裝工作程序的資料夾。
請注意,您所在的資料夾將建立一個名為horde-worker-reGen
的資料夾。在運行以下命令之前,該資料夾不應存在。
如果您希望將其安裝在C:horde
中,請執行以下命令:
cd C:horde
如果horde
資料夾不存在:
cd C:
mkdir horde
cd C:horde
如果您使用cmd
並希望安裝在不同的驅動器上,請包含/d
選項,如下所示:
cd /d G:horde
在所選資料夾中執行以下命令(如果使用上面的範例,則為資料夾horde
)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGen
繼續基本使用說明
如果您沒有 Windows 版 git 並且不想安裝它,請使用這些說明。這些說明使得更新工作執行緒變得更加困難。
這假設你已經安裝了 git
打開 bash 終端機並執行這些命令(只需將它們全部複製並貼上在一起)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGen
繼續基本使用說明
AMD現在已被證明具有更好的支持,但僅適用於 Linux 機器- 最好將 Linux 直接安裝在您的機器上。 WSL 支援是高度實驗性的。現在,您可以在適當的情況下使用horde-bridge-rocm.sh
和update-runtime-rocm.sh
遵循本指南。
如果您願意嘗試使用您的AMD卡,請加入官方discord中的discord討論。
bridgeData_template.yaml
複製到bridgeData.yaml
bridgeData.yaml
並按照其中的說明填寫您的詳細資料。 為了確保運行工作人員的流暢體驗,請記住以下幾點:
threads
保持在 2 或更低,除非您擁有具有 48GB+ VRAM 的資料中心級卡。queue_size
。如果您的系統 RAM 小於 32GB,請堅持將queue_size
設定為 1。模型根據需要及時載入。只要您有 SSD、至少 32 GB 的 RAM 和至少 8 GB 的 VRAM,您就可以提供任意數量的型號(請參閱重要說明)。目前不建議使用 HDD 的工作人員,但擁有 HDD 的工作人員應該執行 1 個模型。典型的 SD1.5 型號每個約為 2GB,而典型的 SDXL 型號每個約為 7GB。目前all
型號的總容量約為 700GB,我們承諾在未來發生任何變化時將該數字保持在 1TB 以下。
注意:我們建議您在工作進程運行時停用系統的任何「睡眠」或低功耗模式。
如果您有24GB+ vram 卡(例如 4090、3090):
- safety_on_gpu : true
- high_performance_mode : true
- post_process_job_overlap : true
- unload_models_from_vram_often : false
- max_threads : 1 # If you have Flux/Cascade loaded, otherwise 2 max
- queue_size : 2 # You can set to 3 if you have 64GB or more of RAM
- max_batch : 8 # or higher
如果您有12GB - 16GB 卡(例如 3080 TI、4070、4080/4080 Super):
- safety_on_gpu : true # Consider setting to `false` if offering Cascade or Flux
- moderate_performance_mode : true
- unload_models_from_vram_often : false
- max_threads : 1
- max_batch : 4 # or higher
如果您有8GB-10GB VRAM 卡(1080、2080、3060、4060/4060 TI):
- queue_size : 1 # max **or** only offer flux
- safety_on_gpu : false
- max_threads : 1
- max_power : 32 # no higher than 32
- max_batch : 4 # no higher than 4
- allow_post_processing : false # If offering SDXL or Flux, otherwise you may set to true
- allow_sdxl_controlnet : false
低端卡或因其他原因表現不佳的工人:
- extra_slow_worker: true
- limit_max_steps: true
- preload_timeout: 120
extra_slow_worker: true
。 AI部落工人正在不斷改進。您可以關注我們的 Discord 的進展並在那裡獲取有關更新的通知。如果您有興趣接收工作人員更新或測試版的通知,請前往#get-roles 頻道並取得適當的角色。
以下說明涉及horde-bridge
或update-runtime
。根據您的作業系統,附加.cmd
適用於 Windows)或.sh
(適用於 linux)
horde-bridge.cmd
和update-runtime.cmd
。horde-bridge-rocm.sh
和update-runtime-rocm.sh
。按一次Ctrl+C
並等待工作器停止即可關閉工作器。
使用適當的方法更新此儲存庫:
您可以從文件資源管理器中雙擊下面提供的腳本文件,或根據您的作業系統從bash
、 cmd
等終端運行它。後一個選項將允許您在崩潰時看到錯誤,因此建議使用。
如果您使用git clone
克隆原始儲存庫,請使用此方法
bash
、 cmd
或powershell
終端git pull
請參閱更新運行時
如果您將 git 儲存庫下載為 zip 檔案並將其解壓縮到某個位置,請使用此方法。
horde_worker_regen/
目錄請參閱更新運行時
警告:據報導某些防毒軟體(包括 Avast)會幹擾安裝。如果執行此文件時發生錯誤
curl: (35) schannel: next InitializeSecurityContext failed: CRYPT_E_NO_REVOCATION_CHECK
,請停用防毒軟體,再次執行該文件,然後重新啟用防毒軟體。
執行適用於您的作業系統的update-runtime
腳本。如果需要,這將更新所有依賴項。
繼續下面的啟動/停止說明
注意:worker 是一個非常有系統且 GPU 密集的程式。您不應盡可能玩視訊遊戲或執行其他密集型任務(例如圖像/影片編輯)。如果您想參與這些活動,請關閉工作程序或將其配置為在有限的設定下僅使用小型模型,並密切監視您的系統監視器。
如果這是您第一次安裝,或需要更新,請參閱更新以取得說明。
運行horde-bridge
(Windows 為 .cmd,Linux 為 .sh)。
horde-bridge-rocm
版本。Ctrl+C
。當工作程序運作時,您可以直接在終端機中監控其進度。尋找表明工作成功完成、獲得的榮譽、效能統計資料和任何錯誤的日誌。
若要進行更詳細的監控,請查看包含每日日誌檔案的logs
目錄。
bridge*.log
檔案中。bridge.log
是您看到彈出的主視窗。bridge_n.log
對應於主日誌檔案中出現的每個程序。 「進程1」將是bridge_1.log
。trace*.log
檔案中。trace.log
是您看到彈出的主視窗。trace_n.log
對應於主日誌檔案中出現的每個程序。 「進程1」將是trace_1.log
。將來您將不需要執行多個工作實例
要使用多個 GPU,每個 GPU 都必須啟動自己的執行個體。對於Linux,你只需要將運行限制在特定的卡上:
CUDA_VISIBLE_DEVICES=0 ./horde-bridge.sh -n " My awesome instance #1 "
CUDA_VISIBLE_DEVICES=1 ./horde-bridge.sh -n " My awesome instance #2 "
ETC。
請注意,根據您的設置,您將需要非常高的系統 RAM (32-64GB+)。 queue_size
和max_threads
顯著增加了每個工作執行緒所需的 RAM 量。
您可以在部落上託管自己的圖像模型,這在我們的模型參考中不可用,但這個過程有點複雜。
首先,您需要向部落團隊手動請求customizer
角色。您可以在不和諧頻道中詢問。這是手動分配的角色,以防止濫用此功能。
一旦您擁有定制員角色:
下載您想要託管的模型檔案。將它們放置在系統上的任何位置。
將您的工作人員指向他們的位置並提供有關他們的一些資訊。在您的bridgeData.yaml
中,新增如下所示的行:
custom_models :
- name : Movable figure model XL
baseline : stable_diffusion_xl
filepath : /home/db0/projects/CUSTOM_MODELS/PVCStyleModelMovable_beta25Realistic.safetensors
將相同的“名稱”添加到您的models_to_load
中。
如果一切設定正確,您現在應該在工作器啟動後在工作器目錄中看到custom_models.json
,並且該模型應該由您的工作器提供。
注意:
clip_skip
的人您可以在 https://hub.docker.com/r/tazlin/horde-worker-regen/tags 找到 docker 映像。
有關支援的 docker 功能的詳細指南,請參閱 Dockerfiles/README.md。
另請參閱 README_advanced.md 以了解有關手動運行工作程序的更多詳細資訊。
如需最新資訊和故障排除協助,請查看我們的 Discord 中的#local-workers 頻道。社群總是樂意伸出援手!
一些常見問題及其解決方案:
max_power
。allow_post_processing
、 allow_controlnet
、 allow_sdxl_controlnet
和/或allow_lora
。max_threads
、 max_batch
或queue_size
(依優先順序)以減少 VRAM/RAM 使用。避免在工作進程處於活動狀態時執行其他密集型程序。如果您遇到錯誤或有功能請求,請在儲存庫上提出問題。我們感謝您的貢獻!
該專案中的許多模型都使用 CreativeML OpenRAIL 授權。請在此處閱讀完整的許可證。