欢迎来到 AI Horde,这是一个免费开放的去中心化协作人工智能平台! AI Horde 使世界各地的人们能够贡献他们的 GPU 能力来生成图像、文本等。通过在本地计算机上运行工作程序,您可以获得荣誉,这可以让您在向部落提出自己的请求时获得优先权。
Worker 是一款处理 AI Horde 作业的软件,例如根据文本提示生成图像。当您的工人成功完成工作时,您会获得荣誉奖励。您拥有的荣誉越多,您自己的请求处理的速度就越快。
运行工作线程不仅可以为您赢得荣誉,还有助于支持 AI Horde 生态系统,并让您的 GPU 在空闲周期内工作。无论您是希望生成自定义资产的艺术家、需要大规模处理图像的开发人员,还是只是对人工智能民主化感到兴奋的人,Horde 都能提供一些帮助。
如果您还没有这样做,请前往 AI Horde 并注册一个帐户,然后将您的 API 密钥存储在安全的地方。将您的 API 密钥视为密码。您稍后将在这些说明中需要它。这将使您的工作人员为您的帐户赢得荣誉。
如果您已经安装了 Windows 版 git,请使用这些说明。
推荐使用此选项,因为它将使您的存储库保持最新状态变得更加容易。
从开始菜单打开powershell
(也称为终端)或cmd
。
使用cd
导航到您想要安装工作程序的文件夹。
请注意,您所在的文件夹将创建一个名为horde-worker-reGen
的文件夹。在运行以下命令之前,该文件夹不应存在。
如果您希望将其安装在C:horde
中,请运行以下命令:
cd C:horde
如果horde
文件夹不存在:
cd C:
mkdir horde
cd C:horde
如果您使用cmd
并希望安装在不同的驱动器上,请包含/d
选项,如下所示:
cd /d G:horde
在所选文件夹中运行以下命令(如果使用上面的示例,则为文件夹horde
)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGen
继续基本使用说明
如果您没有 Windows 版 git 并且不想安装它,请使用这些说明。这些说明使得更新工作线程变得更加困难。
这假设你已经安装了 git
打开 bash 终端并运行这些命令(只需将它们全部复制粘贴到一起)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGen
继续基本使用说明
AMD现在已被证明具有更好的支持,但仅适用于 Linux 机器- 最好将 Linux 直接安装在您的机器上。 WSL 支持是高度实验性的。现在,您可以在适当的情况下使用horde-bridge-rocm.sh
和update-runtime-rocm.sh
遵循本指南。
如果您愿意尝试使用您的AMD卡,请加入官方discord中的discord讨论。
bridgeData_template.yaml
复制到bridgeData.yaml
bridgeData.yaml
并按照其中的说明填写您的详细信息。 为了确保运行工作人员的流畅体验,请记住以下几点:
threads
保持在 2 或更低,除非您拥有具有 48GB+ VRAM 的数据中心级卡。queue_size
。如果您的系统 RAM 小于 32GB,请坚持将queue_size
设置为 1。对于小于 16GB RAM,需要进行额外的优化(详细信息如下)。模型根据需要及时加载。只要您有 SSD、至少 32 GB 的 RAM 和至少 8 GB 的 VRAM,您就可以提供任意数量的型号(请参阅重要说明)。目前不建议使用 HDD 的工作人员,但拥有 HDD 的工作人员应该运行 1 个模型。典型的 SD1.5 型号每个约为 2GB,而典型的 SDXL 型号每个约为 7GB。目前all
型号的总容量约为 700GB,我们承诺在未来发生任何变化时将该数字保持在 1TB 以下。
注意:我们建议您在工作进程运行时禁用系统的任何“睡眠”或低功耗模式。
如果您有24GB+ vram 卡(例如 4090、3090):
- safety_on_gpu : true
- high_performance_mode : true
- post_process_job_overlap : true
- unload_models_from_vram_often : false
- max_threads : 1 # If you have Flux/Cascade loaded, otherwise 2 max
- queue_size : 2 # You can set to 3 if you have 64GB or more of RAM
- max_batch : 8 # or higher
如果您有12GB - 16GB 卡(例如 3080 TI、4070、4080/4080 Super):
- safety_on_gpu : true # Consider setting to `false` if offering Cascade or Flux
- moderate_performance_mode : true
- unload_models_from_vram_often : false
- max_threads : 1
- max_batch : 4 # or higher
如果您有8GB-10GB VRAM 卡(1080、2080、3060、4060/4060 TI):
- queue_size : 1 # max **or** only offer flux
- safety_on_gpu : false
- max_threads : 1
- max_power : 32 # no higher than 32
- max_batch : 4 # no higher than 4
- allow_post_processing : false # If offering SDXL or Flux, otherwise you may set to true
- allow_sdxl_controlnet : false
低端卡或因其他原因表现不佳的工人:
- extra_slow_worker: true
- limit_max_steps: true
- preload_timeout: 120
extra_slow_worker: true
。 AI部落工人正在不断改进。您可以关注我们的 Discord 的进展并在那里获取有关更新的通知。如果您有兴趣接收工作人员更新或测试版的通知,请转至#get-roles 频道并获取适当的角色。
以下说明涉及horde-bridge
或update-runtime
。根据您的操作系统,附加.cmd
适用于 Windows)或.sh
(适用于 linux)
horde-bridge.cmd
和update-runtime.cmd
。horde-bridge-rocm.sh
和update-runtime-rocm.sh
。按一次Ctrl+C
并等待工作器停止即可关闭工作器。
使用适当的方法更新此存储库:
您可以从文件资源管理器中双击下面提供的脚本文件,或者根据您的操作系统从bash
、 cmd
等终端运行它。后一个选项将允许您在崩溃时看到错误,因此推荐使用。
如果您使用git clone
克隆原始存储库,请使用此方法
bash
、 cmd
或powershell
终端git pull
请参阅更新运行时
如果您将 git 存储库下载为 zip 文件并将其解压到某个位置,请使用此方法。
horde_worker_regen/
目录请参阅更新运行时
警告:据报告某些防病毒软件(包括 Avast)会干扰安装。如果运行此文件时出现错误
curl: (35) schannel: next InitializeSecurityContext failed: CRYPT_E_NO_REVOCATION_CHECK
,请禁用防病毒软件,再次运行该文件,然后重新启用防病毒软件。
运行适用于您的操作系统的update-runtime
脚本。如果需要,这将更新所有依赖项。
继续下面的启动/停止说明
注意:worker 是一个非常系统和 GPU 密集的程序。您不应尽可能玩视频游戏或执行其他密集型任务(例如图像/视频编辑)。如果您想参与这些活动,请关闭工作程序或将其配置为在有限的设置下仅使用小型模型,并密切监视您的系统监视器。
如果这是您第一次安装,或者需要更新,请参阅更新以获取说明。
运行horde-bridge
(Windows 为 .cmd,Linux 为 .sh)。
horde-bridge-rocm
版本。Ctrl+C
。当工作程序运行时,您可以直接在终端中监控其进度。查找表明工作成功完成、获得的荣誉、性能统计数据和任何错误的日志。
要进行更详细的监控,请查看包含每日日志文件的logs
目录。
bridge*.log
文件中。bridge.log
是您看到弹出的主窗口。bridge_n.log
对应于主日志文件中出现的每个进程。 “进程1”将是bridge_1.log
。trace*.log
文件中。trace.log
是您看到弹出的主窗口。trace_n.log
对应于主日志文件中出现的每个进程。 “进程1”将是trace_1.log
。将来您将不需要运行多个工作实例
要使用多个 GPU,每个 GPU 都必须启动自己的实例。对于Linux,你只需要将运行限制在特定的卡上:
CUDA_VISIBLE_DEVICES=0 ./horde-bridge.sh -n " My awesome instance #1 "
CUDA_VISIBLE_DEVICES=1 ./horde-bridge.sh -n " My awesome instance #2 "
ETC。
请注意,根据您的设置,您将需要非常高的系统 RAM (32-64GB+)。 queue_size
和max_threads
显着增加了每个工作线程所需的 RAM 量。
您可以在部落上托管自己的图像模型,这在我们的模型参考中不可用,但这个过程有点复杂。
首先,您需要向部落团队手动请求customizer
角色。您可以在不和谐频道中询问。这是手动分配的角色,以防止滥用此功能。
一旦您拥有定制员角色:
下载您想要托管的模型文件。将它们放置在系统上的任何位置。
将您的工作人员指向他们的位置并提供有关他们的一些信息。在您的bridgeData.yaml
中,添加如下所示的行:
custom_models :
- name : Movable figure model XL
baseline : stable_diffusion_xl
filepath : /home/db0/projects/CUSTOM_MODELS/PVCStyleModelMovable_beta25Realistic.safetensors
将相同的“名称”添加到您的models_to_load
中。
如果一切设置正确,您现在应该在工作器启动后在工作器目录中看到custom_models.json
,并且该模型应该由您的工作器提供。
注意:
clip_skip
的人您可以在 https://hub.docker.com/r/tazlin/horde-worker-regen/tags 找到 docker 镜像。
有关支持的 docker 功能的详细指南,请参阅 Dockerfiles/README.md。
另请参阅 README_advanced.md 了解有关手动运行工作程序的更多详细信息。
如需最新信息和故障排除帮助,请查看我们的 Discord 中的#local-workers 频道。社区总是乐意伸出援手!
一些常见问题及其解决方案:
max_power
。allow_post_processing
、 allow_controlnet
、 allow_sdxl_controlnet
和/或allow_lora
。max_threads
、 max_batch
或queue_size
(按优先顺序)以减少 VRAM/RAM 使用。避免在工作进程处于活动状态时运行其他密集型程序。如果您遇到错误或有功能请求,请在存储库上提出问题。我们感谢您的贡献!
该项目中的许多模型都使用 CreativeML OpenRAIL 许可证。请在此处阅读完整的许可证。