horde worker reGen
v9.3.2 - 'skipped' reason improvements
¡Bienvenido a AI Horde, una plataforma descentralizada abierta y gratuita para IA colaborativa! AI Horde permite a personas de todo el mundo contribuir con la potencia de su GPU para generar imágenes, texto y más. Al ejecutar un trabajador en su máquina local, puede obtener felicitaciones que le darán prioridad al realizar sus propias solicitudes a la horda.
Un trabajador es una pieza de software que maneja trabajos de AI Horde, como generar una imagen a partir de un mensaje de texto. Cuando su trabajador completa con éxito un trabajo, usted será recompensado con felicitaciones. Cuantas más felicitaciones tenga, más rápido se procesarán sus propias solicitudes.
Ejecutar a un trabajador no solo le otorga elogios, sino que también ayuda a respaldar el ecosistema AI Horde y pone su GPU a funcionar durante los ciclos de inactividad. Ya sea que sea un artista que busca generar recursos personalizados, un desarrollador que necesita procesar imágenes a escala o simplemente alguien entusiasmado con la democratización de la IA, Horde tiene algo que ofrecer.
Si aún no lo has hecho, ve a AI Horde y registra una cuenta, luego guarda tu clave API en un lugar seguro. Trate su clave API como una contraseña. Lo necesitará más adelante en estas instrucciones. Esto permitirá que su trabajador obtenga felicitaciones por su cuenta.
Utilice estas instrucciones si ha instalado git para Windows.
Se recomienda esta opción ya que hará que mantener su repositorio actualizado sea mucho más fácil.
Abra powershell (también conocido como terminal) o cmd desde el menú de inicio.
Usando cd , navegue hasta la carpeta en la que desea instalar el trabajador.
Tenga en cuenta que la carpeta en la que se encuentra creará una carpeta llamada horde-worker-reGen . Esta carpeta no debería existir antes de ejecutar los siguientes comandos.
Si desea que se instale en C:horde , ejecute lo siguiente:
cd C:horde Si la carpeta horde no existe:
cd C:
mkdir horde
cd C:horde Si está utilizando cmd y desea instalar en una unidad diferente, incluya la opción /d , así:
cd /d G:horde Ejecute los siguientes comandos dentro de la carpeta elegida (la carpeta horde si usa el ejemplo anterior)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenContinúe con las instrucciones de uso básico.
Utilice estas instrucciones si no tiene git para Windows y no desea instalarlo. Estas instrucciones hacen que actualizar al trabajador sea un poco más difícil en el futuro.
Esto supone que tienes instalado git
Abra una terminal bash y ejecute estos comandos (simplemente cópielos y péguelos todos juntos)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenContinúe con las instrucciones de uso básico.
Ahora se ha demostrado que AMD tiene un mejor soporte, pero solo para máquinas Linux : es mejor tener Linux instalado directamente en su máquina. El soporte de WSL es altamente experimental. Ahora puede seguir esta guía usando horde-bridge-rocm.sh y update-runtime-rocm.sh cuando corresponda.
Si está dispuesto a probar con su tarjeta AMD, únase a la discusión de discordia en el discordia oficial.
bridgeData_template.yaml en bridgeData.yamlbridgeData.yaml y siga las instrucciones que aparecen para completar sus datos. Para garantizar una experiencia fluida al dirigir a un trabajador, tenga en cuenta lo siguiente:
threads en 2 o menos, a menos que tenga una tarjeta de centro de datos con más de 48 GB de VRAM.queue_size especificado en la configuración. Si tiene menos de 32 GB de RAM del sistema, quédese con un queue_size de 1. Para menos de 16 GB de RAM, se necesitan optimizaciones adicionales (detalladas a continuación). Los modelos se cargan según sea necesario y justo a tiempo. Puedes ofrecer tantos modelos como quieras siempre que tengas un SSD, al menos 32 GB de RAM y al menos 8 GB de VRAM (ver Notas importantes ). No se recomiendan trabajadores con HDD en este momento, pero aquellos con HDD deben ejecutar exactamente 1 modelo. Un modelo SD1.5 típico pesa alrededor de 2 GB cada uno, mientras que un modelo SDXL típico pesa alrededor de 7 GB cada uno. Actualmente, all los modelos ofrecen un total de alrededor de 700 GB y nos comprometemos a mantener ese número por debajo de 1 TB con cualquier cambio futuro.
Nota : Le sugerimos que desactive cualquier modo de "suspensión" o de energía reducida para su sistema mientras el trabajador está en ejecución.
Si tiene una tarjeta vram de más de 24 GB (por ejemplo, 4090, 3090):
- safety_on_gpu : true
- high_performance_mode : true
- post_process_job_overlap : true
- unload_models_from_vram_often : false
- max_threads : 1 # If you have Flux/Cascade loaded, otherwise 2 max
- queue_size : 2 # You can set to 3 if you have 64GB or more of RAM
- max_batch : 8 # or higherSi tiene una tarjeta de 12 GB - 16 GB (por ejemplo, 3080 TI, 4070, 4080/4080 Super):
- safety_on_gpu : true # Consider setting to `false` if offering Cascade or Flux
- moderate_performance_mode : true
- unload_models_from_vram_often : false
- max_threads : 1
- max_batch : 4 # or higherSi tiene una tarjeta vram de 8gb-10gb (1080, 2080, 3060, 4060/4060 TI):
- queue_size : 1 # max **or** only offer flux
- safety_on_gpu : false
- max_threads : 1
- max_power : 32 # no higher than 32
- max_batch : 4 # no higher than 4
- allow_post_processing : false # If offering SDXL or Flux, otherwise you may set to true
- allow_sdxl_controlnet : falseTrabajadores que tienen tarjetas de gama baja o tienen bajo rendimiento por otros motivos :
- extra_slow_worker: true- limit_max_steps: true- preload_timeout: 120extra_slow_worker: true . Los trabajadores de AI Horde están en constante mejora. Puedes seguir el progreso en nuestro discordia y recibir notificaciones sobre actualizaciones allí. Si está interesado en recibir notificaciones sobre actualizaciones o versiones beta de los trabajadores, vaya al canal #get-roles y obtenga los roles apropiados.
Las siguientes instrucciones se refieren a horde-bridge o update-runtime . Dependiendo de su sistema operativo, agregue .cmd para Windows o .sh para Linux
horde-bridge.cmd y update-runtime.cmd para Windows con una tarjeta NVIDIA.horde-bridge-rocm.sh y update-runtime-rocm.sh cuando corresponda. Apague su trabajador presionando Ctrl+C una vez y esperando a que se detenga.
Actualice este repositorio utilizando el método apropiado:
Puede hacer doble clic en los archivos de script proporcionados a continuación desde un explorador de archivos o ejecutarlos desde una terminal como bash , cmd dependiendo de su sistema operativo. La última opción te permitirá ver errores en caso de falla , por lo que es recomendable.
Utilice este enfoque si clonó el repositorio original usando git clone
bash , cmd o powershell según su sistema operativogit pullVer Actualización del tiempo de ejecución
Utilice este enfoque si descargó el repositorio git como un archivo zip y lo extrajo en algún lugar.
horde_worker_regen/ de tu carpetaVer Actualización del tiempo de ejecución
Advertencia : se ha informado que ciertos antivirus (incluido Avast) interfieren con la instalación. Si recibe el error
curl: (35) schannel: next InitializeSecurityContext failed: CRYPT_E_NO_REVOCATION_CHECKal ejecutar este archivo, desactive su antivirus, ejecute el archivo nuevamente y luego vuelva a habilitar su antivirus.
Ejecute el script update-runtime para su sistema operativo. Esto actualizará todas las dependencias si es necesario.
Continúe con las instrucciones de inicio/parada a continuación
Nota : El trabajador es un programa que requiere mucho sistema y GPU. No debe jugar videojuegos ni realizar otras tareas intensivas (como edición de imágenes/vídeo) siempre que sea posible. Si desea participar en esas actividades, apague el trabajador o configúrelo para usar solo modelos pequeños con configuraciones limitadas y observe de cerca el monitor de su sistema.
Si es la primera vez que realiza la instalación o cuando se requieren actualizaciones, consulte Actualización para obtener instrucciones.
Ejecute horde-bridge (.cmd para Windows, .sh para Linux).
horde-bridge-rocm del archivo.Ctrl+C al mismo tiempo.Mientras el trabajador se ejecuta, puede monitorear su progreso directamente en la terminal. Busque registros que indiquen la finalización exitosa del trabajo, felicitaciones obtenidas, estadísticas de rendimiento y errores.
Para un seguimiento más detallado, consulte el directorio logs que contiene archivos de registro diarios.
bridge*.log .bridge.log es la ventana principal que aparece.bridge_n.log corresponde a cada proceso que aparece en el archivo de registro principal. El "Proceso 1" sería bridge_1.log .trace*.log .trace.log es la ventana principal que aparece.trace_n.log corresponde a cada proceso que aparece en el archivo de registro principal. El "Proceso 1" sería trace_1.log .En el futuro no necesitarás ejecutar varias instancias de trabajador.
Para utilizar varias GPU, cada una debe iniciar su propia instancia. Para Linux, sólo necesitas limitar la ejecución a una tarjeta específica:
CUDA_VISIBLE_DEVICES=0 ./horde-bridge.sh -n " My awesome instance #1 "
CUDA_VISIBLE_DEVICES=1 ./horde-bridge.sh -n " My awesome instance #2 "etc.
Tenga en cuenta que necesitará una cantidad muy alta (32-64 GB+) de RAM del sistema dependiendo de su configuración. queue_size y max_threads aumentan sustancialmente la cantidad de RAM requerida por trabajador.
Puedes alojar tus propios modelos de imágenes en la horda que no están disponibles en nuestra referencia de modelos, pero este proceso es un poco más complejo.
Para empezar, debes solicitar manualmente el rol customizer al equipo de la horda. Puedes pedirlo en el canal de discord. Esta es una función asignada manualmente para evitar el abuso de esta función.
Una vez que tengas el rol de personalizador:
Descargue los archivos de modelo que desea alojar. Colóquelos en cualquier ubicación de su sistema.
Indique a su trabajador su ubicación y proporciónele información sobre él. En tu bridgeData.yaml , agrega líneas como las siguientes:
custom_models :
- name : Movable figure model XL
baseline : stable_diffusion_xl
filepath : /home/db0/projects/CUSTOM_MODELS/PVCStyleModelMovable_beta25Realistic.safetensors Agregue el mismo "nombre" a su models_to_load .
Si todo se configuró correctamente, ahora debería ver un custom_models.json en su directorio de trabajo después de que se inicie el trabajador, y su trabajador debería ofrecer el modelo.
Tenga en cuenta que:
clip_skip Puede encontrar las imágenes de la ventana acoplable en https://hub.docker.com/r/tazlin/horde-worker-regen/tags.
Consulte Dockerfiles/README.md para obtener una guía detallada sobre la funcionalidad de Docker compatible.
Consulte también README_advanced.md para obtener más detalles sobre cómo ejecutar el trabajador manualmente.
Para obtener la información más reciente y ayuda para la resolución de problemas, consulte el canal #local-workers en nuestro Discord. ¡La comunidad siempre estará feliz de echar una mano!
Algunos problemas comunes y sus soluciones:
max_power .allow_post_processing , allow_controlnet , allow_sdxl_controlnet y/o allow_lora .max_threads , max_batch o queue_size en su configuración (en ese orden de preferencia) para reducir el uso de VRAM/RAM. Evite ejecutar otros programas intensivos mientras el trabajador esté activo.Si encuentra un error o tiene una solicitud de función, abra un problema en el repositorio. ¡Agradecemos sus contribuciones!
Muchos modelos de este proyecto utilizan la licencia CreativeML OpenRAIL. Lea la licencia completa aquí.
