horde worker reGen
v9.3.2 - 'skipped' reason improvements
Добро пожаловать в AI Horde, бесплатную и открытую децентрализованную платформу для совместной работы ИИ! AI Horde позволяет людям со всего мира использовать возможности своих графических процессоров для создания изображений, текста и многого другого. Запустив работника на своем локальном компьютере, вы можете заработать очки престижа, которые дадут вам приоритет при отправке собственных запросов к орде.
Рабочий — это часть программного обеспечения, которая выполняет задания Орды ИИ, например, генерирует изображение из текстовой подсказки. Когда ваш работник успешно завершает работу, вы награждаетесь похвалой. Чем больше у вас похвал, тем быстрее будут обрабатываться ваши собственные запросы.
Использование воркера не только приносит вам престиж, но и помогает поддерживать экосистему AI Horde и позволяет вашему графическому процессору работать во время простоя. Являетесь ли вы художником, желающим создавать собственные ресурсы, разработчиком, которому необходимо масштабировать изображения, или просто человеком, стремящимся к демократизации ИИ, Орде есть что предложить.
Если вы еще этого не сделали, зайдите в AI Horde и зарегистрируйте учетную запись, а затем сохраните свой ключ API в безопасном месте. Относитесь к своему ключу API как к паролю. Он понадобится вам позже в этой инструкции. Это позволит вашему работнику собирать похвалы для вашего аккаунта.
Используйте эти инструкции, если вы установили git для Windows.
Рекомендуется использовать этот вариант, поскольку он значительно облегчит поддержание актуальности вашего репозитория.
Откройте powershell (также называемый терминалом) или cmd из меню «Пуск».
Используя cd , перейдите к папке, в которую вы хотите установить работника.
Обратите внимание, что в папке, в которой вы находитесь, будет создана папка с именем horde-worker-reGen . Эта папка не должна существовать до выполнения следующих команд.
Если вы хотите, чтобы он был установлен в C:horde , выполните следующее:
cd C:horde Если папка horde не существует:
cd C:
mkdir horde
cd C:horde Если вы используете cmd и хотите выполнить установку на другой диск, включите параметр /d следующим образом:
cd /d G:horde Запустите следующие команды в выбранной папке ( horde папок, если использовать приведенный выше пример)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenПродолжить выполнение основных инструкций по использованию.
Используйте эти инструкции, если у вас нет git для Windows и вы не хотите его устанавливать. Эти инструкции немного усложняют обновление работника.
Предполагается, что у вас установлен git
Откройте терминал bash и запустите эти команды (просто скопируйте и вставьте их все вместе)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenПродолжить выполнение основных инструкций по использованию.
Теперь было показано, что AMD имеет лучшую поддержку, но только для компьютеров с Linux — лучше всего установить Linux непосредственно на ваш компьютер. Поддержка WSL носит экспериментальный характер. Теперь вы можете следовать этому руководству, используя horde-bridge-rocm.sh и update-runtime-rocm.sh , где это необходимо.
Если вы готовы попробовать свою карту AMD, присоединяйтесь к обсуждению разногласий в официальном разногласии.
bridgeData_template.yaml в bridgeData.yamlbridgeData.yaml и следуйте инструкциям, чтобы заполнить свои данные. Чтобы обеспечить бесперебойную работу воркера, имейте в виду следующее:
threads на уровне 2 или ниже, если у вас нет карты для центра обработки данных с видеопамятью более 48 ГБ.queue_size указанного в конфигурации. Если у вас менее 32 ГБ системной оперативной памяти, придерживайтесь queue_size , равного 1. Для менее 16 ГБ оперативной памяти необходимы дополнительные оптимизации (подробно описано ниже). Модели загружаются по мере необходимости и точно в срок. Вы можете предлагать столько моделей, сколько захотите , при условии, что у вас есть SSD, не менее 32 ГБ оперативной памяти и не менее 8 ГБ видеопамяти (см. Важные примечания ). Работникам с жесткими дисками в настоящее время не рекомендуется, но тем, у кого есть жесткие диски, следует использовать только одну модель. Типичная модель SD1.5 имеет размер около 2 ГБ каждая, а типичная модель SDXL — около 7 ГБ каждая. В настоящее время общая емкость all моделей составляет около 700 ГБ, и мы обязуемся поддерживать это число ниже 1 ТБ при любых будущих изменениях.
Примечание . Мы рекомендуем вам отключить все режимы «спящего режима» или пониженного энергопотребления для вашей системы, пока рабочий процесс работает.
Если у вас есть карта памяти объемом более 24 ГБ (например, 4090, 3090):
- safety_on_gpu : true
- high_performance_mode : true
- post_process_job_overlap : true
- unload_models_from_vram_often : false
- max_threads : 1 # If you have Flux/Cascade loaded, otherwise 2 max
- queue_size : 2 # You can set to 3 if you have 64GB or more of RAM
- max_batch : 8 # or higherЕсли у вас карта емкостью 12–16 ГБ (например, 3080 TI, 4070, 4080/4080 Super):
- safety_on_gpu : true # Consider setting to `false` if offering Cascade or Flux
- moderate_performance_mode : true
- unload_models_from_vram_often : false
- max_threads : 1
- max_batch : 4 # or higherЕсли у вас видеокарта объемом 8–10 ГБ (1080, 2080, 3060, 4060/4060 TI):
- queue_size : 1 # max **or** only offer flux
- safety_on_gpu : false
- max_threads : 1
- max_power : 32 # no higher than 32
- max_batch : 4 # no higher than 4
- allow_post_processing : false # If offering SDXL or Flux, otherwise you may set to true
- allow_sdxl_controlnet : falseРабочие, у которых карты низкого качества или низкая производительность по другим причинам :
- extra_slow_worker: true- limit_max_steps: true- preload_timeout: 120extra_slow_worker: true . Рабочие AI Horde постоянно совершенствуются. Вы можете следить за прогрессом в нашем дискорде и получать уведомления об обновлениях там. Если вы заинтересованы в получении уведомлений об обновлениях или бета-версиях рабочих, перейдите на канал #get-roles и получите соответствующие роли.
Приведенные ниже инструкции относятся к horde-bridge или update-runtime . В зависимости от вашей ОС добавьте .cmd для Windows или .sh для Linux.
horde-bridge.cmd и update-runtime.cmd для Windows с картой NVIDIA.horde-bridge-rocm.sh и update-runtime-rocm.sh где это возможно. Завершите работу своего работника, нажав один раз Ctrl+C и дождавшись его остановки.
Обновите этот репозиторий, используя соответствующий метод:
Вы можете дважды щелкнуть предоставленные ниже файлы сценариев в проводнике или запустить их из терминала, например bash , cmd в зависимости от вашей ОС. Последний вариант позволит вам увидеть ошибки в случае сбоя , поэтому рекомендуется.
Используйте этот подход, если вы клонировали исходный репозиторий с помощью git clone
bash , cmd или powershell в зависимости от вашей ОС.git pullСм. Обновление среды выполнения.
Используйте этот подход, если вы загрузили репозиторий git в виде zip-файла и извлекли его куда-нибудь.
horde_worker_regen/ из своей папки.См. Обновление среды выполнения.
Предупреждение . Сообщалось, что некоторые антивирусы (включая Avast) мешают установке. Если вы получаете сообщение об ошибке
curl: (35) schannel: next InitializeSecurityContext failed: CRYPT_E_NO_REVOCATION_CHECKпри запуске этого файла, отключите антивирус, запустите файл еще раз, а затем снова включите антивирус.
Запустите сценарий update-runtime для вашей ОС. При необходимости будут обновлены все зависимости.
Продолжите следовать инструкциям по запуску/остановке ниже.
Примечание . Worker — это очень требовательная к системе и графическому процессору программа. По возможности не следует играть в видеоигры или выполнять другие трудоемкие задачи (например, редактирование изображений/видео). Если вы хотите участвовать в этих действиях, либо отключите работника, либо настройте его на использование только небольших моделей с ограниченными настройками и внимательно следите за системным монитором.
Если вы устанавливаете программу впервые или требуются обновления, см. инструкции в разделе «Обновление».
Запустите horde-bridge (.cmd для Windows, .sh для Linux).
horde-bridge-rocm .Ctrl+C .Пока воркер работает, вы можете следить за его ходом прямо в терминале. Ищите журналы, показывающие успешное завершение задания, заработанные награды, статистику производительности и любые ошибки.
Для более детального мониторинга проверьте каталог logs , который содержит файлы ежедневного журнала.
bridge*.log .bridge.log — это главное окно, которое вы видите во всплывающем окне.bridge_n.log соответствует каждому процессу, который появляется в основном файле журнала. «Процесс 1» будет bridge_1.log .trace*.log появится список только ошибок/предупреждений.trace.log — это главное окно, которое вы видите во всплывающем окне.trace_n.log соответствует каждому процессу, который появляется в основном файле журнала. «Процесс 1» будет иметь trace_1.log ».В будущем вам не нужно будет запускать несколько рабочих экземпляров.
Чтобы использовать несколько графических процессоров, каждый должен запустить свой собственный экземпляр. Для Linux вам просто нужно ограничить запуск конкретной картой:
CUDA_VISIBLE_DEVICES=0 ./horde-bridge.sh -n " My awesome instance #1 "
CUDA_VISIBLE_DEVICES=1 ./horde-bridge.sh -n " My awesome instance #2 "и т. д.
Имейте в виду , что вам понадобится очень большой (32–64 ГБ+) объем системной оперативной памяти в зависимости от ваших настроек. queue_size и max_threads существенно увеличивают объем оперативной памяти, необходимый для каждого работника.
Вы можете разместить в орде свои собственные модели изображений, которых нет в нашем справочнике моделей, но этот процесс немного сложнее.
Для начала вам нужно вручную запросить роль customizer у команды Орды. Вы можете попросить об этом в дискорд-канале. Эта роль назначается вручную во избежание злоупотреблений этой функцией.
Если у вас есть роль настройщика:
Загрузите файлы моделей, которые вы хотите разместить. Разместите их в любом месте вашей системы.
Укажите своему работнику их местонахождение и предоставьте некоторую информацию о них. В свой bridgeData.yaml добавьте строки, подобные следующим:
custom_models :
- name : Movable figure model XL
baseline : stable_diffusion_xl
filepath : /home/db0/projects/CUSTOM_MODELS/PVCStyleModelMovable_beta25Realistic.safetensors Добавьте то же «имя» в свой models_to_load .
Если все было настроено правильно, теперь вы должны увидеть файл custom_models.json в каталоге вашего воркера после запуска воркера, и модель должна быть предложена вашим воркером.
Обратите внимание, что:
clip_skip Вы можете найти образы докера по адресу https://hub.docker.com/r/tazlin/horde-worker-regen/tags.
См. Dockerfiles/README.md для получения подробного руководства по поддерживаемым функциям Docker.
См. также README_advanced.md для получения дополнительной информации о запуске работника вручную.
Для получения последней информации и помощи по устранению неполадок посетите канал #local-workers в нашем Discord. Сообщество всегда радо помочь!
Некоторые распространенные проблемы и их решения:
max_power .allow_post_processing , allow_controlnet , allow_sdxl_controlnet и/ allow_lora .max_threads , max_batch queue_size в вашей конфигурации (в указанном порядке), чтобы уменьшить использование VRAM/RAM. Избегайте запуска других интенсивных программ, пока рабочий процесс активен.Если вы столкнулись с ошибкой или у вас есть запрос на добавление функции, откройте проблему в репозитории. Мы ценим ваш вклад!
Многие модели в этом проекте используют лицензию CreativeML OpenRAIL. Пожалуйста, прочитайте полную лицензию здесь.
