horde worker reGen
v9.3.2 - 'skipped' reason improvements
Willkommen bei der AI Horde, einer kostenlosen und offenen dezentralen Plattform für kollaborative KI! Die AI Horde ermöglicht es Menschen auf der ganzen Welt, ihre GPU-Leistung zur Generierung von Bildern, Texten und mehr beizutragen. Indem Sie einen Worker auf Ihrem lokalen Rechner ausführen, können Sie Kudos verdienen, die Ihnen Priorität einräumen, wenn Sie Ihre eigenen Anfragen an die Horde richten.
Ein Worker ist eine Software, die Aufgaben der KI-Horde abwickelt, beispielsweise das Generieren eines Bildes aus einer Textaufforderung. Wenn Ihr Mitarbeiter einen Auftrag erfolgreich abschließt, werden Sie mit Lob belohnt. Je mehr Kudos Sie haben, desto schneller werden Ihre eigenen Anfragen bearbeitet.
Das Ausführen eines Workers bringt Ihnen nicht nur Anerkennung ein, sondern trägt auch zur Unterstützung des KI-Horde-Ökosystems bei und setzt Ihre GPU in Leerlaufzyklen in Betrieb. Egal, ob Sie ein Künstler sind, der benutzerdefinierte Assets erstellen möchte, ein Entwickler, der Bilder in großem Maßstab verarbeiten muss, oder einfach nur jemand, der sich für die Demokratisierung von KI interessiert, die Horde hat etwas zu bieten.
Wenn Sie es noch nicht getan haben, gehen Sie zu AI Horde, registrieren Sie ein Konto und bewahren Sie dann Ihren API-Schlüssel an einem sicheren Ort auf. Behandeln Sie Ihren API-Schlüssel wie ein Passwort. Sie werden es später in dieser Anleitung benötigen. Dadurch kann Ihr Mitarbeiter Kudos für Ihr Konto sammeln.
Befolgen Sie diese Anweisungen, wenn Sie Git für Windows installiert haben.
Diese Option wird empfohlen, da sie es wesentlich einfacher macht, Ihr Repository auf dem neuesten Stand zu halten.
Öffnen Sie powershell (auch Terminal genannt) oder cmd im Startmenü.
Navigieren Sie mit cd zu einem Ordner, in dem der Worker installiert werden soll.
Beachten Sie, dass der Ordner, in dem Sie sich befinden, einen Ordner mit dem Namen horde-worker-reGen erstellt. Dieser Ordner sollte nicht vorhanden sein, bevor Sie die folgenden Befehle ausführen.
Wenn Sie möchten, dass es unter C:horde installiert wird, führen Sie Folgendes aus:
cd C:horde Wenn der horde -Ordner nicht existiert:
cd C:
mkdir horde
cd C:horde Wenn Sie cmd verwenden und auf einem anderen Laufwerk installieren möchten, schließen Sie die Option /d ein, etwa so:
cd /d G:horde Führen Sie die folgenden Befehle im ausgewählten Ordner aus (im Beispiel oben im Ordner „ horde ).
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenFahren Sie mit den grundlegenden Gebrauchsanweisungen fort
Verwenden Sie diese Anweisungen, wenn Sie Git für Windows nicht haben und es nicht installieren möchten. Diese Anweisungen machen die Aktualisierung des Workers später etwas schwieriger.
Dies setzt voraus, dass Sie Git installiert haben
Öffnen Sie ein Bash-Terminal und führen Sie diese Befehle aus (kopieren Sie sie einfach alle und fügen Sie sie zusammen ein).
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenFahren Sie mit den grundlegenden Gebrauchsanweisungen fort
Es hat sich gezeigt, dass AMD jetzt eine bessere Unterstützung bietet, allerdings nur für Linux-Rechner – es ist am besten, Linux direkt auf Ihrem Rechner zu installieren. Die WSL-Unterstützung ist sehr experimentell. Sie können dieser Anleitung jetzt folgen, indem Sie gegebenenfalls horde-bridge-rocm.sh und update-runtime-rocm.sh verwenden.
Wenn Sie bereit sind, es mit Ihrer AMD-Karte zu versuchen, nehmen Sie an der Discord-Diskussion im offiziellen Discord teil.
bridgeData_template.yaml in bridgeData.yamlbridgeData.yaml und befolgen Sie die darin enthaltenen Anweisungen, um Ihre Daten einzugeben. Um einen reibungslosen Ablauf bei der Ausführung eines Workers zu gewährleisten, beachten Sie bitte Folgendes:
threads bei 2 oder weniger, es sei denn, Sie verfügen über eine Karte der Rechenzentrumsqualität mit 48 GB+ VRAM.queue_size . Wenn Sie weniger als 32 GB System-RAM haben, bleiben Sie bei queue_size von 1. Für weniger als 16 GB RAM sind zusätzliche Optimierungen erforderlich (siehe unten). Modelle werden bedarfsgerecht und just-in-time geladen. Sie können so viele Modelle anbieten, wie Sie möchten , vorausgesetzt, Sie verfügen über eine SSD, mindestens 32 GB RAM und mindestens 8 GB VRAM (siehe Wichtige Hinweise ). Worker mit Festplatten werden derzeit nicht empfohlen, aber diejenigen mit Festplatten sollten genau ein Modell ausführen. Ein typisches SD1,5-Modell hat jeweils etwa 2 GB, während ein typisches SDXL-Modell jeweils etwa 7 GB hat. Das Angebot all Modelle umfasst derzeit etwa 700 GB und wir verpflichten uns, diese Zahl bei künftigen Änderungen unter 1 TB zu halten.
Hinweis : Wir empfehlen Ihnen, alle Ruhezustände oder Energiesparmodi für Ihr System zu deaktivieren, während der Worker ausgeführt wird.
Wenn Sie eine VRAM-Karte mit mehr als 24 GB haben (z. B. 4090, 3090):
- safety_on_gpu : true
- high_performance_mode : true
- post_process_job_overlap : true
- unload_models_from_vram_often : false
- max_threads : 1 # If you have Flux/Cascade loaded, otherwise 2 max
- queue_size : 2 # You can set to 3 if you have 64GB or more of RAM
- max_batch : 8 # or higherWenn Sie eine 12-GB-16-GB-Karte haben (z. B. 3080 TI, 4070, 4080/4080 Super):
- safety_on_gpu : true # Consider setting to `false` if offering Cascade or Flux
- moderate_performance_mode : true
- unload_models_from_vram_often : false
- max_threads : 1
- max_batch : 4 # or higherWenn Sie eine 8-GB-10-GB-VRAM-Karte (1080, 2080, 3060, 4060/4060 TI) haben:
- queue_size : 1 # max **or** only offer flux
- safety_on_gpu : false
- max_threads : 1
- max_power : 32 # no higher than 32
- max_batch : 4 # no higher than 4
- allow_post_processing : false # If offering SDXL or Flux, otherwise you may set to true
- allow_sdxl_controlnet : falseArbeitnehmer, die über minderwertige Karten verfügen oder aus anderen Gründen eine geringe Leistung erbringen :
- extra_slow_worker: true- limit_max_steps: true- preload_timeout: 120extra_slow_worker: true . Die Arbeiter der KI-Horde werden ständig verbessert. Sie können den Fortschritt in unserem Discord verfolgen und dort Benachrichtigungen über Updates erhalten. Wenn Sie daran interessiert sind, Benachrichtigungen über Worker-Updates oder Betas zu erhalten, gehen Sie zum Kanal #get-roles und holen Sie sich die entsprechende(n) Rolle(n).
Die folgenden Anweisungen beziehen sich auf horde-bridge oder update-runtime . Hängen Sie je nach Betriebssystem .cmd für Windows oder .sh für Linux an
horde-bridge.cmd und update-runtime.cmd für Windows mit einer NVIDIA-Karte.horde-bridge-rocm.sh und update-runtime-rocm.sh verwenden. Fahren Sie Ihren Worker herunter, indem Sie einmal Ctrl+C drücken und warten, bis der Worker stoppt.
Aktualisieren Sie dieses Repo mit der entsprechenden Methode:
Sie können in einem Datei-Explorer auf die unten bereitgestellten Skriptdateien doppelklicken oder sie je nach Betriebssystem über ein Terminal wie bash oder cmd ausführen. Die letztere Option ermöglicht es Ihnen , im Falle eines Absturzes Fehler anzuzeigen , daher wird sie empfohlen.
Verwenden Sie diesen Ansatz, wenn Sie das ursprüngliche Repository mit git clone Clone geklont haben
bash , cmd oder powershell Terminalgit pull ausSiehe Laufzeit aktualisieren
Verwenden Sie diesen Ansatz, wenn Sie das Git-Repository als ZIP-Datei heruntergeladen und irgendwo extrahiert haben.
horde_worker_regen/ aus Ihrem OrdnerSiehe Laufzeit aktualisieren
Warnung : Es wurde berichtet, dass bestimmte Antivirenprogramme (einschließlich Avast) die Installation stören. Wenn beim Ausführen dieser Datei die Fehlermeldung
curl: (35) schannel: next InitializeSecurityContext failed: CRYPT_E_NO_REVOCATION_CHECKangezeigt wird, deaktivieren Sie Ihr Antivirenprogramm, führen Sie die Datei erneut aus und aktivieren Sie dann Ihr Antivirenprogramm erneut.
Führen Sie das update-runtime Skript für Ihr Betriebssystem aus. Dadurch werden bei Bedarf alle Abhängigkeiten aktualisiert.
Fahren Sie mit den nachstehenden Anweisungen zum Starten/Stoppen fort
Hinweis : Der Worker ist ein sehr system- und GPU-intensives Programm. Sie sollten nach Möglichkeit keine Videospiele spielen oder andere intensive Aufgaben (z. B. Bild-/Videobearbeitung) erledigen. Wenn Sie sich an diesen Aktivitäten beteiligen möchten, schalten Sie entweder den Worker aus oder konfigurieren Sie ihn so, dass nur kleine Modelle mit begrenzten Einstellungen verwendet werden, und beobachten Sie Ihren Systemmonitor genau.
Wenn Sie die Installation zum ersten Mal durchführen oder Aktualisierungen erforderlich sind, finden Sie Anweisungen unter „Aktualisieren“.
Führen Sie horde-bridge aus (.cmd für Windows, .sh für Linux).
horde-bridge-rocm Versionen der Datei.Ctrl+C .Während der Worker ausgeführt wird, können Sie seinen Fortschritt direkt im Terminal überwachen. Suchen Sie nach Protokollen, die den erfolgreichen Abschluss eines Auftrags, verdientes Lob, Leistungsstatistiken und etwaige Fehler anzeigen.
Für eine detailliertere Überwachung sehen Sie sich das logs an, das tägliche Protokolldateien enthält.
bridge*.log Dateien angezeigt.bridge.log ist das Hauptfenster, das angezeigt wird.bridge_n.log entspricht jedem Prozess, der in der Hauptprotokolldatei angezeigt wird. „Prozess 1“ wäre bridge_1.log “.trace*.log Dateien wird nur eine Liste mit Fehlern/Warnungen angezeigt.trace.log ist das Hauptfenster, das angezeigt wird.trace_n.log entspricht jedem Prozess, der in der Hauptprotokolldatei angezeigt wird. „Prozess 1“ wäre trace_1.log “.In Zukunft müssen Sie nicht mehr mehrere Worker-Instanzen ausführen
Um mehrere GPUs zu verwenden, muss jede ihre eigene Instanz starten. Unter Linux müssen Sie die Ausführung lediglich auf eine bestimmte Karte beschränken:
CUDA_VISIBLE_DEVICES=0 ./horde-bridge.sh -n " My awesome instance #1 "
CUDA_VISIBLE_DEVICES=1 ./horde-bridge.sh -n " My awesome instance #2 "usw.
Seien Sie gewarnt , dass Sie abhängig von Ihren Einstellungen eine sehr hohe Menge an System-RAM (32–64 GB+) benötigen. queue_size und max_threads erhöhen die pro Worker erforderliche RAM-Menge erheblich.
Sie können Ihre eigenen Bildmodelle in der Horde hosten, die in unserer Modellreferenz nicht verfügbar sind. Dieser Vorgang ist jedoch etwas komplexer.
Zunächst müssen Sie die customizer -Rolle manuell beim Horde-Team anfordern. Du kannst im Discord-Kanal danach fragen. Dies ist eine manuell zugewiesene Rolle, um einen Missbrauch dieser Funktion zu verhindern.
Sobald Sie die Customizer-Rolle haben:
Laden Sie die Modelldateien herunter, die Sie hosten möchten. Platzieren Sie sie an einem beliebigen Ort auf Ihrem System.
Weisen Sie Ihren Mitarbeiter auf seinen Standort hin und geben Sie einige Informationen über ihn an. Fügen Sie in Ihrer bridgeData.yaml Zeilen wie die folgenden hinzu:
custom_models :
- name : Movable figure model XL
baseline : stable_diffusion_xl
filepath : /home/db0/projects/CUSTOM_MODELS/PVCStyleModelMovable_beta25Realistic.safetensors Fügen Sie den gleichen „Namen“ zu Ihrem models_to_load hinzu.
Wenn alles korrekt eingerichtet wurde, sollten Sie nach dem Start des Workers nun eine custom_models.json in Ihrem Worker-Verzeichnis sehen und das Modell sollte von Ihrem Worker angeboten werden.
Beachten Sie, dass:
clip_skip verwenden Sie finden die Docker-Bilder unter https://hub.docker.com/r/tazlin/horde-worker-regen/tags.
Eine detaillierte Anleitung zur unterstützten Docker-Funktionalität finden Sie unter Dockerfiles/README.md.
Weitere Informationen zum manuellen Ausführen des Workers finden Sie auch in README_advanced.md.
Die neuesten Informationen und Hilfe zur Fehlerbehebung finden Sie im Kanal #local-workers in unserem Discord. Die Community hilft immer gerne mit!
Einige häufige Probleme und ihre Lösungen:
max_power .allow_post_processing , allow_controlnet , allow_sdxl_controlnet und/oder allow_lora .max_threads , max_batch oder queue_size in Ihrer Konfiguration (in dieser bevorzugten Reihenfolge), um die VRAM/RAM-Nutzung zu reduzieren. Vermeiden Sie die Ausführung anderer intensiver Programme, während der Worker aktiv ist.Wenn Sie auf einen Fehler stoßen oder eine Funktionsanfrage haben, öffnen Sie bitte ein Issue im Repo. Wir freuen uns über Ihre Beiträge!
Viele Modelle in diesem Projekt verwenden die CreativeML OpenRAIL-Lizenz. Bitte lesen Sie die vollständige Lizenz hier.
