horde worker reGen
v9.3.2 - 'skipped' reason improvements
Selamat datang di AI Horde, platform terdesentralisasi yang gratis dan terbuka untuk AI kolaboratif! AI Horde memungkinkan orang-orang dari seluruh dunia menyumbangkan kekuatan GPU mereka untuk menghasilkan gambar, teks, dan banyak lagi. Dengan menjalankan pekerja di mesin lokal Anda, Anda bisa mendapatkan pujian yang memberi Anda prioritas saat membuat permintaan Anda sendiri ke gerombolan tersebut.
Pekerja adalah perangkat lunak yang menangani pekerjaan dari AI Horde, seperti menghasilkan gambar dari perintah teks. Ketika pekerja Anda berhasil menyelesaikan suatu pekerjaan, Anda dihargai dengan pujian. Semakin banyak pujian yang Anda miliki, semakin cepat permintaan Anda akan diproses.
Menjalankan pekerja tidak hanya memberi Anda pujian, tetapi juga membantu mendukung ekosistem AI Horde dan membuat GPU Anda bekerja selama siklus idle. Baik Anda seorang seniman yang ingin menghasilkan aset khusus, pengembang yang perlu memproses gambar dalam skala besar, atau hanya seseorang yang tertarik dengan demokratisasi AI, Horde memiliki sesuatu untuk ditawarkan.
Jika Anda belum melakukannya, buka AI Horde dan daftarkan akun, lalu simpan kunci API Anda di tempat yang aman. Perlakukan kunci API Anda seperti kata sandi. Anda akan membutuhkannya nanti dalam petunjuk ini. Ini akan memungkinkan pekerja Anda mengumpulkan pujian untuk akun Anda.
Gunakan petunjuk ini jika Anda telah menginstal git untuk windows.
Opsi ini direkomendasikan karena akan membuat repositori Anda tetap mutakhir dengan lebih mudah.
Buka powershell (juga disebut terminal) atau cmd dari menu mulai.
Menggunakan cd , navigasikan ke folder tempat Anda ingin pekerja diinstal.
Perhatikan bahwa folder tempat Anda berada akan membuat folder bernama horde-worker-reGen . Folder ini seharusnya tidak ada sebelum Anda menjalankan perintah berikut.
Jika Anda ingin menginstalnya di C:horde , jalankan perintah berikut:
cd C:horde Jika folder horde tidak ada:
cd C:
mkdir horde
cd C:horde Jika Anda menggunakan cmd dan ingin menginstal di drive lain, sertakan opsi /d , seperti:
cd /d G:horde Jalankan perintah berikut di dalam folder yang dipilih (folder horde jika menggunakan contoh di atas)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenLanjutkan dengan petunjuk Penggunaan Dasar
Gunakan petunjuk ini jika Anda tidak memiliki git untuk windows dan tidak ingin menginstalnya. Instruksi ini membuat pembaruan pekerja menjadi sedikit lebih sulit.
Ini mengasumsikan Anda telah menginstal git
Buka terminal bash dan jalankan perintah ini (cukup salin-tempel semuanya)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGenLanjutkan dengan petunjuk Penggunaan Dasar
AMD sekarang telah terbukti memiliki dukungan yang lebih baik tetapi hanya untuk mesin linux - yang terbaik adalah menginstal linux langsung di mesin Anda. Dukungan WSL sangat eksperimental. Anda sekarang dapat mengikuti panduan ini menggunakan horde-bridge-rocm.sh dan update-runtime-rocm.sh jika diperlukan.
Jika Anda ingin mencoba dengan kartu AMD Anda, bergabunglah dalam diskusi perselisihan di perselisihan resmi.
bridgeData_template.yaml ke bridgeData.yamlbridgeData.yaml dan ikuti petunjuk di dalamnya untuk mengisi detail Anda. Untuk memastikan kelancaran pengalaman menjalankan pekerja, harap perhatikan hal berikut:
threads pada 2 atau lebih rendah kecuali Anda memiliki kartu kelas pusat data dengan VRAM 48GB+.queue_size yang ditentukan dalam konfigurasi. Jika Anda memiliki RAM sistem kurang dari 32GB, tetap gunakan queue_size 1. Untuk RAM kurang dari 16GB, diperlukan optimasi tambahan (dirinci di bawah). Model dimuat sesuai kebutuhan dan tepat waktu. Anda dapat menawarkan model sebanyak yang Anda inginkan asalkan Anda memiliki SSD, ram minimal 32 GB, dan VRAM minimal 8 GB (lihat Catatan Penting ). Pekerja dengan HDD tidak disarankan saat ini tetapi pekerja dengan HDD harus menjalankan tepat 1 model. Model SD1.5 pada umumnya berukuran sekitar 2 GB, sedangkan model SDXL pada umumnya berukuran sekitar 7 GB. Penawaran untuk all model saat ini berjumlah sekitar 700 GB dan kami berkomitmen untuk menjaga jumlah tersebut di bawah 1 TB dengan perubahan apa pun di masa mendatang.
Catatan : Kami menyarankan Anda menonaktifkan mode 'tidur' atau pengurangan daya apa pun untuk sistem Anda saat pekerja sedang berjalan.
Jika Anda memiliki kartu vram 24gb+ (misal, 4090, 3090):
- safety_on_gpu : true
- high_performance_mode : true
- post_process_job_overlap : true
- unload_models_from_vram_often : false
- max_threads : 1 # If you have Flux/Cascade loaded, otherwise 2 max
- queue_size : 2 # You can set to 3 if you have 64GB or more of RAM
- max_batch : 8 # or higherJika Anda memiliki kartu 12 GB - 16 GB (misal, 3080 TI, 4070, 4080/4080 Super):
- safety_on_gpu : true # Consider setting to `false` if offering Cascade or Flux
- moderate_performance_mode : true
- unload_models_from_vram_often : false
- max_threads : 1
- max_batch : 4 # or higherJika Anda memiliki kartu vram 8gb-10gb (1080, 2080, 3060, 4060/4060 TI):
- queue_size : 1 # max **or** only offer flux
- safety_on_gpu : false
- max_threads : 1
- max_power : 32 # no higher than 32
- max_batch : 4 # no higher than 4
- allow_post_processing : false # If offering SDXL or Flux, otherwise you may set to true
- allow_sdxl_controlnet : falsePekerja yang memiliki kartu kelas bawah atau kinerja rendah karena alasan lain :
- extra_slow_worker: true- limit_max_steps: true- preload_timeout: 120extra_slow_worker: true . Para pekerja AI Horde terus mengalami peningkatan. Anda dapat mengikuti kemajuan dalam perselisihan kami dan mendapatkan pemberitahuan tentang pembaruan di sana. Jika Anda tertarik menerima notifikasi untuk pembaruan atau beta pekerja, buka saluran #get-roles dan dapatkan peran yang sesuai.
Petunjuk di bawah ini mengacu pada horde-bridge atau update-runtime . Tergantung pada OS Anda, tambahkan .cmd untuk windows, atau .sh untuk linux
horde-bridge.cmd dan update-runtime.cmd untuk windows dengan kartu NVIDIA.horde-bridge-rocm.sh dan update-runtime-rocm.sh jika diperlukan. Matikan pekerja Anda dengan menekan Ctrl+C sekali dan menunggu pekerja berhenti.
Perbarui repo ini menggunakan metode yang sesuai:
Anda dapat mengklik dua kali file skrip yang disediakan di bawah ini dari file explorer atau menjalankannya dari terminal seperti bash , cmd tergantung pada OS Anda. Opsi terakhir akan memungkinkan Anda melihat kesalahan jika terjadi kerusakan , jadi disarankan.
Gunakan pendekatan ini jika Anda mengkloning repositori asli menggunakan git clone
bash , cmd , atau powershell tergantung pada OS Andagit pullLihat Memperbarui waktu proses
Gunakan pendekatan ini jika Anda mengunduh repositori git sebagai file zip dan mengekstraknya di suatu tempat.
horde_worker_regen/ dari folder AndaLihat Memperbarui waktu proses
Peringatan : Antivirus tertentu (termasuk Avast) dilaporkan mengganggu instalasi. Jika Anda mendapatkan kesalahan
curl: (35) schannel: next InitializeSecurityContext failed: CRYPT_E_NO_REVOCATION_CHECKsaat menjalankan file ini, nonaktifkan antivirus Anda, jalankan kembali file tersebut, lalu aktifkan kembali antivirus Anda.
Jalankan skrip update-runtime untuk OS Anda. Ini akan memperbarui semua dependensi jika diperlukan.
Lanjutkan dengan petunjuk Memulai/menghentikan di bawah
Catatan : Pekerja adalah program yang sangat intensif sistem dan GPU. Anda tidak boleh bermain video game atau melakukan tugas intensif lainnya (seperti mengedit gambar/video) jika memungkinkan. Jika Anda ingin terlibat dalam aktivitas tersebut, matikan pekerja atau konfigurasikan untuk hanya menggunakan model kecil dengan pengaturan terbatas dan awasi monitor sistem Anda dengan cermat.
Jika ini pertama kalinya Anda menginstal, atau saat pembaruan diperlukan, lihat Memperbarui untuk petunjuknya.
Jalankan horde-bridge (.cmd untuk Windows, .sh untuk Linux).
horde-bridge-rocm .Ctrl+C bersamaan.Saat pekerja sedang berjalan, Anda dapat memantau kemajuannya langsung di terminal. Cari log yang menunjukkan keberhasilan penyelesaian pekerjaan, pujian yang diperoleh, statistik kinerja, dan kesalahan apa pun.
Untuk pemantauan lebih detail, lihat direktori logs yang berisi file log harian.
bridge*.log .bridge.log adalah jendela utama yang Anda lihat munculan.bridge_n.log berhubungan dengan setiap proses yang muncul di file log utama. "Proses 1" adalah bridge_1.log .trace*.log .trace.log adalah jendela utama yang Anda lihat munculan.trace_n.log berhubungan dengan setiap proses yang muncul di file log utama. "Proses 1" adalah trace_1.log .Di masa depan, Anda tidak perlu menjalankan banyak instance pekerja
Untuk menggunakan beberapa GPU, masing-masing GPU harus memulai instance-nya sendiri. Untuk Linux, Anda hanya perlu membatasi proses pada kartu tertentu:
CUDA_VISIBLE_DEVICES=0 ./horde-bridge.sh -n " My awesome instance #1 "
CUDA_VISIBLE_DEVICES=1 ./horde-bridge.sh -n " My awesome instance #2 "dll.
Berhati-hatilah karena Anda memerlukan jumlah RAM sistem yang sangat tinggi (32-64gb+) tergantung pada pengaturan Anda. queue_size dan max_threads meningkatkan jumlah RAM yang dibutuhkan per pekerja secara signifikan.
Anda dapat menghosting model gambar Anda sendiri di gerombolan yang tidak tersedia dalam referensi model kami, namun proses ini sedikit lebih rumit.
Untuk memulainya, Anda perlu meminta peran customizer secara manual dari tim gerombolan. Anda dapat memintanya di saluran perselisihan. Ini adalah peran yang ditetapkan secara manual untuk mencegah penyalahgunaan fitur ini.
Setelah Anda memiliki peran penyesuai:
Unduh file model yang ingin Anda host. Tempatkan mereka di lokasi mana pun di sistem Anda.
Arahkan pekerja Anda ke lokasi mereka dan berikan beberapa informasi tentang mereka. Di bridgeData.yaml Anda, tambahkan baris seperti berikut:
custom_models :
- name : Movable figure model XL
baseline : stable_diffusion_xl
filepath : /home/db0/projects/CUSTOM_MODELS/PVCStyleModelMovable_beta25Realistic.safetensors Tambahkan "nama" yang sama ke models_to_load Anda.
Jika semuanya telah diatur dengan benar, Anda sekarang akan melihat custom_models.json di direktori pekerja Anda setelah pekerja dimulai, dan model tersebut akan ditawarkan oleh pekerja Anda.
Perhatikan bahwa:
clip_skip Anda dapat menemukan gambar buruh pelabuhan di https://hub.docker.com/r/tazlin/horde-worker-regen/tags.
Lihat Dockerfiles/README.md untuk panduan rinci tentang fungsionalitas buruh pelabuhan yang didukung.
Lihat juga README_advanced.md untuk rincian lebih lanjut tentang menjalankan pekerja secara manual.
Untuk info terbaru dan bantuan pemecahan masalah, lihat saluran #pekerja lokal di Discord kami. Komunitas selalu dengan senang hati membantu!
Beberapa permasalahan umum dan solusinya:
max_power Anda.allow_post_processing , allow_controlnet , allow_sdxl_controlnet , dan/atau allow_lora .max_threads , max_batch , atau queue_size di konfigurasi Anda (sesuai urutan preferensi) untuk mengurangi penggunaan VRAM/RAM. Hindari menjalankan program intensif lainnya saat pekerja aktif.Jika Anda menemukan bug atau memiliki permintaan fitur, silakan buka masalah di repo. Kami menghargai kontribusi Anda!
Banyak model dalam proyek ini menggunakan Lisensi CreativeML OpenRAIL. Silakan baca lisensi lengkapnya di sini.
