Bem-vindo ao AI Horde, uma plataforma descentralizada gratuita e aberta para IA colaborativa! A Horda de IA permite que pessoas de todo o mundo contribuam com o poder da GPU para gerar imagens, texto e muito mais. Ao executar um trabalhador em sua máquina local, você pode ganhar elogios que lhe darão prioridade ao fazer suas próprias solicitações à horda.
Um trabalhador é um software que lida com trabalhos da Horda de IA, como gerar uma imagem a partir de um prompt de texto. Quando seu funcionário conclui um trabalho com sucesso, você é recompensado com elogios. Quanto mais elogios você tiver, mais rápido suas solicitações serão processadas.
A execução de um trabalhador não apenas rende elogios, mas também ajuda a apoiar o ecossistema AI Horde e coloca sua GPU para funcionar durante os ciclos ociosos. Quer você seja um artista que deseja gerar recursos personalizados, um desenvolvedor que precisa processar imagens em grande escala ou apenas alguém entusiasmado com a democratização da IA, a Horda tem algo a oferecer.
Se ainda não o fez, acesse AI Horde, registre uma conta e armazene sua chave de API em algum lugar seguro. Trate sua chave de API como uma senha. Você precisará dele posteriormente nestas instruções. Isso permitirá que seu funcionário receba elogios para sua conta.
Use estas instruções se você instalou o git para Windows.
Esta opção é recomendada porque tornará muito mais fácil manter seu repositório atualizado.
Abra powershell
(também conhecido como terminal) ou cmd
no menu Iniciar.
Usando cd
, navegue até uma pasta na qual deseja que o trabalhador seja instalado.
Observe que a pasta em que você está criará uma pasta chamada horde-worker-reGen
. Esta pasta não deve existir antes de você executar os comandos a seguir.
Se você deseja que ele seja instalado em C:horde
, execute o seguinte:
cd C:horde
Se a pasta horde
não existir:
cd C:
mkdir horde
cd C:horde
Se você estiver usando cmd
e quiser instalar em uma unidade diferente, inclua a opção /d
, assim:
cd /d G:horde
Execute os seguintes comandos dentro da pasta escolhida (a pasta horde
se estiver usando o exemplo acima)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGen
Continue com as instruções básicas de uso
Use estas instruções se você não tiver o git para Windows e não quiser instalá-lo. Essas instruções tornam a atualização do trabalhador um pouco mais difícil no futuro.
Isso pressupõe que você tenha o git instalado
Abra um terminal bash e execute estes comandos (basta copiar e colar todos juntos)
git clone https://github.com/Haidra-Org/horde-worker-reGen.git
cd horde-worker-reGen
Continue com as instruções básicas de uso
Foi demonstrado que a AMD agora tem melhor suporte, mas apenas para máquinas Linux - é melhor ter o Linux instalado diretamente em sua máquina. O suporte WSL é altamente experimental. Agora você pode seguir este guia usando horde-bridge-rocm.sh
e update-runtime-rocm.sh
quando apropriado.
Se você estiver disposto a experimentar sua placa AMD, participe da discussão do discord no discord oficial.
bridgeData_template.yaml
para bridgeData.yaml
bridgeData.yaml
e siga as instruções para preencher seus dados. Para garantir uma experiência tranquila ao administrar um trabalhador, lembre-se do seguinte:
threads
em 2 ou menos, a menos que você tenha uma placa de nível de data center com 48 GB+ VRAM.queue_size
especificado na configuração. Se você tiver menos de 32 GB de RAM do sistema, opte por queue_size
igual a 1. Para menos de 16 GB de RAM, serão necessárias otimizações adicionais (detalhadas abaixo). Os modelos são carregados conforme necessário e just-in-time. Você pode oferecer quantos modelos quiser , desde que tenha um SSD, pelo menos 32 GB de RAM e pelo menos 8 GB de VRAM (consulte Notas Importantes ). Trabalhadores com HDDs não são recomendados neste momento, mas aqueles com HDDs devem executar exatamente 1 modelo. Um modelo SD1.5 típico tem cerca de 2 GB cada, enquanto um modelo SDXL típico tem cerca de 7 GB cada. A oferta de all
os modelos está atualmente em torno de 700 GB no total e nos comprometemos a manter esse número abaixo de 1 TB com quaisquer alterações futuras.
Observação : sugerimos que você desative qualquer modo de suspensão ou de energia reduzida do seu sistema enquanto o trabalhador estiver em execução.
Se você tiver um cartão vram de 24 GB+ (por exemplo, 4090, 3090):
- safety_on_gpu : true
- high_performance_mode : true
- post_process_job_overlap : true
- unload_models_from_vram_often : false
- max_threads : 1 # If you have Flux/Cascade loaded, otherwise 2 max
- queue_size : 2 # You can set to 3 if you have 64GB or more of RAM
- max_batch : 8 # or higher
Se você tiver um cartão de 12 GB a 16 GB (por exemplo, 3080 TI, 4070, 4080/4080 Super):
- safety_on_gpu : true # Consider setting to `false` if offering Cascade or Flux
- moderate_performance_mode : true
- unload_models_from_vram_often : false
- max_threads : 1
- max_batch : 4 # or higher
Se você tiver uma placa vram de 8 GB a 10 GB (1080, 2080, 3060, 4060/4060 TI):
- queue_size : 1 # max **or** only offer flux
- safety_on_gpu : false
- max_threads : 1
- max_power : 32 # no higher than 32
- max_batch : 4 # no higher than 4
- allow_post_processing : false # If offering SDXL or Flux, otherwise you may set to true
- allow_sdxl_controlnet : false
Trabalhadores que possuem placas de baixo custo ou baixo desempenho por outros motivos :
- extra_slow_worker: true
- limit_max_steps: true
- preload_timeout: 120
extra_slow_worker: true
. Os trabalhadores da Horda de IA estão em constante melhoria. Você pode acompanhar o progresso em nosso discord e receber notificações sobre atualizações lá. Se você estiver interessado em receber notificações sobre atualizações de trabalhadores ou betas, acesse o canal #get-roles e obtenha as funções apropriadas.
As instruções abaixo referem-se horde-bridge
ou update-runtime
. Dependendo do seu sistema operacional, anexe .cmd
para Windows ou .sh
para Linux
horde-bridge.cmd
e update-runtime.cmd
para Windows com placa NVIDIA.horde-bridge-rocm.sh
e update-runtime-rocm.sh
quando apropriado. Desligue seu trabalhador pressionando Ctrl+C
uma vez e aguardando que o trabalhador pare.
Atualize este repositório usando o método apropriado:
Você pode clicar duas vezes nos arquivos de script fornecidos abaixo em um explorador de arquivos ou executá-lo em um terminal como bash
, cmd
dependendo do seu sistema operacional. A última opção permitirá que você veja erros em caso de travamento , por isso é recomendado.
Use esta abordagem se você clonou o repositório original usando git clone
bash
, cmd
ou powershell
dependendo do seu sistema operacionalgit pull
Consulte Atualizando o tempo de execução
Use esta abordagem se você baixou o repositório git como um arquivo zip e o extraiu em algum lugar.
horde_worker_regen/
da sua pastaConsulte Atualizando o tempo de execução
Aviso : Foi relatado que certos antivírus (incluindo o Avast) interferem na instalação. Se você receber o erro
curl: (35) schannel: next InitializeSecurityContext failed: CRYPT_E_NO_REVOCATION_CHECK
ao executar este arquivo, desative seu antivírus, execute o arquivo novamente e reative seu antivírus.
Execute o script update-runtime
para o seu sistema operacional. Isso atualizará todas as dependências, se necessário.
Continue com as instruções de partida/parada abaixo
Nota : O trabalhador é um programa que exige muito sistema e GPU. Você não deve jogar videogame ou realizar outras tarefas intensivas (como edição de imagens/vídeos) sempre que possível. Se você quiser se envolver nessas atividades, desligue o trabalhador ou configure-o para usar apenas modelos pequenos em configurações limitadas e observe atentamente o monitor do sistema.
Se for a primeira vez que você está instalando ou quando forem necessárias atualizações, consulte Atualização para obter instruções.
Execute horde-bridge
(.cmd para Windows, .sh para Linux).
horde-bridge-rocm
do arquivo.Ctrl+C
juntos.Enquanto o trabalhador está em execução, você pode monitorar seu progresso diretamente no terminal. Procure registros que indiquem a conclusão bem-sucedida do trabalho, elogios recebidos, estatísticas de desempenho e quaisquer erros.
Para um monitoramento mais detalhado, verifique o diretório logs
que contém arquivos de log diários.
bridge*.log
.bridge.log
é a janela principal que você vê.bridge_n.log
corresponde a cada processo que aparece no arquivo de log principal. "Processo 1" seria bridge_1.log
.trace*.log
.trace.log
é a janela principal que você vê.trace_n.log
corresponde a cada processo que aparece no arquivo de log principal. "Processo 1" seria trace_1.log
.No futuro, você não precisará executar várias instâncias de trabalho
Para usar várias GPUs, cada uma precisa iniciar sua própria instância. Para Linux, você só precisa limitar a execução a uma placa específica:
CUDA_VISIBLE_DEVICES=0 ./horde-bridge.sh -n " My awesome instance #1 "
CUDA_VISIBLE_DEVICES=1 ./horde-bridge.sh -n " My awesome instance #2 "
etc.
Esteja avisado que você precisará de uma quantidade muito alta (32-64 GB +) de RAM do sistema, dependendo de suas configurações. queue_size
e max_threads
aumentam substancialmente a quantidade de RAM necessária por trabalhador.
Você pode hospedar seus próprios modelos de imagem na horda que não estão disponíveis em nossa referência de modelo, mas esse processo é um pouco mais complexo.
Para começar, você precisa solicitar manualmente a função customizer
da equipe da horda. Você pode pedir no canal discord. Esta é uma função atribuída manualmente para evitar abuso deste recurso.
Depois de ter a função de personalizador:
Baixe os arquivos de modelo que você deseja hospedar. Coloque-os em qualquer local do seu sistema.
Aponte ao seu funcionário a localização dele e forneça algumas informações sobre ele. Em seu bridgeData.yaml
, adicione linhas como as seguintes:
custom_models :
- name : Movable figure model XL
baseline : stable_diffusion_xl
filepath : /home/db0/projects/CUSTOM_MODELS/PVCStyleModelMovable_beta25Realistic.safetensors
Adicione o mesmo "nome" ao seu models_to_load
.
Se tudo foi configurado corretamente, você deverá ver agora um custom_models.json
em seu diretório de trabalho após o trabalho ser iniciado, e o modelo deverá ser oferecido por seu trabalho.
Observe que:
clip_skip
Você pode encontrar as imagens do docker em https://hub.docker.com/r/tazlin/horde-worker-regen/tags.
Consulte Dockerfiles/README.md para obter um guia detalhado sobre a funcionalidade do docker suportada.
Consulte também README_advanced.md para obter mais detalhes sobre como executar o trabalhador manualmente.
Para obter as informações mais recentes e ajuda para solução de problemas, confira o canal #local-workers em nosso Discord. A comunidade está sempre disposta a ajudar!
Alguns problemas comuns e suas soluções:
max_power
.allow_post_processing
, allow_controlnet
, allow_sdxl_controlnet
e/ou allow_lora
.max_threads
, max_batch
ou queue_size
em sua configuração (nessa ordem de preferência) para reduzir o uso de VRAM/RAM. Evite executar outros programas intensivos enquanto o trabalhador estiver ativo.Se você encontrar um bug ou tiver uma solicitação de recurso, abra um problema no repositório. Agradecemos suas contribuições!
Muitos modelos neste projeto usam a licença CreativeML OpenRAIL. Por favor, leia a licença completa aqui.