Download dippy bittensor subnet - download do código-fonte dippy bittensor subnet

dippy bittensor subnet

Outro código-fonte

Baixar

Dippy SN11: Criando o melhor Roleplay LLM de código aberto do mundo

Confira a versão beta do nosso Front-End! Além disso, verifique nosso Tweet de lançamento para conhecer nossa visão de criar o melhor LLM de RPG de código aberto do mundo.

DIPPY

Introdução
Roteiro
Visão geral da funcionalidade do minerador e do validador
- Mineiro
- Validador
Executando mineradores e validadores
- Executando um mineiro
- Executando um validador
Contribuindo
Licença

Introdução

Observação: a documentação a seguir pressupõe que você esteja familiarizado com os conceitos básicos do Bittensor: mineradores, validadores e incentivos. Se você precisar de uma cartilha, verifique https://docs.bittensor.com/learn/bittensor-building-blocks.

Dippy é um dos principais aplicativos complementares de IA do mundo, com mais de 1 milhão de usuários . O aplicativo ficou em 3º lugar na App Store em países como a Alemanha, foi coberto por publicações como a revista Wired e o usuário médio do Dippy passa mais de 1 hora no aplicativo.

A sub-rede Dippy Roleplay no Bittensor visa criar o melhor LLM de roleplay de código aberto do mundo, aproveitando os esforços coletivos da comunidade de código aberto. Esta sub-rede aborda a questão crítica da solidão, que afecta uma parcela significativa da população e está ligada a vários problemas de saúde física e mental.

Os LLMs SOTA atuais (Claude, OpenAI etc.) são projetados para o caso de uso de assistente e carecem das qualidades empáticas necessárias para o companheirismo. Embora algumas empresas (como Character AI e Inflection) tenham desenvolvido LLMs de roleplay de código fechado, as alternativas de código aberto ficam significativamente atrás em desempenho.

DIPPY

Roteiro

Dada a complexidade de criar um LLM de roleplay de última geração, planejamos dividir o processo em 3 fases distintas.

Fase 1:

Lançamento de sub-rede com pipeline robusto para avaliação LLM de roleplay em conjuntos de dados públicos e comprimento de resposta
Tabela de classificação do modelo público com base em critérios de avaliação
Introduzir Coerência e Criatividade como critérios para avaliação de modelos ao vivo

Fase 2:

Lançar publicamente o front-end desenvolvido pelo modelo da semana enviado pelos principais mineradores
Submissão do modelo de segmento em diferentes categorias de "especialistas" (engraçado, romântico, terapêutico, etc.)
Os modelos com a pontuação mais alta em cada tipo de personalidade são escolhidos como modelos “especialistas” e disponibilizados publicamente no front-end

Fase 3:

Novo modelo de Mistura de Especialistas feito como linha de base com base nos modelos "especialistas" escolhidos na Fase 2
Pipeline robusto para avaliar novos envios de modelos MOE em relação a critérios de avaliação em tempo real
Expanda o estado da arte em LLMs de roleplay por meio de iteração contínua e coleta de dados

Visão geral da funcionalidade do minerador e do validador

visão geral

Os mineradores usariam estruturas existentes, técnicas de ajuste fino, ou MergeKit, para treinar, ajustar ou mesclar modelos para criar um LLM de roleplay exclusivo. Esses modelos seriam submetidos a um pool compartilhado de Hugging Face.

Os validadores avaliariam e avaliariam o desempenho do modelo por meio de nosso protocolo e classificariam os envios com base em várias métricas (empatia, concisão, etc.). Forneceremos um conjunto de protocolos de teste e benchmarking com conjuntos de dados de última geração.

Executando mineradores e validadores

Executando um mineiro

Requisitos

Python 3.8+
GPU com pelo menos 24 GB de VRAM

Configurar

Para começar, clone o repositório e cd nele:

 git clone https://github.com/impel-intelligence/dippy-bittensor-subnet.git
cd dippy-bittensor-subnet
pip install -e .

Enviando um modelo

Como minerador, você é responsável por aproveitar todos os métodos disponíveis à sua disposição, incluindo, entre outros, treinar novos modelos, mesclar modelos existentes (recomendamos MergeKit), ajustar modelos existentes e assim por diante para impulsionar os LLMs de RPG.

Descrevemos os seguintes critérios para a Fase 1:

Os modelos devem ter parâmetros 7B-13B. O tamanho máximo atual do modelo é 32 GB.
Não oferecemos suporte a modelos quantizados no momento...em breve!
Os modelos DEVEM ter o formato Safetensors! Verifique upload_models.py para saber como funciona a pré-verificação de upload do modelo.
Teste o modelo carregando o modelo usando transformers.AutoModelForCausalLM.from_pretrained
(Recomendado) Teste o modelo com entradas arbitrárias, antes de enviar, para verificar NaNs.
Os modelos que temos certeza de que funcionarão são da família Mistral-7B e Llama-3 8B.
Apoiamos os modelos de chat "alpaca", "chatml", "llama2", "llama3", "mistral", "vicuna" e "zephyr".

Quando estiver satisfeito com o desempenho do modelo para o caso de Roleplay, você pode simplesmente enviá-lo para Hugging Face ? e então use o seguinte comando:

python3 dippy_subnet/upload_model.py --hf_repo_id HF_REPO --wallet.name WALLET  --wallet.hotkey HOTKEY --chat_template MODEL_CHAT_TEMPLATE --model_dir PATH_TO_MODEL

Executando um validador

Requisitos

Python 3.9+
Chave de API para wandb (veja abaixo)

Configurar WandB (ALTAMENTE RECOMENDADO - VALIDADORES LEIA)

Antes de executar seu validador, é recomendado configurar Pesos e Vieses ( wandb ). O objetivo do wandb é rastrear as principais métricas dos validadores para uma página acessível ao público. aqui. É altamente recomendável que os validadores usem o wandb, pois ele permite que desenvolvedores de sub-redes e mineradores diagnostiquem problemas de forma mais rápida e eficaz, por exemplo, no caso de um validador receber pesos anormais. Os logs do Wandb são coletados por padrão e feitos de forma anônima, mas recomendamos a configuração de uma conta para facilitar a diferenciação entre validadores ao pesquisar execuções em nosso painel. Se você não quiser executar o WandB, poderá fazê-lo não fornecendo o sinalizador --wandb-key ao executar seu validador.

Antes de começar, conforme mencionado anteriormente, primeiro você precisa se registrar para uma conta wandb e, em seguida, definir sua chave API em seu sistema. Aqui está um guia passo a passo sobre como fazer isso no Ubuntu:

Etapa 1: Instalação do WANDB

Antes de fazer login, certifique-se de ter o pacote wandb Python instalado. Se você ainda não instalou, você pode fazer isso usando pip:

 # Should already be installed with the repo
pip install wandb

Etapa 2: Obtenha sua chave API

Faça login em sua conta Weights & Biases através de seu navegador.
Vá para as configurações da sua conta, geralmente acessíveis no canto superior direito do seu perfil.
Encontre a seção chamada "Chaves de API".
Copie sua chave de API. É uma longa sequência de caracteres exclusivos da sua conta.

Etapa 3: Configurando a chave API no Ubuntu

Para configurar sua chave API WANDB em sua máquina Ubuntu, siga estas etapas:

Faça login no WANDB : execute o seguinte comando no terminal:
```
wandb login
```
Insira sua chave API : quando solicitado, cole a chave API que você copiou das configurações da sua conta WANDB.
- Depois de colar sua chave API, pressione Enter .
- O WANDB deverá exibir uma mensagem confirmando que você está logado.
Verificando o Login : Para verificar se a chave API foi definida corretamente, você pode iniciar um pequeno script de teste em Python que usa WANDB. Se tudo estiver configurado corretamente, o script deverá ser executado sem erros de autenticação.
Configurando a variável de ambiente da chave de API (opcional) : Se preferir não fazer login sempre, você pode definir sua chave de API como uma variável de ambiente em seu arquivo ~/.bashrc ou ~/.bash_profile :
```
 echo ' export WANDB_API_KEY=your_api_key ' >> ~ /.bashrc
source ~ /.bashrc
```
Substitua your_api_key pela chave de API real. Este método autentica você automaticamente com wandb sempre que você abre uma nova sessão de terminal.

Configurar

Para começar, clone o repositório e cd nele:

 git clone https://github.com/impel-intelligence/dippy-bittensor-subnet.git
cd dippy-bittensor-subnet
pip install -e .

Para executar a avaliação, basta usar o seguinte comando:

 python neurons/validator.py --wallet.name WALLET_NAME --wallet.hotkey WALLET_HOT_NAME --wandb-key WANDBKEY

Para executar o validador de atualização automática com PM2 (recomendado):

pm2 start --name sn11-vali-updater --interpreter python scripts/start_validator.py -- --pm2_name sn11-vali --wallet.name WALLET_NAME --wallet.hotkey WALLET_HOT_NAME [other vali flags]

Observe que este validador chamará o serviço de validação de modelo hospedado pelos proprietários da sub-rede dippy. Se desejar executar o serviço de validação de modelo localmente, siga as instruções abaixo.

Executando a API de avaliação de modelo (opcional)

Nota : Atualmente (17 de junho de 2024) existem alguns problemas com a API de avaliação local. Recomendamos usar a API de validação remota temporariamente.

Iniciar um validador usando sua API de validador local requer iniciar o validador com o sinalizador --use-local-validation-api . Além disso, uma fila de modelos é necessária para enviar modelos para a API de validação.

Nota : A API do validador precisa ser instalada em um local diferente do validador devido ao conflito de versão pydantic .

Requisitos

Python 3.9+
Linux

Configurar

Instale o Git Lfs se não estiver instalado.

curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh | sudo bash
sudo apt-get install git-lfs

Se você estiver executando o runpod, também poderá precisar instalar o 'netstat'.

apt-get install net-tools

Para começar, clone o repositório e cd nele:

git clone https://github.com/impel-intelligence/dippy-bittensor-subnet.git
cd dippy-bittensor-subnet
python3 -m venv model_validation_venv
source model_validation_venv/bin/activate
model_validation_venv/bin/pip install -e . --no-deps
model_validation_venv/bin/pip install -r requirements_val_api.txt

Execute o serviço de API de validação de modelo (opcional)

(Observação: atualmente há alterações importantes que representam desafios para a execução de um serviço de API de validação local. Quaisquer tarefas que exijam os env vars ADMIN_KEY ou DIPPY_KEY se aplicam aqui)

 cd dippy_validation_api
chmod +x start_validation_service.sh
./start_validation_service.sh

Teste se está funcionando

python3 test_api.py

E você deverá ver um json mostrando que o status do modelo é "QUEUED" Executando o mesmo comando novamente por uma questão de sanidade, você deverá ver o status do modelo como "RUNNING".

Interromper o serviço de API de validação de modelo

chmod +x kill_validation_api.sh
./kill_validation_api.sh

Executando o validador com seu próprio serviço de API de validação executado localmente (opcional)

 # Make a separate venv for the validator because of pydantic version conflict
python -m venv validator_venv
validator_venv/bin/pip install -e .
validator_venv/bin/python neurons/validator.py --wallet.name WALLET_NAME --wallet.hotkey WALLET_HOT_NAME --use-local-validation-api
# Run model queue to push models to validation api to be evaluated
validator_venv/bin/python neurons/model_queue.py --use-local-validation-api

Critérios de avaliação do modelo

Tamanho do modelo

Um modelo menor terá uma pontuação mais alta do que um modelo grande. O tamanho do modelo é o espaço em disco ocupado pelo repositório de modelos de HF. O tamanho máximo do modelo é limitado a 72 GB.