mergeui

título	emoticons	corDe	corPara	SDK	versão_sdk	versão_python	arquivo_aplicativo	largura total	cabeçalho	desativar_incorporação	startup_duration_timeout	licença	linguagem	conjuntos de dados	etiquetas	descrição curta	miniatura	fixado
Mesclar UI	?	roxo	rosa	rádio	4.31.5	3.9	mergeui/web/gradio_app/main.py	verdadeiro	mini	falso	15m	apache-2.0	pt	open-llm-leaderboard/resultados	mesclar tabela de classificação kit de mesclagem preguiçosomergekit	UI completa para LLMs mesclados no Hugging Face Hub	https://raw.githubusercontent.com/naskio/mergeui/main/static/brand/banner.svg	verdadeiro

UI completa para LLMs mesclados em Hugging Face

MergeUI é um projeto de código aberto que visa fornecer uma interface amigável para descobrir e analisar grandes modelos de linguagem mesclados (Merged LLMs) do Hugging Face Hub. É particularmente focado em modelos que foram mesclados usando o MergeKit.

• Experimente
• ? ‍ Repositório GitHub
• ? Abraçando o espaço facial

Desenvolvimento

Requisitos

Para executar o projeto localmente, você precisa ter o seguinte instalado:

• Python 3.9+
• Poesia 1.8+
• Gráficoviz
• Docker com Docker Compose

Configurar

Depois de instalar os requisitos, você pode configurar o projeto executando os seguintes comandos:

poetry install

Depois que as dependências estiverem instaladas, certifique-se de configurar as variáveis ​​de ambiente criando um arquivo .env

cp .env.example .env

Dica

Encontre mais sobre as variáveis ​​de ambiente no arquivo settings.py.

Em seguida, precisamos iniciar o banco de dados e o Redis usando Docker Compose:

docker compose up -d

Dica

execute docker compose down para interromper esses serviços quando terminar.

Correr

Observação

Este projeto usa poetry com o plugin Poe the Poet para executar comandos, execute poe para ver todos os comandos disponíveis.

Assim que a configuração for concluída, precisamos indexar os modelos do Hugging Face Hub e armazená-los no banco de dados.

Indexação

Para modelos de indexação usamos RQ:

• Primeiro, precisamos iniciar alguns trabalhadores executando o seguinte comando em guias de terminal separadas:

  poe worker

• A seguir, podemos iniciar o processo de indexação executando:

  poe index

• Para monitorar o processo de indexação, podemos usar o painel RQ executando:

  rq-dashboard

Importante

O processo de indexação leva alguns minutos para ser concluído, dependendo dos seus recursos, número de trabalhadores e número de modelos merge disponíveis.

Observação

Demora cerca de 6 minutos para indexar um gráfico de aproximadamente 12 mil modelos e aproximadamente 51 mil relacionamentos usando 64 trabalhadores.

Visualização

Assim que o processo de indexação for concluído, podemos iniciar nosso aplicativo usando o seguinte comando:

Servidor FastAPI com um aplicativo Gradio

uvicorn mergeui.main:app --port 8000 --log-level trace

Somente FastAPI (modo dev)

Aviso

Defina a variável de ambiente GRADIO_APP_DISABLED como true para desabilitar o aplicativo Gradio.

uvicorn mergeui.main:app --reload --port 8000 --log-level debug

Apenas aplicativo Gradio (modo dev)

gradio mergeui/web/gradio_app/main.py # with reloading
python mergeui/web/gradio_app/main.py # without reloading 

Servidor Bokeh (modo dev)

poe bokeh_dev

Teste

Este projeto usa pytest para testes, você pode executar os testes usando o seguinte comando:

poe test 

Contribuindo

MergeUI é um projeto novo e qualquer contribuição faria a diferença! Quer você encontre um bug, tenha comentários ou sugestões valiosas ou simplesmente queira se envolver, adoraríamos ouvir sua opinião!