mergeui

titre	émoticône	couleurDe	couleurÀ	SDK	version_sdk	version_python	fichier_app	pleineLargeur	en-tête	désactiver_embedding	startup_duration_timeout	licence	langue	ensembles de données	balises	description_courte	vignette	épinglé
Fusionner l'interface utilisateur	?	violet	rose	radio	4.31.5	3.9	mergeui/web/gradio_app/main.py	vrai	mini	FAUX	15m	apache-2.0	fr	open-llm-leaderboard/résultats	fusionner classement kit de fusion kit de fusion paresseux	Interface utilisateur tout-en-un pour les LLM fusionnés dans Hugging Face Hub	https://raw.githubusercontent.com/naskio/mergeui/main/static/brand/banner.svg	vrai

Interface utilisateur tout-en-un pour les LLM fusionnés dans Hugging Face

MergeUI est un projet open source qui vise à fournir une interface conviviale pour découvrir et analyser de grands modèles de langage fusionnés (Merged LLM) à partir du Hugging Face Hub. Il se concentre particulièrement sur les modèles fusionnés à l’aide de MergeKit.

• Essayez-le
• ? ‍ Dépôt GitHub
• ? Espace visage câlin

Développement

Exigences

Pour exécuter le projet localement, vous devez avoir installé les éléments suivants :

• Python3.9+
• Poésie 1.8+
• Visualisation graphique
• Docker avec Docker Compose

Installation

Une fois la configuration requise installée, vous pouvez configurer le projet en exécutant les commandes suivantes :

poetry install

Une fois les dépendances installées, assurez-vous de configurer les variables d'environnement en créant un fichier .env

cp .env.example .env

Conseil

Apprenez-en davantage sur les variables d'environnement dans le fichier settings.py.

Ensuite, nous devons lancer la base de données et Redis à l'aide de Docker Compose :

docker compose up -d

Conseil

exécutez docker compose down pour arrêter ces services lorsque vous avez terminé.

Courir

Note

Ce projet utilise poetry avec le plugin Poe the Poet pour exécuter des commandes, exécutez poe pour voir toutes les commandes disponibles.

Une fois la configuration terminée, nous devons indexer les modèles du Hugging Face Hub et les stocker dans la base de données.

Indexage

Pour les modèles d'indexation, nous utilisons RQ :

• Nous devons d’abord lancer certains Workers en exécutant la commande suivante dans des onglets de terminal séparés :

  poe worker

• Ensuite, nous pouvons démarrer le processus d'indexation en exécutant :

  poe index

• Pour surveiller le processus d'indexation, nous pouvons utiliser le tableau de bord RQ en exécutant :

  rq-dashboard

Important

Le processus d'indexation prend quelques minutes en fonction de vos ressources, du nombre de travailleurs et du nombre de modèles merge disponibles.

Note

Il faut environ 6 minutes pour indexer un graphique d'environ 12 000 modèles et d'environ 51 000 relations utilisant 64 travailleurs.

Visualisation

Une fois le processus d'indexation terminé, nous pouvons démarrer notre application en utilisant la commande suivante :

Serveur FastAPI avec une application Gradio

uvicorn mergeui.main:app --port 8000 --log-level trace

FastAPI uniquement (mode développement)

Avertissement

Définissez la variable d'environnement GRADIO_APP_DISABLED sur true pour désactiver l'application Gradio.

uvicorn mergeui.main:app --reload --port 8000 --log-level debug

Application Gradio uniquement (mode développement)

gradio mergeui/web/gradio_app/main.py # with reloading
python mergeui/web/gradio_app/main.py # without reloading 

Serveur Bokeh (mode développement)

poe bokeh_dev

Essai

Ce projet utilise pytest pour les tests, vous pouvez exécuter les tests à l'aide de la commande suivante :

poe test 

Contribuer

MergeUI est un nouveau projet, et toute contribution ferait une différence ! Que vous trouviez un bug, que vous ayez des commentaires ou des suggestions précieux, ou que vous souhaitiez simplement vous impliquer, nous serions ravis d'avoir de vos nouvelles !