eternal

Éternel

Eternal est une plateforme expérimentale pour les workflows d'apprentissage automatique.

REMARQUE : Cette application est un travail en cours et n'est pas stable. Veuillez considérer ce dépôt pour votre référence. Nous apprécions les contributeurs et les commentaires constructifs. Vous pouvez également l'utiliser comme référence pour vos propres projets.

Eternal intègre divers projets tels que llama.cpp , ComfyUI et codapi parmi de nombreux autres projets dont les développeurs ont eu la gentillesse de partager avec le monde. Tout le crédit appartient aux contributeurs respectifs de toutes les dépendances sur lesquelles repose ce dépôt. Merci de partager vos projets avec le monde.

L'interface Eternal est rendue avec le légendaire framework HTMX .

IMPORTANT:

Configurez le niveau quantitatif des modèles dans votre config.yml en fonction des spécifications de votre système. Si un modèle local ne parvient pas à s'exécuter, recherchez la raison en consultant le fichier main.log généré. La raison la plus courante est une RAM insuffisante ou un modèle d'invite incorrect. Nous mettrons en œuvre une gestion des erreurs et une journalisation plus robustes dans un futur commit.

Caractéristiques

• Configuration et téléchargement faciles du modèle ML. Voir l'exemple de catalogue de modèles par défaut dans .config.yml
• Génération de texte à l'aide de modèles linguistiques locaux tels que Llama-3-8b-Instruct de Meta, Codestral de Mistral AI et le puissant OpenAI public GPT-4o, Anthropic Sonnet 3.5, Google Gemini. (Les modèles publics nécessitent vos propres clés API)
• Récupération Web qui récupère le contenu de l'URL à référencer par LLM.
• Recherche sur le Web pour récupérer automatiquement les meilleurs résultats lorsque l'utilisateur est invité à faire référence à LLM. Nécessite l'installation du navigateur Chrome. Le navigateur n'a pas besoin d'être ouvert car Eternal gérera automatiquement une instance sans tête.
• Génération d'images avancée à l'aide du backend ComfyUI avec des flux de travail personnalisés. Eternal déploiera et gérera ComfyUI automatiquement.

Commencer

La documentation de base est fournie dans le dossier docs de ce référentiel.

Vitrine

Récupération Web - Recherche

• webget : tente de récupérer une URL transmise dans le cadre de l'invite.
• websearch : recherche sur le Web public les pages liées à votre invite.

Nécessite l'installation du navigateur Chrome.

Exécution de code

Exécutez et modifiez le code généré par LLM dans la vue de discussion dans un bac à sable sécurisé. Pour l'instant, JavaScript est implémenté via WASM. Plus de langues à venir !

Génération d'images

Eternal peut générer des images à l'aide de puissants flux de travail ComfyUI personnalisés qui sont automatiquement gérés et optimisés pour une sortie de haute qualité. Plus besoin de modifier des centaines de paramètres. Décrire et générer. Définissez le rôle sur image_bot et sélectionnez n'importe quel LLM local ou public pour améliorer vos invites.

Invite d'image de base

Invite améliorée du modèle de langage étendu

Configuration

Renommez le fichier .config.yml fourni en config.yml et placez-le dans le même chemin que le binaire de l'application. Modifiez le contenu en fonction de votre environnement et de votre cas d'utilisation.

Construire

Eternal prend actuellement en charge la construction sur Linux ou Windows WSL à l'aide de CUDA (GPU nVidia requis) ou MacOS/Metal (Mac série M requis).

Pour créer l'application :

 $ git clone https://github.com/intelligencedev/eternal.git
$ cd eternal
$ git submodule update --init --recursive
$ make all

Veuillez soumettre un problème si vous rencontrez des problèmes avec le processus de construction.

Dépannage

Il est recommandé de créer un nouvel environnement conda et un nouvel environnement virtuel Python 3.10 avant le lancement initial de l'application. Cela évitera les messages d'erreur liés aux installations de packages requises, tels que error: externally-managed-environment .

Si Eternal ne parvient pas à se lancer, exécutez les commandes suivantes pour configurer un nouvel environnement Conda et Python venv :

 $ conda create -n eternal python=3.10
$ conda activate eternal
$ python python-m venv .
$ source bin/activate

# Apply execute permissions
$ sudo chmod +x ./eternal

# Run the Eternal binary
$ ./eternal

REMARQUE : n'oubliez pas de renommer le .config.yml inclus en config.yml , de modifier les paramètres de votre environnement et d'enregistrer le fichier dans le même chemin que le binaire Eternal.

Clause de non-responsabilité

Ce README est un aperçu de haut niveau de l'application Eternal. Des instructions de configuration détaillées et une liste complète des fonctionnalités, dépendances et configurations doivent être consultées dans la documentation de l'application elle-même.