Téléchargement LLM Kit - Téléchargement du code source LLM Kit

LLM Kit

Code Source AI

1.0.0

Télécharger

Suqin (suqin) Langage grand modèle chaîne d'outils complète package d'intégration WebUI

Anglais |中文

introduire

⛓️ L'objectif de ce projet est de mettre en œuvre un package d'intégration WebUI d'outil complet pour tous les principaux modèles de langage. Vous pouvez avoir vos propres modèles personnalisés et applications exclusives sans écrire de code !

Les modules fonctionnels spécifiques sont les suivants :

Développement et déploiement

Pour les nouveaux utilisateurs, il est recommandé de consulter la documentation des opérations associées.

Exigences logicielles

Ce projet a été testé dans Python 3.8 - 3.10, environnement CUDA 11.7/11.8. Les tests ont été effectués sur les systèmes Windows et Linux.

Environnement d'installation

1. Environnement opérationnel

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

Les dépendances peuvent également être téléchargées directement : package d'environnement Windows, package d'environnement Linux.

Installez vous-même le pilote de la carte graphique et cuda

2. Exécutez le script

Dans un environnement Win, double-cliquez pour ouvrir le script web-demo-CN.bat
Environnement Linux, double-cliquez pour ouvrir le script web-demo-CN.sh

3. Fichiers de présentation associés

Pour découvrir la fonction de base de données de connexion de grands modèles, veuillez d'abord télécharger les fichiers appropriés.
Pour découvrir la fonction de jeu de rôle, veuillez d'abord télécharger les fichiers pertinents
Pour la fonction pack d'expression, veuillez d'abord télécharger les fichiers pertinents et les placer dans le dossier data/apply/emotion.

Répertoire de fichiers

env : environnement de package intégré
utils : code de l'outil
modules : chaque code de module
- agent : code associé à l'agent
  - chatdb : code lié à l'accès à la base de données
  - svc : code associé à svc
  - vits : codes associés aux vits
- appliquer : appliquer le code démo
- model : code associé au modèle
données : fichier de données
- apply : appliquer les fichiers liés à la démo
  - audio : fichier vocal généré
  - emotion : fichier de package d'expression
  - jouer : fichier Word d'invite de caractère
- documents : fichiers de données de la base de connaissances
- modeldata : fichier de données de formation du modèle
  - LLM : grand fichier de données de formation de modèles
  - Incorporation : Intégrer le fichier de données de formation du modèle
ui : code de l'interface utilisateur
sortie : points de contrôle en formation
modèles : fichiers modèles
- LLM : Fichier grand modèle de langage
- Incorporation : Incorporation de fichiers de modèle
- LoRA : fichier modèle LoRA
- live2d_models : fichiers de modèle live2d
- svc_models : fichiers liés à svc
  - hubert_model : fichier modèle d'encodeur sonore
  - svc : fichier modèle svc
- vits_pretrained_models : fichier de modèle vits

Feuille de route de développement

Donateur

Wu Pingyu@juncaisuyun

Initiateur, responsable de l'architecture globale du projet et de la planification technique

Liao Wenbin@Institut de technologie informatique, Académie chinoise des sciences

Responsable du développement Python tel que le dégradé, la base de données de vecteurs graphiques, la base de données Mysql, l'intégration de l'interface API, etc.

Hu Jucheng@University College de LondresUCL

Responsable de la base de données de vecteurs graphiques, live2D, vits, svc, gradient et autres développements python

Li Jinghui

Responsable du développement du code back-end pour la formation et l'inférence de grands modèles

Recrutement de projet

Voir la documentation pour plus de détails

Référence et apprentissage

Application Langchain basée sur ChatGLM

Modèle chinois chameau

ChatDB

Modèle Live2d

Chat-Haruhi-Suzumiya

Chuanhu Chat : fournit une interface graphique Web pour divers LLM

Accord open source

Le code de ce référentiel est open source sous l'accord AGPL-3.0

D'une part, nous espérons renforcer la production du projet grâce à l'open source ; d'autre part, nous espérons absorber plus de scénarios pratiques dans la communauté et continuer à améliorer le produit. Nous invitons également tout le monde à participer au projet.

AGPL-3.0 est une licence approuvée par l'OSI qui est conforme à toutes les normes des logiciels libres et open source. L'open source sera toujours notre intention et notre noyau initial. Nous persisterons toujours dans cette voie. ceci Nous ferons certainement quelque chose de mieux.

De nombreux développeurs ont peut-être des questions sur ce protocole. La communauté open source possède actuellement de nombreux logiciels open source qui adoptent le protocole AGPL-3.0, tels que MongoDB, Grafana, Loki, etc. Wikipedia propose également une liste des projets open source qui l'ont adopté. Licence open source AGPL.-3.0.

L'accord AGPL-3.0 a un point très critique, c'est-à-dire que la version de distribution secondaire après modification du code du projet open source en amont doit également être open source. L'accord restreint certaines entreprises qui souhaitent que le code du projet open source Folk soit fermé. distribution commerciale et suivre l'open source en amont. L'équipe de maintenance du projet s'engage dans une concurrence commerciale directe. S'il n'est utilisé qu'au sein de l'entreprise sans modification à aucun niveau, les utilisateurs n'ont pas à s'inquiéter des restrictions apportées par l'accord AGPL-3.0. Ces conditions visent à encourager les tiers qui souhaitent modifier le logiciel et contribuer également au projet et à la communauté. Nous pensons qu’il s’agit d’une voie à suivre plus équitable et que cela nous aidera à bâtir des communautés plus fortes.

Pour faire simple : si vous modifiez le code source de ce projet, vous devez contribuer à ces modifications à la communauté. Les codes modifiés et dérivés ne sont jamais autorisés à être publiés et vendus en tant que logiciels commerciaux à code source fermé.

Nous fournissons également une autorisation commerciale. Si vous devez redévelopper, modifier et utiliser ce produit à des fins commerciales, veuillez nous contacter ([email protected]) pour obtenir une autorisation commerciale afin de vous conformer à AGPL-3.0. L'accord garantit votre utilisation normale. .

En plus de cela, nous accepterons également un développement personnalisé basé sur des besoins personnels ou professionnels, à notre discrétion.

À l'heure actuelle, l'accord GPL national a les caractéristiques d'un contrat et constitue un acte juridique civil qui relève du droit des contrats de mon pays. L'équipe du projet se réserve le droit de plaider.

L'équipe open source de ce projet a le droit final d'interpréter cet accord open source.

Citation

Si vous utilisez nos modèles, codes ou données dans vos projets, merci de citer l'article suivant.

Veuillez citer le dépôt si vous utilisez les données ou le code de ce dépôt.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}