LLM Kit Download – LLM Kit -Quellcode-Download

LLM Kit

AI-Quellcode

1.0.0

Herunterladen

Suqin (suqin) Sprache, großes Modell, vollständige Toolkette, WebUI-Integrationspaket

Englisch |中文

einführen

⛓️ Das Ziel dieses Projekts ist die Implementierung eines WebUI-Integrationspakets mit vollständigem Prozesstool für alle wichtigen Sprachmodelle. Sie können Ihre eigenen maßgeschneiderten Modelle und exklusiven Anwendungen erstellen, ohne Code schreiben zu müssen!

Die spezifischen Funktionsmodule sind wie folgt:

Entwicklung und Bereitstellung

Für Erstbenutzer wird empfohlen, die Dokumentation zu den entsprechenden Vorgängen zu konsultieren.

Softwareanforderungen

Dieses Projekt wurde in der Umgebung Python 3.8 - 3.10, CUDA 11.7/11.8 getestet. Die Tests auf Windows- und Linux-Systemen wurden abgeschlossen.

Installationsumgebung

1. Betriebsumgebung

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

Abhängigkeiten können auch direkt heruntergeladen werden: Windows-Umgebungspaket, Linux-Umgebungspaket.

Installieren Sie den Grafikkartentreiber und cuda selbst

2. Führen Sie das Skript aus

Doppelklicken Sie in der Win-Umgebung, um das Skript web-demo-CN.bat zu öffnen
In der Linux-Umgebung doppelklicken Sie, um das Skript web-demo-CN.sh zu öffnen

3. Zugehörige Präsentationsdateien

Um die Funktion der großen Modellverbindungsdatenbank nutzen zu können, laden Sie bitte zuerst die relevanten Dateien herunter.
Um die Rollenspielfunktion zu erleben, laden Sie bitte zunächst die entsprechenden Dateien herunter
Für die Expression Pack-Funktion laden Sie bitte zuerst die relevanten Dateien herunter und legen Sie sie im Ordner data/apply/emotion ab.

Dateiverzeichnis

env : integrierte Paketumgebung
Utils : Werkzeugcode
Module : jeder Modulcode
- Agent : Agentenbezogener Code
  - chatdb : Code für den Datenbankzugriff
  - svc : Svc-bezogener Code
  - Vits : Vits-bezogene Codes
- Anwenden : Democode anwenden
- Modell : modellbezogener Code
Daten : Datendatei
- Anwenden : Demobezogene Dateien anwenden
  - Audio : generierte Sprachdatei
  - Emotion : Ausdruckspaketdatei
  - Abspielen : Word-Datei mit Zeichenaufforderung
- Dokumente : Wissensdatenbank-Datendateien
- modeldata : Modelltrainingsdatendatei
  - LLM : Große Modelltrainingsdatendatei
  - Einbettung : Modelltrainingsdatendatei einbetten
ui : UI-Schnittstellencode
Ausgabe : Kontrollpunkte im Training
Modelle : Modelldateien
- LLM : Große Sprachmodelldatei
- Einbettung : Modelldateien einbetten
- LoRA : LoRA-Modelldatei
- live2d_models : Live2D-Modelldateien
- svc_models : SVC-bezogene Dateien
  - hubert_model : Sound-Encoder-Modelldatei
  - svc : SVC-Modelldatei
- vits_pretrained_models : Vits-Modelldatei

Entwicklungs-Roadmap

Mitwirkender

Wu Pingyu@juncaisuyun

Initiator, verantwortlich für die gesamte Projektarchitektur und technische Planung

Liao Wenbin@Institut für Computertechnologie, Chinesische Akademie der Wissenschaften

Verantwortlich für die Python-Entwicklung wie Farbverlauf, Diagrammvektordatenbank, MySQL-Datenbank, API-Schnittstellenintegration usw.

Hu Jucheng@University College LondonUCL

Verantwortlich für die Graph-Vektor-Datenbank, Live2D, Vits, SVC, Gradient und andere Python-Entwicklungen

Li Jinghui

Verantwortlich für die Back-End-Codeentwicklung für das Training und die Inferenz großer Modelle

Projektrekrutierung

Einzelheiten finden Sie in der Dokumentation

Referenz und Lernen

Langchain-Anwendung basierend auf ChatGLM

Chinesisches Kamelmodell

ChatDB

Live2d-Modell

Chat-Haruhi-Suzumiya

Chuanhu Chat: Bietet eine grafische Weboberfläche für verschiedene LLMs

Open-Source-Vereinbarung

Der Code dieses Repositorys ist Open Source gemäß der AGPL-3.0-Vereinbarung

Einerseits hoffen wir, die Produktisierung des Projekts durch Open Source zu stärken. Andererseits hoffen wir, mehr praktische Szenarien in der Community aufzunehmen und das Produkt weiter zu verbessern. Wir heißen auch alle willkommen, sich an dem Projekt zu beteiligen.

AGPL-3.0 ist eine vom OSI genehmigte Lizenz, die allen Standards freier und Open-Source-Software entspricht. Open Source wird immer unsere ursprüngliche Absicht und unser Kernstück sein. Wir glauben, dass wir dies mit der Förderung der Community tun werden. Das werden wir auf jeden Fall noch besser machen.

Vielleicht haben viele Entwickler Fragen zu diesem Protokoll. In der Open-Source-Community gibt es derzeit viele Open-Source-Software, die das AGPL-3.0-Protokoll übernehmen, wie zum Beispiel MongoDB, Grafana, Loki usw. Wikipedia hat auch eine Liste der Open-Source-Projekte, die übernommen wurden AGPL. -3.0 Open-Source-Lizenz.

Die AGPL-3.0-Vereinbarung hat einen sehr kritischen Punkt: Die sekundäre Vertriebsversion muss nach der Änderung des Codes des Upstream-Open-Source-Projekts ebenfalls Open Source sein. Die Vereinbarung schränkt einige Unternehmen ein, die Open-Source-Projektcode für Closed Source verwenden möchten Kommerzielle Verbreitung, und das Wartungsteam des Projekts steht im direkten kommerziellen Wettbewerb. Wenn es nur innerhalb des Unternehmens ohne Änderungen auf irgendeiner Ebene verwendet wird, müssen sich Benutzer keine Sorgen über die Einschränkungen machen, die die AGPL-3.0-Vereinbarung mit sich bringt. Diese Bedingungen sollen Dritte ermutigen, die die Software ändern möchten. Auch sie möchten einen Beitrag zum Projekt und zur Community leisten. Wir glauben, dass dies ein gerechterer Weg in die Zukunft ist und wir glauben, dass es uns dabei helfen wird, stärkere Gemeinschaften aufzubauen.

Um es einfach auszudrücken: Wenn Sie den Quellcode dieses Projekts ändern, müssen Sie diese Änderungen zur Community beitragen. Modifizierte und abgeleitete Codes dürfen niemals als kommerzielle Closed-Source-Software veröffentlicht und verkauft werden.

Wir stellen auch eine kommerzielle Genehmigung zur Verfügung, wenn Sie dieses Produkt für kommerzielle Zwecke neu entwickeln, ändern und verwenden müssen. Bitte kontaktieren Sie uns ([email protected]), um eine kommerzielle Genehmigung zur Einhaltung von AGPL-3.0 zu erhalten. Die Vereinbarung garantiert Ihre normale Nutzung .

Darüber hinaus akzeptieren wir nach unserem Ermessen auch maßgeschneiderte Entwicklungen, die auf persönlichen oder geschäftlichen Anforderungen basieren.

Derzeit hat die inländische GPL-Vereinbarung die Merkmale eines Vertrags und ist ein zivilrechtlicher Rechtsakt, der in den Geltungsbereich des Vertragsrechts meines Landes fällt. Das Projektteam behält sich das Recht vor, einen Rechtsstreit einzuleiten.

Das Open-Source-Team dieses Projekts hat das endgültige Recht, diese Open-Source-Vereinbarung zu interpretieren.

Zitat

Wenn Sie unsere Modelle, Codes oder Daten in Ihren Projekten verwenden, zitieren Sie bitte den folgenden Artikel.

Bitte geben Sie das Repo an, wenn Sie die Daten oder den Code in diesem Repo verwenden.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}