LLM Kit下載 - LLM Kit原始碼下載

LLM Kit

Ai源碼

1.0.0

下載

蘇秦（suqin）語言大模型全工具鏈WebUI 整合包

English |中文

介紹

⛓️ 本專案目標是實現目前各大語言模式的全流程工具WebUI 整合套件。不用寫程式碼即可擁有自己的客製化模型與專屬應用！

具體功能模組如下：

開發部署

初次使用建議查閱說明文件進行相關操作

軟體需求

本專案已在Python 3.8 - 3.10，CUDA 11.7/11.8 環境下完成測試。已在Windows、Linux 系統中完成測試。

安裝環境

1. 運作環境

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

依賴也可以直接下載：Windows環境包， Linux環境包。

顯示卡驅動和cuda自行安裝

2. 執行腳本

win環境，雙擊開啟web-demo-CN.bat 腳本
Linux環境，雙擊開啟web-demo-CN.sh 腳本

3. 相關簡報文件

體驗大模型連接資料庫功能請先下載相關文件
體驗角色扮演功能請先下載相關文件
表情包功能請先下載相關檔案放入data/apply/emotion資料夾中

檔案目錄

env ：整合包環境
utils ：工具程式碼
modules ：各模組程式碼
- agent ：agent相關代碼
  - chatdb : 資料庫接取相關程式碼
  - svc : svc相關程式碼
  - vits : vits相關代碼
- apply ：應用demo程式碼
- model ：模型相關程式碼
data ：資料檔案
- apply ：應用demo相關文件
  - audio ：生成的語音文件
  - emotion ：表情包文件
  - play ：人設提示詞文件
- documents ：知識庫資料文件
- modeldata ：模型訓練資料文件
  - LLM ：大模型訓練資料文件
  - Embedding ：嵌入模型訓練資料文件
ui ：ui介面程式碼
output ：訓練中的checkpoints
models ：模型文件
- LLM ：語言大模型文件
- Embedding ：嵌入模型文件
- LoRA ：LoRA模型文件
- live2d_models ：live2d模型文件
- svc_models ：svc相關文件
  - hubert_model ：聲音編碼器模型文件
  - svc : svc模型文件
- vits_pretrained_models : vits模型文件

發展路線圖

貢獻者

吳平宇@君材數雲

發起人，負責整體專案架構和技術規劃

廖文彬@中科院計算技術研究所

負責gradio，圖向量資料庫，Mysql資料庫，api介面整合等python開發

胡鈞程@倫敦大學學院UCL

負責圖向量資料庫， live2D，vits, svc，gradio等python開發

李璟輝

負責大模型訓練與推理的後端程式碼開發

專案招募

詳見說明文檔

參考與學習

基於ChatGLM的langchain應用

駱駝中文大模型

ChatDB

Live2d模型

Chat-Haruhi-Suzumiya

川虎Chat：為多種LLM提供Web圖形介面

開源協議

本倉庫的程式碼依照AGPL-3.0 協定開源

一方面希望透過開源加強專案產品化程度；另一方面希望在社群中吸收更多的實踐場景進而繼續完善產品，也歡迎大家參與專案。

AGPL-3.0 是OSI 批准的許可證，符合自由和開源軟體的所有標準，開源永遠是我們的初心與核心，我們將始終不渝的堅持去做這件事，我們相信在社區的推動下，這件事我們一定會做的更好。

或許許多開發者對此協定抱持一些疑問，開源社群目前也有很多採用AGPL-3.0 協定的開源軟體，例如MongoDB、Grafana、Loki 等，維基百科還專門有一份清單列出了哪些開源專案採用了AGPL -3.0 開源協定。

AGPL-3.0 協定有一個非常關鍵的點，就是對修改上游開源專案程式碼後的二次分發版本必須也要開源，協議限制的是部分企業想Folk 開源專案程式碼後進行閉源商業分發，跟上遊開源專案的維修團隊進行直接的商業競爭，如果僅僅只是企業內部自己使用而不進行任何層面修改，用戶大可不必擔心AGPL-3.0 協議帶來的限制，這些條件旨在鼓勵和希望修改軟體的第三方也為專案和社群做出貢獻。我們認為這是一種更公平的前進方式，我們相信這將有助於我們建立更強大的社區。

簡單來講：如果您修改了本專案原始碼，那麼您必須將這些修改貢獻給社區，絕不允許修改後和衍生的程式碼做為閉源的商業軟體發布和銷售。

我們也提供了商業授權，如果您需要將本產品進行二次開發、更改並進行任何附帶商業化性質行為使用，請聯絡我們（[email protected]）進行商業授權，以遵守AGPL-3.0協議保證您的正常使用。

除此之外，我們也會視情況接受根據個人或企業需求的客製化開發。

目前在國內GPL 協議具備合約特徵，是一種民事法律行為，屬於我國《合約法》調整的範圍。本專案團隊保留訴訟權利。

本專案開源團隊擁有本開源協議的最終解釋權。

引用

如果您在專案中使用了我們的模型、程式碼或數據，請引用下面文章。

Please cite the repo if you use the data or code in this repo.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}