Unduhan LLM Kit - Unduhan kode Sumber LLM Kit

LLM Kit

Kode Sumber AI

1.0.0

Unduh

Suqin (suqin) Bahasa model besar paket integrasi WebUI rantai alat lengkap

Bahasa Inggris |中文

memperkenalkan

⛓️ Tujuan dari proyek ini adalah untuk mengimplementasikan paket integrasi WebUI alat proses lengkap untuk semua model bahasa utama. Anda dapat memiliki model khusus dan aplikasi eksklusif tanpa menulis kode!

Modul fungsional spesifiknya adalah sebagai berikut:

Pengembangan dan penyebaran

Untuk pengguna pertama kali, disarankan untuk membaca dokumentasi untuk pengoperasian terkait.

Persyaratan perangkat lunak

Proyek ini telah diuji di lingkungan Python 3.8 - 3.10, CUDA 11.7/11.8. Pengujian telah selesai pada sistem Windows dan Linux.

Lingkungan instalasi

1. Lingkungan pengoperasian

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

Dependensi juga dapat diunduh secara langsung: paket lingkungan Windows, paket lingkungan Linux.

Instal driver kartu grafis dan cuda sendiri

2. Jalankan skripnya

Di lingkungan win, klik dua kali untuk membuka skrip web-demo-CN.bat
Lingkungan Linux, klik dua kali untuk membuka skrip web-demo-CN.sh

3. File presentasi terkait

Untuk merasakan fungsi database koneksi model besar, silakan unduh file yang relevan terlebih dahulu.
Untuk merasakan fungsi bermain peran, silakan unduh file yang relevan terlebih dahulu
Untuk fungsi paket ekspresi, silakan unduh file yang relevan terlebih dahulu dan letakkan di folder data/apply/emotion.

Direktori berkas

env : lingkungan paket terintegrasi
utils : kode alat
modul : setiap kode modul
- agen : kode terkait agen
  - chatdb : kode terkait akses database
  - svc : kode terkait svc
  - vits : kode terkait vits
- apply : terapkan kode demo
- model : kode terkait model
data : berkas data
- apply : terapkan file terkait demo
  - audio : file suara yang dihasilkan
  - emosi : file paket ekspresi
  - play : file kata prompt karakter
- dokumen : file data basis pengetahuan
- modeldata : file data pelatihan model
  - LLM : File data pelatihan model besar
  - Penyematan : Menyematkan file data pelatihan model
ui : kode antarmuka ui
keluaran : pos pemeriksaan dalam pelatihan
model : file model
- LLM : Bahasa file model besar
- Penyematan : Menyematkan file model
- LoRA : File model LoRA
- live2d_models : file model live2d
- svc_models : file terkait svc
  - hubert_model : file model encoder suara
  - svc : file model svc
- vits_pretrained_models : file model vits

Peta jalan pembangunan

Penyumbang

Wu Pingyu@juncaisuyun

Inisiator, bertanggung jawab atas keseluruhan arsitektur proyek dan perencanaan teknis

Liao Wenbin@Institut Teknologi Komputasi, Akademi Ilmu Pengetahuan Tiongkok

Bertanggung jawab untuk pengembangan python seperti gradien, database vektor grafik, database Mysql, integrasi antarmuka API, dll.

Hu Jucheng@University College LondonUCL

Bertanggung jawab untuk database vektor grafik, live2D, vits, svc, gradien, dan pengembangan python lainnya

Li Jinghui

Bertanggung jawab atas pengembangan kode back-end dari pelatihan dan inferensi model besar

Perekrutan proyek

Lihat dokumentasi untuk detailnya

Referensi dan Pembelajaran

Aplikasi Langchain berdasarkan ChatGLM

Model unta Cina

ObrolanDB

Model langsung2d

Obrolan-Haruhi-Suzumiya

Obrolan Chuanhu: Menyediakan antarmuka grafis web untuk berbagai LLM

Perjanjian sumber terbuka

Kode repositori ini bersifat open source berdasarkan perjanjian AGPL-3.0

Di satu sisi, kami berharap dapat memperkuat produksi proyek melalui sumber terbuka; di sisi lain, kami berharap dapat menyerap lebih banyak skenario praktis di komunitas dan terus meningkatkan produk. Kami juga menyambut semua orang untuk berpartisipasi dalam proyek ini.

AGPL-3.0 adalah lisensi yang disetujui OSI yang mematuhi semua standar perangkat lunak bebas dan sumber terbuka. Sumber terbuka akan selalu menjadi niat dan inti awal kami. Kami akan selalu gigih melakukan hal ini. ini Kami pasti akan melakukan sesuatu yang lebih baik.

Mungkin banyak pengembang yang memiliki pertanyaan tentang protokol ini. Komunitas open source saat ini memiliki banyak perangkat lunak open source yang mengadopsi protokol AGPL-3.0, seperti MongoDB, Grafana, Loki, dll. Wikipedia juga memiliki daftar proyek open source mana yang telah diadopsi. AGPL.-3.0 lisensi sumber terbuka.

Perjanjian AGPL-3.0 memiliki poin yang sangat kritis, yaitu versi distribusi sekunder setelah memodifikasi kode proyek sumber terbuka hulu juga harus menjadi sumber terbuka. Perjanjian tersebut membatasi beberapa perusahaan yang menginginkan kode proyek sumber terbuka rakyat untuk sumber tertutup distribusi komersial, dan mengikuti open source hulu Tim pemeliharaan proyek terlibat dalam kompetisi komersial langsung. Jika hanya digunakan dalam perusahaan tanpa modifikasi di tingkat apa pun, pengguna tidak perlu khawatir tentang pembatasan yang dibawa oleh perjanjian AGPL-3.0. Kondisi ini dirancang untuk mendorong pihak ketiga yang ingin memodifikasi perangkat lunak juga berkontribusi pada proyek dan komunitas. Kami yakin ini adalah jalan ke depan yang lebih adil, dan kami yakin ini akan membantu kami membangun komunitas yang lebih kuat.

Sederhananya: jika Anda memodifikasi kode sumber proyek ini, Anda harus menyumbangkan modifikasi ini kepada komunitas. Kode yang dimodifikasi dan diturunkan tidak boleh dirilis dan dijual sebagai perangkat lunak komersial sumber tertutup.

Kami juga memberikan otorisasi komersial. Jika Anda perlu mengembangkan kembali, mengubah dan menggunakan produk ini untuk tujuan komersial, silakan hubungi kami ([email protected]) untuk otorisasi komersial guna mematuhi AGPL-3.0 Perjanjian menjamin penggunaan normal Anda. .

Selain itu, kami juga akan menerima pengembangan yang disesuaikan berdasarkan kebutuhan pribadi atau bisnis sesuai kebijaksanaan kami.

Saat ini, perjanjian GPL dalam negeri bersifat kontrak dan merupakan perbuatan hukum perdata, yang termasuk dalam lingkup Hukum Kontrak negara saya. Tim proyek berhak mengajukan tuntutan hukum.

Tim sumber terbuka proyek ini mempunyai hak akhir untuk menafsirkan perjanjian sumber terbuka ini.

Mengutip

Jika Anda menggunakan model, kode, atau data kami dalam proyek Anda, harap kutip artikel berikut.

Harap kutip repo jika Anda menggunakan data atau kode dalam repo ini.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}