ดาวน์โหลด LLM Kit - ดาวน์โหลดซอร์สโค้ด LLM Kit

Suqin (suqin) ภาษาโมเดลขนาดใหญ่แพ็คเกจรวมเครื่องมือโซ่ WebUI เต็มรูปแบบ

อังกฤษ |中文

แนะนำ

⛓️ เป้าหมายของโปรเจ็กต์นี้คือการใช้แพ็คเกจการรวม WebUI ของเครื่องมือแบบเต็มกระบวนการสำหรับโมเดลภาษาหลักทั้งหมด คุณสามารถมีโมเดลที่คุณกำหนดเองและแอพพลิเคชั่นพิเศษได้โดยไม่ต้องเขียนโค้ด!

โมดูลฟังก์ชันเฉพาะมีดังนี้:

การพัฒนาและการปรับใช้

สำหรับผู้ใช้ครั้งแรก ขอแนะนำให้ศึกษาเอกสารประกอบสำหรับการดำเนินการที่เกี่ยวข้อง

ข้อกำหนดซอฟต์แวร์

โปรเจ็กต์นี้ได้รับการทดสอบในสภาพแวดล้อม Python 3.8 - 3.10, CUDA 11.7/11.8 การทดสอบเสร็จสมบูรณ์บนระบบ Windows และ Linux

สภาพแวดล้อมการติดตั้ง

1. สภาพแวดล้อมในการทำงาน

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

การขึ้นต่อกันยังสามารถดาวน์โหลดได้โดยตรง: แพ็คเกจสภาพแวดล้อม Windows, แพ็คเกจสภาพแวดล้อม Linux

ติดตั้งไดรเวอร์การ์ดแสดงผลและ cuda ด้วยตัวคุณเอง

2. ดำเนินการสคริปต์

ในสภาพแวดล้อมแบบ win ดับเบิลคลิกเพื่อเปิดสคริปต์ web-demo-CN.bat
สภาพแวดล้อม Linux ดับเบิลคลิกเพื่อเปิดสคริปต์ web-demo-CN.sh

3. ไฟล์การนำเสนอที่เกี่ยวข้อง

หากต้องการสัมผัสประสบการณ์ฟังก์ชันฐานข้อมูลการเชื่อมต่อโมเดลขนาดใหญ่ โปรดดาวน์โหลดไฟล์ที่เกี่ยวข้องก่อน
หากต้องการสัมผัสประสบการณ์การเล่นบทบาทสมมติ โปรดดาวน์โหลดไฟล์ที่เกี่ยวข้องก่อน
สำหรับฟังก์ชัน Expression Pack โปรดดาวน์โหลดไฟล์ที่เกี่ยวข้องก่อนแล้วนำไปไว้ในโฟลเดอร์ data/apply/emotion

ไดเร็กทอรีไฟล์

env : สภาพแวดล้อมแพ็คเกจแบบรวม
utils : รหัสเครื่องมือ
modules : แต่ละรหัสโมดูล
- ตัวแทน : รหัสที่เกี่ยวข้องกับตัวแทน
  - chatdb : รหัสที่เกี่ยวข้องกับการเข้าถึงฐานข้อมูล
  - svc : รหัสที่เกี่ยวข้องกับ svc
  - vits : รหัสที่เกี่ยวข้องกับ vits
- ใช้ : ใช้รหัสสาธิต
- model : รหัสที่เกี่ยวข้องกับโมเดล
ข้อมูล : ไฟล์ข้อมูล
- Apply : ใช้ไฟล์ที่เกี่ยวข้องกับการสาธิต
  - เสียง : ไฟล์เสียงที่สร้างขึ้น
  - อารมณ์ : ไฟล์แพ็คเกจนิพจน์
  - play : ไฟล์คำแจ้งอักขระ
- เอกสาร : ไฟล์ข้อมูลฐานความรู้
- modeldata : ไฟล์ข้อมูลการฝึกโมเดล
  - LLM : ไฟล์ข้อมูลการฝึกโมเดลขนาดใหญ่
  - การฝัง : ไฟล์ข้อมูลการฝึกโมเดลแบบฝัง
ui : รหัสอินเทอร์เฟซ ui
เอาท์พุต : ด่านตรวจในการฝึก
รุ่น : ไฟล์โมเดล
- LLM : ไฟล์โมเดลภาษาขนาดใหญ่
- การฝัง : การฝังไฟล์โมเดล
- LoRA : ไฟล์โมเดล LoRA
- live2d_models : ไฟล์โมเดล live2d
- svc_models : ไฟล์ที่เกี่ยวข้องกับ svc
  - huber_model : ไฟล์โมเดลตัวเข้ารหัสเสียง
  - svc : ไฟล์โมเดล svc
- vits_pretrained_models : ไฟล์โมเดล vits

แผนงานการพัฒนา

ผู้ร่วมให้ข้อมูล

อู๋ ผิงหยู@juncaisuyun

ผู้ริเริ่ม รับผิดชอบสถาปัตยกรรมโครงการโดยรวมและการวางแผนทางเทคนิค

Liao Wenbin@สถาบันเทคโนโลยีคอมพิวเตอร์ สถาบันวิทยาศาสตร์จีน

รับผิดชอบในการพัฒนา Python เช่น การไล่ระดับสี, ฐานข้อมูลเวกเตอร์กราฟ, ฐานข้อมูล Mysql, การรวมอินเทอร์เฟซ API เป็นต้น

หู จูเฉิง@ยูนิเวอร์ซิตี้ คอลเลจ ลอนดอน UCL

รับผิดชอบฐานข้อมูลเวกเตอร์กราฟ, live2D, vits, svc, การไล่ระดับสี และการพัฒนาหลามอื่น ๆ

หลี่จิงฮุย

รับผิดชอบในการพัฒนาโค้ดส่วนหลังของการฝึกอบรมและการอนุมานโมเดลขนาดใหญ่

รับสมัครโครงการ

ดูเอกสารประกอบสำหรับรายละเอียด

การอ้างอิงและการเรียนรู้

แอปพลิเคชัน Langchain ที่ใช้ ChatGLM

โมเดลอูฐจีน

แชทดีบี

โมเดล Live2d

ฉัตร-ฮารุฮิ-สึซึมิยะ

Chuanhu Chat: นำเสนออินเทอร์เฟซแบบกราฟิกบนเว็บสำหรับ LLM ต่างๆ

ข้อตกลงโอเพ่นซอร์ส

รหัสของพื้นที่เก็บข้อมูลนี้เป็นโอเพ่นซอร์สภายใต้ข้อตกลง AGPL-3.0

ในด้านหนึ่ง เราหวังว่าจะเสริมสร้างการผลิตของโครงการผ่านโอเพ่นซอร์ส ในทางกลับกัน เราหวังว่าจะดูดซับสถานการณ์ที่เป็นประโยชน์มากขึ้นในชุมชน และปรับปรุงผลิตภัณฑ์ต่อไป เรายังยินดีต้อนรับทุกคนให้เข้าร่วมในโครงการนี้

AGPL-3.0 เป็นใบอนุญาตที่ได้รับการอนุมัติจาก OSI ซึ่งสอดคล้องกับมาตรฐานของซอฟต์แวร์โอเพ่นซอร์สฟรีทั้งหมด โอเพ่นซอร์สจะเป็นความตั้งใจและหลักดั้งเดิมของเราเสมอ เราจะยืนหยัดในการทำเช่นนี้เสมอ นี้เราจะทำสิ่งที่ดีกว่านี้อย่างแน่นอน

บางทีนักพัฒนาหลายคนอาจมีคำถามเกี่ยวกับโปรโตคอลนี้ ปัจจุบันชุมชนโอเพ่นซอร์สมีซอฟต์แวร์โอเพ่นซอร์สจำนวนมากที่ใช้โปรโตคอล AGPL-3.0 เช่น MongoDB, Grafana, Loki เป็นต้น Wikipedia ยังมีรายการโครงการโอเพ่นซอร์สใดบ้างที่นำมาใช้ AGPL -3.0 ใบอนุญาตโอเพ่นซอร์ส

ข้อตกลง AGPL-3.0 มีจุดสำคัญอย่างยิ่ง นั่นคือ เวอร์ชันการแจกจ่ายรองหลังจากแก้ไขโค้ดของโครงการโอเพ่นซอร์สอัปสตรีม จะต้องเป็นโอเพ่นซอร์สด้วย ข้อตกลงนี้จำกัดบางบริษัทที่ต้องการใช้รหัสโครงการโอเพ่นซอร์ส Folk สำหรับโอเพ่นซอร์ส การจัดจำหน่ายเชิงพาณิชย์และติดตามต้นน้ำโอเพ่นซอร์ส ทีมบำรุงรักษาของโครงการมีส่วนร่วมในการแข่งขันเชิงพาณิชย์โดยตรง หากใช้ภายในองค์กรเท่านั้นโดยไม่มีการแก้ไขในระดับใด ผู้ใช้ไม่จำเป็นต้องกังวลเกี่ยวกับข้อจำกัดที่มาจากข้อตกลง AGPL-3.0 เงื่อนไขเหล่านี้ได้รับการออกแบบมาเพื่อสนับสนุนบุคคลที่สามที่ต้องการแก้ไขซอฟต์แวร์และมีส่วนร่วมในโครงการและชุมชนด้วย เราเชื่อว่านี่เป็นแนวทางที่เท่าเทียมกันมากขึ้น และเราเชื่อว่ามันจะช่วยให้เราสร้างชุมชนที่เข้มแข็งขึ้น

พูดง่ายๆ ก็คือ: หากคุณแก้ไขซอร์สโค้ดของโปรเจ็กต์นี้ คุณจะต้องสนับสนุนการแก้ไขเหล่านี้ให้กับชุมชน รหัสที่ถูกแก้ไขและที่ได้รับมาจะไม่ได้รับอนุญาตให้เผยแพร่และขายเป็นซอฟต์แวร์เชิงพาณิชย์แบบปิด

นอกจากนี้เรายังให้การอนุญาตเชิงพาณิชย์ด้วย หากคุณต้องการพัฒนา เปลี่ยนแปลง และใช้ผลิตภัณฑ์นี้เพื่อวัตถุประสงค์ทางการค้า โปรดติดต่อเรา ([email protected]) เพื่อขออนุมัติเชิงพาณิชย์เพื่อให้สอดคล้องกับ AGPL-3.0 ข้อตกลงนี้รับประกันการใช้งานตามปกติของคุณ .

นอกจากนี้ เรายังยอมรับการพัฒนาที่ปรับแต่งตามความต้องการส่วนบุคคลหรือองค์กรตามดุลยพินิจของเรา

ปัจจุบันข้อตกลง GPL ในประเทศมีลักษณะของสัญญาและเป็นนิติกรรมทางแพ่งซึ่งอยู่ในขอบเขตของกฎหมายสัญญาในประเทศของฉัน ทีมงานโครงการขอสงวนสิทธิ์ในการดำเนินคดี

ทีมงานโอเพ่นซอร์สของโครงการนี้มีสิทธิ์สุดท้ายในการตีความข้อตกลงโอเพ่นซอร์สนี้

อ้าง

หากคุณใช้โมเดล โค้ด หรือข้อมูลของเราในโปรเจ็กต์ของคุณ โปรดอ้างอิงบทความต่อไปนี้

โปรดอ้างอิง repo หากคุณใช้ข้อมูลหรือโค้ดใน repo นี้

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}