تنزيل LLM Kit - تنزيل كود مصدر LLM Kit

LLM Kit

كود الذكاء الاصطناعي

1.0.0

تنزيل

Suqin (suqin) لغة نموذجية كبيرة حزمة تكامل WebUI لسلسلة الأدوات الكاملة

الإنجليزية |中文

يقدم

⛓️ الهدف من هذا المشروع هو تنفيذ حزمة تكامل WebUI لأداة عملية كاملة لجميع نماذج اللغات الرئيسية. يمكنك الحصول على نماذجك المخصصة وتطبيقاتك الحصرية دون كتابة التعليمات البرمجية!

وحدات الوظائف المحددة هي كما يلي:

التطوير والنشر

بالنسبة للمستخدمين لأول مرة، يوصى بمراجعة الوثائق الخاصة بالعمليات ذات الصلة.

متطلبات البرمجيات

تم اختبار هذا المشروع في بيئة Python 3.8 - 3.10 وCUDA 11.7/11.8. تم الانتهاء من الاختبار على أنظمة Windows وLinux.

بيئة التثبيت

1. بيئة التشغيل

 # 拉取仓库
$ git clone https://github.com/wpydcr/LLM-Kit.git

# 进入目录
$ cd LLM-Kit

# 安装依赖
$ pip install -r requirements.txt

يمكن أيضًا تنزيل التبعيات مباشرةً: حزمة بيئة Windows وحزمة بيئة Linux.

قم بتثبيت برنامج تشغيل بطاقة الرسومات وcuda بنفسك

2. قم بتنفيذ البرنامج النصي

في بيئة الفوز، انقر نقرًا مزدوجًا لفتح البرنامج النصي web-demo-CN.bat
بيئة Linux، انقر نقرًا مزدوجًا لفتح البرنامج النصي web-demo-CN.sh

3. ملفات العروض التقديمية ذات الصلة

لتجربة وظيفة قاعدة بيانات اتصال النماذج الكبيرة، يرجى تنزيل الملفات ذات الصلة أولاً.
لتجربة وظيفة لعب الأدوار، يرجى تنزيل الملفات ذات الصلة أولاً
بالنسبة لوظيفة حزمة التعبير، يرجى تنزيل الملفات ذات الصلة أولاً ووضعها في مجلد البيانات/التطبيق/العاطفة.

دليل الملفات

env : بيئة الحزمة المتكاملة
الاستخدامات : رمز الأداة
الوحدات : رمز كل وحدة
- الوكيل : الكود المتعلق بالوكيل
  - chatdb : كود الوصول إلى قاعدة البيانات ذات الصلة
  - svc : الكود المتعلق بـ svc
  - vits : الرموز ذات الصلة بـ vits
- تطبيق : تطبيق الرمز التجريبي
- النموذج : الكود ذو الصلة بالنموذج
البيانات : ملف البيانات
- تطبيق : تطبيق الملفات ذات الصلة بالعرض التوضيحي
  - الصوت : ملف صوتي تم إنشاؤه
  - العاطفة : ملف حزمة التعبير
  - تشغيل : ملف Word موجه للأحرف
- المستندات : ملفات بيانات قاعدة المعرفة
- Modeldata : ملف بيانات التدريب النموذجي
  - LLM : ملف بيانات التدريب النموذجي الكبير
  - التضمين : تضمين ملف بيانات التدريب النموذجي
واجهة المستخدم : رمز واجهة المستخدم
الإخراج : نقاط التفتيش في التدريب
النماذج : ملفات النموذج
- LLM : ملف نموذج كبير للغة
- التضمين : تضمين ملفات النماذج
- LoRA : ملف نموذج LoRA
- Live2d_models : ملفات نموذج Live2D
- svc_models : الملفات ذات الصلة بـ svc
  - Hubert_model : ملف نموذج تشفير الصوت
  - svc : ملف نموذج svc
- vits_pretrained_models : ملف نموذج vits

خارطة طريق التنمية

مساهم

وو بينغيو@juncaisuyun

البادئ، المسؤول عن الهندسة المعمارية الشاملة للمشروع والتخطيط الفني

لياو وينبين@ معهد تكنولوجيا الحوسبة، الأكاديمية الصينية للعلوم

مسؤول عن تطوير لغة بايثون مثل التدرج وقاعدة بيانات متجهات الرسم البياني وقاعدة بيانات Mysql وتكامل واجهة API وما إلى ذلك.

هو جوتشنغ @ جامعة كلية لندن، جامعة كاليفورنيا

مسؤول عن قاعدة بيانات متجهات الرسم البياني وlive2D وvits وsvc وgradient وتطوير لغة python الأخرى

لي جينغ هوي

مسؤول عن تطوير الكود الخلفي للتدريب والاستدلال على النماذج الكبيرة

توظيف المشروع

انظر الوثائق للحصول على التفاصيل

المرجع والتعلم

تطبيق Langchain يعتمد على ChatGLM

الجمل الصيني النموذجي

ChatDB

نموذج Live2D

شات-هاروهي-سوزوميا

Chuanhu Chat: يوفر واجهة رسومية على الويب للعديد من حاملي شهادات LLM

اتفاقية مفتوحة المصدر

رمز هذا المستودع مفتوح المصدر بموجب اتفاقية AGPL-3.0

من ناحية، نأمل في تعزيز إنتاج المشروع من خلال المصادر المفتوحة؛ ومن ناحية أخرى، نأمل في استيعاب المزيد من السيناريوهات العملية في المجتمع ومواصلة تحسين المنتج، كما نرحب بالجميع للمشاركة في المشروع.

AGPL-3.0 هو ترخيص معتمد من OSI ويتوافق مع جميع معايير البرامج المجانية ومفتوحة المصدر. سيكون المصدر المفتوح دائمًا هدفنا الأصلي وجوهرنا. ونحن نؤمن أنه من خلال تعزيز المجتمع، هذا سوف نفعل بالتأكيد شيئًا أفضل.

ربما يكون لدى العديد من المطورين بعض الأسئلة حول هذا البروتوكول، لدى مجتمع المصادر المفتوحة حاليًا العديد من البرامج مفتوحة المصدر التي تعتمد بروتوكول AGPL-3.0، مثل MongoDB وGrafana وLoki وما إلى ذلك. ولدى ويكيبيديا أيضًا قائمة بالمشاريع مفتوحة المصدر التي اعتمدتها. AGPL.-3.0 ترخيص مفتوح المصدر.

تحتوي اتفاقية AGPL-3.0 على نقطة حرجة للغاية، وهي أن إصدار التوزيع الثانوي بعد تعديل كود المشروع مفتوح المصدر يجب أن يكون مفتوح المصدر أيضًا التوزيع التجاري ومتابعة المصدر المفتوح المنبع، يشارك فريق صيانة المشروع في منافسة تجارية مباشرة إذا تم استخدامه فقط داخل المؤسسة دون تعديل على أي مستوى، فلا داعي للقلق بشأن القيود التي تفرضها اتفاقية AGPL-3.0. تم تصميم هذه الشروط لتشجيع الأطراف الثالثة التي ترغب في تعديل البرنامج على المساهمة أيضًا في المشروع والمجتمع. نعتقد أن هذه طريقة أكثر إنصافًا للمضي قدمًا، ونعتقد أنها ستساعدنا في بناء مجتمعات أقوى.

بكل بساطة: إذا قمت بتعديل الكود المصدري لهذا المشروع، فيجب عليك المساهمة بهذه التعديلات في المجتمع. لا يُسمح مطلقًا بإصدار الكودات المعدلة والمشتقة وبيعها كبرامج تجارية مغلقة المصدر.

نحن نقدم أيضًا ترخيصًا تجاريًا إذا كنت بحاجة إلى إعادة تطوير هذا المنتج وتغييره واستخدامه لأغراض تجارية، فيرجى الاتصال بنا ([email protected]) للحصول على ترخيص تجاري للامتثال لـ AGPL-3.0، وتضمن الاتفاقية استخدامك العادي. .

بالإضافة إلى ذلك، سنقبل أيضًا التطوير المخصص بناءً على الاحتياجات الشخصية أو احتياجات الشركة وفقًا لتقديرنا.

في الوقت الحاضر، تتمتع اتفاقية GPL المحلية بخصائص العقد وهي إجراء قانوني مدني يقع ضمن نطاق قانون العقود في بلدي. يحتفظ فريق المشروع بالحق في التقاضي.

يتمتع فريق المصادر المفتوحة لهذا المشروع بالحق النهائي في تفسير اتفاقية المصادر المفتوحة هذه.

يقتبس

إذا كنت تستخدم نماذجنا أو أكوادنا أو بياناتنا في مشاريعك، فيرجى الاستشهاد بالمقالة التالية.

يرجى الاستشهاد بالريبو إذا كنت تستخدم البيانات أو الكود الموجود في هذا الريبو.

 @misc{wupingyu2023,
  author={Pingyu Wu},
  title = {LLM Kit},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {url{https://github.com/wpydcr/LLM-Kit.git}},
}