SmallLanguageModel

نموذج اللغة الصغيرة

يحتوي هذا المستودع على جميع العناصر الضرورية اللازمة لبناء ماجستير إدارة الأعمال الخاص بك من الصفر. فقط اتبع التعليمات. مستوحاة من مولد شكسبير nanoGPT وKarpathy، قمت بإنشاء هذا المستودع لبناء ماجستير إدارة الأعمال الخاص بي. إنه يحتوي على كل شيء بدءًا من جمع البيانات للنموذج وحتى ملف الهندسة المعمارية والرمز المميز وملف التدريب.

هيكل الريبو

يحتوي هذا الريبو على:

1. جامع البيانات: يحتوي على دليل Web-Scrapper، في حالة رغبتك في جمع البيانات من البداية بدلاً من تنزيلها.
2. معالجة البيانات: الدليل الذي يحتوي على تعليمات برمجية للمعالجة المسبقة لأنواع معينة من الملفات مثل تحويل ملفات الباركيه إلى ملفات .txt و.csv وأكواد إلحاق الملفات.
3. النماذج: تحتوي على كافة التعليمات البرمجية اللازمة لتدريب نموذج خاص بك. نموذج BERT ونموذج GPT ونموذج Seq-2-Seq بالإضافة إلى الرمز المميز وملفات التشغيل.

المتطلبات الأساسية

قبل إعداد SmallLanguageModel، تأكد من تثبيت المتطلبات الأساسية التالية:

1. بايثون 3.8 أو أعلى
2. النقطة (مثبت حزمة بايثون)

كيفية الاستخدام:

اتبع هذه الخطوات لتدريب أداة الرمز المميزة الخاصة بك أو إنشاء مخرجات من النموذج المُدرب:

1. استنساخ هذا المستودع:

   git clone https://github.com/shivendrra/SmallLanguageModel-project
   cd SLM-clone

2. تثبيت التبعيات:

   pip install requirements.txt

3. القطار: اقرأ التدريب.md لمزيد من المعلومات. اتبعه.

تاريخ النجوم

المساهمة

طلبات السحب هي موضع ترحيب. لإجراء تغييرات كبيرة، يرجى فتح مشكلة أولاً لمناقشة ما تريد تغييره. يرجى التأكد من تحديث الاختبارات بالشكل المناسب.

رخصة

رخصة معهد ماساتشوستس للتكنولوجيا. تحقق من License.md لمزيد من المعلومات.