الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

TinyGPT

تنفيذ الاستدلال Tiny C++ 11 GPT-2 من البداية، والذي يعتمد بشكل أساسي على مشروع picoGPT.

منشور المدونة المصاحب: اكتب GPT من الصفر (TinyGPT)

الطبقة الأساسية

  • Tensor : فئة Tensor مشابهة للواجهة numpy.
  • Model : تنفيذ نموذج GPT-2 بالإشارة إلى gpt2_pico.py.
  • Tokenizer : رمز BPE المميز تمامًا مثل منطق GPT-2 encoder.py.

بناء وتشغيل

1. احصل على الرمز 

git clone --recurse-submodules https://github.com/keith2018/TinyGPT.git

2. تثبيت Intel MKL (مكتبة Math Kernel)

الموقع الرسمي: مكتبة Intel®-Optimized Math للحوسبة العددية على وحدات المعالجة المركزية ووحدات معالجة الرسومات

3. قم بتنزيل ملف نموذج GPT-2 

 python3 tools / download_gpt2_model . py

في حالة النجاح، سترى الملف model_file.data في الدليل assets/gpt2

4. البناء والتشغيل 

mkdir build
cmake -B ./build -DCMAKE_BUILD_TYPE=Release
cmake --build ./build --config Release

سيؤدي هذا إلى إنشاء الملف القابل للتنفيذ ونسخ الأصول إلى الدليل app/bin ، ثم يمكنك تشغيل العرض التوضيحي: 

 cd app/bin
./TinyGPT_demo
[DEBUG] TIMER TinyGPT::Model::loadModelGPT2: cost: 800 ms
[DEBUG] TIMER TinyGPT::Encoder::getEncoder: cost: 191 ms
INPUT:Alan Turing theorized that computers would one day become
GPT:the most powerful machines on the planet.
INPUT:exit

التبعيات

  • تسريع جيمم
    • intel-mkl https://www.intel.com/content/www/us/en/developer/tools/oneapi/onemkl.html
  • محلل جيسون
    • json11 https://github.com/dropbox/json11
  • مطابقة Tokenizer العادية
    • re2 https://github.com/google/re2
    • abseil-cpp https://github.com/abseil/abseil-cpp

رخصة

هذا الرمز مرخص بموجب ترخيص MIT (انظر الترخيص).

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل