الصفحة الرئيسية>المتعلقة بالبرمجة>كود الذكاء الاصطناعي
تنزيل

الملحق Node.js OpenVINO LLM C++

هذا ملحق Node.js لـ OpenVINO GenAI LLM. تم الاختبار باستخدام نموذج TinyLLama chat 1.1 OpenVINO int4 على نظام التشغيل Windows 11 (وحدة المعالجة المركزية Intel Core i7).

شاهد الفيديو أدناه على YouTube للعرض التوضيحي:

يبني

  • فيجوال ستوديو 2022 (C++)
  • العقدة 20.11 أو أعلى
  • Node-gyp
  • بايثون 3.11
  • الإصدار المستخدم openvino_genai_windows_2024.2.0.0_x86_64

قم بتشغيل الأوامر التالية للإنشاء: 

 npm install
node-gyp configure
node-gyp build

يجري

لاختبار الملحق Node.js OpenVINO LLM، قم بتشغيل البرنامج النصي index.js .

node index.js D:/demo/TinyLlama-1.1B-Chat-v1.0-openvino-int4

تعطيل البث

node index.js D:/demo/TinyLlama-1.1B-Chat-v1.0-openvino-int4 nostream

النماذج المدعومة

النماذج المدعومة هنا

يوسع
معلومات إضافية
تطبيقات ذات صلة
نوصي لك
أخبار ذات صلة الكل