vicuna.ps1

البرنامج النصي للتثبيت التلقائي لـ Vicuna (وحدة المعالجة المركزية فقط)

Vicuna-13B عبارة عن روبوت دردشة مجاني تم تدريبه على المحادثات المشتركة بين المستخدمين من ShareGPT، وتم ضبطه بدقة من نموذج LLaMA. لقد تفوقت على النماذج الأخرى مثل OpenAI ChatGPT وGoogle Bard وLLaMA وStanford Alpaca في أكثر من 90% من الحالات.

• هذا هو برنامج PowerShell النصي الذي يقوم بأتمتة عملية إعداد VICUNA وتشغيله على وحدة المعالجة المركزية (بدون بطاقة رسومات) باستخدام مكتبة llama.cpp ونموذج GGML Vicuna المُدرب مسبقًا. يقوم البرنامج النصي بتنزيل الملفات المطلوبة واستخراجها، وإنشاء ملف دفعي لتشغيل VICUNA، وإنشاء اختصار على سطح المكتب لتشغيل الملف الدفعي.

• يتم حاليًا تطوير البرامج النصية لنظامي التشغيل Linux وmacOS وستكون متاحة في المستقبل القريب.

متطلبات

• نظام التشغيل ويندوز
• بوويرشيل

ملحوظة: يتطلب البرنامج النصي ما لا يقل عن 6 جيجابايت من ذاكرة الوصول العشوائي (الطراز البطيء / 7b)، ويوصى باستخدام 32 جيجابايت + (السرعات المتوسطة إلى السريعة / الطراز 13b).

التثبيت التلقائي (مستحسن)

• لتثبيت البرنامج تلقائيًا، اتبع الخطوات التالية (انقر بزر الماوس الأيمن فوق الماوس للصق الأوامر):

1. اضغط على Windows + R ، واكتب powershell ، ثم اضغط على زر الإدخال.
2. اكتب Set-ExecutionPolicy RemoteSigned -Scope CurrentUser ، واضغط على Y، ثم اضغط على Enter.
3. اكتب irm bit.ly/vicuna_ps1 | iex واضغط على Enter.

التثبيت اليدوي (اختياري)

1. قم بتنزيل البرنامج النصي vicuna.ps1 على جهاز الكمبيوتر الخاص بك.
2. افتح PowerShell وانتقل إلى الدليل الذي تم حفظ البرنامج النصي فيه.
3. قم بتشغيل Set-ExecutionPolicy RemoteSigned -Scope CurrentUser للسماح بالبرامج النصية عن بعد.
4. قم بتشغيل البرنامج النصي باستخدام الأمر .vicuna.ps1 .
5. اتبع التعليمات التي تظهر على الشاشة لإكمال عملية الإعداد.
6. بمجرد اكتمال الإعداد، انقر نقرًا مزدوجًا فوق اختصار "VICUNA" الموجود على سطح المكتب لديك لتشغيل VICUNA.

speed = 2 * log2(ram_gb / 10) + 1

        |       Speed
        |   Slow   Medium    Fast 
     -----------------------------
        |         
    3   |          
        |          
    2   |        * 
        |    *     
    1   | *        
        |_____________________________
             10GB      32GB+       RAM

• تأخذ هذه الصيغة مقدار ذاكرة الكمبيوتر (RAM) كمدخل وتحسب الرقم الذي يمثل سرعة البرنامج. كلما زادت ذاكرة الوصول العشوائي (RAM) لديك، كلما كان تشغيل البرنامج أسرع.

• ChatGPT 4 لاحظ أدناه:

الميزات المخططة

• دعم أنظمة التشغيل macOS وLinux
• الإعداد الآلي للتبعيات والمكتبات المطلوبة

استكشاف الأخطاء وإصلاحها

إذا واجهت أي مشاكل أثناء تشغيل البرنامج النصي، يرجى التحقق مما يلي:

• تأكد من أن جهاز الكمبيوتر الخاص بك يلبي الحد الأدنى من متطلبات ذاكرة الوصول العشوائي (RAM).
• تأكد من تشغيل PowerShell كمسؤول.
• تأكد من أن اتصالك بالإنترنت مستقر ولا يمنع أي تنزيلات.
• تأكد من أن برنامج مكافحة الفيروسات لديك لا يحظر أي تنزيلات أو نصوص برمجية.

إذا كنت لا تزال تواجه مشكلات، فيرجى الاتصال بالمطور للحصول على المساعدة.

الاعتمادات

ويعد هذا جهدًا مشتركًا مع متعاونين من مؤسسات متعددة، بما في ذلك جامعة كاليفورنيا في بيركلي، وجامعة كارنيجي ميلون، وجامعة ستانفورد، وجامعة كاليفورنيا في سان دييغو، وجامعة محمد بن زايد للذكاء الاصطناعي.

الطلاب (الترتيب الأبجدي): وي لين شيانغ، تشوهان لي، زي لين، يينغ شنغ، تشانغهاو وو، هاو تشانغ، ليانمين تشنغ، سيوان تشوانغ، يونغهاو تشوانغ

المستشارون (بالترتيب الأبجدي): جوزيف إي. غونزاليس، أيون ستويكا، إريك بي. شينغ LMSYS شكر خاص لكل فرد من أفراد العائلة (Chad Ea-Nasir II) على نموذجهم الكمي 4 بت وSpreadSheetWarrior على برنامجهم التعليمي حول تشغيل VICUNA على وحدة المعالجة المركزية.

شكر وتقدير

نود أن نشكر Xinyang Geng، وHao Liu، وEric Wallace من BAIR؛ Xuecheng Li، وTianyi Zhang من فريق Stanford Alpaca على مناقشتهم الثاقبة وملاحظاتهم الثاقبة. سيكون لدى BAIR منشور مدونة آخر قريبًا لجهود متزامنة على برنامج الدردشة الآلي الخاص بهم، Koala.