الأداء القوي لشريحة M4 من Apple يقود الابتكار في الحوسبة الذكية الاصطناعية المحلية. تستخدم Exo Labs أجهزة MAC متعددة بذكاء مزودة برقائق M4 لبناء مجموعة حوسبة منظمة العفو الدولية المحلية الفعالة من حيث التكلفة ، وتشغيل نماذج لغة كبيرة مفتوحة المصدر بنجاح (LLMS) ، مثل LLAMA-3.1405B و NEMOTRON70B و QWEN2.5CODER- 32B. هذا الاختراق لا يقلل فقط من تكلفة تطبيقات الذكاء الاصطناعى ، ولكن أيضًا يحسن بشكل كبير خصوصية البيانات والأمان ، مما يجلب تجربة الذكاء الاصطناعي أكثر ملاءمة للأفراد والمؤسسات. سوف تستكشف هذه المقالة الممارسات المبتكرة لمختبرات EXO والدور الهام لرقائق M4 في مجال الحوسبة المحلية الذكاء الاصطناعي.
في مجال الذكاء الاصطناعي التوليدي ، يبدو أن جهود Apple تركز بشكل أساسي على الأجهزة المحمولة ، وخاصة أحدث أنظمة iOS18. ومع ذلك ، تُظهر رقائق Apple M4 الجديدة أداءً قويًا في أحدث إصدارات Mac Mini و MacBook Pro ، مما يتيح لهم تشغيل أقوى نماذج اللغة الكبيرة المفتوحة المصدر (LLMs) ، مثل LLAMA-3.1405 ب Qwen2.5Coder-32b.
Exo Labs هي شركة ناشئة تأسست في مارس 2024 مخصصة لـ "الوصول إلى الذكاء الاصطناعي الموزعة" ، وقد نجحت مؤسسها المشارك Alex Cheema في بناء أجهزة M4 متعددة.
قام بتوصيل أربعة MAC MINI M4S (599 دولارًا لكل منهما) إلى MacBook Pro M4MAX (1599 دولارًا) و RAN ALIBABA من QWEN2.5CODER-32B من خلال برنامج EXO مفتوح المصدر. تبلغ تكلفة الكتلة بأكملها حوالي 5000 دولار ، وهي فعالة للغاية من حيث التكلفة مقارنةً بـ NVIDIA H100GPU بقيمة 25000 دولار إلى 30،000 دولار.
فوائد استخدام مجموعات الحساب المحلية بدلاً من خدمات الشبكة واضحة. من خلال تشغيل نماذج الذكاء الاصطناعى على جهاز تسيطر عليه المستخدم أو المؤسسة ، يمكنه تقليل التكاليف بشكل فعال مع تحسين الخصوصية والأمان. وقالت QIMA إن EXO Labs تعمل باستمرار على تحسين برامجها على مستوى المؤسسات ، وتستخدم العديد من الشركات حاليًا برنامج EXO للتفكير المحلي ، وسيتوسع هذا الاتجاه تدريجياً إلى الأفراد والمؤسسات في المستقبل.
يرجع نجاح Exo Labs الأخير إلى الأداء القوي لشريحة M4 ، والتي تُعرف باسم "أسرع جوهر GPU في العالم".
كشفت QIMA أن مجموعة MAC MIN M4 'MAC MIN EXO Labs قادرة على تشغيل QWEN2.5CODER32B عند 18 علامة في الثانية و Nemotron-70B في 8 علامات في الثانية. يوضح هذا أنه يمكن للمستخدمين التعامل بكفاءة في مهام تدريب الذكاء الاصطناعي والتفكير دون الاعتماد على البنية التحتية السحابية ، مما يجعل المستهلكين والشركات الحساسة للخصوصية القائمة على الذكاء الاصطناعي أكثر سهولة.
لدعم هذه الموجة من ابتكار الذكاء الاصطناعي المحلي ، تخطط Exo Labs لإطلاق موقع ويب مجاني لتوفير مقارنات مفصلة لتكوين الأجهزة لمساعدة المستخدمين على اختيار أفضل حل تشغيل LLM استنادًا إلى احتياجاتهم وميزانيتهم.
مدخل المشروع: https://github.com/exo-explore/exo
نقاط:
تقوم Exo Labs بنجاح بتشغيل نموذج AI مفتوح المصدر قوي على مجموعات الحوسبة المحلية باستخدام رقائق Apple M4.
يؤدي تشغيل نماذج الذكاء الاصطناعى إلى تقليل التكاليف محليًا ، ويحسن الخصوصية والأمان ، ويتجنب الاعتماد على الخدمات السحابية.
ستطلق Exo Labs موقعًا على شبكة الإنترنت القياسية لمساعدة المستخدمين على اختيار تكوين الأجهزة المناسبة لمهام الذكاء الاصطناعي.
توفر قصص نجاح Exo Labs اتجاهًا جديدًا لتطوير الحوسبة المحلية من الذكاء الاصطناعي ، وتشير أيضًا إلى أن تطبيقات الذكاء الاصطناعى ستصبح أكثر شعبية في المستقبل ، وتفيد المزيد من الأفراد والمؤسسات. وقد عزز الأداء القوي لشريحة M4 وراحة برنامج EXO Labs المصدر المفتوح بشكل مشترك إضفاء الطابع الديمقراطي على تكنولوجيا الذكاء الاصطناعي ويستحق الاهتمام المستمر.