يقود الأداء القوي لشريحة M4 من Apple التطور السريع للذكاء الاصطناعي المحلي. استخدمت Exo Labs بذكاء أجهزة Mac متعددة مزودة بشرائح M4 لإنشاء مجموعة حوسبة محلية منخفضة التكلفة وعالية الأداء تعمل بالذكاء الاصطناعي ونجحت في تشغيل العديد من نماذج اللغات الكبيرة (LLMs)، مما جلب المزيد من الفوائد الاقتصادية للأفراد والمؤسسات، والمزيد من الخصوصية الاصطناعية حلول الاستخبارات. سيمنحك محرر Downcodes فهمًا متعمقًا لهذا التقدم المذهل.
وفي مجال الذكاء الاصطناعي التوليدي، يبدو أن جهود شركة آبل تركز بشكل أساسي على الأجهزة المحمولة، وخاصة نظام iOS18 الأحدث. ومع ذلك، أظهرت شريحة Apple M4 الجديدة أداءً قويًا في أجهزة Mac Mini وMacbook Pro التي تم إصدارها حديثًا، مما يسمح لها بتشغيل أقوى نماذج اللغات الكبيرة الأساسية مفتوحة المصدر (LLMs) المتاحة حاليًا، مثل Meta's Llama-3.1405B وNvidia's. Nemotron70B وQwen2.5Coder-32B.
Exo Labs هي شركة ناشئة تأسست في مارس 2024 وهي ملتزمة "بإضفاء الطابع الديمقراطي على الوصول إلى الذكاء الاصطناعي". نجح مؤسسها المشارك Alex Cheema في بناء واحدة باستخدام أجهزة M4 متعددة ومجموعة حوسبة محلية.
قام بتوصيل أربعة أجهزة Mac Mini M4s (سعر كل منها 599 دولارًا) بجهاز Macbook Pro M4Max (سعره 1599 دولارًا)، وتشغيل Qwen2.5Coder-32B من Alibaba من خلال برنامج Exo مفتوح المصدر. تبلغ تكلفة المجموعة بأكملها حوالي 5000 دولار أمريكي، وهي فعالة للغاية من حيث التكلفة مقارنة بوحدة معالجة الرسوميات Nvidia H100 التي تتراوح قيمتها بين 25000 إلى 30000 دولار أمريكي.
إن فوائد استخدام مجموعة الحوسبة المحلية بدلاً من خدمة الشبكة واضحة. ومن خلال تشغيل نماذج الذكاء الاصطناعي على الأجهزة التي يتحكم فيها المستخدمون أو المؤسسات، يمكن تقليل التكاليف بشكل فعال مع تحسين الخصوصية والأمان. وقال شيما إن Exo Labs تعمل باستمرار على تحسين برامجها على مستوى المؤسسة. وتستخدم العديد من الشركات حاليًا برامج Exo لاستدلال الذكاء الاصطناعي المحلي. وفي المستقبل، سيتوسع هذا الاتجاه تدريجيًا ليشمل الأفراد والشركات.
يعود نجاح Exo Labs الأخير إلى الأداء القوي لشريحة M4، والتي توصف بأنها "أسرع نواة GPU في العالم".
كشفت شركة Qima أن مجموعة Mac Mini M4 من Exo Labs قادرة على تشغيل Qwen2.5Coder32B بمعدل 18 علامة في الثانية وNemotron-70B بمعدل 8 علامات في الثانية. وهذا يوضح أنه يمكن للمستخدمين التعامل بكفاءة مع مهام التدريب والاستدلال على الذكاء الاصطناعي دون الاعتماد على البنية التحتية السحابية، مما يجعل الذكاء الاصطناعي في متناول المستهلكين والمؤسسات التي تراعي الخصوصية والتكلفة.
لمزيد من دعم هذه الموجة من ابتكارات الذكاء الاصطناعي المحلي، تخطط Exo Labs لإطلاق موقع ويب مجاني لقياس الأداء لتوفير مقارنات تفصيلية لتكوين الأجهزة لمساعدة المستخدمين على اختيار أفضل حل تشغيل LLM بناءً على احتياجاتهم وميزانيتهم.
مدخل المشروع: https://github.com/exo-explore/exo
تُظهر الحالة الناجحة لـ Exo Labs الإمكانات الهائلة لشريحة Apple M4 في تطبيقات الذكاء الاصطناعي المحلية، وتشير أيضًا إلى أن الأفراد والمؤسسات سيكون لديهم تجربة ذكاء اصطناعي أكثر ملاءمة واقتصادية وخاصة في المستقبل. سيؤدي ذلك إلى تعزيز تعميم وتطبيق تكنولوجيا الذكاء الاصطناعي وتوفير المزيد من فرص الابتكار لجميع مناحي الحياة. تطلعوا إلى المزيد من المفاجآت من Exo Labs في المستقبل!