أصدرت منصات META نماذج LLAMA 3.21B و 3B اللغوية الكبيرة التي تم تبسيطها اليوم ، وهي المرة الأولى في الصناعة لتحقيق التشغيل المستقر لنماذج اللغة الكبيرة على الهواتف المحمولة والأجهزة اللوحية العادية. من خلال تقنية التدريب الكمية وخوارزمية التحسين ، يقلل هذا الإصدار من حجم الملف بنسبة 56 ٪ ، ويقلل من الذاكرة الجارية بنسبة 41 ٪ ، ويزيد من السرعة إلى 4 أضعاف الإصدار الأصلي. يمثل هذا التقدم الاختراق تحويل وضع معالجة البيانات من الخوادم المركزية إلى المحطات الشخصية ، مما يفتح طرقًا جديدة لتطوير التطبيقات المستقبلية للأجهزة المحمولة.
أصدرت Meta Platforms اليوم نسخة مبسطة جديدة من طراز Llama الخاص بها ، بما في ذلك منتجات Llama 3.21B و 3B ، وتحقيق التشغيل المستقر لنماذج اللغة الكبيرة على الهواتف الذكية والأجهزة اللوحية العادية لأول مرة. من خلال دمج تكنولوجيا التدريب الكمية وخوارزميات التحسين المبتكر ، يقلل الإصدار الجديد من حجم الملف بنسبة 56 ٪ مع الحفاظ على جودة المعالجة الأصلية ، ويقلل من متطلبات الذاكرة التشغيلية بنسبة 41 ٪ ، ويزيد من سرعة المعالجة بمقدار 4 مرات إلى الإصدار الأصلي. معالجة مستمرة من 8000 نص حرف.
عند اختباره على هواتف Android ، تحسنت نماذج AI المضغوطة من Meta (Spinquant و Qlora) السرعة والكفاءة بشكل كبير مقارنة بالإصدار القياسي. يتم تشغيل النماذج الأصغر بشكل أسرع أربع مرات ، بينما يتم تقليل استخدام الذاكرة
في الاختبار الفعلي لهواتف OnePlus12 ، أظهرت هذه النسخة المضغوطة الأداء مماثلة لأداء الإصدار القياسي ، مع تحسين كفاءة التشغيل بشكل كبير وحل المتاعب الطويلة الأجل لقوة الحوسبة غير الكافية للأجهزة المحمولة. اختار Meta تبني استراتيجية سوق التعاون المفتوح وإجراء تعاون متعمق مع الشركات المصنعة للهواتف المحمولة السائدة مثل Qualcomm و Mediatek. .
هذه الاستراتيجية في تناقض حاد مع العمالقة الآخرين في هذه الصناعة. يوفر مسار Meta المفتوح للمطورين مساحة ابتكار أكبر عندما تختار Google و Apple دمج تقنيات جديدة بعمق مع أنظمة التشغيل الخاصة بهم. يمثل هذا الإصدار تحويل وضع معالجة البيانات من خادم مركزي إلى محطة شخصية.
قد يؤدي هذا الاختراق التكنولوجي إلى تغييرات كبيرة مثل الفترة التي يتم فيها تعميم أجهزة الكمبيوتر الشخصية ، على الرغم من أنها لا تزال تواجه تحديات مثل متطلبات أداء الجهاز واختيار منصة المطورين. مع استمرار تحسين أداء الأجهزة المحمولة ، ستظهر مزايا حلول المعالجة الموضعية تدريجياً. تأمل Meta في الترويج للصناعة بأكملها في التطور في اتجاه أكثر كفاءة وآمنة من خلال التعاون المفتوح ، وفتح طرق جديدة لتطوير التطبيقات المستقبلية للأجهزة المحمولة.
يتناقض اختيار Meta لاستراتيجية التعاون المفتوح مع عمالقة التكنولوجيا الآخرين ، مما يوفر للمطورين مساحة أوسع للابتكار وأيضًا يعبّران اتجاه التطوير المستقبلي لمعالجة الذكاء الاصطناعى المترجمة. من المتوقع أن يغير هذا الاختراق التكنولوجي الطريقة التي يتم بها استخدام الأجهزة المحمولة ، مما يؤدي إلى تغييرات كبيرة مثل فترة تعميم الكمبيوتر الشخصي ، ويستحق التطلع إلى تطورها المستقبلي.