في مجال الذكاء الاصطناعي، يعد الاستدلال النموذجي الفعال أمرًا بالغ الأهمية. يواصل المطورون استكشاف طرق تشغيل نماذج اللغات الكبيرة على أنظمة أساسية مختلفة للأجهزة. في الآونة الأخيرة، حقق المطور Andrei David إنجازًا ملفتًا للنظر: فقد نجح في نقل نموذج Llama 2 الخاص بـ Meta AI إلى وحدة تحكم ألعاب Xbox 360 التي يبلغ عمرها حوالي عشرين عامًا، وهذا لا يوضح تقنيته الرائعة فحسب، بل يوفر أيضًا تطبيق الذكاء الاصطناعي يوفر مجال الحوسبة المتطورة إمكانيات جديدة. تتغلب هذه الخطوة على العديد من التحديات مثل بنية PowerPC، وقيود الذاكرة، والتحويل endian، وتوفر تجربة قيمة لتشغيل نماذج لغة كبيرة في بيئات منخفضة الموارد.
اليوم، مع التطور السريع لتكنولوجيا الذكاء الاصطناعي، أصبحت كيفية تنفيذ الاستدلال النموذجي الفعال على الأجهزة المختلفة تحديًا مهمًا للمطورين. مؤخرًا، وجد المطور Andrei David الإلهام من وحدة تحكم ألعاب Xbox 360 التي كان عمرها حوالي عشرين عامًا، ونجح في نقل نموذج خفيف الوزن من سلسلة Llama LLM التابعة لـ Meta AI، llama2.c، إلى وحدة التحكم القديمة هذه.
شارك ديفيد إنجازه على منصة التواصل الاجتماعي X، قائلًا إن التحديات التي واجهها كانت ضخمة. تستخدم وحدة المعالجة المركزية PowerPC الخاصة بـ Xbox 360 بنية كبيرة النهاية، مما يعني أنه يجب إجراء عدد كبير من تحويلات النهاية النهائية عند تكوين النموذج ووزنه. بالإضافة إلى ذلك، كان ديفيد بحاجة إلى إجراء تعديلات عميقة على الكود الأصلي وتحسينه ليعمل بسلاسة على مثل هذه القطعة القديمة من الأجهزة.
تعد إدارة الذاكرة أيضًا مشكلة كبيرة يجب عليه حلها. يصل حجم نموذج llama2 إلى 60 ميجابايت، كما أن بنية الذاكرة لجهاز Xbox360 هي ذاكرة موحدة، مما يعني أن وحدة المعالجة المركزية ووحدة معالجة الرسومات بحاجة إلى مشاركة نفس الذاكرة. وهذا يجبر ديفيد على توخي الحذر الشديد عند تصميم استخدام الذاكرة. وهو يعتقد أنه على الرغم من قيود الذاكرة الخاصة بجهاز Xbox 360، إلا أن هندسته المعمارية كانت تطلعية للغاية في ذلك الوقت، مما ينذر بتكنولوجيا إدارة الذاكرة القياسية لوحدات تحكم الألعاب الحديثة ووحدات APU.
بعد تكرار البرمجة والتحسين، نجح ديفيد أخيرًا في تشغيل نموذج llama2 على Xbox360 بمجرد مطالبة بسيطة: "قال Sleepy Joe". ومن الجدير بالذكر أن نموذج llama2 يحتوي على 700 سطر فقط من كود C وليس له أي تبعيات خارجية، مما يسمح له بإظهار أداء قوي "بشكل مدهش" عند تخصيصه في مناطق محددة.
بالنسبة للمطورين الآخرين، فإن نجاح ديفيد أعطاهم اتجاهًا جديدًا. اقترح بعض المستخدمين أن ذاكرة Xbox360 التي تبلغ سعتها 512 ميجابايت قد تكون أيضًا قادرة على دعم تنفيذ برامج LLM صغيرة أخرى، مثل smolLM التي طورتها شركة Hugging Face. يرحب ديفيد بهذا، ومن المرجح أن نرى المزيد من النتائج التجريبية من LLM على Xbox360 في المستقبل.
توفر قصة نجاح ديفيد أفكارًا جديدة وإلهامًا للمطورين، مما يثبت أنه حتى على الأجهزة ذات الموارد المحدودة، يمكن تشغيل نماذج اللغات الكبيرة من خلال التحسين الذكي وتعديلات التعليمات البرمجية. وهذا لا يعزز التطوير الإضافي لتكنولوجيا الذكاء الاصطناعي في مجال الحوسبة المتطورة فحسب، بل يوفر أيضًا إمكانيات غير محدودة لتطبيقات أكثر ابتكارًا في المستقبل. وفي المستقبل، نتطلع إلى رؤية المزيد من الإنجازات المماثلة التي ستدخل تكنولوجيا الذكاء الاصطناعي إلى نطاق أوسع من سيناريوهات التطبيق.