تسببت طريقة ضغط النموذج الكبير ذات البت الواحد (OneBit)، التي تم تطويرها بشكل مشترك من قبل جامعة تسينغهوا ومعهد هاربين للتكنولوجيا، في تداعيات هائلة في المجتمع الأكاديمي. تعمل هذه الطريقة على ضغط النماذج الكبيرة بنجاح إلى 1 بت مع الحفاظ على أداء بنسبة 83%، واختراق حد 2 بت السابق وتوفير إمكانيات جديدة لنشر النماذج الكبيرة على الأجهزة المحمولة. لا يكمن نجاح طريقة OneBit في معدل الضغط الفعال فحسب، بل أيضًا في مزيجها من التقنيات المبتكرة مثل بنية طبقة 1 بت وتهيئة المعلمات المستندة إلى SVID والتدريب المدرك للتكميم، مما يمهد الطريق للتطوير خفيف الوزن. نماذج الذكاء الاصطناعي المستقبلية.
تركز المقالة على:
نجحت طريقة OneBit التي اقترحتها جامعة تسينغهوا ومعهد هاربين للتكنولوجيا في ضغط النماذج الكبيرة إلى بت واحد وحافظت على أداء بنسبة 83%. تخترق هذه الطريقة الحد السابق البالغ 2 بت وتعتمد تكميم 1 بت، الأمر الذي جذب اهتمامًا واسع النطاق في المجتمع الأكاديمي. من خلال الجمع بين بنية طبقة 1 بت وتهيئة المعلمات المستندة إلى SVID والتدريب المدرك للتكميم، تفتح هذه الطريقة آفاقًا جديدة. ويعني هذا الاختراق إمكانيات جديدة لنشر نماذج كبيرة على أجهزة الكمبيوتر والهواتف الذكية، ومن المتوقع أن يحقق رؤية تشغيل النماذج الكبيرة بكفاءة على الأجهزة المحمولة.يشير ظهور طريقة OneBit إلى أن نماذج الذكاء الاصطناعي المستقبلية ستكون أكثر قابلية للحمل وأكثر كفاءة ويمكن تطبيقها على المزيد من الأجهزة، مما يوفر فرصًا جديدة لتعميم وتطوير الذكاء الاصطناعي. يستحق هذا التطور المذهل اهتمامًا مستمرًا وبحثًا متعمقًا، وأعتقد أنه سيتم إنشاء المزيد من التطبيقات المبتكرة بناءً على ذلك في المستقبل.