في نهاية شهر يوليو من هذا العام، عُقد مؤتمر الرقائق الثاني لاتحاد الكمبيوتر الصيني (CCF) في شنغهاي. حضر المؤتمر ما يقرب من ألفي من الخبراء والباحثين والباحثين وممثلي الأعمال المحليين والأجانب المشاركين في الأبحاث المتعلقة بالرقائق وتطوير التكنولوجيا في مجالات الكمبيوتر والالكترونيات الدقيقة لمناقشة تصميم الرقائق وEDA، وهندسة النظام الجديدة، والحوسبة المتسامحة مع الأخطاء، هندسة الكمبيوتر الناشئة والابتكار النظري والبحث والتطوير التكنولوجي وعرض التطبيقات وموضوعات التنمية الصناعية في التكنولوجيا والجوانب الأخرى.
في "CCFTCarch Custom Computing Challenge" (تسريع نشر LLM لبطاقات الرسومات المخصصة للمستهلكين) التي نظمتها لجنة الهندسة المعمارية لمؤتمر الرقائق هذا، اعتمد فريق البحث بقيادة البروفيسور فنغ لي من جامعة جنوب غرب جياوتونغ على تفوقه في تحسين استدلال الحافة نماذج كبيرة أداء ممتاز وحصل على المركز الثاني في البلاد.
في هذه المسابقة، اعتمد فريق Feng Li سلسلة من التقنيات المبتكرة لمواجهة التحديات التي يواجهها التفكير الحدي في النماذج الكبيرة، بما في ذلك تقنية دمج المشغل. تعمل هذه التقنية على تقليل القراءة والكتابة المتكررة لذاكرة الفيديو وتحسين كفاءة الحوسبة بشكل كبير من خلال دمج عمليات الحوسبة المستقلة المتعددة.
وفقًا لفنغ لي، من خلال دمج المشغلين، نجح الفريق في تقليل وقت الحساب بأكثر من 80%، مما أدى إلى تحسين كفاءة استخدام موارد الحوسبة بشكل كبير. بالإضافة إلى ذلك، قام الفريق بتطبيق تقنية التكميم الدقيقة لتحويل بعض الحسابات من عمليات الفاصلة العائمة إلى عمليات النقطة الثابتة. وعلى الرغم من أن هذا يؤدي إلى فقدان الدقة إلى حد ما، إلا أنه لا يزال يحقق زيادة كبيرة في سرعة الحوسبة وتقليل استهلاك الطاقة.
وأكد فنغ لي أن نجاح هذه المسابقة لا ينفصل عن التعاون الوثيق بين أعضاء الفريق. وعلى الرغم من افتقار الطلاب المشاركين إلى الخبرة في مجال النماذج الكبيرة، إلا أنهم أظهروا قدرة تعليمية غير عادية وشجاعة للاستكشاف. ومن خلال التعاون مع كبار العلماء الدوليين، وخاصة التبادلات عبر الحدود مع جامعة بريستول، لم يوسع الطلاب آفاقهم فحسب، بل اكتسبوا أيضًا خبرة قيمة. قال فنغ لي: "طلابنا صغار جدًا، لكنهم مليئون بالحماس ولديهم الشجاعة لمواجهة التحديات. ومن خلال قراءة الأدبيات المكثفة والندوات الفنية، فهموا بسرعة أحدث التطورات في المجالات ذات الصلة وحولوا المعرفة النظرية إلى نتائج عملية. "
وفي معرض حديثه عن اتجاه التطوير المستقبلي، قال فنغ لي إنه مع تقدم تكنولوجيا النماذج الكبيرة، وخاصة الطلب المتزايد على حماية الخصوصية والنشر الخاص، فإن نتائج أبحاث الفريق سيكون لها آفاق تطبيق واسعة. على سبيل المثال، في مجالات مثل التمويل والنقل والطيران، فإن العديد من البيانات الحساسة ليست مناسبة لنقلها إلى السحابة للمعالجة، ولكن يتم تحليلها محليًا، الأمر الذي يتطلب تقنية استدلال حافة النموذج الكبيرة الفعالة. وكشف Feng Li أن الفريق يتعاون حاليًا بشكل نشط مع عدد من الشركات والمؤسسات البحثية، وهو ملتزم بتطبيق نتائج البحث على تحليل نقاط الضعف في أمن الشبكات ومعالجة البيانات الضخمة لحركة المرور لتعزيز تسويق نتائج البحث العلمي.