لقد تم إحراز تقدم كبير في تكنولوجيا التكميم منخفض البت لنماذج اللغات الكبيرة. تقوم طريقة BitNet b1.58، التي تم إطلاقها بشكل مشترك من قبل Microsoft وأكاديمية العلوم الصينية بجامعة، بتحويل معلمات النموذج إلى تمثيل ثلاثي، مما يقلل بشكل كبير من أثر ذاكرة النموذج ويبسط عملية الحساب. يشير هذا إلى أن نماذج اللغات الكبيرة قد دخلت رسميًا "عصر 1 بت"، مما يشير إلى أن النماذج المستقبلية ستكون أخف وزنًا وأكثر كفاءة.
لقد بدأت النماذج اللغوية الكبيرة في "عصر 1 بت". تعمل طريقة BitNet b1.58 التي اقترحتها Microsoft والأكاديمية الصينية للعلوم على تحويل المعلمات إلى تمثيل ثلاثي، مما يقلل بشكل أساسي من أثر ذاكرة النموذج ويبسط الحساب. عملية. تمت مقارنة أداء هذه الطريقة على نماذج ذات أحجام مختلفة، وتم تحسين السرعة وتقليل استخدام الذاكرة، مما أثار مناقشات ساخنة بين مستخدمي الإنترنت.
إن ظهور طريقة BitNet b1.58 يوفر إمكانيات جديدة لتطبيق نماذج اللغة الكبيرة ويمهد الطريق لاتجاهات البحث المستقبلية. فهو لا يعمل على تحسين كفاءة النموذج فحسب، بل يقلل أيضًا من تكاليف التشغيل ويعزز التطبيق الأوسع لتقنية الذكاء الاصطناعي. ونحن نتطلع إلى المزيد من الإنجازات المماثلة في المستقبل، مما يسمح لتكنولوجيا الذكاء الاصطناعي بإفادة مجموعة واسعة من الناس.