تكشف الأبحاث المجهولة عن طرق جديدة: تعزيز قدرات النص الطويل للنماذج الكبيرة
تكشف الورقة المجهولة عن طريقة جديدة تخزن كمية كبيرة من المعلومات السياقية من خلال وحدات Lora المؤقتة ومعلمات النموذج، مما يؤدي إلى تحسين جودة المهام النصية الطويلة ذات النماذج الكبيرة بشكل كبير مع تقليل التكاليف الحسابية. تظهر نتائج الاختبار أنه كلما زاد
2025-01-07