منصة Kimi المفتوحة على وشك إطلاق الاختبار الداخلي المرتقب لوظيفة التخزين المؤقت للسياق، وستعمل هذه التقنية المبتكرة على تحسين تجربة المستخدم للنماذج الكبيرة ذات النصوص الطويلة. من خلال التخزين المؤقت لمحتوى الرموز المميزة المكررة، يمكن أن يؤدي التخزين المؤقت للسياق إلى تقليل تكلفة المستخدمين الذين يطلبون نفس المحتوى بشكل كبير وتحسين سرعة استجابة واجهة API بشكل كبير. وهذا مهم بشكل خاص لسيناريوهات التطبيق التي تتطلب طلبات متكررة وإشارات متكررة لعدد كبير من السياقات الأولية، مثل سيناريوهات المطالبة واسعة النطاق والمتكررة للغاية.
أخبار من موقع ChinaZ.com يوم 20 يونيو: أعلنت منصة Kimi Open Platform مؤخرًا أن وظيفة التخزين المؤقت للسياق التي طال انتظارها ستطلق قريبًا اختبارًا داخليًا. ستدعم هذه الميزة المبتكرة نماذج كبيرة من النصوص الطويلة وستزود المستخدمين بتجربة غير مسبوقة من خلال آلية فعالة للتخزين المؤقت للسياق.
وفقًا للمقدمة الرسمية لمنصة Kimi Open Platform، فإن التخزين المؤقت للسياق هو تقنية متطورة مصممة لتقليل تكلفة المستخدمين الذين يطلبون نفس المحتوى بشكل كبير عن طريق التخزين المؤقت لمحتوى الرموز المكررة. مبدأ عمله هو تحديد أجزاء النص المعالجة وتخزينها بذكاء. عندما يطلب المستخدم مرة أخرى، يمكن للنظام استردادها بسرعة من ذاكرة التخزين المؤقت، وبالتالي تحسين سرعة استجابة واجهة API بشكل كبير.
بالنسبة لسيناريوهات المطالبة واسعة النطاق والمتكررة للغاية، تكون مزايا وظيفة التخزين المؤقت للسياق ذات أهمية خاصة. يمكنه الاستجابة بسرعة لأعداد كبيرة من الطلبات المتكررة وتحسين كفاءة المعالجة بشكل كبير مع تقليل التكاليف عن طريق إعادة استخدام المحتوى المخزن مؤقتًا.
تجدر الإشارة بشكل خاص إلى أن وظيفة التخزين المؤقت للسياق مناسبة بشكل خاص لسيناريوهات التطبيق التي تتطلب طلبات متكررة وإشارات متكررة لعدد كبير من السياقات الأولية. من خلال هذه الميزة، يمكن للمستخدمين بسهولة تنفيذ التخزين المؤقت الفعال للسياق، وبالتالي تحسين كفاءة العمل وتقليل تكاليف التشغيل.
الاختبار الداخلي لوظيفة التخزين المؤقت للسياق على وشك البدء، مما يمثل خطوة مهمة اتخذتها منصة Kimi المفتوحة في تحسين كفاءة النماذج الكبيرة وتقليل تكاليف المستخدم.