أعلنت شركة Anthropic عن خطة طموحة لتمويل تطوير معايير نموذجية جديدة للذكاء الاصطناعي. ويهدف البرنامج إلى تحسين تقييم أداء نموذج الذكاء الاصطناعي وتأثيره، مع إيلاء اهتمام خاص للجوانب المهمة مثل سلامة الذكاء الاصطناعي والأثر الاجتماعي. تهدف هذه الخطوة إلى معالجة أوجه القصور في المعايير الحالية، مثل عدم قدرتها على التقاط سيناريوهات التطبيق في العالم الحقيقي بشكل فعال وفشلها في قياس ما تدعي قياسه بدقة. تدعو الأنثروبيك إلى تطوير اختبارات مرجعية أكثر تحديًا لتقييم قدرات نماذج الذكاء الاصطناعي في الهجمات السيبرانية، وتحسينات الأسلحة، ومعالجة المعلومات، وما إلى ذلك، واستكشاف إمكانات الذكاء الاصطناعي في البحث العلمي، والاتصالات متعددة اللغات وغيرها من المجالات. سيساعد ذلك في توفير فهم أكثر شمولاً لقدرات ومخاطر الذكاء الاصطناعي وتعزيز تطوير مجال أمن الذكاء الاصطناعي.
ستوفر Anthropic الدعم المالي لمنظمات الطرف الثالث لتشجيعها على تطوير أساليب تقييم أكثر فعالية. يعكس هذا البرنامج التزام Anthropic بتحسين مجال سلامة الذكاء الاصطناعي بشكل عام وتعزيز التقييم الشامل للذكاء الاصطناعي باعتباره معيار الصناعة. ومع ذلك، وبالنظر إلى المصالح التجارية الخاصة بشركة Anthropic، فإن موضوعية وعدالة خطتها لا تزال بحاجة إلى مزيد من الدراسة. وفي المستقبل، سيعتمد نجاح البرنامج على استثمار الأموال والأشخاص، فضلا عن درجة التعاون مع المنظمات الأخرى ذات الصلة.