في الآونة الأخيرة، أثارت منظمة Epoch AI غير الربحية جدلاً لأن مشروع FrontierMath المعياري لرياضيات الذكاء الاصطناعي حصل على تمويل من OpenAI لكنه فشل في الكشف عنه في الوقت المناسب. تتضمن هذه الحادثة قضايا مثل شفافية الكشف عن المعلومات، وتضارب المصالح، وموضوعية المقارنة المعيارية، وقد أثارت قلقًا واسع النطاق بين الأكاديميين وعامة الناس. ستحلل هذه المقالة خصوصيات وعموميات هذا الحادث بالتفصيل وتستكشف تأثيره المحتمل.
في الآونة الأخيرة، أثارت منظمة Epoch AI، وهي منظمة غير ربحية تعمل على تطوير معايير رياضية للذكاء الاصطناعي، جدلاً بسبب فشلها في الكشف على الفور عن التمويل الذي تلقته من OpenAI. أعلنت المنظمة في 20 ديسمبر أن OpenAI قامت بتمويل مشروع يسمى FrontierMath، وهو معيار مصمم لاختبار القدرات الرياضية للذكاء الاصطناعي. كما استخدمت OpenAI المعيار لعرض منتجها الرائد القادم للذكاء الاصطناعي o3. قال أحد المقاولين لدى Epoch AI والذي يستخدم اللقب "Meemi" في منتدى LessWrong إن العديد من المساهمين في مشروع FrontierMath لم يكونوا على علم بتمويل OpenAI حتى تم الإعلان عنه. وذكر: "هناك نقص في الشفافية في التواصل حول هذا الأمر. في رأيي، يجب على Epoch AI الكشف عن مصدر تمويل OpenAI مقدمًا، ويجب أن يعلم المقاولون أنه يمكن استخدام عملهم لتقييم القدرات قبل أن يقرروا ما إذا كانوا سيفعلون ذلك أم لا". المشاركة في تطوير المعيار." على وسائل التواصل الاجتماعي، أعرب بعض المستخدمين عن قلقهم من أن مثل هذه السرية قد تضر بسمعة FrontierMath كمعيار موضوعي. بالإضافة إلى تمويل FrontierMath، تتمتع OpenAI أيضًا برؤية للعديد من المشكلات والحلول في المعيار، والتي لم تكشف عنها Epoch AI قبل 20 ديسمبر. أشارت كارينا هونغ، طالبة الدكتوراه في الرياضيات بجامعة ستانفورد، على منصات التواصل الاجتماعي إلى أن OpenAI حصلت على أولوية الوصول إلى FrontierMath بسبب تعاونها مع Epoch AI، الأمر الذي جعل بعض المساهمين غير سعداء. "أكد ستة من علماء الرياضيات الذين قدموا مساهمات كبيرة في معيار FrontierMath أنهم لم يعرفوا أن OpenAI ستمتلك هذا المعيار حصريًا وأن الآخرين لن يتمكنوا من الوصول إليه." كانوا على علم بذلك في وقت سابق، ومع هذا الترتيب، لا يجوز لهم المشاركة في المشروع. وقال تاماي بيسيروغلو، نائب مدير Epoch AI، إنه على الرغم من أن شفافية المنظمة لم تكن كافية، إلا أنه يعتقد أن سلامة FrontierMath لم تتأثر. واعترف بأن Epoch AI ارتكبت أخطاء في الاتصال وفشل في إبلاغ المساهمين بمشاركة OpenAI مسبقًا. وقال بيسيروغلو إنه على الرغم من أن OpenAI لديها إمكانية الوصول إلى FrontierMath، إلا أن هناك "اتفاقًا شفهيًا" بين الطرفين على أن OpenAI لن تستخدم مجموعة المشكلات المعيارية لتدريب الذكاء الاصطناعي الخاص بها. تحتفظ Epoch AI أيضًا بـ "موقع منفصل" لضمان التحقق المستقل من نتائج اختبار FrontierMath. ذكر Ellot Glazer، كبير علماء الرياضيات في Epoch AI، على Reddit أن Epoch AI لم تتحقق بشكل مستقل من نتائج FrontierMath o3 الخاصة بـ OpenAI. وهو يعتقد أن نتيجة OpenAI موثوقة ولكن لا يمكنه تأكيدها حتى يتم الانتهاء من المراجعة المستقلة.
كشفت حادثة Epoch AI عن أهمية الشفافية والكشف عن المعلومات في التعاون في مجال البحث العلمي. وفي المستقبل، ستحتاج المشاريع المعيارية المماثلة للذكاء الاصطناعي إلى اتفاقيات تمويل أكثر وضوحا وآليات اتصال أكثر فعالية لضمان موضوعيتها وحيادها والحفاظ على ثقة وسمعة المجتمع الأكاديمي. بهذه الطريقة فقط يمكن تعزيز التطور الصحي في مجال الذكاء الاصطناعي.