أثار مشروع Gemini للذكاء الاصطناعي التابع لشركة Google جدلاً مؤخرًا بسبب لوائحه الداخلية الجديدة. وفقًا للتقارير، طُلب من الموظفين الخارجيين المسؤولين عن تقييم المحتوى الذي تم إنشاؤه بواسطة جيميني تقييم المجالات التي ليس لديهم خبرة فيها، خاصة في المجالات الحساسة مثل الرعاية الصحية، مما أثار مخاوف بشأن دقة معلومات جيميني. يؤثر تعديل السياسة هذا بشكل مباشر على عمل الموظفين الخارجيين ويؤثر بشكل غير مباشر على جودة تقييم جيميني.
في الآونة الأخيرة، أثار مشروع Gemini للذكاء الاصطناعي التابع لشركة Google مخاوف بشأن دقة المعلومات بسبب لوائحه الداخلية الجديدة. وفقًا للتقارير، يُطلب من الموظفين الخارجيين المكلفين بتقييم المحتوى الناتج عن الذكاء الاصطناعي تقييم المجالات التي ليس لديهم خبرة فيها، وخاصة في الموضوعات الحساسة مثل الرعاية الصحية.
هؤلاء الموظفون الخارجيون هم من شركة GlobalLogic، وهي شركة خدمات تكنولوجية عالمية تطلب منهم Google تقييم الاستجابات الناتجة عن الذكاء الاصطناعي، مع الأخذ في الاعتبار بشكل أساسي عوامل مثل "الأصالة". في السابق، كان بإمكان المتعاقدين الخارجيين اختيار تخطي الأسئلة التي ليس لديهم خبرة ذات صلة بها، على سبيل المثال، كان بإمكانهم اختيار عدم تقييم سؤال متخصص حول أمراض القلب. ويتم ذلك لضمان دقة التسجيل وأن الأشخاص ذوي الخلفية ذات الصلة هم وحدهم الذين يمكنهم إجراء تقييمات فعالة.
ومع ذلك، أعلنت شركة GlobalLogic الأسبوع الماضي عن أحدث متطلبات Google، حيث لم يعد يُسمح الآن للمتعاقدين الخارجيين بتخطي الأسئلة في مثل هذه المجالات من الخبرة، ولكن بدلاً من ذلك يُطلب منهم تقييم الأجزاء التي يفهمونها وشرح افتقارهم إلى المعرفة في المجال ذي الصلة. أثار هذا التغيير قلقًا واسع النطاق بين المتعاقدين الخارجيين من أن هذه الممارسة قد تؤثر على دقة جيميني في بعض المواضيع المعقدة.
على سبيل المثال، ذكر بعض المتعاقدين الخارجيين في الاتصالات الداخلية أن خيار التخطي السابق كان لتحسين دقة التسجيل، لكن تطبيق القواعد الجديدة أجبرهم على تقييم بعض المشكلات التي ليس لديهم خبرة بها، مثل الأمراض النادرة. تظهر رسائل البريد الإلكتروني الداخلية أن القاعدة الأصلية كانت: "إذا لم تكن لديك الخبرة اللازمة لهذه المهمة، فيرجى تخطيها." القاعدة الجديدة هي: "لا ينبغي تخطي المطالبات التي تتطلب الخبرة". هذا التغيير في السياسة، قم بالاستعانة بمصادر خارجية غير مريح.
بموجب اللوائح الجديدة، لا يمكن للمتعاقدين الخارجيين تخطي مهام التقييم إلا في حالتين: الأولى عندما تكون المعلومات مفقودة تمامًا، مثل المطالبة أو الاستجابة الكاملة؛ والأخرى حيث قد يكون المحتوى ضارًا ويتطلب موافقة خاصة لإجراء التقييم. على الرغم من أن هذه القواعد الجديدة تهدف إلى تحسين أداء برج الجوزاء، إلا أنها قد تؤثر على فهمه وملاحظاته حول الموضوعات المعقدة في العمليات الفعلية.
ولم تستجب جوجل لهذا الأمر، كما أن مخاوف المتعاقدين الخارجيين تتزايد تدريجياً.
تسليط الضوء على:
يُطلب من الموظفين الخارجيين تقييم الاستجابات التي يولدها الذكاء الاصطناعي والتي ليس لديهم خبرة فيها، خاصة في المجالات الحساسة مثل الرعاية الصحية.
تلغي اللوائح الجديدة خيار "التخطي" وتتطلب من المتعاقدين الخارجيين الاستمرار في التسجيل حتى لو كانوا يفتقرون إلى الخبرة.
قد تؤثر هذه السياسة على دقة جيميني في المواضيع المعقدة، مما يسبب عدم الارتياح والقلق بين الموظفين الخارجيين.
لقد تأخر رد Google على لوائح Gemini الجديدة، واستمرت المخاوف بين موظفي الاستعانة بمصادر خارجية في النمو، مما يجعل تطوير Gemini المستقبلي يواجه تحديات جديدة. تحتاج طريقة تقييم دقة نماذج الذكاء الاصطناعي إلى مزيد من التحسين لضمان موثوقية وسلامة تكنولوجيا الذكاء الاصطناعي.