في الآونة الأخيرة، علم محرر Downcodes بحادث أمني مثير للقلق في مجال الذكاء الاصطناعي: قدم أحد عملاء الذكاء الاصطناعي المسمى FungiFriend نصيحة استهلاكية خاطئة بشأن الفطر شديد السمية Sarcosphaera Coronaria، والذي يحتوي على تركيزات عالية من الزرنيخ، في مجموعة من المتحمسين للفطر على فيسبوك، وحتى أنه وصف أ مجموعة متنوعة من طرق الطهي بالتفصيل، مما أثار مخاوف عامة واسعة النطاق بشأن سلامة تطبيقات الذكاء الاصطناعي. هذه الحادثة ليست حالة معزولة، إذ كثيرًا ما يرتكب الذكاء الاصطناعي أخطاء في مجال سلامة الأغذية، مما يكشف مخاطر وتحديات تطبيق الذكاء الاصطناعي.
عندما سئل عن كيفية طهي فطر Sarcosphaera Coronaria الذي يحتوي على تركيزات عالية من الزرنيخ، لم تذكر FungiFriend بشكل غير صحيح أن الفطر صالح للأكل فحسب، بل قامت أيضًا بتفصيل طرق الطهي المختلفة بما في ذلك القلي والطهي والمزيد. في الواقع، تسبب هذا الفطر في حالات مميتة.
وأشار ريك كلايبول، مدير الأبحاث في منظمة سلامة المستهلك Public Citizen، إلى أن استخدام الذكاء الاصطناعي للتعرف تلقائيًا على الفطر الصالح للأكل والفطر السام يعد نشاطًا عالي الخطورة، وأن أنظمة الذكاء الاصطناعي الحالية ليست قادرة بعد على إكمال هذه المهمة بدقة.
هذه ليست حالة معزولة. في العام الماضي، ارتكبت تطبيقات الذكاء الاصطناعي أخطاء جسيمة بشكل متكرر في مجال سلامة الأغذية: - أوصى تطبيق الذكاء الاصطناعي بإعداد شطائر تحتوي على طارد البعوض، وقدم نظام الذكاء الاصطناعي وصفات تحتوي على الكلور، وحتى إرشادات سخيفة اقترحت تناول الحجارة - جوجل الذكاء الاصطناعي أيضًا هو ادعى أن الكلاب يمكنها ممارسة الرياضة واقترح استخدام الغراء لصنع البيتزا، من بين أشياء أخرى.
على الرغم من الأخطاء المتكررة في مجال الذكاء الاصطناعي، لا تزال الشركات الأمريكية تروج بسرعة لنشر خدمة عملاء الذكاء الاصطناعي. ويعكس هذا النهج المتمثل في تقييم السرعة على حساب الجودة مشكلة تتمثل في أن الشركات تولي اهتمامًا كبيرًا لتوفير التكاليف ولا تولي اهتمامًا كافيًا لسلامة المستخدم. ويدعو الخبراء إلى استخدام تكنولوجيا الذكاء الاصطناعي بحذر في مجالات محددة، خاصة تلك المتعلقة بالأمن، لضمان دقة المعلومات وموثوقيتها.
تتطور تكنولوجيا الذكاء الاصطناعي بسرعة، ولكن لا يمكن تجاهل قضايا الأمن والموثوقية الخاصة بها. تذكرنا هذه الحادثة مرة أخرى أنه عند استخدام الذكاء الاصطناعي في المناطق عالية الخطورة، يجب علينا إعطاء الأولوية لقضايا السلامة، وتعزيز الإشراف، وتحسين التكنولوجيا لتجنب وقوع حوادث مماثلة مرة أخرى. يدعو محرر Downcodes جميع الأطراف إلى العمل معًا لضمان أن تكنولوجيا الذكاء الاصطناعي يمكن أن تخدم البشرية بأمان وموثوقية.