لقد جلب التطور السريع للذكاء الاصطناعي العديد من وسائل الراحة ، لكنه يشكل أيضًا مخاطر هائلة. في الآونة الأخيرة ، قدم وكيل منظمة العفو الدولية اسم "Fungifriend" نصيحة خاطئة للطبخ في مجموعة Facebook Mushroom ، والتي تسببت في كارثة تقريبًا ، مما يبرز مخاطر السلامة التي يتم تطبيقها على المناطق المعروفة. أثار الحادث مخاوف عامة بشأن أمن الذكاء الاصطناعي ودفع الناس إلى إعادة النظر في حدود تطبيق تقنية الذكاء الاصطناعي.
في الآونة الأخيرة ، تسبب الحادث الذي وقع في مجموعة Facebook Mushroom Actusiast مرة أخرى في مخاوف بشأن أمان طلبات الذكاء الاصطناعي. وفقًا لـ 404 Mediia ، تسلل وكيل منظمة العفو الدولية باسم "Fungifriend" إلى مجموعة "تحديد هوية ومناقشة الفطر الشمالي الشرقي" مع 13000 عضو وقدم اقتراحات خاطئة مع مخاطر قاتلة محتملة.
عندما سئل عن كيفية طهي الفطر الساركوسفيرا كوروناريا الذي يحتوي على تركيزات عالية من الزرنيخ ، لم يذكر الفطريات عن طريق الخطأ أن الفطر "صالح للأكل" ، ولكنه قدم أيضًا مجموعة متنوعة من طرق الطهي بما في ذلك القلي ، والتجويف ، وما إلى ذلك. في الواقع ، تسبب هذا الفطر في حالات مميتة.
أشار ريك كلايبول ، مدير الأبحاث في منظمة أمن المستهلك العامة ، إلى أن استخدام الذكاء الاصطناعى لأتمتة تحديد الفطر الصالحة للأكل والسامة هو "نشاط عالي الخطورة" وأن أنظمة الذكاء الاصطناعى الحالية لا يمكنها إكمال هذه المهمة بدقة.
هذه ليست حالة معزولة. في العام الماضي ، ارتكبت تطبيقات الذكاء الاصطناعى أخطاء خطيرة في مجال سلامة الأغذية: - توصي بعض تطبيقات الذكاء الاصطناعى بصنع شطائر تحتوي كما ادعى الذكاء الاصطناعي ذات مرة أن "الكلاب يمكن أن تمارس" واقترح استخدام الغراء لصنع البيتزا ، إلخ.
على الرغم من أخطاء الذكاء الاصطناعي المتكرر ، لا تزال الشركات الأمريكية تروج بسرعة لتعميم خدمة عملاء الذكاء الاصطناعى. يعكس هذا النهج "التركيز على السرعة وإهمال جودة" أن الشركات تشعر بالقلق المفرط بشأن وفورات التكاليف وتفتقر إلى سلامة المستخدم. يطلب الخبراء توخي الحذر لاستخدام تقنية الذكاء الاصطناعي في مجالات محددة ، وخاصة تلك التي تنطوي على الأمن ، لضمان دقة وموثوقية المعلومات.
بدت حادثة "Fungifriend" دعوة للاستيقاظ لتحذيرنا من أنه أثناء الاستمتاع براحة الذكاء الاصطناعي ، يجب أن نولي اهتمامًا لمخاطرها الأمنية. في المستقبل ، يجب اختبار تقنية الذكاء الاصطناعى وتنظيمها قبل تطبيقها لضمان موثوقيتها وأمنها وتجنب حدوث حوادث مماثلة مرة أخرى. بهذه الطريقة فقط يمكن استخدام فوائد الذكاء الاصطناعى وتجنبها أن تصبح ضررًا محتملاً.