في الآونة الأخيرة، أثار خبر عن الصور المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي نجحت في خداع أنظمة مصادقة الأسماء الحقيقية مثل البنوك، مناقشات ساخنة على وسائل التواصل الاجتماعي، حيث تجاوزت المشاهدات 4 ملايين. وكشفت الأخبار عن المخاطر المحتملة لتقنية الذكاء الاصطناعي في مجال التزوير العميق، كما أثارت مخاوف بشأن أمن الذكاء الاصطناعي. يسلط هذا الحادث الضوء مرة أخرى على تأثير السيف ذي الحدين الناجم عن تطور تكنولوجيا الذكاء الاصطناعي، فمن ناحية، يمكن أن يجلب الراحة، ولكن من ناحية أخرى، يمكن استخدامه أيضًا في أنشطة غير قانونية. ستتناول هذه المقالة تفاصيل الحادث والتفاصيل الفنية.
تقول المصادر أن شخصًا ما نجح في خداع أنظمة مصادقة الاسم الحقيقي مثل البنوك باستخدام الصور التي تم إنشاؤها بواسطة SD. وأثارت التغريدة نقاشا ساخنا على وسائل التواصل الاجتماعي، وحصلت على أكثر من 4 ملايين مشاهدة. قام المؤلف الأصلي بدمج نموذجين من نماذج لورا وأجرى تجارب لتحقيق الاتساق والتأثيرات الجمالية. تقدم المقالة أيضًا العملية المحددة لإنشاء الصور، بما في ذلك خطوات مثل تحسين الوجوه وإضافة النص وتراكبات الصور. أثار هذا الخبر مرة أخرى المناقشات والمخاوف بشأن تكنولوجيا الذكاء الاصطناعي.تذكرنا هذه الحادثة أننا بحاجة إلى تعزيز الرقابة على تكنولوجيا الذكاء الاصطناعي والعمل بنشاط على تطوير التكنولوجيا لمكافحة التزوير العميق لضمان أمن المعلومات الشخصية والاستقرار الاجتماعي. وينبغي للتقدم التكنولوجي أن يرتكز دائما على المسؤولية الاجتماعية، وبهذه الطريقة فقط يمكن الاستفادة من الدور الإيجابي للذكاء الاصطناعي بشكل أفضل.