Penelitian baru dari Google DeepMind mengungkapkan dampak ganda serangan permusuhan terhadap kecerdasan buatan dan penilaian manusia. Penelitian telah menemukan bahwa model AI yang terlatih pun rentan terhadap interferensi yang dirancang dengan cermat (gangguan permusuhan), yang menyebabkan klasifikasi gambar salah, dan kesalahan ini juga dapat memengaruhi penilaian manusia. Hal ini menimbulkan kekhawatiran mengenai keamanan dan keandalan sistem AI dan menyoroti perlunya penelitian lebih lanjut mengenai sistem visi AI dan mekanisme persepsi manusia.
Artikel ini berfokus pada:
Penelitian terbaru dari Google DeepMind menunjukkan bahwa serangan permusuhan tidak hanya efektif terhadap kecerdasan buatan, tetapi juga mempengaruhi penilaian manusia. Jaringan saraf rentan terhadap gangguan permusuhan, yang menyebabkan manusia dan AI salah mengklasifikasikan gambar. Hasil penelitian ini menunjukkan bahwa kita perlu memiliki pemahaman yang lebih mendalam tentang persamaan dan perbedaan antara perilaku sistem visual kecerdasan buatan dan persepsi manusia untuk membangun sistem kecerdasan buatan yang lebih aman.
Penelitian ini menyoroti pentingnya membangun sistem AI yang lebih kuat dan aman. Penelitian di masa depan perlu fokus pada cara meningkatkan kemampuan anti-interferensi model AI dan cara lebih memahami perbedaan kognitif antara manusia dan AI dalam serangan musuh, sehingga dapat memberikan landasan teoretis dan dukungan teknis untuk pengembangan teknologi AI yang lebih andal. . Hanya dengan cara ini penerapan teknologi kecerdasan buatan dapat dipastikan aman dan andal serta potensi risiko dapat dihindari.