Sebuah laporan baru-baru ini mengungkapkan masalah serius yang tersembunyi dalam generator gambar AI: ribuan foto cabul anak-anak digunakan untuk melatih model, memungkinkan sistem AI menghasilkan gambar pornografi anak palsu yang realistis dan bahkan mengubah foto remaja asli menjadi gambar telanjang. Hal ini telah memicu kekhawatiran luas mengenai potensi risiko teknologi pembuatan gambar AI, dan juga menyoroti pentingnya masalah keselamatan teknis dan etika. Laporan tersebut dengan tegas menyerukan kepada perusahaan-perusahaan terkait untuk mengambil tindakan proaktif guna mengatasi kerentanan teknis dan mencegah insiden serupa terjadi lagi.
Ribuan foto cabul anak-anak disembunyikan di dasar generator gambar AI, menurut sebuah laporan baru, yang mendesak perusahaan untuk mengambil tindakan guna mengatasi kelemahan dalam teknologi tersebut. Gambar-gambar ini memudahkan sistem AI untuk menghasilkan gambar palsu anak-anak yang realistis dan mengubah foto remaja berpakaian lengkap di media sosial menjadi foto telanjang. Tidak ada solusi mudah untuk masalah ini dan perusahaan perlu mengambil tindakan untuk mengatasi kerentanan dalam teknologi. Menurut laporan tersebut, hal ini menimbulkan kekhawatiran tentang potensi risiko pada generator gambar AI.
Teknologi pembuatan gambar AI berkembang pesat, namun juga membawa risiko yang sangat besar. Peluncuran laporan ini mengingatkan kita bahwa kita harus memperhatikan masalah etika dan keselamatan saat mengembangkan teknologi, secara aktif mengeksplorasi pengawasan dan solusi yang efektif, dan bersama-sama membangun lingkungan penerapan AI yang aman dan andal. Hanya dengan cara ini kita dapat memastikan bahwa teknologi AI bermanfaat bagi umat manusia dan bukannya menimbulkan kerugian.