Baru-baru ini, seorang wanita virtual bernama Claudia muncul di Reddit. Dia dihasilkan oleh alat AI Stable Diffusion dan realismenya mengejutkan. Banyak pengguna Reddit bahkan membayar untuk foto telanjang mereka yang dihasilkan oleh AI, sehingga memicu kekhawatiran luas. Editor Downcodes akan membawa Anda melalui keseluruhan kisah kejadian ini, serta status perkembangan saat ini dan potensi risiko teknologi AI yang tercermin di dalamnya.
Pengguna Reddit dilaporkan telah membayar untuk foto telanjang seorang wanita palsu yang dihasilkan oleh AI.
Dibuat oleh alat kecerdasan buatan Stable Diffusion, foto-foto tersebut terlihat sangat realistis sehingga sulit untuk membedakannya. Gambar tersebut pertama kali muncul di beberapa forum Reddit beberapa bulan lalu, menarik perhatian dan komentar dari banyak pengguna.
Foto-foto indah dihasilkan oleh Difusi Stabil
Seorang pengguna bahkan berkomentar setelah melihat foto Claudia: "Kamu cantik sekali!" Yang lain berkata: "Wow, kamu cantik sekali!"
Meski sebagian pengguna mulai meragukan keaslian foto-foto tersebut dan menganggapnya terlihat terlalu diproses, namun masih banyak orang yang terobsesi dengan pesona "kecantikan" tersebut.
Seorang pengguna yang berpengetahuan mengingatkan semua orang di komentar: "Saya harus menghancurkan fantasi Anda, ini sebenarnya dibuat oleh AI. Jika Anda pernah bermain dengan model gambar AI, Anda akan melihatnya sekilas."
Menurut pencipta Claudia, mereka menghasilkan sekitar $100 dari penjualan foto telanjang. Faktanya, tujuan awal akun ini adalah untuk menguji apakah gambar AI berhasil menipu pengguna.
Mereka berkata: "Anda dapat menganggap ini sebagai konsep pembawa berita virtual. Kami menciptakan karakter kami sendiri dan tampil dalam identitas yang sama sekali berbeda. Saya tidak menyangka hal ini akan menarik perhatian sebesar itu."
Peneliti AI menunjukkan bahwa foto Claudia memang memiliki beberapa fitur jelas yang dihasilkan AI, seperti detail aneh di latar belakang dan noda di tangan. Munculnya gambar-gambar ini menandai perkembangan terkini dalam teknologi pemodelan difusi kecerdasan buatan, yang dapat menghasilkan gambar manusia yang benar-benar baru dan realistis.
Perlu dicatat bahwa Claudia pertama kali muncul di subreddit r/amIhot. Kemudian, untuk mencegah kejadian serupa terjadi, subreddit mulai mengharuskan pengguna menyediakan video berdurasi 10 hingga 15 detik untuk memverifikasi identitas mereka.
Menyorot:
?Teknologi AI telah menjadikan model virtual “Claudia” menjadi topik hangat di Reddit.
?Pembuatnya memperoleh sekitar $100 dari menjual foto telanjang Claudia.
Subreddit Reddit r/amIhot memperkenalkan langkah-langkah otentikasi untuk mencegah pengguna yang menyesatkan.
Insiden Claudia tidak hanya menunjukkan kemajuan teknologi pembuatan gambar AI, namun juga mengungkap potensi masalah etika dan keselamatan. Cara mengidentifikasi gambar yang dihasilkan oleh AI dan cara mengatur penerapan teknologi AI di media sosial merupakan isu yang patut untuk kita pertimbangkan. Kejadian ini juga mengingatkan kita bahwa sembari menikmati kemudahan yang dibawa oleh kemajuan teknologi, kita perlu tetap waspada dan memandang perkembangan teknologi AI secara rasional.