Teknologi kecerdasan buatan berkembang pesat, dan teknologi pemalsuan mendalam, sebagai salah satu penerapannya, sangat mempengaruhi kehidupan kita. Teknologi ini dapat menghasilkan video dan gambar palsu yang sangat realistis, yang memberikan banyak kemudahan namun juga membawa risiko serius, seperti penggunaan gambar selebriti untuk melakukan penipuan. Artikel ini akan membahas tantangan dan penanggulangan yang ditimbulkan oleh teknologi pemalsuan mendalam, yang bertujuan untuk meningkatkan kesadaran risiko masyarakat dan menjaga ketertiban sosial.
Dalam beberapa tahun terakhir, AI telah merambah ke setiap aspek kehidupan, mulai dari asisten suara hingga teknologi mengemudi otonom. Namun, meluasnya penerapan teknologi AI juga membawa beberapa potensi risiko, di antaranya teknologi deepfake yang menarik perhatian masyarakat.
Teknologi deepfake menggunakan algoritme untuk menghasilkan konten palsu yang sangat realistis. Dengan mempelajari sejumlah besar data nyata, teknologi ini menghasilkan video atau gambar yang sangat mirip dengan orang atau pemandangan. Meskipun teknologi ini menunjukkan kekuatan AI, teknologi ini juga melahirkan penipuan. Misalnya, baru-baru ini ada insiden di mana orang berpura-pura menggunakan gambar dan suara Dr. Zhang Wenhong untuk mempromosikan siaran langsung. Dalam video palsu tersebut, sosok sintetis mempromosikan produk tertentu sehingga menghasilkan penjualan lebih dari 1.200 item. Kejadian ini menyebabkan ketidakpuasan yang kuat antara Dr. Zhang Wenhong dan masyarakat.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Tang Jiansheng, wakil sekretaris jenderal Komisi Perlindungan Hak Konsumen Shanghai, mengatakan bahwa perilaku meniru gambar selebriti melalui teknologi AI merupakan pelanggaran serius terhadap hak-hak konsumen. Kasus serupa mencakup orang-orang yang menggunakan foto profil Lei Jun untuk membuat video spoof selama Hari Nasional, dan meniru suara Andy Lau untuk menarik lalu lintas. Perusahaan dan selebriti terkait pun angkat bicara untuk memperingatkan masyarakat agar lebih waspada.
Para ahli menunjukkan bahwa teknologi AI saat ini dapat dengan mudah mengkloning wajah dan suara orang lain, dan konten yang dihasilkan sangat realistis. Namun, teknologi jenis ini bukannya tanpa kekurangan. Keanehan tetap dapat ditemukan dengan mengamati secara cermat perpaduan wajah dengan latar belakang atau kesesuaian suara dengan bentuk mulut. Selain itu, streaming langsung waktu nyata saat ini sulit dicapai dengan teknologi seperti itu.
Para profesional hukum telah memperjelas bahwa penggunaan gambar atau suara orang lain tanpa izin adalah tindakan ilegal. Zhu Wei, profesor di Universitas Ilmu Politik dan Hukum China, menekankan bahwa menurut KUH Perdata, perilaku ini melanggar hak kepribadian menurut Undang-undang Keamanan Siber, konten yang relevan adalah informasi ilegal, dan penerbit bahkan dapat menghadapi tanggung jawab pidana; .
Bagi konsumen, jika mereka membeli barang karena selebriti palsu AI membawa barang, mereka dapat meminta pedagang untuk "mengembalikan satu dan memberikan kompensasi tiga" sesuai dengan "Undang-undang Perlindungan Hak Konsumen", dan jumlah kompensasi minimum adalah 500 yuan. Pada saat yang sama, platform video pendek juga harus memikul tanggung jawab regulasi, memperkuat peninjauan dan hukuman terhadap konten yang relevan, dan menghindari penyebaran informasi ilegal secara luas.
Maraknya teknologi pemalsuan mendalam mengingatkan masyarakat bahwa selain menikmati kemudahan AI, mereka juga perlu mewaspadai potensi risikonya.
Menghadapi tantangan teknologi pemalsuan mendalam, kita membutuhkan pemerintah, perusahaan, dan individu untuk bekerja sama memperkuat pengawasan legislatif, meningkatkan kemampuan identifikasi teknis, dan bersama-sama membangun lingkungan jaringan yang aman dan andal. Hanya dengan cara inilah teknologi AI dapat dimanfaatkan dengan lebih baik, menghindari penggunaan yang berbahaya, dan menjaga ketertiban sosial dan kepentingan publik.