Baru-baru ini, teknologi AI yang mengubah wajah telah digunakan dalam siaran langsung untuk membawa barang, yang telah menarik perhatian masyarakat luas. Sebuah akun yang meniru siaran langsung penjualan barang Dr. Zhang Wenhong menipu banyak orang, terutama pemirsa lanjut usia yang belum terbiasa dengan teknologi AI. Setelah insiden tersebut terungkap, Zhang Wenhong sendiri menanggapinya dan mengatakan bahwa dia telah mengajukan keluhan kepada platform tersebut berkali-kali. Insiden ini menyoroti risiko penyalahgunaan teknologi AI dan kelemahan masyarakat dalam memahami informasi.
Baru-baru ini, sebuah video menarik perhatian luas di Internet. Dalam video tersebut, sebuah akun yang meniru Zhang Wenhong muncul di siaran langsung menjual protein bar.
Banyak netizen yang mempertanyakan hal ini, "Apakah Zhang Wenhong membawa barang?" Yang lebih mengkhawatirkan adalah beberapa penonton yang lebih tua yakin dengan video ini dan bahkan telah memesan dan meneruskan informasinya ke grup sosial. Setelah diverifikasi oleh wartawan, diketahui bahwa Zhang Wenhong dalam video tersebut bukanlah orang sungguhan, melainkan pemalsuan mendalam yang disintesis melalui teknologi AI.
Sebagai tanggapan, Zhang Wenhong mengatakan bahwa ada lebih dari satu akun penjualan seperti itu dan akun tersebut terus berubah. Dia telah mengajukan keluhan kepada platform tersebut berkali-kali. Hal ini telah berlangsung selama beberapa minggu dan awalnya ada keluhan. Apalagi sebagian orang lanjut usia yang belum terlalu paham dengan AI akan mudah mempercayainya.
Dengan berkembangnya teknologi kecerdasan buatan, bentuk siaran langsung dengan barang terus berubah. Saat ini, teknologi AI dapat menghasilkan wajah dan suara yang sangat realistis, sehingga memungkinkan beberapa penjahat menggunakan teknologi tersebut untuk melakukan penipuan. Baru-baru ini, suara seorang selebriti pengusaha disintesis oleh teknologi AI dan disebarkan secara online, sehingga menimbulkan dampak yang sangat besar. Zhang Wenhong yang disintesis oleh AI kali ini tampil sangat realistis selama siaran langsung. Meski masih ada kekurangan di level teknis, ia tetap menipu banyak orang.
Kejadian ini memicu kekhawatiran masyarakat terhadap keaslian informasi, terutama di kalangan lansia, yang kesadarannya terhadap teknologi baru relatif tertinggal dan rentan terhadap penipuan. Namun, siapa pun, tidak hanya orang lanjut usia, mungkin berisiko disesatkan oleh informasi yang dipalsukan oleh AI. Kita tidak dapat sepenuhnya mengandalkan penilaian individu untuk mengidentifikasi informasi palsu ini, sehingga tindakan pencegahan teknis yang relevan sangatlah penting.
Selama siaran langsung, akun yang meniru Zhang Wenhong tidak secara jelas menunjukkan identitasnya dan hanya disiarkan langsung pada tengah malam. Meskipun perkembangan teknologi AI memberikan kemudahan bagi kita, namun juga membawa tantangan baru bagi masyarakat. Untuk mengatasi lebih banyak pemalsuan yang mungkin terjadi di masa depan, penting untuk membangun mekanisme pencegahan risiko yang lebih lengkap.
Highlight:
AI yang disintesis oleh Zhang Wenhong menyebabkan diskusi panas selama siaran langsung, dan beberapa netizen salah memahami identitasnya.
Kesadaran masyarakat terhadap teknologi baru masih tertinggal dan mudah terpengaruh oleh informasi palsu.
Penting untuk memperkuat langkah-langkah teknis pencegahan dan mekanisme pemantauan informasi serta meningkatkan kemampuan identifikasi masyarakat.
Risiko yang ditimbulkan oleh teknologi AI yang dapat mengubah wajah tidak dapat diabaikan. Platform perlu memperkuat pengawasan dan meningkatkan kemampuan pengenalan informasi masyarakat agar dapat secara efektif menghadapi tantangan yang ditimbulkan oleh teknologi AI. Hanya dengan memperkuat pendidikan literasi digital nasional dan mempopulerkan pengetahuan pencegahan, kita dapat melindungi hak dan kepentingan kita sendiri dengan lebih baik serta membangun lingkungan jaringan yang lebih aman.