Dengan pesatnya perkembangan teknologi kecerdasan buatan, teknologi kloning suara sudah semakin matang. Namun, risiko yang ditimbulkannya tidak dapat diabaikan. Dalam beberapa tahun terakhir, banyak terjadi kasus penipuan yang menggunakan teknologi kloning suara, dan banyak orang terkenal yang menjadi korbannya, sehingga memicu kekhawatiran masyarakat terhadap teknologi tersebut dan memerlukan pengawasan hukum yang lebih kuat. Editor Downcodes akan menjelaskan secara rinci tantangan dan penanggulangan yang ditimbulkan oleh teknologi kloning suara.
Dengan kemajuan teknologi kecerdasan buatan yang berkelanjutan, teknologi kloning suara secara bertahap mulai terlihat oleh publik, namun potensi risikonya juga telah muncul. Baru-baru ini, suara banyak orang terkenal telah dikloning secara jahat oleh para penjahat dan digunakan sebagai alat penipuan. Banyak selebritas, termasuk pembawa acara dokumenter alam terkenal David Attenborough, telah menyatakan keprihatinannya mengenai hal ini dan menyerukan perlindungan hukum yang lebih kuat.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Baru-baru ini, David Attenborough merasa "sangat terganggu" setelah mengetahui suaranya digunakan untuk menyebarkan berita politik. Ia berkata bahwa ia telah mengabdikan hidupnya untuk menyebarkan kebenaran, namun kini ia mengetahui bahwa identitasnya telah dicuri oleh orang lain. Selain itu, suara selebriti seperti Jennifer Aniston, Oprah Winfrey, dan Kylie Jenner juga telah dikloning oleh para penjahat, yang menunjukkan universalitas dari fenomena ini.
Penipuan kloning suara AI di Inggris telah meningkat sebesar 30% pada tahun lalu, menurut penyelidikan terbaru. Survei menunjukkan bahwa sekitar 28% orang pernah mengalami penipuan kloning suara AI setidaknya sekali dalam setahun terakhir. Penipuan ini sering kali menampilkan panggilan telepon yang tidak jelas dan suara palsu, sehingga menyulitkan korban untuk membedakannya. Para ahli menyarankan ketika Anda menerima panggilan mencurigakan, sebaiknya segera tutup telepon dan hubungi nomor telepon tepercaya untuk mengonfirmasi.
Seiring dengan kemajuan teknologi kloning suara, para ahli mulai fokus pada tantangan hukum yang ditimbulkan oleh teknologi tersebut. Dr. Dominic Lees mengatakan bahwa undang-undang privasi dan hak cipta saat ini belum beradaptasi dengan perkembangan teknologi baru ini, sehingga banyak korban seperti Attenborough hampir tidak berdaya. Ia menjadi penasihat Komite Kebudayaan, Media, dan Olahraga Parlemen Inggris mengenai penggunaan teknologi AI secara etis dalam produksi film dan televisi.
Tidak hanya itu, Li Si juga menunjukkan bahwa meskipun AI telah mencapai kemajuan yang signifikan dalam sintesis suara, namun AI masih belum dapat sepenuhnya memahami perubahan emosional, sehingga mempengaruhi realisme suara. Selain itu, industri sulih suara juga merespons perubahan ini dengan cepat, dan beberapa perusahaan mulai mengkloning suara beberapa artis untuk memenuhi permintaan pasar.
Secara keseluruhan, kebangkitan teknologi kloning suara telah menimbulkan kekhawatiran luas, terutama dalam hal melindungi privasi dan reputasi pribadi. Para ahli menyerukan kepada pemerintah untuk mengambil tindakan secepat mungkin guna menghadapi tantangan baru yang ditimbulkan oleh teknologi AI dan menghindari teknologi ini menjadi alat bagi para penjahat.
Teknologi kloning suara merupakan pedang bermata dua, dan pengembangannya memerlukan keseimbangan antara kemajuan teknologi dan norma etika. Di masa depan, memperkuat peraturan, meningkatkan kesadaran masyarakat akan pencegahan, dan mendorong pengembangan teknologi yang aman akan menjadi kunci untuk menghadapi risiko teknologi kloning suara.