Baru-baru ini, Shenzhen Reecho Technology Co., Ltd. mengeluarkan pernyataan sebagai tanggapan atas insiden bahwa platform model besar sulih suara AI yang dikembangkan secara independen, Reecho, digunakan untuk menghasilkan audio dan video palsu. Dalam kejadian tersebut, tersangka menggunakan Reecho untuk mengkloning suara korban Lu dan menyebarkan informasi palsu. Editor Downcodes akan memberi Anda penjelasan rinci tentang kejadian tersebut dan tanggapan terkait.
Shenzhen Reecho Technology Co., Ltd. baru-baru ini mengeluarkan pernyataan yang mengonfirmasi bahwa bagian audio dari materi audio dan video yang diedarkan pada 16 September dikloning oleh tersangka menggunakan platform model besar dubbing Reecho AI yang dikembangkan secara independen. Audionya berasal dari klip siaran langsung Lu.
Perusahaan telah meluncurkan mekanisme audit internal untuk memperkuat kontrol keamanan otentikasi identitas pengguna dan pembuatan audio untuk memastikan penerapan teknologi yang legal dan patuh.
Reecho Ruisheng mengatakan bahwa sebagai tim start-up yang didirikan kurang dari setahun yang lalu, Yanyu Technology berkomitmen untuk mengeksplorasi teknologi mutakhir audio dan kecerdasan buatan antropomorfik. Sebagai platform teknologi sulih suara dan sintesis audio AI pertama kami yang dapat dilihat publik, Reecho bertujuan untuk meningkatkan efisiensi dan kenyamanan produksi konten kreatif melalui teknologi mutakhir yang dikembangkan sendiri.
Pada saat yang sama, Biro Keamanan Umum Kota Hefei Cabang Teknologi Tinggi menerima peringatan pada tanggal 20 September dan meluncurkan penyelidikan terhadap audio dan video palsu yang melibatkan Lu. Setelah penyelidikan, polisi menangkap tersangka Wang yang berusia 25 tahun pada malam tanggal 22 September dan menemukan bahwa dia menggunakan alat AI untuk memalsukan audio dan mensintesis video untuk disebarluaskan, sehingga menyebabkan rumor yang tersebar luas. Wang telah mengambil tindakan pidana sesuai dengan hukum, dan kasus ini masih dalam penyelidikan lebih lanjut.
Kejadian ini mengungkap risiko keamanan yang ada dalam proses penerapan teknologi AI, dan juga mengingatkan perusahaan AI untuk memperkuat perlindungan keamanan teknis dan standar etika. Respons Ruiyu Technology menunjukkan bahwa mereka menyadari masalah tersebut dan secara aktif mengambil tindakan untuk memperbaikinya. Teknologi AI diharapkan dapat berkembang di lingkungan yang lebih aman dan patuh di masa depan serta menciptakan nilai lebih bagi masyarakat.