Zoom akan meluncurkan fitur avatar digital bertenaga AI yang sangat dinantikan, yang akan merevolusi cara pengguna berkomunikasi secara asinkron. Fitur ini memungkinkan pengguna untuk membuat avatar digital yang realistis dan menghasilkan audio yang disinkronkan secara bibir dengan avatar tersebut dengan memasukkan teks, sehingga meningkatkan efisiensi komunikasi. Namun, kemunculan teknologi ini juga menimbulkan kekhawatiran akan risiko deepfake. Editor Downcodes akan membawa Anda untuk memiliki pemahaman mendalam tentang fitur baru Zoom ini, menganalisis potensi risikonya, dan langkah-langkah keamanan yang diambil Zoom untuk menghadapi risiko tersebut.
Zoom bersiap untuk menghadirkan fitur baru yang luar biasa kepada penggunanya, tetapi kita mungkin harus menunggu hingga tahun depan untuk melihatnya sekilas. Raksasa konferensi video ini mengumumkan pada konferensi pengembang tahunannya bahwa mereka akan meluncurkan fitur yang akan mengubah video pengguna menjadi avatar digital bertenaga AI yang nyata.
Avatar digital ini tidak hanya mencakup kepala, tetapi juga lengan atas dan bahu, menjadikannya tiruan digital. Pengguna cukup memasukkan apa yang ingin disampaikan oleh avatar digital mereka, dan Zoom menghasilkan audio yang disinkronkan secara bibir ke avatar tersebut. Kedengarannya luar biasa, bukan?
Smita Hashim, chief product officer Zoom, mengatakan fitur ini dirancang untuk membantu orang berkomunikasi secara asinkron dengan rekan kerja dengan cara yang lebih cepat dan efisien. Dia menekankan bahwa avatar semacam ini dapat menghemat waktu dan energi pengguna yang berharga sekaligus meningkatkan efisiensi pembuatan video.
Namun kemunculan teknologi ini juga menimbulkan beberapa kekhawatiran. Kita harus memikirkan apakah hal ini akan membawa risiko deepfake?
Faktanya, banyak perusahaan telah mengembangkan teknologi AI serupa yang dapat mengkloning wajah seseorang secara digital dan mencocokkannya dengan suara sintesis yang cukup alami. Misalnya, Tavus membantu merek membuat avatar untuk iklan video yang dipersonalisasi, sementara Microsoft tahun lalu meluncurkan layanan yang dapat menghasilkan avatar digital yang meyakinkan.
Namun alat-alat ini sering kali memiliki perlindungan ketat untuk mencegah penyalahgunaan. Tavus memerlukan pernyataan persetujuan lisan, dan Microsoft mewajibkan pelanggannya untuk mendapatkan izin tertulis dan persetujuan dari semua talenta avatar yang terlibat.
Sebagai perbandingan, deskripsi Zoom mengenai langkah-langkah keamanannya tampak tidak jelas. Hashim mengatakan perusahaan sedang membangun beberapa perlindungan untuk fitur avatar khusus, termasuk otentikasi tingkat lanjut dan watermarking. Dia berjanji untuk terus meninjau dan menambahkan langkah-langkah keamanan sesuai kebutuhan di masa depan.
Langkah Zoom ini bertepatan dengan visi besar CEO Yuan Zheng. Kedepannya, ia berharap dapat menciptakan AI yang dapat berpartisipasi dalam rapat Zoom, membalas email, dan bahkan menjawab panggilan telepon atas nama Anda.
Namun, kemunculan teknologi ini terjadi pada saat deepfake menyebar luas di media sosial, sehingga semakin sulit membedakan kebenaran dan disinformasi. Video deepfake yang melibatkan Presiden Joe Biden, Taylor Swift, dan Wakil Presiden Kamala Harris telah ditonton jutaan kali dan dibagikan secara online tahun ini. Baru-baru ini, setelah Badai Helene, banjir gambar palsu yang dihasilkan AI membanjiri web, menampilkan adegan fiksi kehancuran dan penderitaan manusia.
Teknologi deepfake juga telah digunakan untuk menyasar individu, seperti menyamar sebagai kerabat untuk melakukan penipuan. Menurut Komisi Perdagangan Federal, kerugian akibat penipuan peniruan identitas melebihi $1 miliar pada tahun lalu.
Jadi, bagaimana tepatnya Zoom mencegah penipu menggunakan alatnya untuk menghasilkan video palsu yang berbahaya? Maket yang disediakan oleh perusahaan menunjukkan tanda air yang terlihat di sudut kanan atas video avatar khusus. Namun tanda air ini mudah terpotong oleh alat perekam layar.
Kami berharap dapat mengetahui lebih detail kapan Zoom berencana merilis fitur ini pada paruh pertama tahun 2025. Pada saat itu, pengguna harus membayar tambahan $12 per bulan untuk menggunakan avatar khusus di Zoom Clips, alat video asinkronnya.
Terlepas dari tindakan apa yang akhirnya diambil oleh Zoom, upaya regulasi sedang dilakukan untuk mencoba mengekang penyebaran deepfake. Karena tidak adanya undang-undang yang mengkriminalisasi deepfake di tingkat federal, lebih dari 10 negara bagian telah memberlakukan peraturan yang menargetkan peniruan identitas yang dibantu oleh AI. Undang-undang California, yang saat ini ditangguhkan, akan menjadi undang-undang pertama yang memberikan hakim kewenangan untuk memerintahkan penerbit konten deepfake untuk menghapus konten tersebut atau menghadapi kemungkinan denda.
Saat Zoom meluncurkan fitur baru ini, mau tidak mau kita bertanya: Apakah kemajuan teknologi selalu memberikan dampak positif? Saat menikmati kemudahan, pernahkah kita secara tidak sengaja membuka Kotak Pandora?
Meskipun fitur avatar digital AI Zoom menjanjikan, fitur ini juga memiliki potensi risiko. Bagaimana mencapai keseimbangan antara kemajuan teknologi dan risiko keamanan akan menjadi pertanyaan yang perlu dipertimbangkan secara serius oleh Zoom dan seluruh industri teknologi di masa depan. Editor Downcodes akan terus memperhatikan kemajuan teknologi ini dan memberikan lebih banyak laporan terkait kepada Anda.