Dengan maraknya AI generatif, penyebaran informasi palsu telah menjadi masalah yang serius. Pesatnya perkembangan teknologi pemalsuan mendalam telah menyebabkan keamanan jaringan menghadapi tantangan yang sangat besar. Untuk mengatasi ancaman ini, Meta telah meluncurkan alat baru bernama Meta Video Seal, yang bertujuan untuk memerangi video deepfake dan melindungi orisinalitas konten melalui teknologi watermarking yang tidak terlihat. Alat ini telah dirilis sebagai sumber terbuka dan dikombinasikan dengan alat watermarking Meta yang dirilis sebelumnya untuk membentuk solusi anti-deepfake yang lebih komprehensif.
Dengan komersialisasi kecerdasan buatan generatif, jumlah konten palsu di dunia maya telah meningkat secara dramatis. Menurut data dari platform verifikasi identitas Sumsub, jumlah deepfake global akan meningkat empat kali lipat dari tahun 2023 hingga 2024. Deepfakes akan menyumbang 7% dari seluruh penipuan pada tahun 2024, yang mencakup segala hal mulai dari peniruan identitas dan pengambilalihan akun hingga kampanye rekayasa sosial yang canggih.
Untuk mengatasi masalah ini, Meta telah merilis alat baru, Meta Video Seal, yang dirancang untuk memerangi deepfake dengan menambahkan tanda air yang tidak terlihat pada video yang dihasilkan AI. Alat ini, yang dirilis sebagai sumber terbuka pada hari Kamis, dirancang agar mudah diintegrasikan ke dalam perangkat lunak yang sudah ada dan melengkapi alat watermarking Meta lainnya yang diluncurkan sebelumnya, Watermark Anything dan Audio Seal.
“Kami mengembangkan Video Seal untuk memberikan solusi watermarking video yang lebih efektif, khususnya untuk mendeteksi video yang dihasilkan AI dan melindungi orisinalitas,” kata ilmuwan riset kecerdasan buatan Meta, Pierre Fernandez dalam sebuah wawancara.
Meskipun Video Seal bukan teknologi watermarking video pertama yang diusulkan, SynthID DeepMind dan metode watermarking Microsoft juga telah digunakan di pasar, namun Fernandez menunjukkan bahwa alat watermarking yang ada umumnya memiliki beberapa kekurangan. Dia berkata: "Meskipun ada alat watermarking lainnya, alat tersebut tidak berfungsi dengan baik setelah kompresi video, yang sangat umum terjadi saat mendistribusikan konten di platform sosial; beberapa metode juga beroperasi kurang efisien dan tidak dapat dibuka atau direplikasi; selain itu, Banyak metode yang berasal dari watermarking gambar, namun watermarking gambar tidak cocok untuk video."
Selain fungsi watermark, Video Seal juga dapat menyematkan informasi tersembunyi dalam video, yang nantinya dapat diungkap untuk menelusuri sumber video tersebut. Meta mengklaim bahwa Video Seal dapat secara efektif menolak metode pengeditan umum seperti pemburaman dan pemotongan, serta algoritma kompresi yang umum digunakan.
Namun, Fernandez juga mengakui bahwa Video Seal memiliki keterbatasan tertentu, khususnya trade-off antara persepsi tanda air dan ketahanannya terhadap gangguan. Dia menunjukkan bahwa kompresi yang berlebihan dan pengeditan yang berat dapat merusak tanda air atau membuatnya tidak dapat dipulihkan.
Tantangan yang lebih besar bagi Meta adalah kurangnya insentif bagi pengembang dan pelaku industri untuk menggunakan Video Seal, terutama mereka yang sudah menggunakan solusi kepemilikan lainnya. Untuk mencapai tujuan ini, Meta telah meluncurkan daftar peringkat publik yang disebut Meta Omni Seal Bench untuk membandingkan kinerja berbagai teknologi watermarking, dan akan mengadakan seminar tentang teknologi watermarking pada konferensi AI besar ICLR tahun ini.
“Kami berharap semakin banyak peneliti dan pengembang AI yang akan memasukkan beberapa bentuk teknologi watermarking ke dalam pekerjaan mereka, dan kami berharap dapat bekerja sama dengan industri dan akademisi untuk mendorong kemajuan yang lebih cepat di bidang ini,” kata Fernandez.
Peluncuran Meta Video Seal yang bersifat open source memberikan senjata baru untuk melawan pemalsuan mendalam, namun apakah hal tersebut dapat secara efektif mengekang penyebaran informasi palsu masih memerlukan ujian waktu dan upaya bersama dari industri. Kemajuan yang berkelanjutan dan penerapan teknologi secara luas akan menjadi kunci untuk memecahkan masalah ini.