Pesatnya perkembangan teknologi Deepfake telah membawa ancaman keamanan jaringan yang serius, dan informasi palsu merajalela. Menurut statistik, penipuan terkait Deepfake telah berkembang pesat dan menjadi masalah yang tidak dapat diabaikan. Untuk menghadapi tantangan ini, perusahaan teknologi terus mencari solusi. Diantaranya, alat Video Seal yang diluncurkan oleh Meta Company telah menarik banyak perhatian. Alat ini bertujuan untuk memerangi deepfake dengan menambahkan tanda air yang tidak terlihat pada video yang dihasilkan AI, dan menggunakan teknologinya secara open source untuk mendorong kolaborasi dan pengembangan yang lebih luas.
Saat ini, deepfake tersebar luas. Ketika AI generatif semakin populer, konten palsu di web pun meledak. Menurut statistik dari platform verifikasi identitas Sumsub, jumlah Deepfakes global akan meningkat empat kali lipat dari tahun 2023 hingga 2024. Pada tahun 2024, Deepfake akan menyumbang 7% dari seluruh penipuan, mulai dari peniruan identitas dan pencurian akun hingga serangan rekayasa sosial yang kompleks, semuanya melibatkan Deepfake.
Untuk memerangi Deepfakes secara efektif, Meta baru-baru ini merilis alat yang dapat menambahkan tanda air yang tidak terlihat ke klip video yang dihasilkan AI. Alat tersebut, yang disebut Meta Video Seal, diumumkan sebagai open source pada hari Kamis dan dirancang untuk diintegrasikan ke dalam perangkat lunak yang ada. Alat ini bergabung dengan alat watermarking Meta lainnya, Watermark Anything (dirilis ulang hari ini di bawah lisensi permisif) dan Audio Seal untuk membentuk solusi watermarking yang lengkap.
“Kami mengembangkan Video Seal untuk memberikan solusi watermarking video yang lebih efektif, khususnya dalam mendeteksi video yang dihasilkan AI dan melindungi orisinalitas,” kata ilmuwan riset Meta AI Pierre Fernandez kepada TechCrunch.
Video Seal bukanlah teknologi pertama dari jenisnya. SynthID DeepMind dapat menambahkan tanda air ke video, dan Microsoft juga memiliki metode watermarking videonya sendiri.
Namun Fernandez yakin banyak metode yang ada saat ini gagal.
“Meskipun alat watermarking lainnya sudah ada, namun alat tersebut tidak cukup kuat untuk melakukan kompresi video (yang sangat umum terjadi ketika konten dibagikan melalui platform sosial); tidak berjalan cukup efisien untuk aplikasi skala besar; tidak cukup terbuka atau dapat diulang; atau merupakan turunan dari Tanda air gambar, dan tanda air gambar bukanlah pilihan terbaik untuk video,” kata Fernandez.
Selain tanda air, Video Seal dapat menambahkan pesan tersembunyi pada video untuk kemudian mengungkap sumber video tersebut. Meta mengklaim bahwa Video Seal dapat menolak operasi pengeditan umum seperti pemburaman dan pemotongan, serta algoritma kompresi umum.
Fernandez mengakui bahwa Video Seal memiliki keterbatasan tertentu, terutama perbedaan antara seberapa jelas tanda air tersebut dan ketahanannya terhadap manipulasi. Dia menambahkan bahwa kompresi berat dan pengeditan berat dapat mengubah tanda air atau menjadikannya tidak dapat dipulihkan.
Tentu saja, masalah yang lebih besar untuk Video Seal adalah tidak banyak alasan bagi pengembang dan industri untuk mengadopsinya, terutama mereka yang sudah menggunakan solusi berpemilik. Untuk mengatasi masalah ini, Meta meluncurkan daftar peringkat publik, Meta Omni Seal Bench, yang dirancang khusus untuk membandingkan kinerja berbagai metode watermarking. Selain itu, Meta akan menyelenggarakan lokakarya tentang watermarking pada ICLR (International Conference on Learning Representations) tahun ini. ICLR adalah konferensi AI yang penting.
“Kami berharap semakin banyak peneliti dan pengembang AI yang akan mengintegrasikan beberapa bentuk watermarking ke dalam pekerjaan mereka,” kata Fernandez. “Kami berharap dapat bekerja sama dengan industri dan akademisi untuk memajukan kemajuan di bidang ini dengan lebih cepat.”
Langkah Meta ini tidak diragukan lagi memberikan ide-ide baru untuk memerangi penyebaran Deepfake. Open source dan kolaborasi terbuka mungkin merupakan cara efektif untuk memecahkan masalah pelik ini. Namun, masa depan Video Seal masih bergantung pada apakah Video Seal dapat diterima dan diterapkan secara luas oleh industri, serta kemampuannya dalam melawan Deepfakes.
Secara keseluruhan, alat Video Seal Meta memberikan upaya baru untuk memerangi Deepfake, tetapi keberhasilannya masih harus dilihat di masa depan, diperlukan lebih banyak inovasi teknologi dan kerja sama industri untuk menyelesaikan masalah Deepfake secara efektif. Open source dan semangat kolaboratif adalah kuncinya, namun hal ini membutuhkan waktu dan upaya yang berkelanjutan.