Deepfakes, sebagai musuh kecerdasan buatan yang berkembang pesat, menimbulkan ancaman yang semakin serius terhadap ekonomi dan keamanan global. Kerugian ekonomi yang diakibatkannya diperkirakan akan meningkat secara signifikan, dengan industri perbankan dan jasa keuangan menjadi target utama. Artikel ini akan menganalisis tren perkembangan pesat teknologi deepfake, risiko dan tantangan yang ditimbulkannya bagi perusahaan dan individu, serta mengeksplorasi dilema yang dihadapi perusahaan ketika menghadapi ancaman yang muncul ini.
Sebagai salah satu bentuk kecerdasan buatan permusuhan yang tumbuh paling cepat, kerugian terkait deepfake diperkirakan akan melonjak dari US$12,3 miliar pada tahun 2023 menjadi US$40 miliar pada tahun 2027, yang merupakan tingkat pertumbuhan tahunan gabungan sebesar 32%. Deloitte memperkirakan deepfake akan semakin banyak di tahun-tahun mendatang, dengan bank dan jasa keuangan menjadi target utama.
Deepfake berada di garis depan serangan AI yang merugikan, dan tumbuh sebesar 3.000% pada tahun lalu saja. Deepfake diperkirakan akan meningkat sebesar 50% hingga 60% pada tahun 2024, dengan 140.000-150.000 insiden serupa diperkirakan terjadi secara global pada tahun ini.
Aplikasi, alat, dan platform AI generatif generasi terbaru memberi penyerang semua yang mereka perlukan untuk membuat video deepfake, suara yang ditiru, dan dokumen palsu dengan cepat dan hemat biaya. Laporan Intelijen dan Keamanan Pidato tahun 2024 dari Pindrops memperkirakan bahwa penipuan deepfake yang menargetkan pusat kontak menelan biaya sekitar $5 miliar per tahun. Laporan mereka menyoroti ancaman serius yang ditimbulkan oleh deepfake terhadap perbankan dan jasa keuangan
Bloomberg melaporkan tahun lalu bahwa “seluruh industri rumahan telah muncul di web gelap yang menjual penipu dengan harga mulai dari $20 hingga ribuan dolar.” Baru-baru ini, sebuah infografis berdasarkan Laporan Penipuan Identitas Sumsub tahun 2023 Memberikan perspektif global tentang pesatnya pertumbuhan penipuan AI. .
Sepertiga perusahaan tidak memiliki strategi untuk menghadapi risiko serangan AI yang merugikan, yang kemungkinan besar dimulai dari tindakan palsu yang dilakukan oleh para eksekutif kunci mereka. Penelitian baru dari Ivanti menemukan bahwa 30% perusahaan tidak memiliki rencana untuk mengidentifikasi dan mempertahankan diri dari serangan AI yang merugikan.
Laporan Keadaan Keamanan Siber Ivanti tahun 2024 menemukan bahwa 74% perusahaan yang disurvei telah melihat bukti adanya ancaman AI. Mayoritas (89%) percaya bahwa ancaman AI baru saja dimulai. Dari mayoritas CISO, CIO, dan pemimpin TI yang diwawancarai Ivanti, 60% merasa khawatir bahwa organisasi mereka tidak siap untuk bertahan dari ancaman dan serangan AI. Penggunaan deepfake sebagai bagian dari strategi yang diatur termasuk phishing, eksploitasi perangkat lunak, ransomware, dan kerentanan terkait API menjadi semakin umum. Hal ini konsisten dengan ancaman yang diperkirakan oleh para profesional keamanan akan menjadi lebih berbahaya akibat kecerdasan buatan generasi baru.
Menghadapi pesatnya perkembangan teknologi pemalsuan mendalam dan besarnya risiko yang ditimbulkannya, perusahaan perlu secara aktif mengambil tindakan pencegahan, memperkuat perlindungan keamanan, dan meningkatkan kesadaran risiko karyawan agar dapat secara efektif mengurangi kerugian dan memastikan keselamatan mereka sendiri. Kemajuan teknologi juga perlu dikembangkan bersamaan dengan peningkatan langkah-langkah keamanan untuk mencegah penyalahgunaan teknologi.