Laporan terbaru Gartner menyatakan bahwa AI telah menjadi risiko keamanan siber terbesar yang dihadapi perusahaan selama tiga kuartal berturut-turut, dan 80% eksekutif yang disurvei sangat mengkhawatirkan hal tersebut. Editor Downcodes akan menafsirkan konten laporan untuk Anda, menganalisis bagaimana AI digunakan dalam serangan cyber, dan bagaimana perusahaan harus merespons tantangan yang semakin berat ini. Artikel ini akan mempelajari penerapan AI dalam penulisan malware, produksi email phishing, dan serangan penolakan layanan terdistribusi, serta menganalisis temuan terbaru dari perusahaan keamanan dan lembaga penelitian.
Menurut laporan terbaru yang dirilis Gartner, penerapan kecerdasan buatan (AI) dalam serangan siber telah menjadi risiko terbesar yang dihadapi perusahaan selama tiga kuartal berturut-turut.
Perusahaan konsultan tersebut mensurvei 286 eksekutif risiko dan audit senior antara bulan Juli dan September dan menemukan bahwa 80% responden menyatakan keprihatinan mendalam terhadap serangan berbahaya yang didukung AI. Tren ini tidak mengejutkan, karena terdapat bukti bahwa serangan siber yang menggunakan AI sedang meningkat.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Risiko lain yang muncul dalam laporan ini adalah misinformasi yang disebabkan oleh AI, meningkatnya polarisasi politik, dan ketidaksesuaian alokasi talenta organisasi. Penyerang menggunakan AI untuk menulis malware, membuat email phishing, dan banyak lagi. Mengambil HP sebagai contoh, para peneliti mencegat kampanye email yang menyebarkan malware pada bulan Juni dan menduga bahwa skrip tersebut ditulis dengan bantuan AI generatif. Naskahnya terstruktur dengan jelas dan setiap perintah diberi komentar, hal ini tidak umum dalam tulisan manusia.
Menurut data dari perusahaan keamanan Vipre, pada kuartal kedua tahun 2023, jumlah serangan penipuan email bisnis meningkat sebesar 20% dibandingkan periode yang sama tahun lalu, dimana hampir 50% di antaranya dihasilkan oleh AI. CEO, staf HR dan IT menjadi target utama. Usman Choudhary, kepala produk dan teknologi di Vipre, mengatakan para penjahat menggunakan algoritma AI yang canggih untuk membuat email phishing yang meyakinkan dan meniru nada dan gaya komunikasi yang sah.
Selain itu, menurut laporan Imperva Threat Research, situs web ritel mengalami rata-rata 569.884 serangan berbasis AI per hari dari bulan April hingga September. Para peneliti menunjukkan bahwa alat seperti ChatGPT, Claude dan Gemini, serta bot yang berspesialisasi dalam merayapi data situs web untuk melatih model bahasa besar, digunakan untuk melakukan aktivitas seperti serangan penolakan layanan terdistribusi dan penyalahgunaan logika bisnis.
Semakin banyak pula peretas etis yang mengaku menggunakan AI generatif, dengan proporsinya meningkat menjadi 77% dari 64% pada tahun lalu. AI dapat membantu serangan multi-saluran, serangan injeksi kesalahan, dan serangan otomatis yang menyerang beberapa perangkat secara bersamaan, kata para peneliti. Sama seperti ini, jika “orang baik” menganggap AI berguna, maka “orang jahat” juga akan memanfaatkan teknologi tersebut.
Munculnya AI bukanlah hal yang mengejutkan, karena AI telah menurunkan ambang batas kejahatan dunia maya, sehingga memungkinkan penjahat dengan keterampilan teknis yang lebih rendah untuk menggunakan AI untuk menghasilkan pemalsuan yang mendalam, memindai pintu masuk jaringan, melakukan pengintaian, dan banyak lagi. Para peneliti di Institut Teknologi Federal Swiss baru-baru ini mengembangkan model yang 100% dapat memecahkan masalah Google reCAPTCHA v2. Analis di perusahaan keamanan Radware memperkirakan pada awal tahun ini bahwa kemunculan model GPT pribadi akan digunakan untuk tujuan jahat dan jumlah kerentanan zero-day serta penipuan deepfake akan meningkat.
Gartner juga mencatat bahwa untuk pertama kalinya, isu-isu kritis vendor TI menjadi perhatian para eksekutif. Zachary Ginsburg, direktur senior praktik risiko dan audit di Gartner, mengatakan pelanggan yang sangat bergantung pada satu vendor mungkin menghadapi risiko yang lebih tinggi. Sama seperti insiden dStrike pada bulan Juli, yang melumpuhkan 8,5 juta perangkat Windows di seluruh dunia, kejadian ini berdampak besar pada layanan darurat, bandara, dan lembaga penegak hukum.
Secara keseluruhan, efek pedang bermata dua dari teknologi AI tercermin paling jelas dalam bidang keamanan jaringan. Perusahaan perlu secara proaktif mengambil langkah-langkah defensif, seperti memperkuat pelatihan keamanan, menerapkan otentikasi multi-faktor, dan mengadopsi teknologi deteksi ancaman canggih, untuk secara efektif menangani serangan siber yang didorong oleh AI. Di masa depan, penting untuk terus memperhatikan tren perkembangan keamanan AI dan secara aktif mengeksplorasi strategi respons.