Laporan terbaru Gartner menunjukkan bahwa serangan cyber-bertenaga AI telah menjadi risiko terbesar yang dihadapi perusahaan, dan telah peringkat pertama selama tiga perempat. Laporan ini didasarkan pada survei terhadap 286 eksekutif risiko senior dan audit, dan 80% responden menyatakan keprihatinan tentang serangan jahat yang ditingkatkan AI. Penyerang menggunakan AI untuk menulis malware, membuat email phishing yang realistis, dan bahkan melakukan penyangkalan serangan layanan berskala besar. Penerapan AI menurunkan ambang batas untuk kejahatan dunia maya, memungkinkan penyerang dengan tingkat teknis yang lebih rendah untuk dengan mudah melakukan serangan cyber yang kompleks, yang menimbulkan tantangan parah bagi perlindungan keamanan perusahaan.
Menurut laporan terbaru yang dirilis oleh Gartner, Aplikasi Kecerdasan Buatan (AI) di Cybertacks telah menjadi risiko terbesar yang dihadapi perusahaan selama tiga perempat berturut -turut.
Perusahaan konsultan mensurvei 286 eksekutif risiko dan audit senior antara Juli dan September dan menemukan bahwa 80% responden menyatakan keprihatinan mendalam tentang serangan jahat yang ditingkatkan AI. Tren ini tidak mengejutkan, karena ada bukti bahwa serangan cyber yang menggunakan AI sedang meningkat.
Catatan Sumber Gambar: Gambar dihasilkan oleh AI, dan Penyedia Layanan Resmi Gambar Midjourney
Laporan ini juga mencantumkan beberapa risiko lain yang muncul, termasuk informasi yang dibantu AI yang menyesatkan, meningkatkan polarisasi politik, dan alokasi bakat organisasi yang tidak cocok. Penyerang menggunakan AI untuk menulis malware, membuat email phishing, dan banyak lagi. Ambil HP sebagai contoh, para peneliti mencegat kampanye email yang menyebarkan malware pada bulan Juni, mencurigai bahwa skripnya ditulis dengan bantuan AI generatif. Script terstruktur dengan baik dan setiap perintah memiliki komentar, yang tidak umum dalam penulisan manual.
Menurut data dari perusahaan keamanan Vipre, jumlah serangan penipuan email bisnis meningkat sebesar 20% pada kuartal kedua 2023 dibandingkan dengan periode yang sama tahun lalu, dengan hampir 50% di antaranya dihasilkan oleh AI. CEO, SDM dan staf TI adalah tujuan utama. Petugas Produk dan Teknologi Kepala Vipre Usman Choudhary mengatakan para penjahat menggunakan algoritma AI yang canggih untuk membuat email phishing yang menarik yang meniru nada dan gaya komunikasi yang sah.
Selain itu, situs ritel mengalami rata-rata 569.884 serangan bertenaga AI per hari, menurut Laporan Penelitian Ancaman Imperva. Para peneliti mencatat bahwa alat -alat seperti Chatgpt, Claude dan Gemini, serta robot yang berspesialisasi dalam merangkak data situs web untuk melatih model bahasa besar, digunakan untuk melakukan kegiatan seperti penolakan yang didistribusikan atas serangan layanan dan penyalahgunaan logika bisnis.
Semakin banyak peretas etis juga mengakui penggunaan AI generatif, dengan persentase meningkat dari 64% tahun lalu menjadi 77%. Para peneliti mengatakan AI dapat membantu dengan serangan multi-saluran, serangan injeksi kegagalan dan serangan otomatis, yang dapat menyerang banyak perangkat secara bersamaan. Dengan demikian, jika "orang baik" berpikir AI berguna, "orang jahat" juga akan menggunakan teknologi ini.
Munculnya AI tidak mengherankan karena menurunkan ambang batas kejahatan dunia maya, memungkinkan para penjahat dengan tingkat teknis yang lebih rendah menggunakan AI untuk menghasilkan pemalsuan yang dalam, portal jaringan pemindaian, melakukan pengintaian, dll. Para peneliti di Swiss Federal Institute of Technology baru -baru ini mengembangkan model yang dapat menyelesaikan masalah Google RECAPTCHA V2 100%. Analis di perusahaan keamanan Radware memperkirakan awal tahun ini bahwa kemunculan model GPT pribadi akan digunakan untuk keperluan berbahaya, dan jumlah kerentanan nol hari dan penipuan dalam-fal akan meningkat.
Gartner juga mencatat bahwa masalah utama vendor TI telah ada dalam daftar eksekutif untuk pertama kalinya. Zachary Ginsburg, direktur senior praktik risiko dan audit di Gartner, mengatakan pelanggan yang secara terpusat bergantung pada satu pemasok mungkin menghadapi risiko yang lebih tinggi. Sama seperti insiden yang terjadi pada Juli, melumpuhkan 8,5 juta perangkat jendela di seluruh dunia, menyebabkan dampak besar pada layanan darurat, bandara dan lembaga penegak hukum.
Singkatnya, efek pedang bermata dua dari teknologi AI menjadi semakin menonjol. Serangan jaringan dan memastikan keamanan mereka sendiri di era digital.