Dalam beberapa tahun terakhir, teknologi kecerdasan buatan (AI) telah berkembang pesat, membawa peluang besar bagi perusahaan, namun juga mengandung banyak risiko. Editor Downcodes menyusun laporan tentang bagaimana perusahaan harus menangani risiko AI generatif. Laporan tersebut menunjukkan bahwa sebagian besar perusahaan belum merumuskan strategi respons yang efektif terhadap risiko AI generatif, terutama dalam hal keamanan jaringan, penipuan jaringan yang digerakkan oleh AI, dan lain-lain. Ancaman ini menjadi semakin serius dan patut menjadi perhatian dunia usaha.
Dalam beberapa tahun terakhir, pesatnya perkembangan kecerdasan buatan (AI) telah membawa banyak peluang bagi perusahaan, namun pada saat yang sama, potensi ancamannya semakin nyata. Menurut “Laporan Risiko Generasi Baru” terbaru tahun 2024, survei tersebut menunjukkan bahwa sebanyak 80% perusahaan yang disurvei belum merumuskan rencana respons khusus terhadap risiko AI generatif, yang mencakup risiko keamanan seperti penipuan online yang didorong oleh AI.
Survei tersebut, dilakukan oleh perusahaan perangkat lunak manajemen risiko Riskconnect, melibatkan 218 profesional kepatuhan dan ketahanan risiko global. Hasilnya menunjukkan bahwa 24% responden percaya bahwa ancaman keamanan siber yang didorong oleh AI (seperti ransomware, phishing, dan deepfakes) akan berdampak signifikan terhadap perusahaan dalam 12 bulan ke depan. Sementara itu, 72% responden mengatakan risiko keamanan siber mempunyai dampak yang signifikan atau parah terhadap organisasi mereka, naik dari 47% pada tahun lalu.
Ketika kekhawatiran terhadap isu-isu seperti etika, privasi, dan keamanan AI semakin meningkat, laporan tersebut menunjukkan bahwa meskipun kekhawatiran perusahaan terhadap AI telah meningkat, mereka gagal menindaklanjuti strategi manajemen risiko secara tepat waktu, dan masih banyak kesenjangan utama. . Misalnya, 65% perusahaan tidak memiliki kebijakan mengenai penggunaan AI generatif oleh mitra dan vendor, meskipun pihak ketiga merupakan saluran masuk yang umum bagi para penipu siber.
Ancaman internal juga tidak bisa dianggap remeh. Mengambil contoh penggunaan AI generatif oleh perusahaan untuk menghasilkan konten pemasaran, pakar pemasaran Anthony Miyazaki mengingatkan bahwa meskipun AI generatif sangat baik dalam menulis teks, salinan akhir masih perlu diedit secara manual untuk memastikan persuasif dan keakuratannya. Selain itu, mengandalkan AI untuk menghasilkan konten situs web juga dapat menimbulkan dampak negatif. Misalnya, Google telah menegaskan bahwa jika konten AI digunakan untuk memanipulasi proses pencarian, peringkat pencariannya akan diturunkan, yang akan berdampak serius. pada optimasi mesin pencari (SEO) perusahaan.
Untuk mengatasi tantangan ini, perusahaan perlu memastikan cakupan kebijakan internal yang komprehensif, mengamankan data sensitif, dan mematuhi peraturan terkait. John Skimoni, kepala keamanan Del Technology, mengatakan bahwa mereka merumuskan prinsip-prinsip yang relevan sebelum kegilaan AI generatif untuk memastikan bahwa pengembangan aplikasi AI dilakukan secara adil, transparan, dan bertanggung jawab.
Di agensi pemasaran digital Empathy First Media, Wakil Presiden Ryan Doser juga menekankan tindakan ketat yang diambil perusahaan terhadap penggunaan AI oleh karyawan, termasuk melarang masukan data sensitif pelanggan ke alat AI generatif dan mewajibkan peninjauan manual terhadap konten yang dihasilkan AI. Langkah-langkah ini dirancang untuk meningkatkan transparansi dan membangun kepercayaan pelanggan.
Secara keseluruhan, perusahaan perlu secara aktif merespons risiko keamanan yang ditimbulkan oleh AI generatif, merumuskan strategi manajemen risiko yang komprehensif, dan memperkuat pelatihan karyawan agar tetap kompetitif dan memastikan keamanan bisnis di era AI. Editor Downcodes merekomendasikan agar perusahaan mengacu pada saran-saran dalam laporan dan secara aktif mengambil tindakan untuk mencegah masalah sejak awal.