Perkembangan yang cepat dari teknologi kecerdasan buatan telah membawa peluang yang belum pernah terjadi sebelumnya bagi perusahaan, tetapi juga membawa risiko dan tantangan baru. Munculnya AI generatif telah menarik perhatian khusus pada risiko keamanan potensial. Artikel ini akan menganalisis laporan risiko terbaru yang dirilis untuk mengeksplorasi kesulitan yang dihadapi oleh perusahaan dalam menangani risiko AI generatif dan bagaimana mengambil langkah -langkah yang efektif untuk memastikan keselamatan dan kepatuhan mereka sendiri.
Dalam beberapa tahun terakhir, perkembangan cepat kecerdasan buatan (AI) telah membawa banyak peluang bagi perusahaan, tetapi pada saat yang sama, ancaman potensial menjadi semakin jelas. Menurut "Laporan Risiko Generasi Baru" 2024 terbaru, survei menunjukkan bahwa hingga 80% dari perusahaan yang disurvei belum merumuskan rencana respons khusus untuk risiko AI generatif, termasuk risiko keamanan seperti penipuan online yang digerakkan oleh AI.
Survei ini dilakukan oleh Risk Connect, perusahaan perangkat lunak manajemen risiko, dan responden termasuk 218 profesional kepatuhan dan ketahanan risiko global. Hasilnya menunjukkan bahwa 24% responden percaya bahwa ancaman keamanan siber yang digerakkan oleh AI seperti ransomware, phishing, dan pemalsuan mendalam akan memiliki dampak signifikan pada perusahaan dalam 12 bulan ke depan. Sementara itu, 72% responden mengatakan bahwa risiko keamanan siber telah memiliki dampak yang signifikan atau serius pada organisasi mereka, peningkatan dari 47% data tahun lalu.
Sebagai kekhawatiran tentang etika AI, privasi dan keamanan meningkat, laporan tersebut menunjukkan bahwa meskipun kekhawatiran perusahaan tentang AI telah meningkat, mereka telah gagal menindaklanjuti dalam waktu dalam strategi manajemen risiko, dan masih ada banyak kesenjangan utama. Misalnya, 65% perusahaan tidak memiliki kebijakan untuk penggunaan AI generatif pada mitra dan pemasok, meskipun pihak ketiga adalah saluran umum intrusi untuk scammers cyber.
Ancaman internal tidak boleh diremehkan. Mengambil contoh menggunakan AI generatif untuk menghasilkan konten pemasaran, pakar pemasaran Anthony Miyazaki mengingatkan bahwa meskipun AI generatif berkinerja baik dalam menulis teks, salinan akhir masih perlu diedit secara manual untuk memastikan persuasi dan keakuratannya. Selain itu, mengandalkan AI untuk menghasilkan konten situs web juga dapat menyebabkan efek negatif. Optimasi Mesin (SEO).
Untuk mengatasi tantangan ini, perusahaan perlu memastikan cakupan penuh kebijakan internal, memastikan keamanan data sensitif dan mematuhi peraturan yang relevan. John Skimoni, Kepala Petugas Keamanan Del Technology, mengatakan mereka telah merumuskan prinsip -prinsip di depan ledakan AI generatif untuk memastikan bahwa aplikasi AI itu adil, transparan dan bertanggung jawab.
Di Empathy First Media, Wakil Presiden Ryan Doser juga menekankan langkah-langkah ketat yang diambil oleh perusahaan untuk menggunakan AI oleh karyawan, termasuk melarang input data yang sensitif terhadap pelanggan ke dalam alat AI generatif, yang membutuhkan tinjauan manual konten yang dihasilkan AI, dll. Langkah -langkah ini dirancang untuk meningkatkan transparansi dan membangun kepercayaan pelanggan.
Poin -Poin Kunci:
80% perusahaan belum mengembangkan rencana khusus untuk risiko AI generatif dan menghadapi risiko keamanan potensial.
72% perusahaan percaya bahwa risiko cybersecurity telah berdampak signifikan pada mereka dan menyerukan peningkatan manajemen risiko.
Perusahaan harus mengambil langkah -langkah positif untuk memastikan keamanan dan kepatuhan aplikasi AI dan menghindari ancaman internal dan eksternal.
Singkatnya, perusahaan perlu secara aktif menanggapi risiko keamanan yang dibawa oleh AI generatif, merumuskan strategi manajemen risiko lengkap, dan memperkuat kontrol keamanan internal untuk menjaga daya saing di era AI dan terus berkembang secara sehat. Mengabaikan risiko AI kemungkinan akan menyebabkan kecelakaan keselamatan serius dan kerugian ekonomi.