Di bidang pengembangan perangkat lunak, penerapan alat pengkodean AI memicu revolusi diam-diam. Tim pengembangan banyak menggunakan pengkodean yang dibantu AI. Namun, manajemen perusahaan kurang memiliki pengawasan dan kontrol yang efektif atas penggunaan alat AI. Hal ini memicu "permainan kucing-dan-tikus" antara pengembang dan manajemen mengenai penerapan alat AI, dan risiko keamanan yang diakibatkannya.
Dalam dunia teknologi, terjadi permainan kucing-kucingan antara pengembang dan manajemen. Protagonis dari game ini adalah alat pengkodean AI yang secara eksplisit dilarang oleh perusahaan tetapi masih digunakan secara diam-diam oleh pengembang.
Meskipun 15% perusahaan secara eksplisit melarang penggunaan alat pengkodean AI, hampir semua tim pengembangan (99%) menggunakannya, menurut penelitian global baru dari perusahaan keamanan cloud Checkmarx. Fenomena ini mengungkap tantangan dalam mengendalikan penggunaan AI generatif.
Hanya 29% perusahaan yang menerapkan tata kelola untuk alat AI generatif. Dalam 70% kasus, tidak ada strategi terpadu dan keputusan pembelian dibuat secara ad hoc oleh berbagai departemen. Situasi ini menyulitkan manajemen untuk mengontrol penggunaan alat pengkodean AI.
Dengan popularitas alat pengkodean AI, masalah keamanan menjadi semakin menonjol. 80% responden khawatir tentang potensi ancaman yang mungkin ditimbulkan oleh pengembang saat menggunakan AI, terutama 60% yang menyatakan kekhawatirannya terhadap "halusinasi" yang disebabkan oleh AI.
Meskipun terdapat kekhawatiran, minat terhadap potensi AI masih kuat. 47% responden bersedia mengizinkan AI melakukan perubahan kode tanpa pengawasan. Hanya 6% yang mengatakan mereka tidak akan mempercayai langkah-langkah keamanan AI dalam lingkungan perangkat lunak.
“Tanggapan dari CISO global ini mengungkapkan kenyataan bahwa pengembang menggunakan AI dalam pengembangan aplikasi meskipun mereka tidak dapat membuat kode aman menggunakan AI, yang berarti tim keamanan harus menghadapi membanjirnya serangan baru yang rentan,” kata Tzruya code ."
Laporan terbaru dari Indeks Tren Kerja Microsoft menunjukkan temuan serupa, dimana banyak karyawan menggunakan alat AI mereka sendiri padahal tidak ada alat yang disediakan. Seringkali, mereka tidak membahas penggunaan ini, sehingga menghambat integrasi sistematis AI generatif ke dalam proses bisnis.
Meskipun ada larangan eksplisit, 99% tim pengembangan masih menggunakan alat AI untuk menghasilkan kode. Hanya 29% perusahaan yang telah menetapkan mekanisme tata kelola untuk penggunaan AI generatif. Dalam 70% kasus, keputusan mengenai penggunaan alat AI oleh berbagai departemen dibuat secara ad hoc. Pada saat yang sama, kekhawatiran akan keamanan semakin meningkat. 47% responden bersedia mengizinkan AI melakukan perubahan kode tanpa pengawasan. Tim keamanan dihadapkan pada tantangan dalam menangani sejumlah besar kode yang dihasilkan oleh AI yang berpotensi rentan.
"Permainan kucing-dan-tikus" antara pengembang dan manajemen terus berlanjut, dan kita harus menunggu dan melihat ke mana arah masa depan alat pengkodean AI.
Penerapan alat pengkodean AI telah menjadi tren, namun risiko keamanan yang ditimbulkannya tidak dapat diabaikan. Perusahaan perlu membangun mekanisme tata kelola yang baik untuk menyeimbangkan peningkatan efisiensi yang dihasilkan oleh AI dengan potensi risiko keamanan agar dapat beradaptasi dengan lebih baik terhadap gelombang teknologi ini.