Microsoft baru-baru ini mengajukan gugatan terhadap sebuah organisasi yang dituduh menggunakan alat khusus untuk melewati langkah-langkah perlindungan keamanan produk cloud AI Microsoft, layanan Azure OpenAI, secara ilegal mengakses dan menggunakan perangkat lunak dan server Microsoft untuk menghasilkan "konten ilegal yang menyinggung" dan "berbahaya". Kelompok tersebut diduga menggunakan kredensial pelanggan yang dicuri dan perangkat lunak khusus "de3u" untuk menerapkan skema "peretasan sebagai layanan" yang memungkinkan pengguna menggunakan DALL-E untuk menghasilkan gambar tanpa menulis kode dan berupaya melewati mekanisme penyaringan konten Microsoft. Microsoft telah meminta perintah pengadilan dan ganti rugi, dan telah mengambil tindakan balasan untuk memperkuat keamanan layanan Azure OpenAI-nya dan menyita situs web yang terkait dengan tindakan para terdakwa untuk mengumpulkan bukti.
Gugatan Microsoft terhadap kelompok tersebut menyoroti pentingnya keamanan AI dan upaya berkelanjutan dari pihak jahat untuk melewati langkah-langkah keamanan. Kejadian ini mengingatkan kita bahwa sistem AI yang canggih pun memerlukan mekanisme keamanan yang kuat untuk mencegah penyalahgunaan. Tindakan hukum aktif dan tindakan teknis Microsoft menunjukkan tekadnya untuk menjaga keamanan platform dan melindungi kepentingan pelanggan, yang patut mendapat perhatian.