Insinyur internal Microsoft baru-baru ini mengeluarkan peringatan, menunjukkan bahwa pembuat gambar AI Designer milik perusahaan memiliki potensi risiko keamanan dan alat tersebut dapat menghasilkan konten berbahaya. Peringatan ini telah disampaikan kepada badan pengatur dan dewan direksi, sehingga meningkatkan kekhawatiran tentang keamanan model AI. Dapat dipahami bahwa alat Designer didasarkan pada model DALL-E OpenAI, dan potensi risikonya mungkin berasal dari kelemahan pada model itu sendiri. Insiden ini menyoroti potensi dampak negatif dari model bahasa besar dan pentingnya keselamatan dan etika dalam penerapan teknologi AI.
Insinyur Microsoft telah memperingatkan regulator dan dewan direksi tentang potensi risiko yang terkait dengan generator gambar AI milik perusahaan. Para insinyur mengatakan alat Desainer dapat menghasilkan konten berbahaya, yang berasal dari masalah dengan model DALL-E OpenAI. Dia mendesak agar bahaya keselamatan diatasi dan menarik perhatian.
Kejadian ini sekali lagi mengingatkan kita bahwa meskipun teknologi AI berkembang pesat, kita harus memperhatikan potensi risikonya dan memperkuat pengawasan dan langkah-langkah keselamatan untuk memastikan perkembangan teknologi AI yang sehat dan menghindari penyalahgunaannya. Di masa depan, bagaimana menyeimbangkan inovasi teknologi AI dan risiko keamanan akan menjadi isu penting.