เมื่อเร็ว ๆ นี้ Microsoft ได้ยื่นฟ้ององค์กรที่ถูกกล่าวหาว่าใช้เครื่องมือที่ปรับแต่งเองเพื่อหลีกเลี่ยงมาตรการรักษาความปลอดภัยของผลิตภัณฑ์ Cloud AI ของ Microsoft บริการ Azure OpenAI การเข้าถึงและใช้ซอฟต์แวร์และเซิร์ฟเวอร์ของ Microsoft อย่างผิดกฎหมายเพื่อสร้างเนื้อหาที่ "น่ารังเกียจ" และ "เป็นอันตรายที่ผิดกฎหมาย" กลุ่มดังกล่าวถูกกล่าวหาว่าใช้ข้อมูลรับรองลูกค้าที่ถูกขโมยและซอฟต์แวร์ที่กำหนดเอง "de3u" เพื่อดำเนินโครงการ "แฮ็กตามบริการ" ที่อนุญาตให้ผู้ใช้ใช้ DALL-E เพื่อสร้างภาพโดยไม่ต้องเขียนโค้ด และพยายามเลี่ยงผ่านกลไกการกรองเนื้อหาของ Microsoft Microsoft ได้ขอคำสั่งศาลและความเสียหาย และได้ดำเนินมาตรการตอบโต้เพื่อเสริมสร้างความปลอดภัยของบริการ Azure OpenAI และยึดเว็บไซต์ที่เกี่ยวข้องกับการกระทำของจำเลยเพื่อรวบรวมหลักฐาน
คดีของ Microsoft ต่อกลุ่มเน้นย้ำถึงความสำคัญของความปลอดภัยของ AI และความพยายามอย่างต่อเนื่องของผู้ไม่ประสงค์ดีในการหลีกเลี่ยงมาตรการรักษาความปลอดภัย เหตุการณ์นี้เตือนเราว่าแม้แต่ระบบ AI ขั้นสูงก็ยังต้องมีกลไกการรักษาความปลอดภัยที่แข็งแกร่งเพื่อป้องกันการละเมิด การดำเนินการทางกฎหมายและมาตรการทางเทคนิคที่ดำเนินการอยู่ของ Microsoft แสดงให้เห็นถึงความมุ่งมั่นในการรักษาความปลอดภัยแพลตฟอร์มและปกป้องผลประโยชน์ของลูกค้า ซึ่งสมควรได้รับความสนใจ