微軟近期對一個組織提起訴訟，該組織被指控利用客製化工具繞過微軟雲端AI產品Azure OpenAI服務的安全防護措施，非法存取並使用微軟軟體和伺服器產生「攻擊性」和「有害非法內容」。該組織涉嫌使用竊取的客戶憑證和客製化軟體「de3u」來實施「駭客即服務」計劃，允許用戶無需編寫程式碼即可使用DALL-E生成圖像，並試圖繞過微軟的內容過濾機制。微軟已尋求法院禁令和損害賠償，並採取對策加強Azure OpenAI服務的安全性，並查封了與被告行動相關的網站以收集證據。
微軟對該組織的訴訟凸顯了人工智慧安全防護的重要性以及惡意行為者繞過安全措施的持續努力。此事件提醒我們，即使是先進的AI系統也需要強大的安全機制來防止濫用。微軟積極採取法律行動和技術措施，展現了其維護平台安全和保護客戶利益的決心，值得關注。