近年來，AI圖像生成平台迅速發展，但也面臨內容安全的挑戰。 Midjourney作為一款受歡迎的AI影像生成平台，近期因其NSFW過濾系統漏洞和新版本對裸露影像過濾的減弱而引發廣泛關注。此事件凸顯了AI平台在內容審核和安全性方面的不足，以及對使用者體驗的影響。本文將分析Midjourney平台發生的事件，探討其潛在風險以及對未來AI平台發展的影響。
AI影像平台Midjourney被爆出意外生成不當內容，違反自身規定。研究發現其NSFW過濾系統有漏洞，新版本減輕了對裸露影像的過濾，引發擔憂。該平台的不一致性可能導致用戶無意中接收到不適內容。
Midjourney事件警告我們，AI平台需要加強內容審核機制，完善過濾系統，以避免產生和傳播不當內容。 同時，平台應加強用戶教育，提高用戶對AI生成內容的風險意識。這樣，才能確保AI技術健康、安全地發展，為使用者提供更安全、更舒適的使用體驗。