微軟內部工程師近日發出警告，指出公司AI影像產生器Designer存在潛在安全風險，該工具可能產生有害內容。此警告已遞交至監管機構和董事會，引發外界對AI模型安全性的關注。據了解，Designer工具基於OpenAI的DALL-E模型，其潛在風險可能源自於模型本身的缺陷。這起事件凸顯了大型語言模型潛在的負面影響，以及在AI技術應用中，安全性和倫理規範的重要性。
微軟工程師向監管機構和董事會發出警告，指公司AI 影像產生器有潛在風險。工程師表示Designer 工具可能產生有害內容，源自OpenAI 的DALL-E 模型有問題。他敦促解決安全隱患，引發關注。
這次事件再次提醒我們，在AI技術快速發展的同時，必須重視其潛在風險，並加強監管和安全措施，確保AI技術的健康發展，避免其被濫用。 未來，如何平衡AI技術創新與安全風險將成為一個重要的課題。