近日，Downcodes小編獲悉一起令人擔憂的AI安全事件：一個名為FungiFriend的AI代理在Facebook的蘑菇愛好者群組中，對含有高濃度砷的劇毒蘑菇Sarcosphaera coronaria給出了錯誤的食用建議，甚至詳細描述了多種烹飪方法，這引發了公眾對AI應用安全性的廣泛擔憂。此事件並非個案，AI在食品安全領域頻頻出錯，暴露出AI應用的風險與挑戰。
當被詢問如何烹調含有高濃度砷的Sarcosphaera coronaria蘑菇時，FungiFriend不僅錯誤地表示該蘑菇可以食用，還詳細介紹了包括煎炒、燉煮等多種烹飪方法。而事實上，這種蘑菇已經造成過致命案例。
消費者安全組織Public Citizen的研究主管Rick Claypool指出，利用AI自動化識別可食用和有毒蘑菇是一項高風險活動，目前的AI系統尚無法準確完成這項任務。
這並非個案。過去一年，AI應用在食品安全領域頻頻出現嚴重失誤:-有AI應用推薦製作含驅蚊劑的三明治，某AI系統給出包含氯氣的食譜，甚至出現建議食用石頭的荒謬指導- 谷歌AI還曾聲稱狗會運動，並建議用膠水製作披薩等。
儘管AI錯誤頻出，但美國企業仍在快速推動AI客服的普及。這種重速度輕品質的做法背後，反映出企業過度專注於成本節約，而對用戶安全考慮不足的問題。專家呼籲，在特定領域，尤其是涉及安全的領域，應謹慎使用AI技術，確保資訊的準確性和可靠性。
AI技術發展迅速，但其安全性和可靠性問題不容忽視。這次事件再次警示我們，在AI應用於高風險領域時，必須優先考慮安全問題，加強監管，完善技術，避免類似事件再次發生。 Downcodes小編呼籲各方共同努力，確保AI技術安全可靠地為人類服務。