近日，Downcodes小编获悉一起令人担忧的AI安全事件：一个名为FungiFriend的AI代理在Facebook的蘑菇爱好者群组中，对含有高浓度砷的剧毒蘑菇Sarcosphaera coronaria给出了错误的食用建议，甚至详细描述了多种烹饪方法，这引发了公众对AI应用安全性的广泛担忧。该事件并非个例，AI在食品安全领域频频出错，暴露出AI应用的风险和挑战。
当被询问如何烹饪含有高浓度砷的Sarcosphaera coronaria蘑菇时，FungiFriend不仅错误地表示该蘑菇可以食用，还详细介绍了包括煎炒、炖煮等多种烹饪方法。而事实上，这种蘑菇已经造成过致命案例。
消费者安全组织Public Citizen的研究主管Rick Claypool指出，利用AI自动化识别可食用和有毒蘑菇是一项高风险活动，目前的AI系统尚无法准确完成这项任务。
这并非个案。过去一年，AI应用在食品安全领域频频出现严重失误:-有AI应用推荐制作含驱蚊剂的三明治，某AI系统给出包含氯气的食谱，甚至出现建议食用石头的荒谬指导- 谷歌AI还曾声称狗会运动，并建议用胶水制作披萨等。
尽管AI错误频出，但美国企业仍在快速推进AI客服的普及。这种重速度轻质量的做法背后，反映出企业过分关注成本节约，而对用户安全考虑不足的问题。专家呼吁，在特定领域，尤其是涉及安全的领域，应谨慎使用AI技术，确保信息的准确性和可靠性。
AI技术发展迅速，但其安全性和可靠性问题不容忽视。此次事件再次警示我们，在AI应用于高风险领域时，必须优先考虑安全问题，加强监管，完善技术，避免类似事件再次发生。 Downcodes小编呼吁各方共同努力，确保AI技术安全可靠地为人类服务。