최근 Downcodes의 편집자는 우려되는 AI 보안 사고에 대해 알게 되었습니다. FungiFriend라는 AI 에이전트가 Facebook 버섯 애호가 그룹에서 고농도의 비소를 함유한 독성이 강한 버섯인 Sarcosphaera coronaria에 대해 잘못된 소비 조언을 제공했으며 심지어 이에 대해 설명했습니다. AI 애플리케이션의 안전성에 대한 광범위한 대중의 우려를 불러일으켰습니다. 이번 사건은 고립된 사례가 아니다. AI는 식품 안전 분야에서 실수를 자주 저지르며 AI 적용의 위험과 과제를 노출시킨다.
고농도의 비소가 함유된 Sarcosphaera coronaria 버섯을 조리하는 방법을 묻는 질문에 FungiFriend는 버섯을 먹을 수 있다고 잘못 설명했을 뿐만 아니라 튀김, 조림 등 다양한 조리 방법을 자세히 설명했습니다. 실제로 이 버섯으로 인해 치명적인 사례가 발생하기도 했습니다.
소비자 안전 단체인 Public Citizen의 연구 책임자인 Rick Claypool은 AI를 사용하여 식용 버섯과 독버섯을 자동으로 식별하는 것은 위험성이 높은 활동이며 현재 AI 시스템은 아직 이 작업을 정확하게 완료할 수 없다고 지적했습니다.
이것은 고립된 사례가 아닙니다. 지난 1년 동안 AI 애플리케이션은 식품 안전 분야에서 심각한 실수를 자주 저질렀습니다. - 모기 구충제가 포함된 샌드위치를 만들 것을 권장하는 AI 애플리케이션, 염소가 포함된 레시피를 제공하는 AI 시스템, 돌을 먹으라고 제안하는 황당한 안내까지 - Google AI도 그 개가 운동을 할 수 있다고 주장했으며 무엇보다도 접착제를 사용하여 피자를 만들 것을 제안했습니다.
잦은 AI 오류에도 불구하고 미국 기업들은 여전히 AI 고객 서비스 대중화를 발 빠르게 추진하고 있다. 품질보다 속도를 중시하는 이러한 접근 방식에는 기업이 비용 절감에 너무 많은 관심을 기울이고 사용자 안전에 충분한 관심을 기울이지 않는다는 문제가 반영됩니다. 전문가들은 정보의 정확성과 신뢰성을 보장하기 위해 특정 분야, 특히 보안과 관련된 분야에서 AI 기술을 주의 깊게 사용할 것을 요구합니다.
AI 기술은 빠르게 발전하고 있지만 보안과 신뢰성 문제는 무시할 수 없습니다. 이번 사건은 고위험 지역에 AI를 활용할 때 안전 문제를 우선시하고 감독을 강화하며, 유사한 사고가 재발하지 않도록 기술을 개선해야 한다는 점을 다시 한번 일깨워준다. Downcodes의 편집자는 AI 기술이 인류에게 안전하고 안정적으로 서비스를 제공할 수 있도록 모든 당사자가 협력할 것을 촉구합니다.