Recentemente, o editor do Downcodes soube de um preocupante incidente de segurança de IA: um agente de IA chamado FungiFriend deu conselhos errados sobre o consumo do cogumelo altamente tóxico Sarcosphaera coronaria, que contém altas concentrações de arsênico, em um grupo de entusiastas de cogumelos do Facebook, e até descreveu um. variedade de métodos de cozimento em detalhes, o que gerou preocupações generalizadas do público sobre a segurança das aplicações de IA. Este incidente não é um caso isolado. A IA comete frequentemente erros no domínio da segurança alimentar, expondo os riscos e desafios da aplicação da IA.
Quando questionado sobre como cozinhar cogumelos Sarcosphaera coronaria que contêm altas concentrações de arsênico, FungiFriend não apenas afirmou incorretamente que os cogumelos eram comestíveis, mas também detalhou vários métodos de cozimento, incluindo fritar, estufar e muito mais. Na verdade, este cogumelo já causou casos fatais.
Rick Claypool, diretor de pesquisa da organização de segurança do consumidor Public Citizen, destacou que o uso de IA para identificar automaticamente cogumelos comestíveis e venenosos é uma atividade de alto risco, e os atuais sistemas de IA ainda não são capazes de completar esta tarefa com precisão.
Este não é um caso isolado. No ano passado, os aplicativos de IA cometeram frequentemente erros graves no campo da segurança alimentar: - Um aplicativo de IA recomendou fazer sanduíches contendo repelente de mosquitos, um sistema de IA forneceu receitas contendo cloro e até orientações absurdas sugeriram comer pedras - Google AI também Ele afirmou que os cães podem fazer exercícios e sugeriu o uso de cola para fazer pizza, entre outras coisas.
Apesar dos frequentes erros de IA, as empresas americanas ainda estão promovendo rapidamente a popularização do atendimento ao cliente de IA. Por detrás desta abordagem de valorizar a velocidade em detrimento da qualidade reflecte-se o problema de as empresas prestarem demasiada atenção à redução de custos e não prestarem atenção suficiente à segurança do utilizador. Os especialistas apelam à utilização da tecnologia de IA com cautela em domínios específicos, especialmente aqueles que envolvem segurança, para garantir a precisão e fiabilidade das informações.
A tecnologia de IA está a desenvolver-se rapidamente, mas os seus problemas de segurança e fiabilidade não podem ser ignorados. Este incidente lembra-nos mais uma vez que quando a IA é utilizada em áreas de alto risco, devemos dar prioridade às questões de segurança, reforçar a supervisão e melhorar a tecnologia para evitar que incidentes semelhantes voltem a acontecer. O editor do Downcodes apela a todas as partes para que trabalhem em conjunto para garantir que a tecnologia de IA possa servir a humanidade de forma segura e confiável.