Recientemente, el editor de Downcodes se enteró de un preocupante incidente de seguridad de la IA: un agente de IA llamado FungiFriend dio consejos incorrectos sobre el consumo del hongo altamente tóxico Sarcosphaera coronaria, que contiene altas concentraciones de arsénico, en un grupo de entusiastas de los hongos de Facebook, e incluso describió un problema. variedad de métodos de cocción en detalle, lo que desencadenó preocupaciones públicas generalizadas sobre la seguridad de las aplicaciones de IA. Este incidente no es un caso aislado. La IA comete errores con frecuencia en el campo de la seguridad alimentaria, lo que expone los riesgos y desafíos de su aplicación.
Cuando se le preguntó cómo cocinar hongos Sarcosphaera coronaria que contienen altas concentraciones de arsénico, FungiFriend no solo afirmó incorrectamente que los hongos eran comestibles, sino que también detalló varios métodos de cocción, incluidos freír, guisar y más. De hecho, este hongo ha provocado casos mortales.
Rick Claypool, director de investigación de la organización de seguridad del consumidor Public Citizen, señaló que el uso de IA para identificar automáticamente hongos comestibles y venenosos es una actividad de alto riesgo, y los sistemas de IA actuales aún no pueden completar esta tarea con precisión.
Este no es un caso aislado. El año pasado, las aplicaciones de IA cometieron frecuentemente errores graves en el campo de la seguridad alimentaria: - Una aplicación de IA recomendó preparar sándwiches que contenían repelente de mosquitos, un sistema de IA dio recetas que contenían cloro e incluso una guía absurda sugirió comer piedras - Google AI también ha afirmado que los perros pueden hacer ejercicio y ha sugerido utilizar pegamento para hacer pizza, entre otras cosas.
A pesar de los frecuentes errores de IA, las empresas estadounidenses siguen promoviendo rápidamente la popularización del servicio al cliente de IA. Detrás de este enfoque de valorar la velocidad por encima de la calidad se refleja el problema de que las empresas prestan demasiada atención al ahorro de costes y no prestan suficiente atención a la seguridad del usuario. Los expertos piden utilizar con precaución la tecnología de inteligencia artificial en campos específicos, especialmente en los relacionados con la seguridad, para garantizar la exactitud y confiabilidad de la información.
La tecnología de inteligencia artificial se está desarrollando rápidamente, pero no se pueden ignorar sus problemas de seguridad y confiabilidad. Este incidente nos recuerda una vez más que cuando se utiliza la IA en áreas de alto riesgo, debemos dar prioridad a las cuestiones de seguridad, fortalecer la supervisión y mejorar la tecnología para evitar que incidentes similares vuelvan a ocurrir. El editor de Downcodes pide a todas las partes que trabajen juntas para garantizar que la tecnología de IA pueda servir a la humanidad de forma segura y fiable.