La ciudad de Nueva York realizó recientemente un proyecto piloto de escaneo de armas AI destinado a mejorar la seguridad de los sistemas de metro utilizando equipos de escaneo proporcionados por EVOLV. Sin embargo, los resultados del proyecto piloto de un mes fueron decepcionantes, no solo no pudieron detectar ninguna armas, sino que informaron falsamente 12 cuchillos, lo que resultó en búsquedas y retrasos innecesarios para 118 pasajeros. Este movimiento ha despertado dudas públicas sobre la confiabilidad y la utilidad práctica de la tecnología, y también destaca los desafíos y riesgos que pueden enfrentarse al aplicar la tecnología de IA en el campo de la seguridad pública.
Recientemente, los resultados de un proyecto piloto de escaneo de armas de IA en la ciudad de Nueva York son asombrosas. El equipo de escaneo proporcionado por la compañía de tecnología llamada Evolv no encontró una pistola durante los experimentos para el sistema de metro, pero encontró 12 cuchillos.
Notas de fuente de imagen: La imagen es generada por AI y el proveedor de servicios autorizado de imagen MidJourney
El juicio, que comenzó a fines de julio, duró solo un mes y los resultados fueron decepcionantes. Según CBS New York, a pesar del dispositivo que detecta 12 cuchillos, no se generaron registros de arresto, que disgustó a Diane Ackerman, abogada de la Asociación de Ayuda Legal. Ella dijo que esto significa que los cuchillos pueden ser legales y que no hay necesidad de realizar búsquedas adicionales de 118 pasajeros.
De hecho, estas 118 falsas alarmas molestaron a muchos pasajeros. Muchas personas sufren estadías y búsquedas innecesarias a medida que pasan por estos escáneres. Incluso un reportero de CBS encontró falsas alarmas al caminar a través de estos escáneres dos veces en 2022 y 2023. Obviamente, la confiabilidad de este sistema es preocupante.
A pesar de los malos resultados del proyecto, la ciudad trató de defenderlo. Un portavoz de la policía de Nueva York dijo que no hubo tiroteos durante la prueba en una estación de metro utilizando la tecnología Evolv. Aunque esto es cierto, según la investigación del New York Times, la violencia del metro es en realidad relativamente rara, generalmente solo ocurre cada millón de viajes. Además, la tecnología se ha implementado durante solo un mes en 20 de 472 estaciones de metro, lo que dificulta probar su efecto disuasorio real.
El fracaso de este proyecto de escaneo de IA no solo decepciona a los ciudadanos, sino que también expone muchos problemas en la aplicación de la tecnología en el campo de la seguridad pública. Si el gobierno de la ciudad continuará invirtiendo en esta tecnología sigue siendo un tema digno de atención.
Puntos clave:
No se encontraron armas, pero el informe mostró que se encontraron 12 cuchillos.
118 falsas alarmas causaron estadías innecesarias y búsquedas de pasajeros.
El gobierno municipal argumentó que la tecnología tiene un efecto disuasorio, pero el soporte de datos real era insuficiente.
La falla de este proyecto piloto de escaneo de armas AI no solo expuso los defectos de la tecnología en sí, sino que también desencadenó la reflexión de las personas sobre la aplicación de la tecnología de IA en el campo de la seguridad pública. En el futuro, la aplicación de tecnologías similares deberá ser más cautelosa y prestar atención a su confiabilidad y precisión para evitar problemas innecesarios y daños al público.