El gobierno británico ha lanzado una herramienta de inteligencia artificial llamada "Identificación y prioridad para los casos de inmigración" (IPIC) para mejorar la eficiencia de la aplicación de la ley de inmigración, lo que ha causado una controversia generalizada. La herramienta recopila información personal de inmigrantes, incluidos datos biométricos, raza, estado de salud y antecedentes penales, y hace recomendaciones para la repatriación obligatoria. Si bien el gobierno afirma que cada recomendación se revisa manualmente, los grupos de derechos están preocupados de que la medida pueda llevar a que el proceso de toma de decisiones dependa demasiado de los algoritmos, exacerbe la opresión de la inmigración y aumente el riesgo de vigilancia y violaciones de la privacidad.
Notas de fuente de imagen: La imagen es generada por AI y el proveedor de servicios autorizado de imagen MidJourney
Después de una solicitud de divulgación de información de un año, se expusieron algunos detalles sobre el sistema de IA. Los documentos muestran que el sistema recopila información personal sobre inmigrantes, incluidos datos biométricos, raza, estado de salud y antecedentes penales. Aunque el gobierno afirma que la introducción de la IA puede ayudar a manejar rápidamente los casos de inmigración y que cada sugerencia será revisada por los humanos, los críticos argumentan que este enfoque puede llevar a los funcionarios que "simplifican" los procesos de toma de decisiones, especialmente al aceptar sugerencias algorítmicas. Los funcionarios no necesitan proporcionar ningún motivo, solo un clic para confirmar.
Privacy International, el grupo de derechos, expresó su preocupación, diciendo que el sistema ha hecho que los funcionarios tengan más probabilidades de aceptar asesoramiento informático que evaluar los casos individuales en profundidad. Además, Fizza Qureshi, CEO de Inmigration Rights Network, señaló que a medida que aumenta el intercambio de datos, las herramientas de IA pueden aumentar el riesgo de vigilancia y violaciones de privacidad.
Esta herramienta se ha utilizado ampliamente desde 2019-2020, y el gobierno se ha negado a revelar más detalles operativos al enfrentar dudas públicas, citando una transparencia excesiva que podría usarse para eludir los controles de inmigración. Madeleine Sumution, directora del Observatorio de Inmigración de la Universidad de Oxford, cree que si bien el uso de inteligencia artificial no es incorrecta en sí misma, es difícil evaluar su impacto real en la toma de decisiones en ausencia de transparencia.
Recientemente, el Parlamento del Reino Unido también introdujo un nuevo proyecto de ley de datos que permite la toma de decisiones automáticas en la mayoría de los casos, siempre que la persona en cuestión pueda presentar una queja y obtener una intervención humana. Este cambio ha planteado preocupaciones sobre si las decisiones de inmigración futuras dependerán más de los algoritmos.
Puntos clave:
La herramienta AI tiene como objetivo mejorar la eficiencia de los casos de inmigración, pero los críticos han opuesto fuertemente.
Los grupos de derechos de inmigración se preocupan de que la herramienta pueda llevar a los funcionarios a "simplificar" las decisiones y aumentar la vigilancia de los inmigrantes.
El nuevo proyecto de ley propuesto por el Parlamento del Reino Unido permite la toma de decisiones automáticas, planteando preocupaciones públicas sobre la transparencia en la gestión de inmigración.
La aplicación del gobierno británico de herramientas de inteligencia artificial IPIC destaca la complejidad y los desafíos éticos de la aplicación de la inteligencia artificial en la gestión de la inmigración. Mientras persigue la eficiencia, se debe garantizar la transparencia y la equidad para evitar la discriminación y las violaciones de los derechos humanos contra los grupos vulnerables. Los marcos regulatorios y legales futuros deben equilibrar los avances tecnológicos e intereses sociales.