O governo britânico lançou uma ferramenta de inteligência artificial chamada "Identificação e prioridade para os casos de imigração" (IPIC) para melhorar a eficiência da aplicação da lei de imigração, o que causou controvérsia generalizada. A ferramenta coleta informações pessoais de imigrantes, incluindo dados biométricos, raça, estado de saúde e registros criminais, e faz recomendações para repatriamento obrigatório. Embora o governo afirme que todas as recomendações são revisadas manualmente, os grupos de direitos estão preocupados com o fato de a medida poder levar o processo de tomada de decisão a ser excessivamente dependente de algoritmos, exacerbando a opressão da imigração e a aumentar o risco de violações de vigilância e privacidade.
Notas da fonte da imagem: A imagem é gerada pela IA e a imagem autorizada provedor de serviços Midjourney
Após um pedido de divulgação de informações de um ano, alguns detalhes sobre o sistema de IA foram expostos. Os documentos mostram que o sistema coleta informações pessoais sobre imigrantes, incluindo dados biométricos, raça, estado de saúde e registros criminais. Embora o governo afirme que a introdução da IA pode ajudar a lidar rapidamente com casos de imigração e que todas as sugestões serão revisadas por seres humanos, os críticos argumentam que essa abordagem pode levar a funcionários "simplificando" os processos de tomada de decisão, especialmente ao aceitar sugestões algorítmicas. Os funcionários não precisam fornecer nenhum motivo, apenas um clique para confirmar.
A Privacy International, o Grupo de Direitos, expressou preocupações, dizendo que o sistema aumentou a probabilidade de os funcionários aceitarem conselhos de computador do que avaliar casos individuais em profundidade. Além disso, o Fizza Qureshi, CEO da Rede de Direitos de Imigração, apontou que, à medida que o compartilhamento de dados aumenta, as ferramentas de IA podem aumentar o risco de violações de vigilância e privacidade.
Essa ferramenta tem sido amplamente utilizada desde 2019-2020, e o governo se recusou a divulgar mais detalhes operacionais ao enfrentar dúvidas públicas, citando transparência excessiva que poderia ser usada para contornar os controles de imigração. Madeleine Sumping, diretora do Observatório de Imigração da Universidade de Oxford, acredita que, embora o uso da inteligência artificial não esteja errado em si, é difícil avaliar seu impacto real na tomada de decisões na ausência de transparência.
Recentemente, o Parlamento do Reino Unido também introduziu um novo projeto de lei de dados que permite a tomada de decisões automáticas na maioria dos casos, desde que a pessoa em questão possa fazer uma reclamação e obter intervenção humana. Essa mudança levantou preocupações sobre se as futuras decisões de imigração dependerão mais de algoritmos.
Pontos -chave:
A ferramenta de IA tem como objetivo melhorar a eficiência dos casos de imigração, mas tem sido fortemente oposta pelos críticos.
Os grupos de direitos de imigração temem que a ferramenta possa levar as autoridades a "simplificar" as decisões e aumentar a vigilância dos imigrantes.
O novo projeto de lei proposto pelo Parlamento do Reino Unido permite a tomada de decisão automática, levantando preocupações públicas sobre a transparência no gerenciamento de imigração.
A aplicação do governo britânico de ferramentas de inteligência artificial IPIC destaca a complexidade e os desafios éticos da aplicação da inteligência artificial no gerenciamento de imigração. Ao buscar eficiência, a transparência e a justiça devem ser garantidas para evitar a discriminação e as violações dos direitos humanos contra grupos vulneráveis. Futuras estruturas regulatórias e legais precisam equilibrar avanços tecnológicos e interesses sociais.