英国政府启用人工智能工具“识别与优先处理移民案件”（IPIC）以提高移民执法效率，引发广泛争议。该工具收集移民个人信息，包括生物识别数据、种族、健康状况和犯罪记录等，并对强制遣返提出建议。虽然政府声称每个建议都经人工审核，但权利团体担忧此举可能导致决策过程过于依赖算法，加剧对移民的压迫，并增加监视和侵犯隐私的风险。
图源备注:图片由AI生成，图片授权服务商Midjourney
在经过长达一年的信息公开请求后，关于该 AI 系统的部分细节被曝光。这些文件显示，该系统会收集有关移民的个人信息，包括生物识别数据、种族、健康状况以及犯罪记录等。尽管政府声称，人工智能的引入能够帮助快速处理移民案件，并且每一个建议都会由人类审核，但批评者认为，这种做法可能会导致官员 “简单化” 决策过程，尤其是在接受算法建议时，官员无需提供任何理由，只需一键确认。
权利组织隐私国际（Privacy International）对此表示担忧，认为该系统使得官员更倾向于接受计算机的建议，而不是深入评估个案。此外，移民权利网络的首席执行官菲扎・库雷希(Fizza Qureshi)指出，随着数据共享的增加，AI 工具可能会加大对移民的监视和侵犯隐私的风险。
这一工具自2019-2020年以来开始广泛应用，而政府在面对公众的质疑时，拒绝透露更多的运作细节，理由是过多的透明度可能被用来规避移民控制。牛津大学移民观察所的主任玛德琳・桑普森（Madeleine Sumption）认为，虽然人工智能的使用本身并不错误，但在缺乏透明度的情况下，很难评估其对决策的实际影响。
最近，英国议会还提出了一项新的数据法案，允许在大多数情况下进行自动决策，只要相关人员可以进行申诉并获得人类干预。这一变化引发了对未来移民决策是否会更加依赖算法的担忧。
划重点:
该 AI 工具旨在提高移民案件处理的效率，但受到批评者的强烈反对。
移民权利组织担心该工具可能导致官员 “简单化” 决策，并加大对移民的监视。
英国议会提议的新法案允许自动决策，引发公众对移民管理透明度的担忧。
英国政府对IPIC人工智能工具的应用，凸显了人工智能在移民管理中应用的复杂性和伦理挑战。在追求效率的同时，必须确保透明度和公平性，避免对弱势群体的歧视和侵犯人权。 未来的监管和法律框架需要在技术进步和社会利益之间取得平衡。