영국 정부가 인공지능 도구인 IPIC(Identification and Prioritization of Immigration Cases)를 활용해 논란이 일고 있다. 이 도구는 이민 단속을 보다 효율적으로 만들기 위한 것이지만, 이민자에 대한 억압과 알고리즘에 대한 과도한 의존을 악화시킬 가능성이 있다는 이유로 권리 단체의 반발에 직면해 왔습니다. 다운코드 편집자는 이번 사건의 내용을 자세히 설명하고, 잠재적인 위험과 사회적 영향을 분석할 예정이다.
최근 영국 정부는 이민 관리에 '이민 사례 식별 및 우선 순위 지정'(IPIC)이라는 인공지능 도구를 도입했습니다. 이 도구의 목적은 이민 집행의 효율성을 향상시키고 성인과 어린이를 포함한 이민자의 강제 추방에 대한 권장 사항을 제시하는 것입니다. 그러나 인권단체들은 이러한 접근방식이 이민자에 대한 억압을 악화시키고 의사결정 과정을 너무 알고리즘적으로 만들 수 있다며 강력히 반대하고 있다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
1년간의 공개 요청 끝에 AI 시스템에 대한 일부 세부 사항이 공개됐다. 문서에는 시스템이 생체 데이터, 인종, 건강 상태 및 범죄 기록을 포함하여 이민자에 대한 개인 정보를 수집하는 것으로 나와 있습니다. 정부는 인공 지능의 도입이 이민 사건의 속도를 높이는 데 도움이 될 수 있고 모든 권고 사항은 인간에 의해 검토될 것이라고 주장하지만, 비평가들은 이러한 접근 방식이 공무원들이 특히 알고리즘 권고 사항을 받아들일 때 의사 결정 과정을 "단순화"할 수 있다고 믿습니다. , 담당자는 이유를 제시할 필요가 없으며 클릭 한 번으로 확인하면 됩니다.
권리 단체인 Privacy International은 이 시스템으로 인해 공무원들이 개별 사례에 대한 심층적인 평가보다는 컴퓨터 권장 사항을 더 많이 받아들일 가능성이 높다는 우려를 표명했습니다. 또한 Immigrant Rights Network의 CEO인 Fizza Qureshi는 데이터 공유가 증가함에 따라 AI 도구가 이민자 감시 및 개인 정보 침해 위험을 증가시킬 수 있다고 지적했습니다.
이 도구는 2019~20년부터 널리 사용되었으며, 정부는 이민 통제를 우회하는 데 너무 많은 투명성이 사용될 수 있다는 이유로 대중의 회의적인 태도에도 불구하고 더 많은 운영 세부 사항을 공개하는 것을 거부했습니다. 옥스퍼드 대학교 이주 관측소 소장인 매들린 섬션(Madeleine Sumption)은 인공 지능의 사용 자체가 잘못된 것은 아니지만 투명성이 없으면 인공 지능이 의사 결정에 미치는 실제 영향을 평가하기 어렵다고 믿습니다.
최근 영국 의회는 관련된 사람들이 항소하고 인간의 개입을 얻을 수 있는 한 대부분의 경우 자동화된 의사 결정을 허용하는 새로운 데이터 법안을 제안했습니다. 이러한 변화는 향후 이민 결정이 알고리즘에 더 많이 의존하게 될지에 대한 우려를 불러일으킵니다.
영국 정부의 IPIC 시스템 사용으로 인해 광범위한 윤리적, 사회적 우려가 제기되었으며, 이민 관리에 인공 지능을 사용하는 데 있어 투명성과 책임성이 매우 중요합니다. 앞으로도 이민자의 권리와 이익을 보호하면서 효율성을 보장하는 방법에 대해서는 관련 법률 및 규정에 대한 추가 논의와 개선이 필요합니다.