英国政府による人工知能ツール「移民事件の識別と優先順位付け」（IPIC）の使用が物議を醸している。このツールは移民取締りの効率化を目的としているが、移民抑圧を悪化させる可能性やアルゴリズムへの過度の依存を理由に権利団体からの反発に直面している。 Downcodes の編集者がこの事件の全容を詳細に解説し、その潜在的なリスクと社会的影響を分析します。
最近、英国政府は移民管理に「移民事件の識別と優先順位付け」（IPIC）と呼ばれる人工知能ツールを導入しました。このツールの目的は、移民取締りの効率を向上させ、大人と子供を含む移民の強制排除に関する勧告を行うことです。しかし、人権団体は、移民抑圧を悪化させ、意思決定プロセスをアルゴリズム化しすぎる可能性があるとして、このアプローチに強く反対している。
画像出典注：画像はAIにより生成され、画像認証サービスプロバイダMidjourney
1年に及ぶ開示請求を経て、AIシステムに関するいくつかの詳細が明らかになった。文書によると、このシステムは生体認証データ、人種、健康状態、犯罪歴など、移民に関する個人情報を収集している。政府は、人工知能の導入により移民訴訟の迅速化が図れ、すべての勧告は人間によって審査されると主張しているが、批評家らは、このアプローチは、特にアルゴリズムによる勧告を受け入れる場合、当局による意思決定プロセスの「簡素化」につながる可能性があると考えている。 、担当者は理由を説明する必要がなく、ワンクリックで確認するだけで済みます。
権利団体プライバシー・インターナショナルは、このシステムにより当局が個々の事件の詳細な評価よりもコンピューターによる勧告を受け入れる可能性が高くなるのではないかと懸念を表明した。さらに、Immigrant Rights Networkの最高経営責任者（CEO）であるFizza Qureshi氏は、データ共有が増加するにつれて、AIツールによって移民の監視やプライバシー侵害のリスクが高まる可能性があると指摘した。
このツールは2019年から2020年にかけて広く使用されてきたが、政府は透明性が高すぎると入国管理を回避できるという理由で国民の懐疑的な見方に直面して、さらなる運用の詳細を明らかにすることを拒否してきた。オックスフォード大学移民観測所所長のマデリーン・サンプション氏は、人工知能の利用自体は間違ってはいないものの、透明性がなければ意思決定に対する人工知能の実際の影響を評価するのは難しいと考えている。
最近、英国議会も、関係者が異議を申し立てて人間の介入を得ることができる限り、ほとんどの場合に自動化された意思決定を可能にする新しいデータ法案を提案しました。この変更により、将来の移民に関する決定がアルゴリズムにさらに大きく依存するようになるのではないかという懸念が生じている。
英国政府による IPIC システムの使用は、広範な倫理的および社会的懸念を引き起こしており、入国管理における人工知能の使用に関しては透明性と説明責任が極めて重要です。 今後も、効率性を確保しながら移民の権利と利益をどのように保護するかについては、さらなる議論と関連法規制の改善が必要である。