Penggunaan alat kecerdasan buatan "Identifikasi dan Prioritas Kasus Imigrasi" (IPIC) oleh pemerintah Inggris telah menimbulkan kontroversi. Alat ini dimaksudkan untuk membuat penegakan imigrasi lebih efisien, namun mendapat reaksi keras dari kelompok hak asasi manusia karena potensinya memperburuk penindasan terhadap imigran dan ketergantungannya yang berlebihan pada algoritma. Redaksi Downcodes akan menjelaskan seluk beluk kejadian ini secara detail, serta menganalisis potensi risiko dan dampak sosialnya.
Baru-baru ini, pemerintah Inggris memperkenalkan alat kecerdasan buatan yang disebut "Identifikasi dan Prioritas Kasus Imigrasi" (IPIC) dalam manajemen imigrasi. Tujuan dari alat ini adalah untuk meningkatkan efisiensi penegakan imigrasi dan membuat rekomendasi untuk pemindahan paksa imigran, termasuk orang dewasa dan anak-anak. Namun, kelompok hak asasi manusia sangat menentang pendekatan ini, dengan mengatakan hal itu dapat memperburuk penindasan terhadap imigran dan membuat proses pengambilan keputusan terlalu algoritmik.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Setelah permintaan pengungkapan selama setahun, beberapa detail tentang sistem AI telah terungkap. Dokumen tersebut menunjukkan sistem mengumpulkan informasi pribadi tentang imigran, termasuk data biometrik, ras, status kesehatan, dan catatan kriminal. Meskipun pemerintah mengklaim bahwa pengenalan kecerdasan buatan dapat membantu mempercepat kasus imigrasi dan bahwa setiap rekomendasi akan ditinjau oleh manusia, para kritikus percaya bahwa pendekatan ini dapat menyebabkan pejabat “menyederhanakan” proses pengambilan keputusan, terutama ketika menerima rekomendasi algoritmik. , petugas tidak perlu memberikan alasan apapun dan hanya perlu konfirmasi dengan satu klik.
Kelompok hak asasi manusia Privacy International telah menyatakan keprihatinannya bahwa sistem ini membuat para pejabat lebih cenderung menerima rekomendasi komputer daripada penilaian mendalam terhadap kasus-kasus individual. Selain itu, Fizza Qureshi, CEO Jaringan Hak Imigran, menyatakan bahwa seiring dengan meningkatnya pembagian data, alat AI dapat meningkatkan risiko pengawasan terhadap imigran dan pelanggaran privasi.
Alat ini telah digunakan secara luas sejak tahun 2019-2020, dan pemerintah menolak untuk mengungkapkan rincian operasional lebih lanjut karena adanya skeptisisme publik dengan alasan bahwa terlalu banyak transparansi dapat digunakan untuk menghindari kontrol imigrasi. Madeleine Sumption, direktur Observatorium Migrasi di Universitas Oxford, percaya bahwa meskipun penggunaan kecerdasan buatan tidak salah, namun jika tidak ada transparansi, sulit untuk menilai dampak sebenarnya terhadap pengambilan keputusan.
Baru-baru ini, Parlemen Inggris juga mengusulkan rancangan undang-undang data baru yang memungkinkan pengambilan keputusan otomatis dalam banyak kasus, selama orang-orang yang terlibat dapat mengajukan banding dan mendapatkan intervensi manusia. Perubahan ini menimbulkan kekhawatiran mengenai apakah keputusan imigrasi di masa depan akan lebih bergantung pada algoritma.
Penggunaan sistem IPIC oleh pemerintah Inggris telah menimbulkan kekhawatiran etika dan sosial yang luas, dan transparansi serta akuntabilitas sangat penting terkait penggunaan kecerdasan buatan dalam manajemen imigrasi. Di masa depan, bagaimana menjaga hak dan kepentingan imigran sekaligus memastikan efisiensi masih memerlukan pembahasan lebih lanjut dan penyempurnaan peraturan perundang-undangan terkait.