Британское правительство запустило инструмент искусственного интеллекта под названием «Идентификация и приоритет для иммиграционных дел» (IPIC) для повышения эффективности иммиграционных правоохранительных органов, что вызвало широко распространенные споры. Инструмент собирает личную информацию иммигрантов, включая биометрические данные, расу, состояние здоровья и судимость, и дает рекомендации по обязательной репатриации. В то время как правительство утверждает, что каждая рекомендация рассматривается вручную, правозащитные организации обеспокоены тем, что этот шаг может привести к тому, что процесс принятия решений чрезмерно зависит от алгоритмов, усугубление угнетения иммиграции и повышение риска наблюдения и нарушений конфиденциальности.
Примечания источника изображения: изображение генерируется ИИ, а изображение авторизованное поставщик услуг Midjourney
После годичного запроса на раскрытие информации была обнародована некоторые подробности о системе ИИ. Документы показывают, что система собирает личную информацию об иммигрантах, включая биометрические данные, расу, состояние здоровья и судимость. Хотя правительство утверждает, что введение ИИ может помочь быстро справиться с иммиграционными делами и что каждое предложение будет рассмотрено людьми, критики утверждают, что этот подход может привести к «упрощению» процессов принятия решений, особенно при принятии алгоритмических предложений. Чиновникам не нужно давать никаких причин, только один щелчок, чтобы подтвердить.
Privacy International, правозащитная группа, выразила обеспокоенность, заявив, что система сделала чиновники с большей вероятностью принимать компьютерные консультации, чем оценивать отдельные случаи. Кроме того, Fizza Qureshi, генеральный директор сети иммиграционных прав, отметил, что по мере увеличения обмена данными инструменты ИИ могут увеличить риск надзора и нарушений конфиденциальности.
Этот инструмент широко используется с 2019-2020 гг., И правительство отказалось раскрывать больше оперативных деталей при столкновении с общественными сомнениями, сославшись на чрезмерную прозрачность, которая может использоваться для обхода иммиграционных контролей. Мадлен Самент, директор иммиграционной обсерватории Оксфордского университета, считает, что, хотя использование искусственного интеллекта само по себе не является неправильным, трудно оценить его фактическое влияние на принятие решений в отсутствие прозрачности.
В последнее время парламент Великобритании также внес новый законопроект о данных, который в большинстве случаев позволяет автоматическое принятие решений, если соответствующее лицо может подарить жалобу и получить вмешательство человека. Это изменение вызвало обеспокоенность по поводу того, будут ли будущие иммиграционные решения полагаться на алгоритмы.
Ключевые моменты:
Инструмент ИИ направлен на повышение эффективности иммиграционных случаев, но критики решительно против.
Группы по защите прав иммиграции беспокоятся о том, что инструмент может привести к тому, что должностные лица «упростить» решения и увеличить наблюдение за иммигрантами.
Новый законопроект, предложенный парламентом Великобритании, позволяет автоматическому принятию решений, что выражает общественные опасения по поводу прозрачности в управлении иммиграцией.
Применение британского правительства инструментов искусственного интеллекта IPIC подчеркивает сложность и этические проблемы применения искусственного интеллекта в управлении иммиграцией. При стремлении к эффективности необходимо обеспечить прозрачность и справедливость, чтобы избежать дискриминации и нарушений прав человека в отношении уязвимых групп. Будущие регулирующие и правовые рамки должны сбалансировать технологические достижения и социальные интересы.