뉴욕시는 최근 Evolv가 제공 한 스캐닝 장비를 사용하여 지하철 시스템의 안전성을 향상시키는 것을 목표로 AI 무기 스캐닝 파일럿 프로젝트를 수행했습니다. 그러나 1 개월의 파일럿 프로젝트의 결과는 실망 스러웠으며 총을 감지하지 못했을뿐만 아니라 12 개의 칼을 거짓으로보고하여 118 명의 승객에 대한 불필요한 수색 및 지연이 발생했습니다. 이러한 움직임은 기술의 신뢰성과 실용성 유용성에 대한 대중의 의심을 불러 일으켰으며 공공 안전 분야에 AI 기술을 적용 할 때 직면 할 수있는 도전과 위험을 강조합니다.
최근 뉴욕시의 AI 무기 스캔 파일럿 프로젝트의 결과는 턱을 떨어 뜨립니다. Evolv라는 기술 회사가 제공 한 스캐닝 장비는 지하철 시스템 실험 과정에서 총을 찾지 못했지만 12 개의 나이프를 발견했습니다.
이미지 소스 참고 : 이미지는 AI에 의해 생성되며 이미지 공인 서비스 제공 업체 Midjourney
7 월 말에 시작된 재판은 한 달 동안 지속되었으며 그 결과는 실망 스러웠습니다. CBS New York에 따르면, 12 개의 나이프를 감지하는 장치에도 불구하고 체포 기록은 생성되지 않았으며, 이는 법률 원조 협회의 변호사 인 Diane Ackerman을 불쾌하게했습니다. 그녀는 이것은 나이프가 합법적 일 수 있고 118 명의 승객을 추가로 검색 할 필요가 없다는 것을 의미한다고 말했다.
실제로,이 118 개의 허위 경보는 많은 승객을 괴롭 혔습니다. 많은 사람들 이이 스캐너를 통과 할 때 불필요한 숙박과 검색을 겪습니다. CBS 기자조차도 2022 년과 2023 년 에이 스캐너를 두 번 걸을 때 허위 경보를 발견했습니다. 분명히이 시스템의 신뢰성은 걱정됩니다.
프로젝트의 열악한 결과에도 불구하고 도시는이 프로젝트를 방어하려고했습니다. NYPD 대변인은 Evolv 기술을 사용하는 지하철 역에서 재판 중에 총격 사건이 없다고 말했다. New York Times Research에 따르면, 이것은 사실이지만, 지하철 폭력은 실제로 비교적 드물며, 일반적으로 백만 명의 타기 만 발생합니다. 또한이 기술은 472 개의 지하철역 중 20 개월 동안 한 달 동안 만 배포되어 실제 억제 효과를 입증하기가 어렵습니다.
이 AI 스캔 프로젝트의 실패는 시민들을 실망시킬뿐만 아니라 공공 안전 분야에서 기술 적용에 많은 문제를 드러냅니다. 시 정부 가이 기술에 계속 투자할지 여부는 여전히 주목할만한 주제입니다.
핵심 사항 :
총은 발견되지 않았지만 보고서는 12 개의 나이프가 발견 된 것으로 나타났습니다.
118 잘못된 경보는 불필요한 체류를 일으켰고 승객을 검색했습니다.
지방 자치 단체는 기술이 억제 효과가 있지만 실제 데이터 지원은 충분하지 않다고 주장했다.
이 AI 무기 스캔 파일럿 프로젝트의 실패는 기술 자체의 결함을 노출시킬뿐만 아니라 공공 안전 분야에서 AI 기술의 적용에 대한 사람들의 반영을 유발했습니다. 앞으로도 유사한 기술의 적용은 불필요한 문제를 피하고 대중에게 해를 끼치려면 더욱 신뢰할 수 있고 신뢰성과 정확성에주의를 기울여야합니다.