นิวยอร์กซิตี้เพิ่งจัดทำโครงการนักบินสแกนอาวุธ AI เพื่อปรับปรุงความปลอดภัยของระบบรถไฟใต้ดินโดยใช้อุปกรณ์สแกนที่จัดทำโดย Evolv อย่างไรก็ตามผลลัพธ์ของโครงการนำร่องหนึ่งเดือนนั้นน่าผิดหวังไม่เพียง แต่ล้มเหลวในการตรวจจับปืนใด ๆ เท่านั้น แต่ยังรายงานว่ามีด 12 อันเท็จส่งผลให้การค้นหาและความล่าช้าที่ไม่จำเป็นสำหรับผู้โดยสาร 118 คน การเคลื่อนไหวครั้งนี้ทำให้เกิดข้อสงสัยของสาธารณชนเกี่ยวกับความน่าเชื่อถือและการใช้ประโยชน์เชิงปฏิบัติของเทคโนโลยีและยังเน้นถึงความท้าทายและความเสี่ยงที่อาจต้องเผชิญเมื่อใช้เทคโนโลยี AI ในด้านความปลอดภัยสาธารณะ
เมื่อเร็ว ๆ นี้ผลลัพธ์ของโครงการนักบินสแกนอาวุธ AI ในนิวยอร์กซิตี้กำลังลดลง อุปกรณ์สแกนที่จัดทำโดย บริษัท เทคโนโลยีที่เรียกว่า Evolv ไม่พบปืนในระหว่างการทดลองสำหรับระบบรถไฟใต้ดิน แต่พบมีด 12 ใบ
หมายเหตุแหล่งที่มาของภาพ: ภาพถูกสร้างขึ้นโดย AI และผู้ให้บริการที่ได้รับอนุญาตภาพ Midjourney
การทดลองซึ่งเริ่มขึ้นเมื่อปลายเดือนกรกฎาคมกินเวลาเพียงหนึ่งเดือนและผลลัพธ์ก็น่าผิดหวัง จากข้อมูลของซีบีเอสนิวยอร์กแม้จะมีอุปกรณ์ตรวจจับมีด 12 ใบ แต่ก็ไม่มีการสร้างบันทึกการจับกุมซึ่ง Diane Ackerman ไม่พอใจทนายความของสมาคมความช่วยเหลือด้านกฎหมาย เธอกล่าวว่านี่หมายความว่ามีดอาจถูกกฎหมายและไม่จำเป็นต้องทำการค้นหาเพิ่มเติมของผู้โดยสาร 118 คน
ในความเป็นจริงสัญญาณเตือนที่ผิดพลาด 118 ครั้งเหล่านี้รบกวนผู้โดยสารหลายคน หลายคนประสบกับการเข้าพักที่ไม่จำเป็นและค้นหาขณะที่พวกเขาผ่านเครื่องสแกนเหล่านี้ แม้แต่นักข่าวซีบีเอสก็พบสัญญาณเตือนที่ผิดพลาดเมื่อเดินผ่านเครื่องสแกนเหล่านี้สองครั้งในปี 2565 และ 2566 เห็นได้ชัดว่าความน่าเชื่อถือของระบบนี้เป็นกังวล
แม้จะมีผลลัพธ์ที่ไม่ดีของโครงการ แต่เมืองก็พยายามปกป้องมัน โฆษกของ NYPD กล่าวว่าไม่มีการยิงระหว่างการทดลองที่สถานีรถไฟใต้ดินโดยใช้เทคโนโลยี Evolv แม้ว่าสิ่งนี้จะเป็นจริงตามการวิจัยของ New York Times ความรุนแรงรถไฟใต้ดินนั้นค่อนข้างหายาก แต่มักจะเกิดขึ้นทุกล้านเครื่องเท่านั้น ยิ่งไปกว่านั้นเทคโนโลยีได้ถูกนำไปใช้เพียงหนึ่งเดือนที่สถานีรถไฟใต้ดิน 20 แห่งจาก 472 สถานีทำให้ยากที่จะพิสูจน์ผลการยับยั้งที่แท้จริง
ความล้มเหลวของโครงการสแกน AI นี้ไม่เพียง แต่ทำให้ประชาชนผิดหวัง แต่ยังทำให้เกิดปัญหามากมายในการประยุกต์ใช้เทคโนโลยีในด้านความปลอดภัยสาธารณะ ไม่ว่ารัฐบาลเมืองจะยังคงลงทุนในเทคโนโลยีนี้ยังคงเป็นหัวข้อที่ควรค่าแก่การให้ความสนใจ
ประเด็นสำคัญ:
ไม่พบปืน แต่มีรายงานแสดงให้เห็นว่ามีมีด 12 ใบ
118 การเตือนที่ผิดพลาดทำให้การเข้าพักที่ไม่จำเป็นและการค้นหาผู้โดยสาร
รัฐบาลเทศบาลแย้งว่าเทคโนโลยีมีผลยับยั้ง แต่การสนับสนุนข้อมูลจริงไม่เพียงพอ
ความล้มเหลวของโครงการสแกนอาวุธ AI นี้ไม่เพียง แต่เปิดเผยข้อบกพร่องของเทคโนโลยีเท่านั้น แต่ยังก่อให้เกิดการสะท้อนของผู้คนในการประยุกต์ใช้เทคโนโลยี AI ในด้านความปลอดภัยสาธารณะ ในอนาคตการประยุกต์ใช้เทคโนโลยีที่คล้ายกันจะต้องระมัดระวังมากขึ้นและให้ความสนใจกับความน่าเชื่อถือและความถูกต้องเพื่อหลีกเลี่ยงปัญหาที่ไม่จำเป็นและเป็นอันตรายต่อสาธารณะ