การศึกษาที่น่าตกตะลึงซึ่งเผยแพร่โดย Stanford Internet Observatory เผยให้เห็นแคชขนาดใหญ่ของภาพการล่วงละเมิดทางเพศเด็กในฐานข้อมูลเบื้องหลังโปรแกรมสร้างภาพ AI ยอดนิยม การค้นพบนี้ก่อให้เกิดความกังวลอย่างกว้างขวางและเน้นย้ำถึงความเสี่ยงด้านจริยธรรมที่อาจเกิดขึ้นของเทคโนโลยีปัญญาประดิษฐ์ การศึกษาชี้ให้เห็นว่าผู้ให้บริการฐานข้อมูลภาพขนาดใหญ่บางรายได้ดำเนินมาตรการเพื่อจำกัดการเข้าถึงแล้ว แต่ยังจำเป็นต้องมีการดำเนินการเชิงรุกเพิ่มเติมเพื่อแก้ไขปัญหาร้ายแรงนี้เพื่อปกป้องเด็กและป้องกันการใช้เทคโนโลยี AI ในทางที่ผิด
ฐานข้อมูลพื้นฐานของโปรแกรมสร้างภาพปัญญาประดิษฐ์ยอดนิยมประกอบด้วยภาพการล่วงละเมิดทางเพศเด็กหลายพันภาพ ตามการศึกษาใหม่จาก Stanford Internet Observatory ผู้ดำเนินการฐานข้อมูลรูปภาพที่ใหญ่ที่สุดและใช้บ่อยที่สุดบางแห่งสามารถเข้าถึงฐานข้อมูลเหล่านี้ได้ สิ่งนี้อาจส่งผลกระทบต่อความสามารถของเครื่องมือ AI ในการสร้างผลลัพธ์ที่เป็นอันตราย และทำให้การละเมิดต่อเหยื่อจริงรุนแรงขึ้น หอดูดาวอินเทอร์เน็ตสแตนฟอร์ดเรียกร้องให้มีมาตรการที่รุนแรงกว่านี้เพื่อแก้ไขปัญหา
การค้นพบนี้น่ากังวลและเน้นย้ำถึงความสำคัญของการรับรองความปลอดภัยของข้อมูลและจริยธรรมในการพัฒนาปัญญาประดิษฐ์ ในอนาคต มีความจำเป็นต้องเสริมสร้างการกำกับดูแลข้อมูลการฝึกอบรม AI และพัฒนาวิธีการทางเทคนิคที่มีประสิทธิภาพมากขึ้นเพื่อระบุและกรองเนื้อหาที่เป็นอันตราย เพื่อให้มั่นใจว่ามีการพัฒนาที่ดีและการใช้เทคโนโลยีปัญญาประดิษฐ์อย่างปลอดภัย และหลีกเลี่ยงการนำไปใช้เพื่อวัตถุประสงค์ที่ผิดกฎหมายและเป็นอันตราย