"รายงานความปลอดภัยปัญญาประดิษฐ์ประจำปี 2024" ที่เผยแพร่โดย Qi'anxin Group เผยให้เห็นความเป็นจริงอันเลวร้ายของการใช้เทคโนโลยีปัญญาประดิษฐ์ในทางที่ผิด ข้อมูลรายงานแสดงให้เห็นว่าการฉ้อโกงการปลอมแปลงเชิงลึกโดยใช้ AI จะเพิ่มขึ้น 3,000% ในปี 2566 อีเมลฟิชชิ่งด้วย AI จะเพิ่มขึ้น 1,000% และองค์กร APT หลายแห่งที่มีภูมิหลังของรัฐได้ใช้ AI เพื่อทำการโจมตีทางไซเบอร์มากกว่าสิบครั้ง รายงานคาดการณ์ว่าการใช้เทคโนโลยีปัญญาประดิษฐ์ในทางที่ผิดจะยังคงเติบโตต่อไป ก่อให้เกิดภัยคุกคามร้ายแรงต่อความปลอดภัยของเครือข่าย ความปลอดภัยทางกายภาพ และความปลอดภัยทางทหาร ซึ่งทำให้เราต้องให้ความสำคัญอย่างยิ่งและตอบสนองอย่างแข็งขัน
ตาม "รายงานความปลอดภัยปัญญาประดิษฐ์ปี 2024" ที่เผยแพร่โดย Qi'anxin Group การฉ้อโกงด้วยการปลอมแปลงเชิงลึกโดยใช้ AI จะเพิ่มขึ้น 3,000% ในปี 2566 ในขณะที่อีเมลฟิชชิ่งที่ใช้ AI จะเพิ่มขึ้น 1,000% รายงานชี้ให้เห็นว่าองค์กร APT หลายแห่งที่มีภูมิหลังระดับชาติได้ใช้ AI เพื่อทำการโจมตีทางไซเบอร์มากกว่า 10 ครั้ง โดยคาดการณ์ว่าการใช้เทคโนโลยีปัญญาประดิษฐ์ในทางที่ผิดจะเติบโตอย่างรวดเร็ว ก่อให้เกิดภัยคุกคามต่อความปลอดภัยของเครือข่าย ความปลอดภัยทางกายภาพ และความมั่นคงทางการทหาร
การพัฒนาอย่างรวดเร็วของเทคโนโลยีปัญญาประดิษฐ์นำมาซึ่งโอกาสที่ไม่เคยมีมาก่อน แต่ก็นำมาซึ่งความเสี่ยงด้านความปลอดภัยอย่างมากเช่นกัน เมื่อเผชิญกับภัยคุกคามที่เพิ่มขึ้นจากการใช้ AI ในทางที่ผิด สิ่งสำคัญคือต้องเสริมสร้างการป้องกันความปลอดภัยของเครือข่าย เพิ่มความตระหนักรู้ด้านความปลอดภัยสาธารณะ และสำรวจกลยุทธ์การตอบสนองอย่างแข็งขัน ด้วยวิธีนี้เท่านั้นที่เทคโนโลยีปัญญาประดิษฐ์สามารถให้บริการสังคมมนุษย์ได้อย่างปลอดภัยและเชื่อถือได้