เมื่อเร็ว ๆ นี้ มีข่าวเกี่ยวกับภาพถ่ายปลอมที่สร้างโดย AI ซึ่งประสบความสำเร็จในการหลอกลวงระบบตรวจสอบความถูกต้องของชื่อจริง เช่น ธนาคาร ได้จุดประกายให้เกิดการถกเถียงอย่างดุเดือดบนโซเชียลมีเดีย โดยมียอดเข้าชมเกิน 4 ล้านครั้ง ข่าวดังกล่าวเผยให้เห็นถึงความเสี่ยงที่อาจเกิดขึ้นจากเทคโนโลยีปัญญาประดิษฐ์ในด้านการปลอมแปลงข้อมูลเชิงลึก และยังทำให้เกิดความกังวลเกี่ยวกับความปลอดภัยของปัญญาประดิษฐ์อีกด้วย เหตุการณ์นี้ตอกย้ำถึงผลกระทบของดาบสองคมที่เกิดจากการพัฒนาเทคโนโลยี AI อีกครั้ง ในด้านหนึ่งอาจนำมาซึ่งความสะดวกสบาย แต่ในทางกลับกัน ก็อาจนำไปใช้ในกิจกรรมที่ผิดกฎหมายได้เช่นกัน บทความนี้จะกล่าวถึงรายละเอียดเหตุการณ์และรายละเอียดทางเทคนิค
แหล่งข่าวกล่าวว่ามีคนประสบความสำเร็จในการหลอกลวงระบบตรวจสอบความถูกต้องด้วยชื่อจริง เช่น ธนาคาร โดยใช้ภาพถ่ายที่สร้างโดย SD ทวีตดังกล่าวจุดชนวนให้เกิดการสนทนาอย่างดุเดือดบนโซเชียลมีเดีย และมีผู้เข้าชมมากกว่า 4 ล้านครั้ง ผู้เขียนต้นฉบับได้รวมแบบจำลอง Lora สองแบบเข้าด้วยกันและทำการทดลองเพื่อให้ได้ผลลัพธ์ที่สม่ำเสมอและสวยงาม บทความนี้ยังแนะนำกระบวนการเฉพาะในการสร้างภาพถ่าย รวมถึงขั้นตอนต่างๆ เช่น การปรับแต่งใบหน้า การเพิ่มข้อความ และการซ้อนภาพ ข่าวนี้กระตุ้นให้เกิดการอภิปรายและข้อกังวลเกี่ยวกับเทคโนโลยีปัญญาประดิษฐ์อีกครั้งเหตุการณ์นี้เตือนเราว่าเราจำเป็นต้องเสริมสร้างการกำกับดูแลเทคโนโลยีปัญญาประดิษฐ์และพัฒนาเทคโนโลยีอย่างแข็งขันเพื่อต่อสู้กับการปลอมแปลงอย่างล้ำลึกเพื่อให้มั่นใจในความปลอดภัยของข้อมูลส่วนบุคคลและความมั่นคงทางสังคม ความก้าวหน้าทางเทคโนโลยีควรอยู่บนพื้นฐานของความรับผิดชอบต่อสังคมเสมอ ด้วยวิธีนี้ บทบาทเชิงบวกของปัญญาประดิษฐ์จึงสามารถนำมาใช้ประโยชน์ได้ดีขึ้น