ล่าสุด เทคโนโลยีเปลี่ยนใบหน้า AI ได้ถูกนำมาใช้ในการถ่ายทอดสดเพื่อนำสินค้าซึ่งดึงดูดความสนใจของสาธารณชนอย่างกว้างขวาง บัญชีที่เลียนแบบการถ่ายทอดสดการขายสินค้าของ Dr. Zhang Wenhong หลอกลวงผู้คนจำนวนมาก โดยเฉพาะผู้ชมที่มีอายุมากกว่าที่ไม่คุ้นเคยกับเทคโนโลยี AI หลังจากเหตุการณ์ดังกล่าวถูกเปิดเผย Zhang Wenhong เองก็ตอบโต้และบอกว่าเขาร้องเรียนไปที่เวทีหลายครั้ง เหตุการณ์นี้เน้นย้ำถึงความเสี่ยงของการใช้เทคโนโลยี AI ในทางที่ผิดและข้อบกพร่องของสาธารณชนในด้านข้อมูลที่ชาญฉลาด
เมื่อเร็วๆ นี้ วิดีโอได้รับความสนใจอย่างกว้างขวางบนอินเทอร์เน็ต ในวิดีโอดังกล่าว มีบัญชีที่เลียนแบบจาง เหวินหง ปรากฏในรายการถ่ายทอดสดการขายโปรตีนบาร์
ชาวเน็ตหลายคนตั้งคำถามว่า "จางเหวินหงนำของมาหรือเปล่า?" สิ่งที่น่ากังวลยิ่งกว่าคือผู้ชมที่มีอายุมากกว่ามั่นใจในวิดีโอนี้และยังส่งคำสั่งซื้อและส่งต่อข้อมูลในกลุ่มโซเชียลอีกด้วย หลังจากการตรวจสอบโดยผู้สื่อข่าว พบว่าจางเหวินหงในวิดีโอไม่ใช่คนจริง แต่เป็นการจำลองเชิงลึกผ่านเทคโนโลยี AI
เพื่อเป็นการตอบสนอง Zhang Wenhong กล่าวว่ามีบัญชีการขายดังกล่าวมากกว่าหนึ่งบัญชี และมีการเปลี่ยนแปลงอยู่ตลอดเวลา เขาได้ร้องเรียนกับแพลตฟอร์มหลายครั้ง สิ่งนี้เกิดขึ้นมาสองสามสัปดาห์แล้วและมีการร้องเรียนในตอนแรก โดยเฉพาะผู้สูงอายุบางคนที่ไม่คุ้นเคยกับ AI มากนักจะเชื่อได้ง่าย
ด้วยการพัฒนาเทคโนโลยีปัญญาประดิษฐ์ รูปแบบการถ่ายทอดสดด้วยสินค้าจึงเปลี่ยนแปลงอยู่ตลอดเวลา ปัจจุบันเทคโนโลยี AI สามารถสร้างใบหน้าและเสียงที่สมจริงอย่างมาก ซึ่งทำให้อาชญากรบางรายใช้เทคโนโลยีเหล่านี้เพื่อทำการฉ้อโกงได้ ล่าสุดเสียงของผู้ประกอบการคนดังรายหนึ่งถูกสังเคราะห์ด้วยเทคโนโลยี AI และแพร่กระจายทางออนไลน์ ทำให้เกิดผลกระทบอย่างมาก จางเหวินหงซึ่งถูกสังเคราะห์โดย AI ในครั้งนี้ แสดงได้อย่างสมจริงมากในระหว่างการถ่ายทอดสด แม้ว่าจะยังมีข้อบกพร่องทางเทคนิค แต่เขาก็ยังหลอกลวงผู้คนมากมาย
เหตุการณ์นี้กระตุ้นให้สาธารณชนเกิดความกังวลเกี่ยวกับความถูกต้องของข้อมูล โดยเฉพาะในกลุ่มผู้สูงอายุที่ความตระหนักรู้เกี่ยวกับเทคโนโลยีใหม่ๆ ค่อนข้างล้าหลังและเสี่ยงต่อการถูกหลอกลวง อย่างไรก็ตาม ทุกคน ไม่ใช่แค่ผู้สูงอายุ อาจมีความเสี่ยงที่จะถูกเข้าใจผิดโดยข้อมูลเท็จของ AI เราไม่สามารถพึ่งพาวิจารณญาณของแต่ละบุคคลได้อย่างสมบูรณ์เพื่อระบุข้อมูลเท็จนี้ ดังนั้นข้อควรระวังทางเทคนิคที่เกี่ยวข้องจึงมีความสำคัญอย่างยิ่ง
ในระหว่างการถ่ายทอดสด บัญชีที่เลียนแบบ Zhang Wenhong ไม่ได้ระบุตัวตนของเขาอย่างชัดเจน และเผยแพร่เฉพาะตอนเที่ยงคืนเท่านั้น ความลับนี้แสดงให้เห็นถึงความพยายามและประสิทธิภาพของแพลตฟอร์มในการจัดการความวุ่นวายของ AI แม้ว่าการพัฒนาเทคโนโลยี AI จะทำให้เราได้รับความสะดวกสบาย แต่ก็ยังนำความท้าทายใหม่ๆ มาสู่สังคมด้วย เพื่อที่จะจัดการกับการปลอมแปลงที่อาจเกิดขึ้นในอนาคต จำเป็นอย่างยิ่งที่จะต้องสร้างกลไกการป้องกันความเสี่ยงที่สมบูรณ์ยิ่งขึ้น
ไฮไลท์:
AI สังเคราะห์ Zhang Wenhong ทำให้เกิดการอภิปรายอย่างดุเดือดระหว่างการถ่ายทอดสด และชาวเน็ตบางคนเข้าใจผิดเกี่ยวกับตัวตนของเขา
ความตระหนักรู้ของสาธารณชนเกี่ยวกับเทคโนโลยีใหม่ๆ ยังล้าหลัง และพวกเขาได้รับผลกระทบจากข้อมูลเท็จได้ง่าย
จำเป็นอย่างยิ่งที่จะต้องเสริมสร้างมาตรการป้องกันทางเทคนิคและกลไกการติดตามข้อมูล และปรับปรุงความสามารถในการระบุตัวตนของสาธารณะ
ความเสี่ยงที่เกิดจากเทคโนโลยีการเปลี่ยนโฉมหน้าของ AI ไม่สามารถละเลยได้ แพลตฟอร์มจำเป็นต้องเสริมสร้างการกำกับดูแลและปรับปรุงความสามารถในการจดจำข้อมูลของสาธารณะ เพื่อที่จะจัดการกับความท้าทายที่เกิดจากเทคโนโลยี AI ได้อย่างมีประสิทธิภาพ มีเพียงการเสริมสร้างการศึกษาความรู้ด้านดิจิทัลระดับชาติและเผยแพร่ความรู้ในการป้องกันเท่านั้นที่เราจะสามารถปกป้องสิทธิและผลประโยชน์ของเราเองได้ดีขึ้น และสร้างสภาพแวดล้อมเครือข่ายที่ปลอดภัยยิ่งขึ้น