Zoom กำลังจะเปิดตัวฟีเจอร์อวตารดิจิทัลที่ขับเคลื่อนด้วย AI ที่หลายคนรอคอย ซึ่งจะปฏิวัติวิธีที่ผู้ใช้สื่อสารแบบอะซิงโครนัส คุณสมบัตินี้ช่วยให้ผู้ใช้สามารถสร้างอวาตาร์ดิจิทัลที่สมจริง และสร้างเสียงลิปซิงค์ด้วยอวตารโดยการป้อนข้อความ เพื่อปรับปรุงประสิทธิภาพการสื่อสาร อย่างไรก็ตาม การเกิดขึ้นของเทคโนโลยีนี้ยังทำให้เกิดความกังวลเกี่ยวกับความเสี่ยงของ Deepfake อีกด้วย เครื่องมือแก้ไข Downcodes จะพาคุณไปทำความเข้าใจในเชิงลึกเกี่ยวกับฟีเจอร์ใหม่ของ Zoom วิเคราะห์ความเสี่ยงที่อาจเกิดขึ้น และมาตรการรักษาความปลอดภัยที่ Zoom ได้ดำเนินการเพื่อจัดการกับความเสี่ยงเหล่านี้
Zoom กำลังเตรียมพร้อมที่จะนำเสนอคุณสมบัติใหม่ที่น่าทึ่งให้กับผู้ใช้ แต่เราอาจต้องรอจนถึงปีหน้าจึงจะได้เห็นมัน การประชุมทางวิดีโอยักษ์ใหญ่ได้ประกาศในการประชุมนักพัฒนาประจำปีว่าจะเปิดตัวฟีเจอร์ที่จะเปลี่ยนวิดีโอของผู้ใช้ให้กลายเป็นอวตารดิจิทัลที่ขับเคลื่อนด้วย AI ที่เหมือนจริง
อวตารดิจิทัลนี้ไม่เพียงแต่มีส่วนหัวเท่านั้น แต่ยังรวมถึงต้นแขนและไหล่ด้วย ทำให้เป็นโคลนดิจิทัล ผู้ใช้เพียงป้อนสิ่งที่ต้องการให้อวาตาร์ดิจิทัลพูด แล้ว Zoom จะสร้างเสียงที่ลิปซิงค์กับอวาตาร์นั้น ฟังดูน่าทึ่งใช่ไหม?
Smita Hashim ประธานเจ้าหน้าที่ฝ่ายผลิตภัณฑ์ของ Zoom กล่าวว่าฟีเจอร์นี้ได้รับการออกแบบมาเพื่อช่วยให้ผู้คนสื่อสารแบบอะซิงโครนัสกับเพื่อนร่วมงานได้อย่างรวดเร็วและมีประสิทธิภาพยิ่งขึ้น เธอเน้นย้ำว่าอวตารประเภทนี้สามารถประหยัดเวลาและพลังงานอันมีค่าของผู้ใช้ไปพร้อมๆ กับการเพิ่มประสิทธิภาพในการสร้างวิดีโอ
อย่างไรก็ตาม การเกิดขึ้นของเทคโนโลยีนี้ก็ทำให้เกิดข้อกังวลบางประการเช่นกัน เราต้องพิจารณาว่าสิ่งนี้จะทำให้เกิดความเสี่ยงต่อการปลอมแปลงหรือไม่?
ในความเป็นจริง หลายบริษัทได้พัฒนาเทคโนโลยี AI ที่คล้ายกันซึ่งสามารถโคลนใบหน้าของบุคคลแบบดิจิทัลและจับคู่กับเสียงสังเคราะห์ที่เป็นธรรมชาติ ตัวอย่างเช่น Tavus ช่วยให้แบรนด์ต่างๆ สร้างอวตารสำหรับโฆษณาวิดีโอส่วนบุคคล ในขณะที่ Microsoft ได้เปิดตัวบริการที่สามารถสร้างอวตารดิจิทัลที่น่าเชื่อถือในปีที่แล้ว
แต่เครื่องมือเหล่านี้มักจะมีการป้องกันที่เข้มงวดเพื่อป้องกันการละเมิด Tavus กำหนดให้ต้องมีคำชี้แจงความยินยอมด้วยวาจา และ Microsoft กำหนดให้ลูกค้าต้องได้รับอนุญาตเป็นลายลักษณ์อักษรและความยินยอมจากผู้มีพรสวรรค์ด้านอวาตาร์ที่เกี่ยวข้องทั้งหมด
จากการเปรียบเทียบ คำอธิบายมาตรการรักษาความปลอดภัยของ Zoom ดูเหมือนจะคลุมเครือ Hashim กล่าวว่าบริษัทกำลังสร้างการป้องกันหลายอย่างสำหรับฟีเจอร์อวตารที่กำหนดเอง รวมถึงการรับรองความถูกต้องขั้นสูงและลายน้ำ เธอสัญญาว่าจะทบทวนและเพิ่มมาตรการรักษาความปลอดภัยต่อไปตามความจำเป็นในอนาคต
การเคลื่อนไหวของ Zoom นี้สอดคล้องกับวิสัยทัศน์อันยิ่งใหญ่ของ CEO Yuan Zheng ในอนาคตเขาหวังจะสร้าง AI ที่สามารถเข้าร่วมการประชุม Zoom ตอบกลับอีเมล หรือแม้แต่รับสายโทรศัพท์ในนามของคุณได้
อย่างไรก็ตาม การเกิดขึ้นของเทคโนโลยีเกิดขึ้นในช่วงเวลาที่ Deepfakes แพร่กระจายอย่างรวดเร็วบนโซเชียลมีเดีย ทำให้การแยกความจริงออกจากข้อมูลที่บิดเบือนทำได้ยากขึ้น วิดีโอ Deepfake ที่เกี่ยวข้องกับประธานาธิบดี Joe Biden, Taylor Swift และรองประธานาธิบดี Kamala Harris ได้รับการดูและแชร์หลายล้านครั้งทางออนไลน์ในปีนี้ เมื่อเร็ว ๆ นี้ หลังจากพายุเฮอริเคนเฮลีน ภาพที่สร้างขึ้นโดย AI ปลอมได้หลั่งไหลท่วมท้นบนเว็บ โดยแสดงฉากสมมติของการทำลายล้างและความทุกข์ทรมานของมนุษย์
เทคโนโลยี Deepfake ยังถูกนำมาใช้เพื่อกำหนดเป้าหมายเป็นรายบุคคล เช่น การปลอมตัวเป็นญาติเพื่อกระทำการฉ้อโกง ตามที่คณะกรรมาธิการการค้าของรัฐบาลกลาง ความสูญเสียที่เกี่ยวข้องกับกลโกงแอบอ้างบุคคลอื่นมีมูลค่าเกิน 1 พันล้านดอลลาร์ในปีที่แล้ว
Zoom จะป้องกันมิจฉาชีพจากการใช้เครื่องมือเพื่อสร้างวิดีโอปลอมที่เป็นอันตรายได้อย่างไร ยังไม่ชัดเจน แบบจำลองที่จัดทำโดยบริษัทจะแสดงลายน้ำที่มองเห็นได้ที่มุมขวาบนของวิดีโออวตารที่กำหนดเอง แต่ลายน้ำนี้จะถูกครอบตัดอย่างง่ายดายด้วยเครื่องมือบันทึกหน้าจอ
เราหวังว่าจะทราบรายละเอียดเพิ่มเติมเมื่อ Zoom วางแผนที่จะเปิดตัวฟีเจอร์นี้ในช่วงครึ่งแรกของปี 2568 เมื่อถึงจุดนั้น ผู้ใช้จะต้องจ่ายเงินเพิ่มเติม 12 เหรียญต่อเดือนเพื่อใช้อวตารที่กำหนดเองใน Zoom Clips ซึ่งเป็นเครื่องมือวิดีโอแบบอะซิงโครนัส
ไม่ว่าท้ายที่สุดแล้ว Zoom จะใช้มาตรการใด ความพยายามด้านกฎระเบียบกำลังดำเนินการเพื่อพยายามควบคุมการแพร่กระจายของ Deepfakes ในกรณีที่ไม่มีกฎหมายที่เอาผิดทางอาญาในระดับรัฐบาลกลาง รัฐมากกว่า 10 รัฐได้ออกกฎระเบียบที่มุ่งเป้าไปที่การแอบอ้างบุคคลอื่นโดยใช้ AI กฎหมายของรัฐแคลิฟอร์เนีย ซึ่งปัจจุบันถูกระงับ จะเป็นครั้งแรกที่ให้อำนาจผู้พิพากษาในการสั่งให้ผู้เผยแพร่เนื้อหา Deepfake ลบเนื้อหาออก ไม่เช่นนั้นอาจถูกปรับ
เมื่อ Zoom เปิดตัวฟีเจอร์ใหม่นี้ เราก็อดไม่ได้ที่จะถามว่า: ความก้าวหน้าทางเทคโนโลยีมีผลกระทบเชิงบวกอยู่เสมอหรือไม่ ในขณะที่เพลิดเพลินกับความสะดวกสบาย เราได้เปิดกล่องแพนโดร่าโดยไม่ได้ตั้งใจหรือไม่ สิ่งนี้ทำให้เราทุกคนต้องคิดให้ลึกซึ้ง
แม้ว่าฟีเจอร์อวตารดิจิทัล AI ของ Zoom มีแนวโน้มที่ดี แต่ก็มีความเสี่ยงเช่นกัน วิธีสร้างสมดุลระหว่างความก้าวหน้าทางเทคโนโลยีและความเสี่ยงด้านความปลอดภัยเป็นคำถามที่ Zoom และอุตสาหกรรมเทคโนโลยีทั้งหมดจำเป็นต้องพิจารณาอย่างจริงจังในอนาคต บรรณาธิการของ Downcodes จะยังคงให้ความสนใจกับความก้าวหน้าของเทคโนโลยีนี้ต่อไป และนำเสนอรายงานที่เกี่ยวข้องเพิ่มเติมให้กับคุณ