Zoom即將推出令人期待的AI驅動數位化身功能，這將徹底改變用戶進行非同步溝通的方式。此功能可讓使用者創建逼真的數位分身，並透過輸入文字產生與頭像唇形同步的音頻，提高溝通效率。然而，這項技術的出現也引發了人們對深度偽造風險的擔憂。 Downcodes小編將帶您深入了解Zoom的這項新功能，分析其潛在風險以及Zoom為應對這些風險所採取的安全措施。
Zoom正準備為用戶帶來令人驚嘆的新功能，但我們可能要等到明年才能一睹其真容。這家視訊會議巨頭在其年度開發者大會上宣布，他們將推出一項能夠將用戶視訊轉化為AI驅動的逼真數位化身的功能。
這個數位化身不僅包括頭部，還有上臂和肩膀，堪稱數位分身。使用者只要輸入想要數位化身說的內容，Zoom就能產生與頭像唇形同步的音訊。聽起來很神奇，對吧?
Zoom的首席產品長Smita Hashim表示，這項功能旨在幫助人們以更快、更有效率的方式與同事進行非同步交流。她強調，這種頭像可以為用戶節省寶貴的時間和精力，同時提高影片創作的效率。
然而，這項技術的出現也引發了一些擔憂。我們不得不思考，這是否會帶來深度偽造（deepfake）的風險?
事實上，已經有不少公司開發了類似的AI技術，可以數位化複製一個人的臉部，並配上相當自然的合成語音。例如Tavus幫助品牌為個人化影片廣告創造虛擬角色，而微軟去年也推出了可以產生令人信服的數位替身的服務。
但這些工具通常都實施了嚴格的保護措施來防止濫用。 Tavus要求口頭同意聲明，微軟則要求其客戶獲得所有涉及頭像人才的書面許可和同意。
相較之下，Zoom對其安全措施的描述似乎有些模糊。 Hashim表示，公司正在為自訂頭像功能建立多重保障，包括高級認證和浮水印。她承諾將繼續審查並在未來根據需要添加安全措施。
Zoom的這項舉措與CEO袁徵的宏偉願景不謀而合。他希望未來能創造出可以取代你參加Zoom會議、回覆郵件甚至接聽電話的AI。
然而，這項技術的出現恰逢深度偽造在社群媒體上如野火般蔓延之際，使得區分真相和虛假資訊變得越來越困難。今年以來，涉及美國總統拜登、泰勒絲和副總統卡瑪拉哈里斯的深度偽造影片已經在網路上獲得了數百萬的瀏覽量和轉發。最近，在颶風海倫襲擊後，大量虛假的AI生成圖像充斥網絡，展示了虛構的破壞和人類苦難場景。
深度偽造技術也被用來針對個人，例如冒充親人進行詐騙。根據美國聯邦貿易委員會的數據，去年與冒充詐騙相關的損失超過10億美元。
那麼，Zoom究竟如何防止騙子利用其工俱生成惡意的虛假影片呢?目前還不清楚。該公司提供的模擬圖顯示，自訂頭像影片的右上角有一個可見的浮水印。但這種浮水印很容易被螢幕錄影工具裁切掉。
我們希望在2025年上半年Zoom計畫發布這項功能時能了解更多細節。屆時，用戶每月需支付12美元的附加費用，才能在Zoom Clips（其非同步視訊工具）中使用自訂頭像。
無論Zoom最終採取何種措施，監管努力正在進行，試圖遏制深度偽造的氾濫。在美國聯邦層級缺乏將深度偽造定為犯罪的法律的情況下，已有超過10個州制定了針對AI輔助冒充的法規。加州的法律（目前已暫停）將是第一個賦予法官權力，命令深度偽造內容的發布者刪除內容，否則可能面臨罰款的法律。
隨著Zoom推出這項新功能，我們不禁要問:技術的進步是否總能帶來積極的影響?在享受便利的同時，我們是否也在不經意間打開了潘多拉魔盒?這需要我們每個人深思。
Zoom的AI數位化身功能雖然充滿前景，但也存在潛在風險。 如何在技術進步與安全風險之間取得平衡，將是Zoom以及整個科技產業未來需要認真思考的問題。 Downcodes小編將持續關注這項技術的進展，並為您帶來更多相關報導。