人工智慧技術快速發展，深度偽造技術作為其應用之一，正深刻影響著我們的生活。這項技術能夠產生高度逼真的假影片和影像，帶來許多便利的同時，也帶來了嚴重的風險，例如利用名人形象進行詐騙等。本文將探討深度偽造技術帶來的挑戰以及因應策略，旨在提高公眾風險意識，維持社會秩序。
近年來，從語音助理到自動駕駛技術，AI已深入到生活的方方面面。然而，AI技術的廣泛應用也帶來了一些潛在的風險，其中深度偽造技術引發了社會關注。
深度偽造技術利用演算法產生高度逼真的虛假內容，透過學習大量真實數據，產生與人物或場景極為相似的影片或影像。儘管這項技術展現了AI的強大，但也滋生了詐欺行為。例如，近期出現了冒用張文宏醫生形象和聲音進行直播帶貨的事件。偽造影片中，合成人像宣稱某產品，致使超過1200件商品售出。此事引發張文宏醫師和社會大眾的強烈不滿。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
上海市消費者權益保護委員會副秘書長唐健盛表示，這類透過AI技術冒用名人形象的行為，已構成對消費者權益的嚴重侵害。類似案例還包括國慶期間有人使用雷軍頭像製作惡搞視頻，以及冒用劉德華聲音用於吸引流量。相關企業和名人已發聲警示民眾提高警覺。
專家指出，目前AI技術能輕鬆複製他人臉部和聲音，且生成的內容逼真度極高。然而，這類技術並非毫無破綻。透過仔細觀察人臉與背景的融合或聲音與口型的匹配度，仍能發現異常。此外，即時直播目前難以透過此類技術實現。
法律界人士明確表示，未經授權利用他人形像或聲音的行為已涉嫌違法。中國政法大學副教授朱巍強調，根據《民法典》，這種行為侵犯了人格權;根據《網路安全法》，相關內容屬於違法訊息，發布者甚至可能面臨刑事責任。
對於消費者而言，若因AI假冒名人帶貨而購買商品，可依據《消費者權益保護法》要求商家“退一賠三”，賠償金額最低為500元。同時，短視頻平台也應負起監管責任，加強對相關內容的審核與處罰力度，避免違法訊息大規模傳播。
深度偽造技術的興起，提醒大眾在享受AI便利的同時，也需對其潛在風險保持警覺。
面對深度偽造技術的挑戰，我們需要政府、企業和個人共同努力，加強立法監管，提昇技術鑑別能力，共同建構一個安全可靠的網路環境。只有這樣，才能更好地利用AI技術，避免其被惡意利用，維護社會秩序和公共利益。