최근 생방송에서 AI 얼굴 변화 기술을 활용해 상품을 가져오는 등 대중의 관심이 쏠리고 있다. 장원홍(Zhang Wenhong) 박사의 상품 판매 생방송을 모방한 계정은 많은 사람들, 특히 AI 기술에 익숙하지 않은 노년층 시청자들을 속였습니다. 사건이 폭로된 후 장웬홍(Zhang Wenhong) 스스로도 플랫폼에 여러 차례 불만을 토로했다고 말했다. 이번 사건은 AI 기술 오용의 위험성과 대중의 정보 분별력 부족을 부각시켰다.
최근 인터넷상에는 프로틴바를 판매하는 생방송에 장원홍을 흉내내는 계정이 등장해 큰 관심을 모았다.
이에 대해 많은 네티즌들은 “장원홍이 굿즈를 가져오는 걸까”라며 의문을 제기했다. 더욱 걱정스러운 것은 일부 노년 시청자들이 이 영상을 믿고 주문을 하고 소셜 그룹에 정보를 전달까지 했다는 것이다. 기자들의 검증 결과, 영상 속 장웬훙은 실제 인물이 아닌 AI 기술을 통해 합성한 심층 위작이라는 사실이 밝혀졌다.
이에 대해 Zhang Wenhong은 그러한 판매 계정이 두 개 이상 있으며 지속적으로 변경되고 있다고 플랫폼에 여러 번 불만을 토로했습니다. 이것은 몇 주 동안 계속되었으며 처음에는 불만이 제기되었습니다. 특히 AI에 별로 익숙하지 않은 일부 노인들은 쉽게 믿을 것이다.
인공지능 기술의 발달로 상품과 함께하는 라이브 방송의 형태는 끊임없이 변화하고 있다. 요즘 AI 기술은 매우 사실적인 얼굴과 목소리를 생성할 수 있으며, 이로 인해 일부 범죄자는 이러한 기술을 사용하여 사기를 저지를 수 있습니다. 최근에는 특정 연예인 사업가의 목소리가 AI 기술로 합성돼 온라인으로 확산돼 큰 파급력을 일으키고 있다. 이번에 AI가 합성한 장원홍은 라이브 방송에서 매우 사실적인 연기를 선보였지만 기술적인 면에서는 여전히 부족한 부분이 있었지만 여전히 많은 사람들을 속였다.
이번 사건은 특히 신기술에 대한 인식이 상대적으로 뒤떨어지고 사기에 취약한 노인들 사이에서 정보의 진위에 대한 대중의 우려를 불러일으켰습니다. 하지만 노인뿐만 아니라 누구라도 AI가 조작한 정보에 속아 넘어갈 위험이 있습니다. 이러한 허위 정보를 식별하는 데 있어 개인의 판단에만 전적으로 의존할 수는 없으므로 관련 기술적 예방 조치가 특히 중요합니다.
생방송 중에 Zhang Wenhong을 모방한 계정은 그의 신원을 명확히 밝히지 않았으며 자정에만 생방송을 진행했습니다. 이러한 비밀은 AI 혼란을 관리하는 플랫폼의 노력과 효율성을 보여줍니다. AI 기술의 발전은 우리에게 편리함을 가져다주었지만 사회에는 새로운 도전을 가져오기도 했습니다. 앞으로 발생할 수 있는 더 많은 위조품에 대처하기 위해서는 보다 완전한 위험 방지 메커니즘을 구축하는 것이 시급합니다.
하이라이트:
AI 합성 장원홍(Zhang Wenhong)은 생방송 중 열띤 토론을 불러일으켰고, 일부 네티즌들은 그의 정체를 오해하기도 했다.
신기술에 대한 대중의 인식은 뒤처져 있고 잘못된 정보에 쉽게 영향을 받습니다.
기술적 예방 조치와 정보 모니터링 메커니즘을 강화하고 대중의 식별 능력을 향상시키는 것이 중요합니다.
AI 얼굴 변화 기술로 인한 위험은 무시할 수 없습니다. AI 기술로 인해 발생하는 문제에 효과적으로 대처하려면 플랫폼이 감독을 강화하고 대중의 정보 인식 능력을 향상시켜야 합니다. 국민 디지털 리터러시 교육을 강화하고 예방지식을 대중화해야만 우리의 권익을 더욱 잘 보호하고 보다 안전한 네트워크 환경을 구축할 수 있습니다.