Recientemente, la tecnología de cambio de rostro de IA se ha utilizado en transmisiones en vivo para traer bienes, lo que ha atraído una amplia atención del público. Una cuenta que imitaba la transmisión en vivo de venta de productos del Dr. Zhang Wenhong engañó a muchas personas, especialmente a espectadores mayores que no estaban familiarizados con la tecnología de inteligencia artificial. Después de que se expuso el incidente, el propio Zhang Wenhong respondió y dijo que se había quejado en la plataforma muchas veces. Este incidente pone de relieve los riesgos del mal uso de la tecnología de inteligencia artificial y las deficiencias del público para discernir la información.
Recientemente, un video ha atraído una gran atención en Internet. En el video, apareció una cuenta que imitaba a Zhang Wenhong en una transmisión en vivo vendiendo una barra de proteína.
Muchos internautas han cuestionado esto: "¿Zhang Wenhong está trayendo productos?". Lo que es aún más preocupante es que algunos espectadores mayores están convencidos de este video e incluso han realizado pedidos y reenviado la información en grupos sociales. Después de la verificación por parte de los periodistas, se descubrió que Zhang Wenhong en el video no era una persona real, sino una profunda falsificación sintetizada mediante tecnología de inteligencia artificial.
En respuesta, Zhang Wenhong dijo que hay más de una cuenta de ventas de este tipo y que cambia constantemente. Se ha quejado a la plataforma muchas veces. Esto viene sucediendo desde hace algunas semanas y inicialmente se presentó una denuncia. Especialmente algunas personas mayores que no están muy familiarizadas con la IA lo creerán fácilmente.
Con el desarrollo de la tecnología de inteligencia artificial, la forma de transmisión en vivo de bienes cambia constantemente. Hoy en día, la tecnología de inteligencia artificial puede generar rostros y voces muy realistas, lo que permite a algunos delincuentes utilizar estas tecnologías para cometer fraude. Recientemente, la voz de cierto empresario famoso fue sintetizada por tecnología de inteligencia artificial y difundida en línea, causando un gran impacto. Zhang Wenhong, quien esta vez fue sintetizado por AI, actuó de manera muy realista durante la transmisión en vivo. Aunque todavía hubo fallas a nivel técnico, todavía engañó a muchas personas.
Este incidente ha despertado la preocupación pública sobre la autenticidad de la información, especialmente entre las personas mayores, cuyo conocimiento de las nuevas tecnologías está relativamente rezagado y es vulnerable al engaño. Sin embargo, cualquier persona, no sólo las personas mayores, puede correr el riesgo de ser engañada por información falsificada por la IA. No podemos confiar completamente en el juicio individual para identificar esta información falsa, por lo que las precauciones técnicas pertinentes son particularmente importantes.
Durante la transmisión en vivo, la cuenta que imitaba a Zhang Wenhong no indicó claramente su identidad y solo transmitió en vivo a medianoche. Este secreto muestra los esfuerzos y la eficacia de la plataforma en la gestión del caos de la IA. Si bien el desarrollo de la tecnología de inteligencia artificial nos ha brindado comodidad, también ha traído nuevos desafíos a la sociedad. Para hacer frente a más falsificaciones que puedan producirse en el futuro, es urgente establecer un mecanismo de prevención de riesgos más completo.
Reflejos:
La IA sintetizada por Zhang Wenhong provocó acaloradas discusiones durante la transmisión en vivo y algunos internautas malinterpretaron su identidad.
La conciencia del público sobre las nuevas tecnologías va a la zaga y se ve fácilmente afectado por información falsa.
Es crucial fortalecer las medidas técnicas de prevención y los mecanismos de seguimiento de la información y mejorar las capacidades de identificación del público.
No se pueden ignorar los riesgos que plantea la tecnología de IA. Las plataformas deben fortalecer la supervisión y mejorar las capacidades de reconocimiento de información del público para abordar eficazmente los desafíos que plantea la tecnología de IA. Sólo fortaleciendo la educación nacional en alfabetización digital y popularizando los conocimientos sobre prevención podremos proteger mejor nuestros propios derechos e intereses y construir un entorno de red más seguro.