Récemment, la technologie révolutionnaire de l'IA a été utilisée dans des émissions en direct pour apporter des marchandises, ce qui a attiré l'attention du grand public. Un récit imitant la diffusion en direct de la vente de produits par le Dr Zhang Wenhong a trompé de nombreuses personnes, en particulier des téléspectateurs plus âgés qui n'étaient pas familiers avec la technologie de l'IA. Après que l'incident a été révélé, Zhang Wenhong lui-même a répondu et a déclaré qu'il s'était plaint à plusieurs reprises sur la plateforme. Cet incident met en évidence les risques d’utilisation abusive de la technologie de l’IA et le manque de discernement du public en matière d’information.
Récemment, une vidéo a attiré l'attention sur Internet. Dans la vidéo, un compte imitant Zhang Wenhong est apparu dans une émission en direct vendant une barre protéinée.
De nombreux internautes ont posé la question : « Est-ce que Zhang Wenhong apporte des marchandises ? » Ce qui est encore plus inquiétant, c'est que certains téléspectateurs plus âgés sont convaincus par cette vidéo et ont même passé des commandes et transmis l'information dans des groupes sociaux. Après vérification par les journalistes, il a été découvert que Zhang Wenhong dans la vidéo n'était pas une personne réelle, mais une contrefaçon profonde synthétisée grâce à la technologie de l'IA.
En réponse, Zhang Wenhong a déclaré qu'il existe plusieurs comptes de vente de ce type et qu'ils changent constamment. Il s'est plaint à plusieurs reprises auprès de la plateforme. Cela dure depuis quelques semaines et une plainte a été déposée dans un premier temps. En particulier, certaines personnes âgées qui ne connaissent pas très bien l’IA y croiront facilement.
Avec le développement de la technologie de l'intelligence artificielle, la forme de diffusion en direct de marchandises évolue constamment. De nos jours, la technologie de l’IA peut générer des visages et des voix très réalistes, ce qui permet à certains criminels d’utiliser ces technologies pour commettre des fraudes. Récemment, la voix d'un certain entrepreneur célèbre a été synthétisée par la technologie de l'IA et diffusée en ligne, provoquant un impact énorme. Zhang Wenhong, qui a été synthétisé par l'IA cette fois, a joué de manière très réaliste lors de la diffusion en direct. Bien qu'il y ait encore des défauts au niveau technique, il a quand même trompé de nombreuses personnes.
Cet incident a suscité des inquiétudes dans le public quant à l'authenticité de l'information, en particulier parmi les personnes âgées, dont la sensibilisation aux nouvelles technologies est relativement lente et vulnérable à la tromperie. Cependant, n’importe qui, et pas seulement les personnes âgées, peut courir le risque d’être induit en erreur par des informations falsifiées par l’IA. Nous ne pouvons pas nous fier entièrement au jugement individuel pour identifier ces fausses informations, c'est pourquoi les précautions techniques pertinentes sont particulièrement importantes.
Lors de la diffusion en direct, le compte imitant Zhang Wenhong n'a pas clairement indiqué son identité et n'a été diffusé en direct qu'à minuit. Ce secret montre les efforts et l'efficacité de la plateforme dans la gestion du chaos de l'IA. Bien que le développement de la technologie de l’IA nous ait apporté du confort, il a également posé de nouveaux défis à la société. Afin de faire face à davantage de contrefaçons qui pourraient survenir à l'avenir, il est urgent de mettre en place un mécanisme de prévention des risques plus complet.
Points forts:
Zhang Wenhong, synthétisé par l'IA, a provoqué des discussions animées lors de la diffusion en direct, et certains internautes ont mal compris son identité.
La sensibilisation du public aux nouvelles technologies est à la traîne et il est facilement affecté par de fausses informations.
Il est crucial de renforcer les mesures techniques de prévention et les mécanismes de suivi de l’information et d’améliorer les capacités d’identification du public.
Les risques posés par la technologie révolutionnaire de l'IA ne peuvent être ignorés. Les plateformes doivent renforcer la surveillance et améliorer les capacités de reconnaissance des informations du public afin de relever efficacement les défis posés par la technologie de l'IA. Ce n'est qu'en renforçant l'éducation nationale à la culture numérique et en vulgarisant les connaissances en matière de prévention que nous pourrons mieux protéger nos propres droits et intérêts et construire un environnement de réseau plus sûr.