Des rumeurs en ligne sur la « démolition à grande échelle de Chengdu » révèlent le risque d'abus de l'IA
Auteur：Eve Cole
Date de mise à jour：2025-01-23 23:00:02
Récemment, les internautes du Sichuan dont l'adresse IP apparaît se sont concentrés sur les réseaux sociaux pour « partager » l'indemnité de démolition qu'ils ont reçue : « reçu plus de 9 millions de yuans », « 17 appartements et trois ans de loyer », etc. Du jour au lendemain, le sujet # ChengduLargescaleDemolition # est devenu viral. #chengdudemolition# #成都综合外围上新# et d'autres sujets connexes sont successivement apparus sur les listes de recherche populaires de diverses plateformes.
Auparavant, le personnel du Bureau municipal du logement et du développement urbain-rural de Chengdu avait réfuté les rumeurs, et des journalistes du Sichuan Observer s'étaient également rendus sur place pour se renseigner sur la situation. Démolition à grande échelle à Chengdu ? Quelqu’un a-t-il reçu plus de 10 millions d’indemnisation ? La réfutation officielle des rumeurs est là ! « Démolition à grande échelle » et « indemnisation énorme » ? Le journaliste a visité les maisons de démolition sur place : ce n'est rien. Le 17 octobre, la police de Chengdu a rapporté que « le Sichuan a lancé un projet de démolition de 2 150 milliards » était une fausse information générée à l'aide d'un logiciel d'IA . L'auteur illégal Yan Moumou et quatre autres personnes ont été reconnus coupables. de fabriquer les faits. Le trouble à l'ordre public a été passible de sanctions administratives de la part des organes de sécurité publique conformément à la loi.
Le rapport de police du Bureau de la sécurité publique de Chengdu a révélé les risques graves liés à l'utilisation abusive de la technologie de l'IA , qui nécessitent de toute urgence l'attention et la gouvernance de tous les secteurs de la société. Le risque le plus direct pour l’opinion publique est que les fausses informations deviennent plus confuses, ce qui rend plus facile et plus rapide la création et la diffusion. Dans ce cas, le délinquant a rassemblé des informations sur des sujets pertinents publiés en ligne, a utilisé la technologie de l’IA pour générer un texte « faisant autorité » et a utilisé la technologie de l’IA pour générer un texte « faisant autorité ». Ensuite, de fausses informations sur l’indemnisation pour démolition ont été rapidement et largement diffusées sur les plateformes de médias sociaux. Dans l'environnement actuel de diffusion efficace de l'information, ce phénomène peut sérieusement induire en erreur la situation réelle, former la « vérité » de la diffusion de fausses informations et susciter de fausses réactions cognitives auprès du public.
Lorsque le public est fréquemment exposé à de fausses informations, la confiance dans les informations officielles sera affectée , en particulier lorsqu'il s'agit d'affaires publiques majeures telles que les politiques gouvernementales et la sécurité sociale. La prolifération de fausses informations amènera les gens à remettre en question les informations officielles et à les modifier. structure cognitive de la société. Créer la panique et l’incompréhension. Cette érosion de la crédibilité affecte non seulement la diffusion efficace des politiques, mais peut également poser de sérieux défis à la crédibilité du gouvernement et à la stabilité sociale. L'effet à long terme de l'opinion publique peut affecter l'ordre économique du marché.La diffusion généralisée de fausses informations peut dans une certaine mesure déclencher des réactions irrationnelles sur le marché, entraînant des fluctuations anormales des prix, aggravant ainsi le déséquilibre entre l'offre et la demande sur le marché. . De tels facteurs instables non seulement perturbent l’ordre du marché, mais peuvent également déclencher la panique parmi les investisseurs, déclenchant ainsi un risque de perturbation plus large du marché. Compte tenu de l’utilisation abusive de la technologie de l’IA et des risques qu’elle entraîne pour l’opinion publique, tous les secteurs de la société doivent renforcer le contrôle moral et juridique de la technologie de l’IA.
En plus d'établir des normes juridiques et des cadres politiques correspondants pour restreindre et guider l'application rationnelle de la technologie de l'IA, les méthodes suivantes peuvent également être essayées au niveau de la réponse et de l'élimination de l'opinion publique : ① Guider les plateformes de médias sociaux pour renforcer les mécanismes d'examen et de supervision des informations. Les plateformes de médias sociaux devraient activement établir un mécanisme d’examen des informations pour renforcer l’examen et la supervision du contenu. Au cours du processus de diffusion des informations, les plateformes doivent procéder à un contrôle préliminaire de l’authenticité des documents afin de réduire la propagation de fausses informations. Dans le même temps, la technologie de l’IA est utilisée pour la surveillance et l’identification du contenu afin de détecter et de bloquer rapidement les fausses informations. En outre, les plateformes devraient mettre en place un mécanisme de plainte pour encourager le public à signaler de fausses informations et renforcer les capacités de gouvernance sociale.
② Préconiser la diffusion transparente et opportune des informations. Le gouvernement et les agences compétentes devraient adopter activement le principe de la diffusion transparente et opportune des informations et former un mécanisme pertinent pour informer régulièrement le public des informations véridiques. En particulier lors d'événements majeurs impliquant l'intérêt public, la divulgation en temps opportun des informations officielles peut lutter efficacement contre la propagation des rumeurs et renforcer la confiance du public dans les informations officielles. En plus de ses propres canaux de diffusion et des médias grand public traditionnels, le gouvernement peut également utiliser des plateformes médiatiques en ligne faisant autorité et les médias gouvernementaux pour améliorer la rapidité et la commodité de la diffusion des informations afin de répondre aux besoins d'information du public. ③ Cultiver et améliorer l’éducation médiatique du public Face au contexte diversifié de diffusion de l’information, il est particulièrement important d’améliorer l’éducation médiatique du public. Grâce à l'éducation et à la publicité, nous pouvons améliorer la capacité des gens à identifier les fausses informations, leur permettre d'analyser et de juger de manière plus rationnelle les informations avec lesquelles ils entrent en contact, et réduire le chaos social et la panique provoqués par les fausses informations. Il est recommandé de dispenser une formation sur l'identification de l'authenticité des informations en ligne au niveau local, comme dans les communautés et les rues, pour aider le public à comprendre et à maîtriser les méthodes d'identification des sources d'information, de vérification des rumeurs en ligne et d'établir une réflexion critique sur les rumeurs.
