Une organisation MCN utilise des programmes d'intelligence artificielle pour produire des milliers de fausses nouvelles par jour, provoquant la propagation virale d'une grande quantité de fausses informations sur Internet ; un nouveau compte de plateforme s'appuie sur la « création » de l'IA pour mettre à jour plus d'une douzaine de livres électroniques ; tous les jours, mais l'écriture est illogique et rhétorique Vide ; des articles médicaux ont été rétractés en raison de l'utilisation de fausses illustrations générées par l'IA... À l'heure actuelle, il est de plus en plus courant que l'IA génère, falsifie ou falsifie du texte. , des images, de l'audio et de la vidéo, et une grande quantité d'"informations de mauvaise qualité, difficiles à distinguer entre le vrai et le faux" Déchets", déclenchant des discussions sur la "pollution de l'IA".
Depuis l’année dernière, l’intelligence artificielle générative a déclenché vague après vague d’engouement à travers le monde, et ses applications disruptives ont profité à de nombreuses industries et utilisateurs d’Internet. Cependant, la médaille a deux faces, et certains problèmes négatifs accompagnent l'intelligence artificielle générative. La « pollution de l'IA » causée par les « déchets d'informations » devient de plus en plus importante.
Un rapport de recherche publié en avril de cette année par le Centre de recherche sur les nouveaux médias de l'École de journalisme et de communication de l'Université Tsinghua a montré que le nombre de rumeurs sur l'IA dans l'économie et les entreprises a augmenté de 99,91 % au cours de l'année écoulée. L'agence d'enquête américaine "News Guard" a déclaré que le nombre de sites Internet générant de faux articles a augmenté de plus de 1 000 % depuis mai 2023, dans 15 langues. Certains experts estiment que les « déchets d’informations » produits par l’IA sont énormes, difficiles à identifier et coûteux à filtrer.
Les dommages causés par la « pollution IA » sont évidents. La « pollution par l'IA » fera tomber les internautes dans des hallucinations cognitives. Sur une certaine plateforme de partage de connaissances, l’IA qui semble « connaître l’astronomie en haut et la géographie en bas » génère un contenu creux et brutal. En l'absence de pensée critique, le « système de connaissances » rapidement tissé par l'IA peut, d'une part, dégrader la capacité de pensée critique des gens, et d'autre part, il peut également les amener à tomber dans des illusions cognitives, provoquant une confusion cognitive dans le public. , et déformant ainsi le public. La compréhension collective de la réalité et le consensus scientifique conduisent finalement les gens à se laisser « diriger » par l’IA. Surtout pour la jeune génération qui a grandi avec Internet, une fois que sa cognition sera façonnée par des « déchets d'informations », les conséquences seront désastreuses.
La « pollution de l’IA » aura l’effet inverse sur le développement de l’industrie de l’IA. Comme nous le savons tous, la précision des modèles d’IA dépend en grande partie de la qualité des données d’entraînement. Si le contenu faux et le spam généré par l'IA « redistribue » sur Internet et devient de nouvelles données pour la formation des modèles d'IA, ce modèle de cycle « déchets entrants, sortants » peut entraîner une chute de la qualité de sortie de l'IA, ce qui n'est pas propice. au développement de l’ensemble de l’industrie de l’IA. Par exemple, une société Internet a utilisé l’optimisation des moteurs de recherche pour donner la priorité aux articles générés par l’IA dans les résultats de recherche, rendant ainsi difficile pour les utilisateurs la récupération d’informations de haute qualité et déclenchant de nombreuses critiques de la part des utilisateurs.
Par ailleurs, la « pollution IA » implique également de nombreuses questions telles que le droit, l’éthique ou encore la stabilité sociale. Les faux contenus produits par l'IA peuvent porter atteinte aux droits de propriété intellectuelle, ébranler les règles du droit d'auteur, porter atteinte à la vie privée, divulguer des informations d'identité et présenter des risques d'abus, ce qui peut perturber et manipuler l'opinion publique. Les actes illégaux produits par l'IA rendront également la gouvernance sociale plus forte. difficile.
On voit qu’il est impératif de remédier à la « pollution IA » d’Internet. Selon le 54e « Rapport statistique sur le développement de l'Internet en Chine » publié par le Centre d'information Internet de Chine, en juin de cette année, le nombre d'utilisateurs d'Internet dans mon pays s'élevait à près de 1,1 milliard. Internet construit un nouveau foyer pour l'existence humaine, et la jeune génération est devenue le « peuple autochtone » d'Internet. On peut dire que remédier à la « pollution de l'IA » est une action nécessaire pour créer un cyberespace clair et assurer une vie agréable. chaque internaute.
Premièrement, la gouvernance des sources des mécanismes d’apprentissage et de génération de l’IA devrait être renforcée. Clarifier la responsabilité de la plate-forme d'IA en matière de contrôle des documents sources et de supervision du contenu généré, améliorer les règles de génération de contenu d'IA, forcer le contenu généré par l'IA à être marqué avec des étiquettes bien visibles et améliorer la transparence et l'explicabilité de la technologie d'IA.
Deuxièmement, renforcer le contrôle et la supervision du contenu généré par l’IA. Les départements et entreprises concernés doivent concentrer leur supervision sur la sélection et l'examen des contenus générés par l'IA. Ils peuvent développer des algorithmes d'examen pertinents, normaliser le flux et la diffusion des contenus générés dans le domaine de l'opinion publique, et découvrir et supprimer rapidement les contenus de mauvaise qualité ou de mauvaise qualité. faux contenu.
Troisièmement, améliorer la capacité des utilisateurs à identifier le contenu généré par l’IA. Les internautes doivent traiter les informations sur Internet de manière rationnelle, renforcer la sensibilisation à la prévention et les capacités d'identification. Ils peuvent utiliser des outils de recherche inversée pour vérifier les informations sur la source et l'auteur du contenu, et analyser la langue et les caractéristiques structurelles du contenu, afin d'identifier les « faux » et les informations sur l'auteur. "inférieur".
Le cyberespace n’est pas une « décharge » jonchée de détritus. La lutte contre la « pollution causée par l'IA » et la création d'un réseau domestique propre et sûr nécessitent une gestion conjointe de tous les départements et la participation de l'ensemble de la société.