Récemment, un grand nombre de blogueurs générés par l’IA sont apparus sur la plateforme Xiaohongshu, attirant une large attention. Ces blogueurs peuvent facilement identifier leurs identités IA en raison de leurs expressions faciales très similaires et de leurs traits de peau lisses. Ce qui est encore plus inquiétant, c’est que ces blogueurs IA ont commencé à aborder le secteur de la publicité, principalement dans les domaines des produits de santé et des produits de soins de la peau. Étant donné que certains utilisateurs d’âge moyen et âgés n’ont pas la capacité de s’identifier, ce phénomène peut facilement conduire à des fraudes et entraîner des risques sociaux. Le retard dans la supervision des plateformes contraste fortement avec l’augmentation du nombre de blogueurs générés par l’IA, révélant les lacunes du mécanisme de régulation existant.
Récemment, un grand nombre de blogueurs avec des expressions similaires et une peau excessivement lisse sont apparus sur Xiaohongshu, soupçonnés d'être générés par l'IA. Ces blogueurs IA ont commencé à accepter des publicités sur Xiaohongshu, telles que des produits de santé et des produits de soins de la peau. Semblable à l'incident vidéo qui a changé le visage de Douyin « Fake Jin Dong », certains utilisateurs d'âge moyen et âgés ont des difficultés à identifier l'authenticité et risquent d'être trompés. Le nombre de blogueurs générés par l’IA est énorme, et le problème de l’incapacité de la supervision des plateformes à suivre est prédominant. Bien que des plateformes telles que Xiaohongshu aient formulé des mesures de gestion préliminaires, des difficultés de mise en œuvre subsistent et une supervision est nécessaire de toute urgence.La plate-forme Xiaohongshu et d'autres plates-formes connexes doivent renforcer la supervision du contenu généré par l'IA, améliorer le mécanisme d'examen, améliorer les capacités d'identification des utilisateurs et explorer activement les moyens techniques pour identifier et combattre les fausses informations générées par l'IA afin d'assurer le développement sain de la plate-forme. l’écosystème et les utilisateurs. Cela nécessite que les plateformes, les régulateurs et les entreprises technologiques travaillent ensemble pour relever efficacement ce défi émergent.