Recentemente, um grande número de blogueiros gerados por IA surgiram na plataforma Xiaohongshu, atraindo atenção generalizada. Esses blogueiros podem identificar facilmente suas identidades de IA devido às suas expressões faciais altamente semelhantes e características de pele suaves. O que é ainda mais preocupante é que esses blogueiros de IA começaram a abordar negócios de publicidade, principalmente nas áreas de produtos de saúde e produtos para a pele. Dado que alguns utilizadores de meia-idade e idosos não têm capacidade de identificação, este fenómeno pode facilmente levar à fraude e conduzir a riscos sociais. O atraso na supervisão das plataformas contrasta fortemente com o aumento do número de bloggers gerados pela IA, expondo as deficiências do mecanismo regulador existente.
Recentemente, um grande número de blogueiros com expressões semelhantes e pele excessivamente lisa apareceram em Xiaohongshu, que são suspeitos de serem gerados por IA. Esses blogueiros de IA começaram a aceitar anúncios no Xiaohongshu, como produtos de saúde e produtos para a pele. Semelhante ao incidente de vídeo de mudança de rosto de Douyin "Fake Jin Dong", alguns usuários de meia-idade e idosos têm dificuldade em identificar a autenticidade e correm o risco de serem enganados. O número de blogueiros gerados pela IA é enorme, e o problema da supervisão da plataforma que não consegue acompanhar é proeminente. Embora plataformas como Xiaohongshu tenham formulado medidas de gestão preliminares, existem dificuldades na implementação e a supervisão é urgentemente necessária.A plataforma Xiaohongshu e outras plataformas relacionadas precisam fortalecer a supervisão do conteúdo gerado pela IA, melhorar o mecanismo de revisão, melhorar as capacidades de identificação do usuário e explorar ativamente meios técnicos para identificar e combater informações falsas geradas pela IA para garantir o desenvolvimento saudável da plataforma ecossistema e segurança dos direitos e interesses. Isto exige que as plataformas, os reguladores e as empresas tecnológicas trabalhem em conjunto para enfrentar eficazmente este desafio emergente.