Baru-baru ini, sejumlah besar blogger yang menghasilkan AI muncul di platform Xiaohongshu dan menarik perhatian luas. Para blogger ini dapat dengan mudah mengidentifikasi identitas AI mereka karena ekspresi wajah mereka yang sangat mirip dan fitur kulit yang halus. Yang lebih mengkhawatirkan lagi, para blogger AI ini sudah mulai merambah bisnis periklanan, terutama di bidang produk kesehatan dan produk perawatan kulit. Mengingat beberapa pengguna paruh baya dan lanjut usia tidak memiliki kemampuan untuk mengidentifikasi, fenomena ini dapat dengan mudah mengarah pada penipuan dan menimbulkan risiko sosial. Kelambatan dalam pengawasan platform sangat kontras dengan lonjakan jumlah blogger yang menggunakan AI, sehingga memperlihatkan kelemahan mekanisme regulasi yang ada.
Baru-baru ini, sejumlah besar blogger dengan ekspresi serupa dan kulit terlalu halus muncul di Xiaohongshu, yang diduga dihasilkan oleh AI. Blogger AI ini mulai menerima iklan di Xiaohongshu, seperti produk kesehatan dan produk perawatan kulit. Mirip dengan insiden video perubahan wajah Douyin "Jin Dong Palsu", beberapa pengguna paruh baya dan lanjut usia mengalami kesulitan mengidentifikasi keaslian dan berisiko tertipu. Jumlah blogger yang dihasilkan oleh AI sangat besar, dan masalah kegagalan pengawasan platform sangat menonjol. Meskipun platform seperti Xiaohongshu telah merumuskan langkah-langkah pengelolaan awal, terdapat kesulitan dalam penerapannya dan pengawasan sangat diperlukan.Platform Xiaohongshu dan platform terkait lainnya perlu memperkuat pengawasan terhadap konten yang dihasilkan AI, meningkatkan mekanisme peninjauan, meningkatkan kemampuan identifikasi pengguna, dan secara aktif mengeksplorasi sarana teknis untuk mengidentifikasi dan memerangi informasi palsu yang dihasilkan oleh AI untuk memastikan pengembangan platform yang sehat. ekosistem dan pengguna. Hal ini memerlukan platform, regulator, dan perusahaan teknologi untuk bekerja sama guna mengatasi tantangan yang muncul ini secara efektif.