Ces dernières années, la technologie de l’intelligence artificielle s’est développée rapidement et ses applications ont de plus en plus pénétré tous les aspects de la vie. Récemment, une application appelée « AI Girlfriend » est rapidement devenue populaire sur les plateformes sociales et a attiré une large attention. Ces compagnons IA générés par de grands modèles peuvent fournir des services de chat 24 heures sur 24 et disposer de plusieurs méthodes d'interaction telles que le texte, la voix et les images. Cependant, cette application émergente soulève également des questions éthiques et sociales qui méritent une exploration plus approfondie.
La tendance des copines IA a émergé sur les plateformes sociales, qui sont générées par de grands mannequins et discutent avec elles 24 heures sur 24. Elles sont douées pour le texte, la voix et les belles photos. Certaines copines IA utilisent des photos à grande échelle pour attirer les fans, ce qui implique un modèle de profit pornographique. Ils utilisent le chat génératif pour établir des relations intimes avec les utilisateurs, impliquant des conversations à grande échelle, et l'expérience est similaire au chat réel. Les petites plateformes ont brisé les restrictions éthiques et lancé des « jeux de rôle totalement non censurés », qui ont attiré l'attention sociale et la pression réglementaire. Les modèles de profit apportés par les petites amies de l'IA incluent les abonnements de fans, les publicités et même le clonage de véritables célébrités d'Internet, s'impliquant ainsi dans l'industrie pornographique déguisée.
L’émergence des copines IA répond, d’une part, aux besoins sociaux de certains utilisateurs, mais d’autre part, elle expose également le manque d’encadrement et les risques éthiques. Comment concilier développement technologique et responsabilité sociale, et comment normaliser les limites des applications de l’IA sont des questions importantes qui nous attendent. Il est nécessaire de renforcer la supervision, de clarifier les normes éthiques, d’éviter les abus de la technologie de l’IA et de maintenir un environnement réseau sain.