Nos últimos anos, a tecnologia de inteligência artificial desenvolveu-se rapidamente e as suas aplicações penetraram cada vez mais em todos os aspectos da vida. Recentemente, um aplicativo chamado “AI Girlfriend” rapidamente se tornou popular nas plataformas sociais e atraiu grande atenção. Esses companheiros de IA gerados por modelos grandes podem fornecer serviços de bate-papo 24 horas por dia e ter vários métodos de interação, como texto, voz e imagens. No entanto, esta aplicação emergente também traz algumas questões éticas e sociais que merecem uma exploração mais aprofundada.
A tendência das namoradas com IA surgiu nas plataformas sociais, que são geradas por grandes modelos e conversam com elas 24 horas por dia. São boas em texto, voz e lindas fotos. Algumas namoradas de IA usam fotos em grande escala para atrair fãs, o que envolve um modelo de lucro pornográfico. Eles usam o chat generativo para construir relacionamentos íntimos com os usuários, envolvendo conversas em larga escala, e a experiência é semelhante ao chat da vida real. Pequenas plataformas quebraram restrições éticas e lançaram “role-playing completamente sem censura”, o que atraiu atenção social e pressão regulatória. Os modelos de lucro trazidos pelas namoradas da IA incluem assinaturas de fãs, endossos publicitários e até mesmo a clonagem de celebridades reais da Internet, envolvendo-se assim disfarçadamente na indústria pornográfica.
O surgimento de namoradas IA, por um lado, atende às necessidades sociais de alguns usuários, mas por outro lado, também expõe a falta de supervisão e riscos éticos. Como equilibrar o desenvolvimento tecnológico e a responsabilidade social, e como padronizar os limites das aplicações de IA, são questões importantes que temos pela frente. É necessário reforçar a supervisão, clarificar as normas éticas, evitar o abuso da tecnologia de IA e manter um ambiente de rede saudável.