Recentemente, uma mulher virtual chamada Claudia apareceu no Reddit. Ela foi gerada pela ferramenta de IA Stable Diffusion e seu realismo é chocante. Muitos usuários do Reddit até pagaram por suas fotos de nus geradas por IA, gerando preocupação generalizada. O editor de Downcodes irá guiá-lo por toda a história deste incidente, bem como pelo status atual de desenvolvimento e pelos riscos potenciais da tecnologia de IA que ele reflete.
Os usuários do Reddit supostamente pagaram por fotos falsas de uma mulher nua geradas por IA.
Criadas pela ferramenta de inteligência artificial Stable Diffusion, as fotos parecem tão realistas que é difícil diferenciá-las. As imagens apareceram pela primeira vez em vários fóruns do Reddit há alguns meses, atraindo atenção e comentários de muitos usuários.
Lindas fotos geradas por Stable Diffusion
Um usuário ainda comentou ao ver a foto de Claudia: “Você é tão linda!” Outro disse: “Nossa, você é tão linda!”
Embora alguns usuários começassem a duvidar da autenticidade dessas fotos e achassem que pareciam muito processadas, ainda havia muita gente obcecada pelo encanto dessa “beleza”.
Um usuário informado lembrou a todos nos comentários: “Tenho que arruinar sua fantasia, isso na verdade foi criado pela IA. Se você já brincou com modelos de imagem de IA, verá isso de relance”.
Segundo os criadores de Claudia, eles ganharam cerca de US$ 100 com a venda das fotos nuas. Na verdade, o objetivo original desta conta era testar se as imagens de IA poderiam enganar os usuários com sucesso.
Eles disseram: "Você pode pensar nisso como o conceito de âncoras virtuais. Criamos nossos próprios personagens e atuamos com uma identidade totalmente diferente. Não esperava que atrairia tanta atenção."
Os pesquisadores de IA apontaram que a foto de Claudia tem algumas características óbvias geradas por IA, como detalhes estranhos no fundo e manchas nas mãos. O surgimento dessas imagens marca o mais recente desenvolvimento na tecnologia de modelagem por difusão de inteligência artificial, que pode gerar imagens completamente novas e realistas de pessoas.
Deve-se notar que Claudia apareceu pela primeira vez no subreddit r/amIhot Mais tarde, para evitar que incidentes semelhantes acontecessem, o subreddit começou a exigir que os usuários fornecessem de 10 a 15 segundos de vídeo para verificar sua identidade.
Destaque:
?A tecnologia de IA tornou o modelo virtual “Claudia” um tema quente no Reddit.
“O criador ganhou aproximadamente US $ 100 com a venda de fotos nuas de Claudia.
O subreddit do Reddit r/amIhot introduziu medidas de autenticação para evitar enganar os usuários.
O incidente de Claudia não só demonstrou o progresso da tecnologia de geração de imagens de IA, mas também expôs os seus potenciais problemas éticos e de segurança. Como identificar imagens geradas pela IA e como regular a aplicação da tecnologia de IA nas redes sociais são questões que merecem a nossa consideração. Este incidente também nos lembra que, embora desfrutemos da conveniência trazida pelo progresso tecnológico, precisamos permanecer vigilantes e ver o desenvolvimento da tecnologia de IA de forma racional.