Relatórios do editor de downcodes: Um estudo mais recente revela o segredo surpreendente das contas de avatar geradas por IA na plataforma X. Uma equipe de pesquisa alemã analisou quase 15 milhões de contas X e descobriu que apenas um número muito pequeno de contas (0,052%) usava avatares gerados por IA. Essas contas apresentam características únicas, como um pequeno número de seguidores e seguidores, a maioria das contas foi criada em 2023, e até foram criadas em lotes, o que indica que muito provavelmente são contas falsas usadas para divulgar informações específicas.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
Estas contas apresentam características óbvias: têm menos seguidores e seguem menos contas, e mais de metade foram criadas em 2023, e algumas contas foram até criadas em lotes em poucas horas. Jonas Ricker, principal autor do estudo, destacou que isso mostra claramente que essas contas não são usuários reais. Após nove meses de observação, a Plataforma X fechou mais de metade destas contas.
Numa análise manual de conteúdo de 1.000 contas que utilizavam avatares de IA, os investigadores descobriram que os temas de conteúdo destas contas se centravam principalmente na política, especialmente questões relacionadas com Trump, as vacinas contra a COVID-19 e a guerra na Ucrânia. Além disso, tópicos financeiros e de loteria, como criptomoedas, surgem com frequência. Os investigadores especulam que estas contas podem ter sido criadas especificamente para espalhar desinformação e propaganda política, uma vez que as contas foram criadas em grande número e partilhavam os mesmos metadados, sugerindo que podem fazer parte de uma rede organizada.
Embora este estudo não tenha explorado a disseminação destas contas utilizando avatares de IA, o seu número médio de seguidores e contas mostra que a sua influência é limitada. Isto é consistente com um estudo da OpenAI, que concluiu que as contas de redes sociais que divulgam propaganda política gerada por IA receberam poucas respostas, tornando estas contas menos eficazes. A equipe de pesquisa planeja expandir a automação do reconhecimento de avatares falsos por IA em análises futuras e incorporar modelos atualizados para compreender melhor o impacto desta tecnologia nas plataformas de mídia social.
Esta pesquisa fornece informações valiosas sobre a nossa compreensão da aplicação de avatares gerados por IA em plataformas de redes sociais e também nos lembra de ter cuidado ao usar a tecnologia de IA para espalhar informações maliciosas. No futuro, uma tecnologia de reconhecimento de IA mais eficaz se tornará um meio importante para manter a segurança do ambiente de rede. O editor do Downcodes continuará atento aos desenvolvimentos relevantes e trazendo mais informações tecnológicas.