Um relatório de pesquisa recente divulgado pelo Google alerta que a inteligência artificial generativa (GenAI) está poluindo a Internet com conteúdo falso. O relatório apontou que existem inúmeros casos de abuso da GenAI, desde a adulteração de retratos até à fabricação de provas, principalmente com o propósito de influenciar a opinião pública, fraude ou lucro. O próprio Google também se tornou um criador de desinformação devido aos seus produtos de IA que deram sugestões ridículas, o que torna os seus avisos ainda mais alarmantes e leva as pessoas a pensar profundamente sobre os riscos potenciais da GenAI.
Recentemente, pesquisadores do Google alertaram que a inteligência artificial generativa (GenAI) está arruinando a Internet com conteúdo falso. Este não é apenas um aviso, mas também um momento de autorreflexão.
Ironicamente, o Google desempenha um papel duplo nesta “guerra entre a verdade e a falsidade”. Por um lado, é um importante promotor da IA generativa e, por outro lado, é também um produtor de desinformação. O recurso de visão geral de IA do Google tinha sugestões ridículas, como “coloque cola na pizza” e “coma pedras”, e essas mensagens erradas eventualmente tiveram que ser excluídas manualmente.
A equipe de pesquisa do Google conduziu uma investigação aprofundada de 200 notícias sobre o abuso de IA generativa e descobriu que a adulteração de retratos humanos e a fabricação de evidências eram os métodos de abuso mais comuns. O objetivo dessas ações nada mais é do que influenciar a opinião pública, fraudar ou obter lucro. Embora os riscos da IA generativa ainda não tenham atingido o nível de “ameaça existencial”, são o que está a acontecer agora e podem piorar no futuro.
Os pesquisadores descobriram que a maioria dos casos de abuso da GenAI eram de uso normal do sistema e não envolviam comportamento de “jailbreak”. Este tipo de “operação de rotina” representa 90%. A ampla disponibilidade, acessibilidade e hiperrealismo da GenAI permitem infinitas formas de abuso de nível inferior. O custo de gerar informações falsas é muito baixo!
O material de pesquisa do Google provém em grande parte de reportagens da mídia. Isso significa que as conclusões da pesquisa são tendenciosas pela mídia? A mídia está mais inclinada a relatar eventos sensacionais, o que pode fazer com que o conjunto de dados seja tendencioso para tipos específicos de abuso. A 404Media aponta que há muitos abusos não relatados de IA generativa dos quais ainda não temos conhecimento.
As “cercas” das ferramentas de IA podem ser contornadas de forma inteligente com algumas dicas. Por exemplo, a ferramenta de clonagem de voz AI da ElevenLabs pode imitar as vozes de colegas ou celebridades com um alto grau de fidelidade. Os usuários do Civitai podem criar imagens de celebridades geradas por IA e, embora a plataforma tenha uma política contra NCII (imagens íntimas sem consentimento), nada impede os usuários de usar ferramentas de código aberto para gerar NCII em suas próprias máquinas.
Quando informações falsas se espalharem, o caos na Internet representará um enorme teste à capacidade das pessoas de distinguir entre a verdade e a falsidade. Ficaremos presos num estado constante de dúvida: “Será que isto é real?” Se não for abordado, a contaminação de dados públicos por conteúdos gerados pela IA também pode impedir a recuperação de informação e distorcer as percepções colectivas da realidade sociopolítica ou da compreensão do consenso científico.
O Google contribuiu para a proliferação de conteúdo falso provocado pela IA generativa. A bala disparada há muitos anos finalmente o atingiu entre as sobrancelhas hoje. A investigação da Google pode ser o início da auto-salvação e um alerta para toda a sociedade da Internet.
Endereço do artigo: https://arxiv.org/pdf/2406.13843
Este relatório do Google sem dúvida soa como um alerta para o desenvolvimento futuro do GenAI. Como equilibrar o desenvolvimento tecnológico e o controlo de riscos, e como responder eficazmente à proliferação de informações falsas trazidas pela GenAI, são desafios comuns enfrentados pela comunidade tecnológica global e pela sociedade. Esperamos mais pesquisas e ações para mantermos conjuntamente a autenticidade e a pureza da Internet.