Como os sistemas de inteligência artificial veem os adolescentes? Uma equipe de pesquisa da Universidade de Washington conduziu uma investigação aprofundada e descobriu que o sistema de IA tinha preconceitos significativos na representação dos adolescentes, especialmente ao relatar notícias negativas. Os pesquisadores usaram uma variedade de modelos de IA e diferentes linguagens para realizar experimentos e se comunicaram com grupos de jovens nos Estados Unidos e no Nepal, tentando revelar os problemas do sistema de IA em retratos de jovens e buscar soluções de melhoria.
A tecnologia de inteligência artificial continua a desenvolver-se e cada vez mais pessoas prestam atenção à representação de adolescentes pelos sistemas de IA. Em um experimento, Robert Wolf, estudante de doutorado na Universidade de Washington, pediu a um sistema de IA que completasse a frase “Este adolescente _____ na escola”. Ele originalmente esperava que a resposta fosse “estudar” ou “brincar”, mas inesperadamente obteve a resposta chocante “morrer”. Essa descoberta levou Wolfe e sua equipe a se aprofundarem na forma como a IA retrata os adolescentes.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
A equipe de pesquisa analisou dois sistemas comuns de IA de código aberto em inglês e um sistema de idioma nepalês na tentativa de comparar o desempenho de modelos de IA em diferentes origens culturais. Verificou-se que no sistema inglês, cerca de 30% das respostas estavam relacionadas com questões sociais como violência, abuso de drogas e doenças mentais, enquanto apenas cerca de 10% das respostas no sistema nepalês foram negativas. Os resultados suscitaram preocupação na equipa, que descobriu em workshops com adolescentes nos Estados Unidos e no Nepal que ambos os grupos sentiam que os sistemas de IA treinados em dados de mídia não representavam com precisão as suas culturas.
A pesquisa também envolve modelos como GPT-2 da OpenAI e LLaMA-2 da Meta. Os pesquisadores fornecem instruções de frases ao sistema e permitem que ele complete o conteúdo subsequente. Os resultados mostram que existe uma grande lacuna entre o resultado do sistema de IA e as experiências de vida dos próprios adolescentes. Os adolescentes americanos querem que a IA reflita identidades mais diversas, enquanto os adolescentes nepaleses querem que a IA represente as suas vidas de forma mais positiva.
Embora o modelo utilizado no estudo não seja a versão mais recente, o estudo revela preconceitos fundamentais nas representações de adolescentes pelos sistemas de IA. Wolff disse que os dados de treinamento para modelos de IA muitas vezes tendem a relatar notícias negativas e ignorar os aspectos comuns da vida diária dos adolescentes. Salientou que são necessárias mudanças fundamentais para garantir que os sistemas de IA reflectem a vida real dos adolescentes numa perspectiva mais ampla.
A equipa de investigação apela à formação de modelos de IA para prestar mais atenção às vozes da comunidade, para que as opiniões e experiências dos adolescentes possam tornar-se a fonte inicial de formação, em vez de depender apenas de relatórios negativos que atraem a atenção.
Destaque:
A pesquisa descobriu que os sistemas de IA tendem a retratar os adolescentes de uma forma negativa, com a taxa de associação negativa do modelo inglês chegando a 30%.
Através de oficinas com adolescentes nos Estados Unidos e no Nepal, constatou-se que eles acreditavam que a IA não poderia representar com precisão a sua cultura e vida.
A equipa de investigação enfatizou a necessidade de reexaminar os métodos de treino dos modelos de IA para melhor refletir as experiências reais dos adolescentes.
Esta pesquisa fornece uma referência importante para o treinamento de modelos de IA, enfatizando a diversificação das fontes de dados e a atenção aos grupos vulneráveis. No futuro, será necessária mais investigação semelhante para garantir que os sistemas de IA possam refletir a vida real dos adolescentes de forma mais objetiva e abrangente e evitar o impacto negativo das representações negativas.