O rápido desenvolvimento de ferramentas generativas de inteligência artificial (IA) trouxe muitas conveniências, mas também levantou novos problemas. Entre eles, a proliferação de avaliações online falsas tornou-se um sério desafio, causando enormes danos aos consumidores e às plataformas de comércio eletrónico. Este artigo explorará como a tecnologia de IA é usada para criar avaliações falsas, bem como os impactos e contramedidas resultantes.
De acordo com a Associated Press, com o surgimento de ferramentas generativas de inteligência artificial (IA), comerciantes, prestadores de serviços e consumidores enfrentam desafios sem precedentes. Essas ferramentas permitem que as pessoas gerem avaliações on-line novas e detalhadas de maneira eficiente, com pouco ou nenhum esforço humano, agravando o problema das avaliações falsas.
O relatório apontou que avaliações falsas há muito atormentam plataformas de comércio eletrônico conhecidas, como Amazon e Yelp. Essas avaliações são frequentemente negociadas em grupos privados de mídia social entre corretores de avaliações falsas e comerciantes dispostos a pagar. Às vezes, as empresas também incentivam os clientes a escrever comentários positivos, oferecendo incentivos como cartões-presente.
No entanto, a popularidade das ferramentas de geração de texto de IA, representadas pelo ChatGPT da OpenAI, permitiu que os fraudadores gerassem avaliações falsas com mais rapidez e em maiores quantidades. De acordo com especialistas da indústria de tecnologia, esse tipo de engano é ilegal nos EUA e ocorre durante todo o ano, mas as avaliações falsas são particularmente prejudiciais para os consumidores durante a temporada de compras natalinas, quando muitas pessoas confiam nas avaliações para ajudá-los a fazer compras.
Uma empresa de tecnologia e vigilância chamada Transparency Company disse que usou software para detectar avaliações falsas e descobriu que as avaliações geradas por IA começaram a aparecer em grande número em meados de 2023, e o número ainda está aumentando.
A adição de ferramentas de IA torna a geração de avaliações falsas mais sutil e difícil de identificar. Isto não só prejudica os interesses dos consumidores, mas também representa uma grave ameaça à confiança das plataformas de comércio eletrónico. Como combater eficazmente as avaliações falsas geradas pela IA tornou-se um problema difícil enfrentado pelas plataformas de comércio eletrônico e pelas agências reguladoras.
Os comentários falsos gerados pela IA tornaram-se um grave problema social. Requer esforços conjuntos de plataformas de comércio eletrônico, agências reguladoras e empresas de tecnologia, e por meio do aprimoramento de meios técnicos e de leis e regulamentos, para efetivamente conter e manter esse fenômeno. um ambiente online justo e equitativo.