A OpenAI está desenvolvendo uma tecnologia de marca d'água que pode identificar textos gerados pelo ChatGPT, com o objetivo de lidar com a proliferação de conteúdo gerado por IA. Essa tecnologia permite a rastreabilidade ao incorporar marcas d'água invisíveis no texto, fazendo ajustes sutis na escolha das palavras. Embora a tecnologia funcione bem em algumas situações, é menos eficaz face a situações como a adulteração de texto e pode ter um impacto desproporcional em determinados grupos. Portanto, a OpenAI está adotando uma abordagem cautelosa e explorando outras soluções, como classificadores e metadados.
Segundo o Wall Street Journal, a OpenAI desenvolveu uma ferramenta para reconhecer textos gerados pelo ChatGPT com alta precisão, mas ainda não foi lançada oficialmente. A ferramenta planeja identificar o conteúdo gerado pelo ChatGPT incorporando marcas d'água invisíveis no texto, mas essa tecnologia ainda enfrenta muitos desafios, como problemas de falha ao enfrentar modificação e tradução de texto e potencial discriminação contra determinados grupos de pessoas. A OpenAI enfatiza que esta tecnologia é apenas uma das muitas soluções que estão explorando e que avançará esta pesquisa com cautela e priorizará o desenvolvimento de ferramentas de autenticação para conteúdos audiovisuais. Esta medida desencadeou extensas discussões na indústria sobre a identificação e gestão de conteúdos gerados por IA, e como encontrar um equilíbrio entre a protecção da inovação e a prevenção de riscos tornou-se o foco.
A OpenAI afirma que a marca d'água de texto é apenas uma das várias soluções que está explorando, incluindo classificadores e metadados, destinadas a determinar a origem do texto. Embora a tecnologia de marca d'água de texto funcione bem em alguns casos, sua eficácia diminui quando confrontada com adulterações, como tradução, reescrita ou inserção de caracteres especiais. Além disso, a tecnologia pode impactar desproporcionalmente certos grupos, como os falantes não nativos de inglês.
Tendo em conta os fatores complexos acima mencionados e o seu impacto potencial em todo o ecossistema, a OpenAI afirmou que avançará com cautela na investigação sobre tecnologia de atribuição de texto e dará prioridade ao desenvolvimento de ferramentas de autenticação para conteúdos audiovisuais.
Esta decisão desencadeou extensas discussões na indústria sobre a identificação e gestão de conteúdos gerados por IA. Com o rápido desenvolvimento da tecnologia de IA, a forma de encontrar um equilíbrio entre a protecção da inovação e a prevenção de riscos tornou-se o foco da atenção de todas as partes.
A atitude cautelosa da OpenAI em relação à tecnologia de rastreabilidade de conteúdo de IA reflete a complexidade e os desafios éticos do desenvolvimento tecnológico. No futuro, a forma de identificar e gerir eficazmente os conteúdos gerados pela IA será uma questão fundamental de preocupação contínua no domínio da inteligência artificial, exigindo esforços conjuntos da tecnologia, da política e da ética.