Há uma discussão acalorada dentro da OpenAI sobre a aplicação da tecnologia de marca d'água ChatGPT. A tecnologia de marca d'água de texto AI desenvolvida por ela foi projetada para combater o plágio acadêmico, mas também surgiram controvérsias e desafios na aplicação da tecnologia. A tecnologia, que ajusta palavras e frases para criar padrões detectáveis, é considerada 99,9% precisa e resistente à simples paráfrase. No entanto, a OpenAI também admitiu que a reescrita complexa pode facilmente contornar as marcas d'água e que as marcas d'água podem incomodar alguns usuários, especialmente alguns falantes não nativos, afetando assim a experiência e o uso do usuário.
Recentemente, a OpenAI esteve envolvida em discussões internas sobre tecnologia de marca d’água. Segundo o Wall Street Journal, a empresa já desenvolveu uma tecnologia de marca d'água para marcar textos gerados pelo ChatGPT e também preparou uma ferramenta de detecção. Mas as opiniões internas estão divididas sobre a possibilidade de trazer esta tecnologia para o mercado.
De uma certa perspectiva, lançar a tecnologia de marca d'água parece ser a coisa responsável a se fazer. Esta tecnologia cria um padrão detectável ajustando as palavras e frases previstas pelo modelo. Embora isto pareça um pouco complicado, o seu objectivo é claro – ajudar os professores a evitar que os alunos plagiem trabalhos gerados com IA. O relatório afirma que esta marca d'água não afeta a qualidade do texto do chatbot. Além disso, a OpenAI descobriu em uma pesquisa que, globalmente, o número de pessoas que apoiam ferramentas de detecção de IA superou em quatro vezes o número de oponentes.
No entanto, a implementação da tecnologia de marca d’água não é tão simples. Uma atualização do blog da OpenAI confirmou que a empresa desenvolveu tecnologia de marca d’água e disse que o método é altamente preciso, alegando que é “99,9% eficaz”. Além disso, esse tipo de marca d’água apresenta certa resistência à “adulteração”, como a simples reescrita. No entanto, a OpenAI também apontou que esta marca d'água pode ser facilmente contornada reescrevendo-a com outros modelos, o que os preocupa.
Além disso, a OpenAI considera que as marcas d'água podem fazer com que alguns usuários se sintam estigmatizados, especialmente para falantes não nativos. Portanto, embora alguns funcionários acreditem que as marcas d'água são eficazes, a pesquisa mostra que quase 30% dos usuários do ChatGPT disseram que poderão usar menos se as marcas d'água forem implementadas. Como resultado, alguns funcionários sugeriram explorar métodos “relativamente menos controversos”, embora a sua eficácia ainda não tenha sido comprovada.
Em uma atualização de blog hoje, a OpenAI mencionou que está explorando maneiras de incorporar metadados nos “estágios iniciais” e disse que ainda é muito cedo para dizer quão eficaz será. No entanto, eles ressaltam que, como esses metadados são assinados criptograficamente, falsos positivos podem ser evitados.
Destaques:
✅ Existem diferenças dentro da OpenAI em relação ao lançamento da tecnologia de marca d'água, e se ela será lançada ainda está em discussão.
?Pesquisas mostram que a maioria das pessoas em todo o mundo suporta ferramentas de detecção de IA, mas os usuários estão preocupados que as marcas d'água afetem seu uso.
?A OpenAI está considerando incorporar metadados em um esforço para encontrar um equilíbrio entre tecnologia e experiência do usuário.
A atitude cautelosa da OpenAI em relação à tecnologia de marcas de água reflete os seus esforços para encontrar um equilíbrio entre o desenvolvimento tecnológico e a experiência do utilizador. No futuro, como resolver eficazmente os problemas de identificação de conteúdos gerados por IA e de protecção da privacidade dos utilizadores tornar-se-á uma questão importante no domínio da inteligência artificial.