Hay una acalorada discusión dentro de OpenAI sobre la aplicación de la tecnología de marca de agua ChatGPT. La tecnología de marca de agua de texto AI desarrollada por él está diseñada para combatir el plagio académico, pero también han seguido controversias y desafíos en la aplicación de la tecnología. Se dice que la tecnología, que ajusta palabras y frases para crear patrones detectables, tiene una precisión del 99,9% y es resistente a una simple paráfrasis. Sin embargo, OpenAI también admitió que la reescritura compleja puede eludir fácilmente las marcas de agua, y que las marcas de agua pueden molestar a algunos usuarios, especialmente a algunos hablantes no nativos, afectando así la experiencia y el uso del usuario.
Recientemente, OpenAI se ha visto envuelto en discusiones internas sobre la tecnología de marcas de agua. Según el Wall Street Journal, la empresa ya ha desarrollado una tecnología de marca de agua para marcar el texto generado por ChatGPT y también ha preparado una herramienta de detección. Pero las opiniones internas están divididas sobre si llevar esta tecnología al mercado.
Desde cierta perspectiva, lanzar la tecnología de marcas de agua parece lo más responsable. Esta tecnología crea un patrón detectable ajustando las palabras y frases predichas por el modelo. Si bien esto suena un poco complicado, su propósito es claro: ayudar a los profesores a evitar que los estudiantes plagien las tareas generadas con IA. El informe afirma que esta marca de agua no afecta la calidad del texto del chatbot. Además, OpenAI descubrió en una encuesta que, a nivel mundial, la cantidad de personas que apoyan las herramientas de detección de IA superaba cuatro veces a la de sus oponentes.
Sin embargo, la implementación de la tecnología de marcas de agua no es tan sencilla. Una actualización del blog de OpenAI confirmó que la compañía ha desarrollado una tecnología de marcas de agua y dijo que el método es muy preciso, afirmando que es "99,9% efectivo". Además, este tipo de marca de agua tiene cierta resistencia a la "manipulación", como la simple reescritura. Sin embargo, OpenAI también señaló que esta marca de agua se puede eludir fácilmente reescribiéndola con otros modelos, lo que les preocupa.
Además, OpenAI considera que las marcas de agua pueden hacer que algunos usuarios se sientan estigmatizados, especialmente los hablantes no nativos. Por lo tanto, aunque algunos empleados creen que las marcas de agua son efectivas, la encuesta muestra que casi el 30% de los usuarios de ChatGPT dijeron que podrían usar menos si se implementaran marcas de agua. Por ello, algunos empleados han sugerido explorar métodos "relativamente menos controvertidos", aunque su eficacia aún no ha sido demostrada.
En una actualización de blog de hoy, OpenAI mencionó que están explorando formas de incorporar metadatos en las "primeras etapas" y dijo que aún es demasiado pronto para decir qué tan efectivo será. Sin embargo, señalan que debido a que estos metadatos están firmados criptográficamente, se pueden evitar falsos positivos.
Reflejos:
✅ Existen diferencias dentro de OpenAI con respecto al lanzamiento de la tecnología de marcas de agua, y aún se está debatiendo si se lanzará o no.
Las encuestas muestran que la mayoría de las personas en todo el mundo apoyan las herramientas de detección de IA, pero a los usuarios les preocupa que las marcas de agua afecten su uso.
OpenAI está considerando incorporar metadatos en un esfuerzo por encontrar un equilibrio entre tecnología y experiencia del usuario.
La actitud cautelosa de OpenAI hacia la tecnología de marcas de agua refleja sus esfuerzos por encontrar un equilibrio entre el desarrollo tecnológico y la experiencia del usuario. En el futuro, cómo resolver eficazmente los problemas de identificación de contenido generado por IA y proteger la privacidad del usuario se convertirá en una cuestión importante en el campo de la inteligencia artificial.