OpenAI está desarrollando una tecnología de marca de agua que puede identificar el texto generado por ChatGPT, con el objetivo de hacer frente a la proliferación de contenido generado por IA. Esta tecnología permite la trazabilidad al incorporar marcas de agua invisibles en el texto mediante ajustes sutiles en la elección de palabras. Si bien la tecnología funciona bien en algunas situaciones, es menos efectiva ante cosas como la manipulación de textos y puede afectar desproporcionadamente a ciertos grupos. Por lo tanto, OpenAI está adoptando un enfoque cauteloso y mientras tanto explora otras soluciones, como clasificadores y metadatos.
Según el Wall Street Journal, OpenAI ha desarrollado una herramienta para reconocer texto generado por ChatGPT con alta precisión, pero aún no se ha lanzado oficialmente. La herramienta planea identificar el contenido generado por ChatGPT mediante la incorporación de marcas de agua invisibles en el texto, pero esta tecnología aún enfrenta muchos desafíos, como problemas de fallas al enfrentar la modificación y traducción del texto, y una posible discriminación contra ciertos grupos de personas. OpenAI enfatiza que esta tecnología es solo una de las muchas soluciones que están explorando y que avanzarán en esta investigación con cautela y priorizarán el desarrollo de herramientas de autenticación para contenidos audiovisuales. Esta medida desencadenó extensos debates en la industria sobre la identificación y gestión del contenido generado por IA, y el foco de atención se convirtió en cómo lograr un equilibrio entre proteger la innovación y prevenir riesgos.
OpenAI dice que la marca de agua de texto es solo una de varias soluciones que está explorando, incluidos clasificadores y metadatos, destinados a determinar el origen del texto. Si bien la tecnología de marcas de agua de texto funciona bien en algunos casos, su efectividad disminuye cuando se enfrentan a manipulaciones como la traducción, la reescritura o la inserción de caracteres especiales. Además, la tecnología puede afectar desproporcionadamente a ciertos grupos, como los hablantes no nativos de inglés.
En vista de los factores complejos mencionados anteriormente y su impacto potencial en todo el ecosistema, OpenAI afirmó que avanzará con cautela en la investigación sobre tecnología de atribución de texto y priorizará el desarrollo de herramientas de autenticación para contenido audiovisual.
Esta decisión desencadenó extensos debates en la industria sobre la identificación y gestión del contenido generado por IA. Con el rápido desarrollo de la tecnología de inteligencia artificial, cómo lograr un equilibrio entre proteger la innovación y prevenir riesgos se ha convertido en el foco de atención de todas las partes.
La actitud cautelosa de OpenAI hacia la tecnología de trazabilidad de contenidos de IA refleja la complejidad y los desafíos éticos del desarrollo tecnológico. En el futuro, cómo identificar y gestionar eficazmente el contenido generado por IA será una cuestión clave de continua preocupación en el campo de la inteligencia artificial, que requerirá esfuerzos conjuntos de la tecnología, las políticas y la ética.