Google Deepmind anunció el código abierto de tecnología Synthid y la integración de la misma en el modelo Gemini. Synthid para el texto es una tecnología que agrega marcas de agua a el texto generado por AI, que se logra al ajustar la próxima probabilidad de marcado predicha por LLM sin afectar la calidad y la creatividad del texto. Esta tecnología puede identificar de manera confiable el texto generado por la IA sin cambiar el contenido de texto, proporcionando una nueva solución al desafío del contenido generado por IA. Es adecuado para múltiples idiomas y se ha integrado en aplicaciones y sitios web de Gemini para la conveniencia del usuario.
Synthid agrega una marca de agua oculta al texto generado, que puede reconocerse incluso después de la edición. Google Deepmind afirma que su rendimiento es mejor que los sistemas de marcas de agua de texto existentes y ha abierto la tecnología para facilitar el uso y las mejoras por parte de desarrolladores e investigadores. El lanzamiento de código abierto de esta tecnología ayudará a promover la confiabilidad y transparencia del contenido generado por la IA y contribuir a construir un ecosistema AI más seguro y confiable.
Recientemente, Google Deepmind está integrando su tecnología Synthid en su modelo Gemini y la lanza como un proyecto de código abierto. Synthid para texto utiliza procesos complejos para interferir con la generación de texto de modelos de lenguaje grande (LLM).
Synthid ajusta ligeramente la puntuación de probabilidad de la siguiente etiqueta predicha por LLM, pero solo si no afecta la calidad, la precisión o la creatividad de la salida. Este proceso repite todo texto generado, formando una marca de agua.
Según Google Deepmind, esta tecnología se puede aplicar a al menos tres oraciones. Para un texto más largo, la marca de agua se vuelve más robusta y precisa. Si bien este enfoque funciona en una variedad de idiomas, tiene algunas debilidades al editar texto de IA.
Google Deepmind ha integrado Synthid en aplicaciones y sitios web de Gemini para agregar marcas de agua y reconocimiento al texto generado. La tecnología también se puede utilizar como un proyecto de código abierto en GitHub, Google Responsole Generation AI Toolkit y abrazando la cara.
Google Deepmind afirma que Synthid funciona mejor que los sistemas de marcas de agua de texto existentes. Anteriormente, Google Deepmind ha lanzado Synthid para imágenes, voz y música.
El movimiento a la tecnología Synthid de código abierto de Google Deepmind marca un paso importante para combatir el abuso del contenido generado por IA y refleja su compromiso con el desarrollo responsable de la IA. En el futuro, con la mejora continua de la tecnología y la expansión del alcance de la aplicación, Synthid desempeñará un papel más importante para garantizar la seguridad de la información y mantener la autenticidad del contenido.