Hitachi Manufacturing Co., Ltd. ha desarrollado una nueva tecnología que puede identificar eficazmente artículos creados mediante IA generativa. Esta tecnología analiza los patrones de uso de las palabras en los artículos para determinar su origen, lo que tiene un importante valor de aplicación. En el contexto del rápido desarrollo de la tecnología de IA generativa, cómo distinguir el contenido generado por IA del contenido creado artificialmente y evitar eficazmente los riesgos causados se ha convertido en el foco de atención mundial. Esta tecnología no sólo puede ayudar a las empresas e instituciones a evitar riesgos legales como la infracción de derechos de autor, sino que también puede prevenir eficazmente la difusión de información falsa y mantener la seguridad de la información.
Recientemente, Hitachi Manufacturing Co., Ltd. ha desarrollado una potente tecnología independiente que puede determinar si un artículo se crea mediante IA generativa.
Esta tecnología no es simple, se basa en los patrones de uso de las palabras del artículo. ¿Por qué necesitamos desarrollar una tecnología de este tipo? ¡Eso es porque será de gran utilidad en el futuro! No solo puede evitar que la información errónea creada por la IA generativa se propague por todas partes, sino que también puede ayudar a las empresas y agencias administrativas a redactar documentos importantes. para evitar riesgos como la infracción de derechos de autor.
Ahora, en torno a la IA generativa, la Unión Europea, Estados Unidos y Japón no están de brazos cruzados, están mejorando gradualmente las leyes y regulaciones y continúan manteniendo discusiones relevantes. Creen que las empresas que desarrollan modelos lingüísticos a gran escala (LLM) deberían indicar que los vídeos, imágenes y artículos se derivan de la IA generativa.
Esta tecnología recientemente desarrollada por Hitachi se integrará en la tecnología de creación de artículos basada en LLM de las empresas de desarrollo de IA. También establece la regla de que incluso si hay muchos sinónimos, se deben utilizar palabras específicas. Si un artículo utiliza una gran cantidad de palabras según esta regla, se considerará creado por AI. Escuché que Hitachi también ha desarrollado tecnología que puede combinar múltiples reglas de selección de palabras, lo que mejora enormemente la precisión del juicio.
Hablando de IA generativa, hay un problema problemático: generará contenido que no coincide con los hechos, lo que se denomina "ilusión". Pero si se puede identificar de antemano que un artículo fue creado mediante IA generativa, ¡se puede reducir el riesgo de difundir información falsa!
Reflejos:
La tecnología de Hitachi proporciona nuevas soluciones a los desafíos que plantea la IA generativa, y vale la pena esperar su papel en la prevención de la difusión de información falsa y la salvaguardia de los derechos de propiedad intelectual. A medida que la tecnología continúa mejorando, creo que en el futuro surgirán más tecnologías similares que nos ayudarán a hacer un mejor uso de la IA y al mismo tiempo evitar sus riesgos potenciales.