Una organización MCN utiliza programas de inteligencia artificial para producir miles de noticias falsas al día, lo que provoca que una gran cantidad de información falsa se propague de forma viral en Internet. Una nueva cuenta de plataforma se basa en la "creación" de IA para actualizar más de una docena de libros electrónicos; todos los días, pero la escritura es ilógica y retórica. Los artículos médicos vacíos se han retractado debido al uso de ilustraciones falsas generadas por IA... En la actualidad, es cada vez más común que la IA genere, falsifique o altere texto. , imágenes, audio y vídeo, y una gran cantidad de "basura" de mala calidad "información que es difícil de distinguir entre verdadera y falsa", lo que desencadenó debates sobre la "contaminación por IA".
Desde el año pasado, la inteligencia artificial generativa ha desatado oleada tras oleada de locura en todo el mundo, y sus aplicaciones disruptivas han beneficiado a muchas industrias y usuarios de Internet. Sin embargo, una moneda tiene dos caras y también hay algunos problemas negativos que acompañan a la inteligencia artificial generativa. La "contaminación de la IA" causada por la "basura de información" se está volviendo cada vez más prominente.
Un informe de investigación publicado en abril de este año por el Centro de Investigación de Nuevos Medios de la Facultad de Periodismo y Comunicación de la Universidad de Tsinghua mostró que el número de rumores sobre IA económica y empresarial aumentó un 99,91% en el último año. La agencia de investigación estadounidense "News Guard" afirmó que el número de sitios web que generan artículos falsos ha aumentado más de un 1.000% desde mayo de 2023, en 15 idiomas. Algunos expertos creen que la producción de “basura de información” producida por la IA es enorme, difícil de identificar y costosa de examinar.
El daño causado por la “contaminación por IA” es obvio. La "contaminación por IA" hará que los internautas caigan en alucinaciones cognitivas. En una determinada plataforma de intercambio de conocimientos, la IA que parece “conocer la astronomía desde arriba y la geografía desde abajo” genera contenido vacío y contundente. En ausencia de pensamiento crítico, el "sistema de conocimiento" rápidamente tejido por la IA puede, por un lado, degradar la capacidad de pensamiento crítico de las personas y, por otro lado, también puede hacer que las personas caigan en ilusiones cognitivas, provocando confusión cognitiva pública. , y distorsionando así al público. La comprensión colectiva de la realidad y el consenso científico finalmente llevan a las personas a ser “guiadas” por la IA. Especialmente para la generación más joven que creció con Internet, una vez que su cognición esté moldeada por "basura de información", las consecuencias serán desastrosas.
La “contaminación por IA” será contraproducente para el desarrollo de la industria de la IA. Como todos sabemos, la precisión de los modelos de IA depende en gran medida de la calidad de los datos de entrenamiento. Si el contenido falso y spam generado por la IA "refluye" a Internet y se convierte en nuevos datos para entrenar modelos de IA, este modelo de ciclo de "basura entra, basura sale" puede causar que la calidad de salida de la IA caiga por un precipicio, lo cual no es propicio. para el desarrollo de toda la industria de la IA. Por ejemplo, una empresa de Internet utilizó la optimización de motores de búsqueda para priorizar los artículos generados por IA en los resultados de búsqueda, lo que dificultó a los usuarios recuperar información de alta calidad y provocó críticas generalizadas por parte de los usuarios.
Además, la "contaminación por IA" también implica muchas cuestiones como el derecho, la ética e incluso la estabilidad social. El contenido falso producido por la IA puede infringir los derechos de propiedad intelectual, alterar las normas de derechos de autor, infringir la privacidad personal, filtrar información de identidad y tener riesgos de abuso, lo que puede perturbar y manipular la opinión pública. Los actos ilegales producidos por la IA también mejorarán la gobernanza social. difícil.
Se puede ver que es imperativo rectificar la "contaminación de la IA" de Internet. Según el 54º "Informe estadístico sobre el desarrollo de Internet en China" publicado por el Centro de Información de Internet de China, en junio de este año, el número de usuarios de Internet en mi país era de casi 1.100 millones. Internet construye un nuevo hogar para la existencia humana, y la generación más joven se ha convertido en el "pueblo aborigen" de Internet. Se puede decir que rectificar la "contaminación por IA" es una acción necesaria para crear un ciberespacio limpio y garantizar una buena vida. cada internauta.
En primer lugar, se debe fortalecer la gobernanza de origen de los mecanismos de generación y aprendizaje de IA. Aclarar la responsabilidad de la plataforma de IA de controlar los materiales fuente y supervisar el contenido generado, mejorar las reglas de generación de contenido de IA, obligar a que el contenido generado por IA se marque con etiquetas destacadas y mejorar la transparencia y explicabilidad de la tecnología de IA.
En segundo lugar, fortalecer la selección y supervisión del contenido generado por IA. Los departamentos y empresas pertinentes deben centrar su supervisión en la selección y revisión del contenido generado por IA. Pueden desarrollar algoritmos de revisión relevantes, estandarizar el flujo y la difusión del contenido generado en el campo de la opinión pública y descubrir y eliminar rápidamente los de baja calidad o los de baja calidad. contenido falso.
En tercer lugar, mejorar la capacidad de los usuarios para identificar contenido generado por IA. Los internautas deben tratar la información de Internet de manera racional, mejorar la conciencia de prevención y las capacidades de identificación. Pueden utilizar herramientas de búsqueda inversa para verificar la fuente y la información del autor del contenido, y analizar el lenguaje y las características estructurales del contenido, a fin de identificar lo "falso" y lo "falso". "inferior".
El ciberespacio no es un "basurero" lleno de basura. Combatir la "contaminación por IA" y crear una red doméstica limpia y segura requiere la gestión conjunta de todos los departamentos y la participación de toda la sociedad.