Uma organização MCN usa programas de inteligência artificial para produzir milhares de notícias falsas por dia, fazendo com que uma grande quantidade de informações falsas se espalhe de forma viral na Internet; uma nova conta de plataforma depende da “criação” de IA para atualizar mais de uma dúzia de e-books; todos os dias, mas a escrita é ilógica e retórica. Artigos médicos foram retirados devido ao uso de ilustrações falsas geradas pela IA... Atualmente, está se tornando cada vez mais comum que a IA gere, falsifique ou adultere textos. , fotos, áudio e vídeo, e uma grande quantidade de "informações de má qualidade que são difíceis de distinguir entre verdadeiro e falso" Lixo ", desencadeando discussões sobre" poluição de IA ".
Desde o ano passado, a inteligência artificial generativa desencadeou onda após onda de loucura em todo o mundo, e as suas aplicações disruptivas beneficiaram muitas indústrias e utilizadores da Internet. No entanto, uma moeda tem dois lados, e há também alguns problemas negativos que acompanham a inteligência artificial generativa, causada pelo “lixo de informação”, que está se tornando cada vez mais proeminente.
Um relatório de pesquisa divulgado em abril deste ano pelo Centro de Pesquisa de Novas Mídias da Escola de Jornalismo e Comunicação da Universidade de Tsinghua mostrou que o número de rumores econômicos e empresariais sobre IA cresceu 99,91% no ano passado. A agência de investigação norte-americana "News Guard" afirmou que o número de websites que geram artigos falsos aumentou mais de 1.000% desde maio de 2023, envolvendo 15 idiomas. Alguns especialistas acreditam que a produção de “lixo de informação” produzido pela IA é enorme, difícil de identificar e dispendiosa de analisar.
Os danos causados pela “poluição da IA” são óbvios. A "poluição da IA" fará com que os internautas caiam em alucinações cognitivas. Em uma determinada plataforma de compartilhamento de conhecimento, a IA que parece “conhecer astronomia em cima e geografia em baixo” gera conteúdo vazio e contundente. Na ausência de pensamento crítico, o "sistema de conhecimento" rapidamente tecido pela IA pode, por um lado, degradar a capacidade de pensamento crítico das pessoas e, por outro lado, também pode fazer com que as pessoas caiam em ilusões cognitivas, causando confusão cognitiva pública , distorcendo assim o público. A compreensão colectiva da realidade e do consenso científico acaba por levar as pessoas a serem “lideradas” pela IA. Especialmente para a geração mais jovem que cresceu com a Internet, uma vez que a sua cognição é moldada pelo “lixo de informação”, as consequências serão desastrosas.
A “poluição da IA” terá um tiro pela culatra no desenvolvimento da indústria de IA. Como todos sabemos, a precisão dos modelos de IA depende em grande parte da qualidade dos dados de treino. Se o conteúdo falso e de spam gerado pela IA "refluir" para a Internet e se tornar novos dados para o treinamento de modelos de IA, esse modelo de ciclo "entra lixo, sai lixo" pode fazer com que a qualidade de saída da IA caia de um penhasco, o que não é propício para o desenvolvimento de toda a indústria de IA. Por exemplo, uma empresa de Internet utilizou a otimização de mecanismos de pesquisa para priorizar artigos gerados por IA nos resultados de pesquisa, dificultando a recuperação de informações de alta qualidade pelos usuários e gerando críticas generalizadas por parte dos usuários.
Além disso, a “poluição da IA” também envolve muitas questões como lei, ética e até estabilidade social. O conteúdo falso produzido pela IA pode infringir os direitos de propriedade intelectual, abalar as regras de direitos autorais, infringir a privacidade pessoal, vazar informações de identidade e apresentar riscos de abuso, o que pode perturbar e manipular a opinião pública. difícil.
Percebe-se que é imperativo retificar a “poluição da IA” da Internet. De acordo com o 54º "Relatório Estatístico sobre o Desenvolvimento da Internet na China" divulgado pelo Centro de Informações da Internet da China, em junho deste ano, o número de usuários da Internet no meu país era de quase 1,1 bilhão. A Internet constrói um novo lar para a existência humana, e a geração mais jovem tornou-se o "povo aborígine" da Internet. Pode-se dizer que retificar a "poluição da IA" é uma ação necessária para criar um ciberespaço claro e garantir uma vida boa. cada internauta.
Em primeiro lugar, a governação da fonte dos mecanismos de aprendizagem e geração de IA deve ser reforçada. Esclarecer a responsabilidade da plataforma de IA de controlar os materiais de origem e supervisionar o conteúdo gerado, melhorar as regras de geração de conteúdo de IA, forçar o conteúdo gerado por IA a ser marcado com rótulos proeminentes e melhorar a transparência e explicabilidade da tecnologia de IA.
Em segundo lugar, reforçar a triagem e a supervisão dos conteúdos gerados pela IA. Os departamentos e empresas relevantes precisam concentrar a sua supervisão na triagem e revisão do conteúdo gerado pela IA. Eles podem desenvolver algoritmos de revisão relevantes, padronizar o fluxo e a disseminação do conteúdo gerado no campo da opinião pública e descobrir e excluir prontamente os de baixa qualidade ou. conteúdo falso.
Terceiro, melhorar a capacidade dos usuários de identificar conteúdo gerado por IA. Os internautas devem tratar as informações da Internet de forma racional, aumentar a conscientização sobre a prevenção e as capacidades de identificação. Eles podem usar ferramentas de pesquisa reversa para verificar a fonte e as informações do autor do conteúdo e analisar a linguagem e as características estruturais do conteúdo, de modo a identificar "falsos" e. "inferior".
O ciberespaço não é um “depósito de lixo” cheio de lixo. O combate à “poluição da IA” e a criação de uma rede doméstica limpa e segura requer a gestão conjunta de todos os departamentos e a participação de toda a sociedade.