A Microsoft lançou recentemente um white paper, alertando que aplicações maliciosas da IA generativa estão se tornando cada vez mais desenfreadas, cobrindo vários campos, como fraude, abuso sexual infantil, manipulação eleitoral e vazamento de imagem involuntária. O relatório não apenas aponta desafios técnicos, mas também enfatiza as sérias ameaças que representa para a sociedade e propõe uma solução prática para os formuladores de políticas britânicos, com o objetivo de usar a cooperação legal, técnica e social e outros meios. problema. O White Paper elabora vários métodos de uso da tecnologia de IA para cometer crimes e propõe a importância de fortalecer a legislação, promover a inovação tecnológica e aumentar a conscientização do público.
A Microsoft lançou recentemente um white paper que analisa profundamente o uso malicioso de inteligência artificial generativa (IA), incluindo fraude, materiais de abuso sexual infantil, manipulação eleitoral e imagens privadas involuntárias. A empresa enfatizou que esses problemas não são apenas desafios técnicos, mas também uma grande ameaça para a sociedade.
De acordo com o white paper da Microsoft, os criminosos estão cada vez mais usando o poder da IA generativa para cometer más ações. Esses comportamentos cruéis incluem o uso de informações falsas geradas pela IA para cometer fraude, criar materiais de abuso sexual infantil, manipulação eleitoral por meio de técnicas de falsificação profunda e criar imagens íntimas involuntárias que são especialmente direcionadas às mulheres. "Nunca podemos esquecer que o abuso de IA tem um impacto profundo nas pessoas reais", disse Hugh Millward, vice -presidente de assuntos externos da Microsoft.
O white paper tem como alvo especificamente os formuladores de políticas no Reino Unido e propõe um conjunto abrangente de soluções com base em seis elementos principais para resolver as questões acima. Esses seis elementos incluem: uma forte arquitetura de segurança, uma fonte permanente de mídia e ferramentas de marca d'água, leis modernas para proteger o público, forte colaboração entre a indústria e o governo e a sociedade civil, a proteção de abuso de serviços e a educação pública.
Em uma recomendação específica para os formuladores de políticas do Reino Unido, a Microsoft chama os provedores de sistemas de IA para informar os usuários de que o conteúdo é gerado pela IA quando eles interagem com os sistemas de IA. Além disso, a Microsoft recomenda a implementação de ferramentas avançadas de marcação de origem para marcar o conteúdo sintético, e o governo deve dar um exemplo, verificando a autenticidade de seu conteúdo de mídia. A Microsoft também enfatizou a necessidade de novas leis para proibir a fraude por meio de ferramentas de IA para proteger a justiça das eleições. Ao mesmo tempo, a estrutura legal para proteger crianças e mulheres da exploração on -line também deve ser fortalecida, incluindo a criminalização da produção de falsificação profunda sexual.
A Microsoft também apontou que é importante armazenar tecnologias de metadados que indicam se a mídia é gerada pela IA. Projetos semelhantes foram pressionados por empresas como a Adobe, que visam ajudar as pessoas a identificar a fonte de imagens. No entanto, a Microsoft acredita que padrões como "vouchers de conteúdo" exigem medidas políticas e conscientização do público para funcionar.
Além disso, a Microsoft fez parceria com organizações como o StopNCii.org para desenvolver ferramentas para detectar e remover imagens abusadas. As vítimas podem defender seus direitos através do portal de relatórios centrais da Microsoft. O serviço "Take It Down", fornecido pelo Centro Nacional de Crianças ausentes e exploradas, também fornece suporte adicional. "O problema do abuso de IA pode ser de longo prazo, por isso precisamos redobrar nossos esforços para colaborar de forma criativa com empresas de tecnologia, parceiros filantrópicos, sociedade civil e governo para resolver essa questão. Não podemos lutar sozinhos", disse Millward.
Pontos -chave:
A Microsoft lançou um white paper que revela as muitas maneiras pelas quais a IA generativa é usada maliciosamente, incluindo golpes e manipulação das eleições.
Em resposta aos formuladores de políticas britânicas, a Microsoft propôs soluções para seis elementos principais, pedindo proteção abrangente da lei e da tecnologia.
Enfatizando a importância de trabalhar com todas as partes, a Microsoft exige um esforço conjunto para enfrentar os desafios representados pelo abuso de IA.
Em suma, o white paper da Microsoft fornece uma referência importante para responder a aplicações maliciosas da IA generativa, enfatiza o papel abrangente da tecnologia, direito e cooperação social e exige esforços conjuntos globais para impedir o abuso da tecnologia de IA e manter a segurança social e a estabilidade .