Diante da tecnologia de IA cada vez mais sofisticada, como distinguir efetivamente as pessoas reais dos robôs de IA tornou -se um problema urgente a ser resolvido. As limitações dos códigos de verificação tradicionais (CAPTCHA) estão se tornando cada vez mais aparentes e, por esse motivo, os pesquisadores propuseram um novo sistema de verificação chamado "credenciais de identidade humana" (PHC). O sistema foi proposto por uma equipe de cientistas da Ivy League e empresas de tecnologia conhecidas para usar a tecnologia de criptografia para verificar a identidade do usuário, proteger a privacidade do usuário e substituir as tecnologias CAPTCHA e biométricas existentes. No entanto, esse sistema também enfrenta possíveis desafios e riscos, como uso indevido de credenciais e concentração de poder, que exigem consideração cuidadosa e mais pesquisas.
Recentemente, com o rápido desenvolvimento da tecnologia de inteligência artificial, os pesquisadores propuseram uma idéia convincente: para confirmar melhor que os usuários on -line são pessoas reais, em vez de robôs de IA, "credencial pessoal" devem ser usados. A equipe de pesquisa inclui cientistas da Ivy League e Openai, Microsoft e outras empresas, que propuseram o conceito em um artigo revisado por pares.
Eles temem que, à medida que a IA se torne mais popular, atores maliciosos usem as poderosas capacidades da IA para instilar uma grande quantidade de conteúdo não humano na rede. Agora, a IA pode gerar conteúdo "semelhante ao humano" e até se disfarçar de seres humanos reais para atividades on-line, o que faz com que os métodos tradicionais de verificação como Captcha pareçam cada vez mais ineficazes. Portanto, a idéia de sistemas de PHC começou a ganhar popularidade. Os pesquisadores prevêem que os governos ou outros serviços digitais possam emitir uma credencial de identidade exclusiva para cada usuário, e os usuários podem verificar se são pessoas reais por meio de uma tecnologia de criptografia chamada "zero prova de conhecimento" sem revelar informações específicas.
As credenciais são armazenadas digitalmente pelo usuário em seu dispositivo pessoal, protegendo assim o anonimato on -line do usuário até certo ponto. Esse sistema pode não apenas substituir as tecnologias CAPTCHA e biométricas existentes, mas pode até melhorar a eficácia da verificação humana. No entanto, os pesquisadores também perceberam que o sistema PHC não deixa de ter suas falhas. Por exemplo, muitas pessoas podem vender seus PHCs a spammers de IA, que por sua vez podem contribuir para a inundação de conteúdo de spam on -line. Ao mesmo tempo, a centralização das instituições emissoras de certificados também é preocupante, o que pode levar a um poder excessivamente forte, concentrado nas mãos de algumas empresas.
Além disso, para alguns usuários que não são muito proficientes na Internet, como os idosos, o sistema de credenciais pode causar obstáculos em uso. Portanto, os pesquisadores sugerem que o governo deve considerar testar a viabilidade da PHC por meio de projetos piloto. Mas o problema é que, sem dúvida, os sistemas de PHC colocarão novos encargos digitais nos usuários, e a causa raiz desses problemas está nas empresas de tecnologia. Os pesquisadores apontam que as empresas de tecnologia devem assumir a responsabilidade de resolver problemas, como marcar o conteúdo gerado pela IA ou o desenvolvimento de tecnologias que podem identificar o conteúdo gerado pela IA. Embora essas medidas não sejam infalíveis, elas pelo menos retornam a responsabilidade à fonte da tecnologia.
Pontos -chave:
Os pesquisadores propuseram um sistema de "credenciais de identidade humana", projetado para substituir a verificação tradicional do Captcha para confirmar que os usuários on -line são pessoas reais.
Os sistemas de PHC usam a tecnologia de criptografia para proteger a privacidade do usuário, mas podem levar a abuso de credenciais e centralização do poder.
As empresas de tecnologia precisam ser responsáveis pelos problemas causados pela IA e considerar a marca d'água e identificar o conteúdo gerado pela IA.
Em suma, a proposta do sistema PHC fornece uma nova idéia para resolver o problema da verificação de identidade on -line, mas sua viabilidade e segurança ainda precisam de consideração e melhoria mais. As empresas de tecnologia precisam assumir ativamente a responsabilidade e explorar em conjunto soluções mais seguras e convenientes para enfrentar os desafios apresentados pela tecnologia de inteligência artificial. No futuro, as perspectivas de aplicativos dos sistemas de PHC valem a pena ansiar, mas, ao mesmo tempo, precisa ser cuidadosamente promovido para evitar riscos potenciais.