Hoje, com o rápido desenvolvimento da tecnologia de IA, como distinguir utilizadores reais de simulações de inteligência artificial tornou-se uma questão importante. Recentemente, o incidente do “Strawberry Brother” atraiu atenção generalizada, destacando a necessidade urgente de verificação de identidade online. Neste incidente, uma conta de IA chamada @iruletheworldmo disfarçou-se com sucesso como um humano até ser exposta pelo fundador da MultiOn. Isto levou académicos de 25 instituições, incluindo OpenAI, Microsoft e MIT, a propor o conceito de "Credenciais de Personalidade" (PHC), com o objetivo de resolver o problema da verificação de identidade online.
Hoje, quando os agentes de IA estão por toda a Internet, como distinguir entre o verdadeiro e o falso tornou-se um problema difícil. Recentemente, um "denunciante" de IA chamado @iruletheworldmo causou alvoroço na Internet. Ele enganou toda a rede como "Strawberry Brother" até ser denunciado pelo fundador da startup de IA MultiOn.
O incidente levou as pessoas a pensar profundamente sobre como provar “eu sou eu” no mundo online. Para resolver este problema, estudiosos de 25 instituições, incluindo OpenAI, Microsoft, MIT e UCB, propuseram uma nova tecnologia chamada "Personhood Credentials (PHC)". Esta tecnologia pode provar que o utilizador é uma pessoa real e não uma IA sem revelar qualquer informação pessoal.
O que é “certificado de personalidade”?
Uma “credencial de personalidade” é uma credencial digital que combina verificação do mundo real com criptografia segura. Essa credencial permite que os usuários provem aos serviços online que são uma pessoa real e não uma IA, sem divulgar qualquer informação pessoal.
Princípios técnicos
A implementação de “credenciais de personalidade” depende de dois elementos principais: verificação no mundo real e tecnologia de criptografia. Não importa como a tecnologia de IA se desenvolva, estes dois pontos não podem ser falsificados. Os usuários precisam ter um relacionamento com uma instituição confiável, como o governo, obter credenciais por meio da participação off-line e concluir a verificação de identidade por meio de prova de conhecimento zero, sem revelar informações de identidade.
Esta tecnologia tem amplas perspectivas de aplicação e pode ser usada para filtrar conteúdo online, determinar o nível de confiança no recebimento de informações e até mesmo garantir que a outra parte seja uma entidade humana em cenários como compras online ou negociação de transações.
No entanto, a implementação de “credenciais de personalidade” também enfrenta vários desafios, incluindo acesso justo, liberdade de expressão, verificações de autoridade e robustez contra ataques e erros. Para garantir que esta tecnologia possa ser utilizada na vida real de forma justa e segura, os governos, os decisores políticos, os líderes e os investigadores precisam de trabalhar em conjunto para estudar diferentes direções de implementação e formular as políticas e regras corretas.
Referência: https://x.com/sjgadler/status/1824245211322568903
A tecnologia de “credencial de personalidade” fornece novas ideias para resolver problemas de verificação de identidade online, mas sua implementação ainda precisa superar muitos desafios. No futuro, como distinguir eficazmente entre humanos e IA e, ao mesmo tempo, proteger a privacidade pessoal será um tópico importante que exigirá exploração contínua.