Aujourd’hui, avec le développement rapide de la technologie de l’IA, la manière de distinguer les utilisateurs réels des simulations d’intelligence artificielle est devenue une question importante. Récemment, l'incident du « Strawberry Brother » a attiré une large attention, soulignant le besoin urgent d'une vérification d'identité en ligne. Lors de cet incident, un compte d'IA nommé @iruletheworldmo a réussi à se déguiser en humain jusqu'à ce qu'il soit exposé par le fondateur de MultiOn. Cela a incité des chercheurs de 25 institutions, dont OpenAI, Microsoft et MIT, à proposer le concept de « Personality Credentials » (PHC), visant à résoudre le problème de la vérification d'identité en ligne.
Aujourd’hui, alors que les agents IA sont omniprésents sur Internet, savoir distinguer le vrai du faux est devenu un problème difficile. Récemment, un "lanceur d'alerte" en matière d'IA nommé @iruletheworldmo a provoqué un tollé sur Internet. Il a trompé l'ensemble du réseau sous le nom de "Strawberry Brother" jusqu'à ce qu'il soit dénoncé par le fondateur de la startup d'IA MultiOn.
L'incident a incité les gens à réfléchir profondément à la manière de prouver « je suis moi » dans le monde en ligne. Afin de résoudre ce problème, des chercheurs de 25 institutions, dont OpenAI, Microsoft, MIT et UCB, ont proposé une nouvelle technologie appelée « Personhood Credentials (PHC) ». Cette technologie peut prouver que l’utilisateur est une personne réelle et non une IA sans révéler aucune information personnelle.
Qu'est-ce que le « certificat de personnalité » ?
Un « identifiant de personnalité » est un identifiant numérique qui combine une vérification réelle avec un cryptage sécurisé. Ces informations d'identification permettent aux utilisateurs de prouver aux services en ligne qu'ils sont une personne réelle et non une IA sans divulguer aucune information personnelle.
Principes techniques
La mise en œuvre des « identifiants de personnalité » repose sur deux éléments clés : la technologie de vérification et de cryptage dans le monde réel. Quelle que soit l’évolution de la technologie de l’IA, ces deux points ne peuvent être falsifiés. Les utilisateurs doivent entretenir une relation avec une institution de confiance telle que le gouvernement, obtenir des informations d'identification grâce à une participation hors ligne et effectuer une vérification d'identité grâce à une preuve sans connaissance sans révéler d'informations d'identité.
Cette technologie a de larges perspectives d'application et peut être utilisée pour filtrer le contenu en ligne, déterminer le niveau de confiance dans la réception d'informations et même garantir que l'autre partie est une entité humaine dans des scénarios tels que les achats en ligne ou la négociation de transactions.
Cependant, la mise en œuvre des « identifiants de personnalité » se heurte également à plusieurs défis, notamment un accès équitable, la liberté d’expression, les contrôles d’autorité et la robustesse contre les attaques et les erreurs. Pour garantir que cette technologie puisse être utilisée dans la vie réelle de manière équitable et sûre, les gouvernements, les décideurs politiques, les dirigeants et les chercheurs doivent travailler ensemble pour étudier différentes orientations de mise en œuvre et formuler les politiques et règles appropriées.
Référence : https://x.com/sjgadler/status/1824245211322568903
La technologie des « informations d'identification de personnalité » fournit de nouvelles idées pour résoudre les problèmes de vérification d'identité en ligne, mais sa mise en œuvre doit encore surmonter de nombreux défis. À l’avenir, la manière de distinguer efficacement les humains de l’IA tout en protégeant la vie privée sera un sujet important qui nécessitera une exploration continue.