Hoy en día, con el rápido desarrollo de la tecnología de IA, cómo distinguir a los usuarios reales de las simulaciones de inteligencia artificial se ha convertido en una cuestión importante. Recientemente, el incidente del "Strawberry Brother" ha atraído una amplia atención, destacando la urgente necesidad de verificación de identidad en línea. En este incidente, una cuenta de IA llamada @iruletheworldmo se disfrazó exitosamente de humano hasta que fue expuesta por el fundador de MultiOn. Esto llevó a académicos de 25 instituciones, incluidas OpenAI, Microsoft y MIT, a proponer el concepto de "Credenciales de personalidad" (PHC), con el objetivo de resolver el problema de la verificación de identidad en línea.
Hoy en día, cuando los agentes de IA están en Internet, cómo distinguir entre verdadero y falso se ha convertido en un problema difícil. Recientemente, un "denunciante" de IA llamado @iruletheworldmo causó revuelo en Internet. Engañó a toda la red como "Strawberry Brother" hasta que fue expuesto por el fundador de la startup de IA MultiOn.
El incidente llevó a la gente a pensar profundamente sobre cómo demostrar "yo soy yo" en el mundo online. Para resolver este problema, académicos de 25 instituciones, incluidas OpenAI, Microsoft, MIT y UCB, han propuesto una nueva tecnología llamada "Credenciales de personalidad (PHC)". Esta tecnología puede demostrar que el usuario es una persona real y no una IA sin revelar ninguna información personal.
¿Qué es el "certificado de personalidad"?
Una "credencial de personalidad" es una credencial digital que combina la verificación del mundo real con un cifrado seguro. Esta credencial permite a los usuarios demostrar ante los servicios en línea que son una persona real y no una IA sin revelar ninguna información personal.
Principios técnicos
La implementación de "credenciales de personalidad" se basa en dos elementos clave: verificación en el mundo real y tecnología de cifrado. No importa cómo se desarrolle la tecnología de IA, estos dos puntos no se pueden falsificar. Los usuarios deben tener una relación con una institución confiable como el gobierno, obtener credenciales mediante la participación fuera de línea y completar la verificación de identidad mediante prueba de conocimiento cero sin revelar información de identidad.
Esta tecnología tiene amplias perspectivas de aplicación y puede usarse para filtrar contenido en línea, determinar el nivel de confianza al recibir información e incluso garantizar que la otra parte sea una entidad humana en escenarios como compras en línea o negociación de transacciones.
Sin embargo, la implementación de “credenciales de personalidad” también enfrenta varios desafíos, incluido el acceso justo, la libre expresión, los controles de autoridad y la solidez contra ataques y errores. Para garantizar que esta tecnología se pueda utilizar en la vida real de manera justa y segura, los gobiernos, los formuladores de políticas, los líderes y los investigadores deben trabajar juntos para estudiar diferentes direcciones de implementación y formular las políticas y reglas adecuadas.
Referencia: https://x.com/sjgadler/status/1824245211322568903
La tecnología de "credencial de personalidad" proporciona nuevas ideas para resolver problemas de verificación de identidad en línea, pero su implementación aún debe superar muchos desafíos. En el futuro, cómo distinguir eficazmente entre humanos e IA y al mismo tiempo proteger la privacidad personal será un tema importante que requerirá una exploración continua.