Ante la tecnología AI cada vez más sofisticada, cómo distinguir efectivamente a las personas reales de los robots de IA se ha convertido en un problema urgente para resolverse. Las limitaciones de los códigos de verificación tradicionales (CAPTCHA) se están volviendo cada vez más evidentes, y por esta razón, los investigadores han propuesto un nuevo sistema de verificación llamado "credenciales de identidad humana" (PHC). El sistema fue propuesto por un equipo de científicos de la Ivy League y las conocidas compañías de tecnología para usar la tecnología de cifrado para verificar la identidad del usuario, proteger la privacidad del usuario y reemplazar las tecnologías CAPTCHA y biométricas existentes. Sin embargo, este sistema también enfrenta posibles desafíos y riesgos, como el mal uso de las credenciales y la concentración de poder, que requieren una cuidadosa consideración y más investigación.
Recientemente, con el rápido desarrollo de la tecnología de inteligencia artificial, los investigadores han propuesto una idea convincente: confirmar mejor que los usuarios en línea son personas reales en lugar de robots de IA, se debe utilizar la "credencial de personalidad". El equipo de investigación incluye científicos de la Ivy League y OpenAi, Microsoft y otras compañías, que propusieron el concepto en un documento revisado por pares.
Temen que a medida que AI se vuelve más popular, los actores maliciosos usan las poderosas capacidades de la IA para inculcar una gran cantidad de contenido no humano en la red. La IA ahora puede generar contenido "humano" e incluso disfrazarse como humanos reales para las actividades en línea, lo que hace que los métodos de verificación tradicionales como Captcha parezcan cada vez más ineficaces. Por lo tanto, la idea de los sistemas PHC ha comenzado a ganar popularidad. Los investigadores imaginan que los gobiernos u otros servicios digitales podrían emitir una credencial de identidad única para cada usuario, y los usuarios pueden verificar que son personas reales a través de una tecnología de cifrado llamada "prueba de conocimiento cero" sin revelar información específica.
Las credenciales son almacenadas digitalmente por el usuario en su dispositivo personal, protegiendo así el anonimato en línea del usuario hasta cierto punto. Este sistema no solo puede reemplazar las tecnologías de captcha y biométricas existentes, sino que incluso puede mejorar la efectividad de la verificación humana. Sin embargo, los investigadores también se dieron cuenta de que el sistema PHC no está exento de defectos. Por ejemplo, muchas personas pueden vender sus PHC a Spammers de IA, lo que a su vez puede contribuir a la avalancha de contenido de spam en línea. Al mismo tiempo, la centralización de las instituciones emisoras de certificados también es preocupante, lo que puede conducir a un poder excesivamente fuerte concentrado en manos de algunas compañías.
Además, para algunos usuarios que no son muy competentes en Internet, como los ancianos, el sistema de credenciales puede causar obstáculos en uso. Por lo tanto, los investigadores sugieren que el gobierno debería considerar probar la viabilidad de PHC a través de proyectos piloto. Pero el problema es que los sistemas PHC indudablemente pondrán nuevas cargas digitales en los usuarios, y la causa raíz de estos problemas radica en las empresas tecnológicas. Los investigadores señalan que las empresas de tecnología deben asumir la responsabilidad de resolver problemas, como la marca de agua del contenido generado por la IA o el desarrollo de tecnologías que puedan identificar el contenido generado por la IA. Aunque tales medidas no son infalibles, al menos devuelven la responsabilidad a la fuente de tecnología.
Puntos clave:
Los investigadores propusieron un sistema de "credenciales de identidad humana", diseñado para reemplazar la verificación tradicional de Captcha para confirmar que los usuarios en línea son personas reales.
Los sistemas PHC utilizan la tecnología de cifrado para proteger la privacidad del usuario, pero pueden conducir al abuso de credenciales y a la centralización de la energía.
Las empresas de tecnología deben ser responsables de los problemas causados por la IA y considerar la marca de agua e identificar el contenido generado por la IA.
En resumen, la propuesta del sistema PHC proporciona una nueva idea para resolver el problema de la verificación de identidad en línea, pero su viabilidad y seguridad aún necesitan una mayor consideración y mejora. Las empresas de tecnología deben asumir activamente la responsabilidad y explorar conjuntamente soluciones más seguras y más convenientes para enfrentar los desafíos presentados por la tecnología de inteligencia artificial. En el futuro, vale la pena esperar las perspectivas de aplicación de los sistemas PHC, pero al mismo tiempo, debe promover cuidadosamente para evitar riesgos potenciales.