오늘날 AI 기술의 급속한 발전으로 인해 실제 사용자와 인공지능 시뮬레이션을 어떻게 구별할 것인가가 중요한 문제로 대두되고 있습니다. 최근 '딸기형님' 사건이 큰 관심을 끌면서 온라인 신원확인의 필요성이 부각됐다. 이번 사건에서는 @iruletheworldmo라는 AI 계정이 MultiOn의 창립자에 의해 폭로될 때까지 자신을 인간으로 위장하는 데 성공했습니다. 이로 인해 OpenAI, Microsoft, MIT를 포함한 25개 기관의 학자들이 온라인 신원 확인 문제를 해결하기 위해 "Personality Credentials"(PHC) 개념을 제안했습니다.
오늘날 AI 에이전트가 인터넷에 도처에 존재하는 상황에서는 참과 거짓을 어떻게 구별하는 것이 어려운 문제가 되었습니다. 최근 @iruletheworldmo라는 이름의 AI '내부고발자'가 인터넷에서 난리를 일으켰습니다. 그는 AI 스타트업 멀티온(MultiOn)의 창업자에게 폭로되기 전까지 네트워크 전체를 '딸기형님'으로 속였습니다.
이 사건을 계기로 사람들은 온라인 세상에서 '나는 나다'를 어떻게 증명할 수 있을지 고민하게 됐다. 이 문제를 해결하기 위해 OpenAI, 마이크로소프트, MIT, UCB 등 25개 기관의 학자들은 'PHC(Personhood Credentials)'라는 새로운 기술을 제안했습니다. 이 기술은 개인정보를 노출하지 않고도 사용자가 AI가 아닌 실제 사람임을 증명할 수 있다.
"인적증명서"란 무엇입니까?
"개인 자격 증명"은 실제 검증과 보안 암호화를 결합한 디지털 자격 증명입니다. 이 자격 증명을 통해 사용자는 개인 정보를 공개하지 않고도 AI가 아닌 실제 사람임을 온라인 서비스에 증명할 수 있습니다.
기술 원리
"개인 자격 증명"의 구현은 실제 검증과 암호화 기술이라는 두 가지 핵심 요소에 의존합니다. AI 기술이 어떻게 발전하더라도 이 두 가지 점은 위조될 수 없습니다. 사용자는 정부 등 신뢰할 수 있는 기관과 관계를 맺고, 오프라인 참여를 통해 자격 증명을 획득하고, 신원 정보를 노출하지 않고 영지식 증명을 통해 신원 확인을 완료해야 합니다.
이 기술은 광범위한 응용 가능성을 가지고 있으며 온라인 콘텐츠를 필터링하고, 정보 수신에 대한 신뢰 수준을 결정하고, 심지어 온라인 쇼핑이나 거래 협상과 같은 시나리오에서 상대방이 인간 존재인지 확인하는 데 사용될 수 있습니다.
그러나 "개인 자격 증명"을 구현하는 데에는 공정한 접근, 표현의 자유, 권한 확인, 공격 및 오류에 대한 견고성 등 여러 가지 문제가 있습니다. 이 기술이 실생활에서 공정하고 안전하게 사용될 수 있도록 하려면 정부, 정책 입안자, 지도자, 연구자가 함께 협력하여 다양한 구현 방향을 연구하고 올바른 정책과 규칙을 수립해야 합니다.
참조: https://x.com/sjgadler/status/1824245211322568903
"개인 자격 증명" 기술은 온라인 신원 확인 문제를 해결하기 위한 새로운 아이디어를 제공하지만 구현에는 여전히 많은 과제를 극복해야 합니다. 앞으로 개인의 프라이버시를 보호하면서 어떻게 인간과 AI를 효과적으로 구별할 수 있을지는 지속적인 탐구가 필요한 중요한 주제가 될 것이다.