Сегодня, с быстрым развитием технологий искусственного интеллекта, важным вопросом стало то, как отличить реальных пользователей от симуляций искусственного интеллекта. Недавно инцидент с «Клубничным братом» привлек широкое внимание, подчеркнув острую необходимость онлайн-подтверждения личности. В этом инциденте аккаунт ИИ под названием @iruletheworldmo успешно замаскировался под человека, пока его не разоблачил основатель MultiOn. Это побудило ученых из 25 учреждений, включая OpenAI, Microsoft и MIT, предложить концепцию «личных учетных данных» (PHC), направленную на решение проблемы онлайн-проверки личности.
Сегодня, когда агенты ИИ разбросаны по всему Интернету, различить истину и ложь стало сложной проблемой. Недавно «разоблачитель» искусственного интеллекта по имени @iruletheworldmo вызвал бурю негодования в Интернете. Он обманул всю сеть под именем «Клубничный брат», пока его не разоблачил основатель AI-стартапа MultiOn.
Инцидент побудил людей глубоко задуматься о том, как доказать «я — это я» в онлайн-мире. Чтобы решить эту проблему, ученые из 25 учреждений, включая OpenAI, Microsoft, MIT и UCB, предложили новую технологию под названием «Personhood Credentials (PHC)». Эта технология может доказать, что пользователь является реальным человеком, а не искусственным интеллектом, не раскрывая при этом никакой личной информации.
Что такое «сертификат личности»?
«Личные учетные данные» — это цифровые учетные данные, которые сочетают в себе реальную проверку с безопасным шифрованием. Эти учетные данные позволяют пользователям доказать онлайн-сервисам, что они реальный человек, а не искусственный интеллект, не раскрывая никакой личной информации.
Технические принципы
Реализация «личных учетных данных» опирается на два ключевых элемента: реальную проверку и технологию шифрования. Независимо от того, как развиваются технологии искусственного интеллекта, эти два пункта невозможно подделать. Пользователям необходимо иметь отношения с доверенным учреждением, таким как правительство, получать учетные данные посредством автономного участия и проходить проверку личности с помощью доказательства с нулевым разглашением без раскрытия идентификационной информации.
Эта технология имеет широкие перспективы применения и может использоваться для фильтрации онлайн-контента, определения уровня доверия к получению информации и даже для обеспечения того, чтобы другая сторона была человеком в таких сценариях, как онлайн-покупки или переговоры по транзакциям.
Однако внедрение «личных данных» также сталкивается с рядом проблем, включая справедливый доступ, свободу выражения мнений, проверки полномочий и устойчивость к атакам и ошибкам. Чтобы гарантировать справедливое и безопасное использование этой технологии в реальной жизни, правительствам, политикам, лидерам и исследователям необходимо работать вместе, чтобы изучить различные направления внедрения и сформулировать правильную политику и правила.
Ссылка: https://x.com/sjgadler/status/1824245211322568903
Технология «личных учетных данных» предлагает новые идеи для решения проблем онлайн-проверки личности, но ее реализация все еще требует преодоления многих проблем. В будущем вопрос о том, как эффективно различать людей и ИИ, одновременно защищая личную конфиденциальность, станет важной темой, требующей дальнейшего изучения.