Недавно прорывное открытие в области исследований искусственного интеллекта привлекло широкое внимание. Благодаря инновационной технике, называемой «Поэтической атакой», исследователи успешно выявили источник учебных данных для модели CHATGPT Openai. Это открытие не только раскрывает потенциальную уязвимость безопасности в текущих крупных языковых моделях, но и звучит тревога для механизма защиты конфиденциальности систем ИИ.
Основная стратегия «поэтической атаки» состоит в том, чтобы побудить модель CHATGPT к утечке конфиденциальной информации, содержащейся в ее обучающих данных, повторяя конкретные слова или фразы. Что шокирует, так это то, что этот, казалось бы, простой метод атаки может успешно извлечь личные данные о конфиденциальности, включая номера телефонов, адреса электронной почты и т. Д. Обнаружение этой уязвимости подчеркивает уязвимость современных систем ИИ в безопасности данных.
Исследовательская группа официально проинформировала Openai об этой уязвимости безопасности 30 августа, но до сих пор Openai еще не ответила на это. Этот инцидент снова вызвал глубокое мышление отрасли о прозрачности и безопасности систем ИИ, а также побудило соответствующие учреждения повторно изучить процесс разработки и развертывания моделей ИИ.
В дополнение к проблемам безопасности, это исследование также подчеркивает экологические проблемы затрат в разработке технологии искусственного интеллекта. Исследователи отмечают, что энергия, потребляемая генеративными моделями ИИ при создании текста и изображений, удивительна, и эта модель высокоэнергетического потребления противоречит концепции устойчивого развития. Следовательно, при содействии развитию технологии ИИ, как достичь более экологически чистого способа использования ИИ, стало важной проблемой, которую необходимо срочно решить.
Это исследование не только показывает технические дефекты в современных системах ИИ, но и указывает на направление будущего развития отрасли искусственного интеллекта. Это напоминает нам, что, прорывая прорывы в технологии искусственного интеллекта, мы должны тщательно справиться с ключевыми вопросами, такими как защита конфиденциальности и потребление энергии. Только уравновешивая взаимосвязь между технологическими инновациями, конфиденциальностью и безопасностью и защитой окружающей среды, мы можем обеспечить, чтобы технология ИИ действительно принесла пользу человеческому обществу.