Недавно программисты были одобрены программистами, но их безопасность вызвала опасения. Исследование Стэнфордского университета показывает, что использование помощников по программированию ИИ может сократить безопасность кода и даже привести к неправильному суждению программистов в отношении безопасности кода. Исследование проверило 47 программистов, и результаты показали, что программисты, использующие помощников по искусственному искусству, писали значительно меньше безопасности, чем программисты, которые не использовали помощников искусственного интеллекта.
В последнее время помощники по программированию ИИ стали очень популярными, утверждая, что смогут помочь программистам написать код и повысить эффективность. Многие программисты даже рассматривают это как «Спаситель» и хотят, чтобы они могли держать его и писать код каждый день. Тем не менее, исследование в Стэнфордском университете выложило холодную воду на этих «фанатов фанатов»: помощники по программированию ИИ могут быть «кошмаром безопасности»!
Исследователи из Стэнфордского университета нашли 47 программистов для выполнения пяти связанных с безопасностью задач по программированию, охватывающих три языка: Python, JavaScript и C. Оказалось, что программисты, которые написали код с помощниками искусственного интеллекта, имели значительно худшую безопасность кода!
Это не паникер. Помощник по программированию ИИ похож на «ненадежный стажер». Например, в задаче шифрования и дешифрования, хотя код, сгенерированный помощником ИИ, может правильно шифровать информацию, он не возвращает необходимую тег аутентификации. который значительно снижает
Что еще более серьезно, так это то, что программисты, которые используют помощников искусственного интеллекта, с большей вероятностью считают, что код, который они пишут, очень безопасен, что все равно, что принять «побег лекарства» и закрывать глаза на уязвимости безопасности в коде. Это не очень хорошая вещь, и самоуверенность часто может привести к более серьезным проблемам безопасности.
Исследователи также обнаружили, что программисты подсказок дают помощникам искусственного интеллекта для безопасности кода, непосредственно влияя на безопасность кода. Если программисты могут четко описать задачу и предоставить некоторые вспомогательные функции, код, написанный помощником ИИ, будет более безопасным. Но если программисты слепо полагаются на помощников ИИ и даже используют код, генерируемый помощниками искусственного интеллекта, он эквивалентен копированию и вставке «уязвимости безопасности» в свой собственный код, и результат можно представить.
Итак, можно ли использовать помощник по программированию ИИ?
Ответ: его можно использовать, но будьте осторожны! При использовании помощников искусственного интеллекта программисты всегда должны быть бдительными, тщательно проверяйте код, чтобы избежать уязвимостей безопасности.
Бумажный адрес: https://arxiv.org/pdf/2211.03622
Короче говоря, помощники по программированию ИИ не являются всемогущими. Чрезмерная зависимость от помощников искусственного интеллекта может представлять серьезные риски безопасности, поэтому обзор кода и осведомленность о безопасности все еще важны.