최근 몇 년 동안 AI 프로그래밍 도우미는 효율성을 향상시킬 수 있는 잠재력으로 인해 빠르게 인기를 얻었으며 많은 프로그래머에게 강력한 도구가 되었습니다. 그러나 스탠포드 대학교의 최근 연구에서는 AI 프로그래밍 보조자의 잠재적 위험이 밝혀졌습니다. 이 연구는 AI 지원 프로그래밍의 안전성에 대한 우려를 불러일으켰고 우리가 AI 도구에 맹목적으로 의존할 수 없다는 점을 상기시켜 주었습니다. Downcodes의 편집자는 귀하에게 이 연구의 결과와 결론에 대한 심층적인 이해를 제공할 것입니다.
최근에는 프로그래머가 코드를 작성하고 효율성을 향상시키는 데 도움을 줄 수 있다고 주장하면서 AI 프로그래밍 도우미가 큰 인기를 끌었습니다. 많은 프로그래머들은 이를 "구세주"로 여기며 매일 이를 사용하여 코드를 작성하고 싶어합니다. 그러나 스탠포드 대학의 연구에서는 이러한 "열성적인 팬"에게 찬물을 끼얹었습니다. AI 프로그래밍 보조자는 "보안 악몽"일 수 있습니다!
스탠포드 대학의 연구원들은 47명의 프로그래머에게 Python, JavaScript, C의 세 가지 언어를 다루는 다섯 가지 보안 관련 프로그래밍 작업을 완료하도록 요청했습니다. AI 보조자를 사용하여 코드를 작성한 프로그래머는 훨씬 덜 안전한 코드를 작성한 것으로 나타났습니다!
이것은 경각심이 아닙니다. AI 프로그래밍 도우미는 '신뢰할 수 없는 인턴'과 같습니다. 겉으로는 올바른 코드를 작성할 수 있지만 보안 문제에 대해서는 전혀 모릅니다. 예를 들어 암호화 및 복호화 작업에서 AI 도우미가 생성한 코드는 정보를 올바르게 암호화할 수 있지만 필요한 인증 태그를 반환하지 않습니다. 이는 금고에 잠금 장치를 설치했지만 키를 제공하지 않는 것과 같습니다. , 이는 보안을 크게 저하시킵니다.
더 나쁜 것은 AI 비서를 사용하는 프로그래머가 자신이 작성한 코드가 매우 안전하다고 느낄 가능성이 높다는 점입니다. 이는 마치 "엑스터시"를 취하고 코드의 보안 취약점을 무시하는 것과 같습니다. 이는 좋은 일이 아니며, 과신은 종종 더 심각한 보안 문제로 이어집니다.
연구원들은 또한 프로그래머가 AI 비서에게 제공하는 팁이 코드 보안에 직접적인 영향을 미친다는 사실을 발견했습니다. 프로그래머가 작업을 명확하게 설명하고 일부 보조 기능을 제공할 수 있다면 AI 도우미가 작성한 코드가 더 안전해질 것입니다. 하지만 프로그래머가 맹목적으로 AI 비서에 의존하거나 심지어 AI 비서가 생성한 코드를 직접 사용한다면 이는 '보안 취약점'을 자신의 코드에 복사해 붙여넣는 것과 같으며 그 결과는 상상할 수 있다.
그렇다면 AI 프로그래밍 도우미를 사용할 수 있을까요?
대답은 다음과 같습니다. 사용할 수 있지만 프로그래머는 이를 맹목적으로 신뢰하는 것은 물론 "만병 통치약"으로 간주할 수 없습니다. AI 비서를 사용할 때 프로그래머는 보안 취약점을 피하기 위해 항상 경계하고 주의 깊게 코드를 확인해야 합니다.
논문 주소: https://arxiv.org/pdf/2211.03622
전체적으로 AI 프로그래밍 도우미는 양날의 검입니다. 효율성을 향상시킬 수 있지만 보안 위험도 가져올 수 있습니다. 프로그래머는 이점을 극대화하고 위험을 피하기 위해 주의해서 사용하고, 항상 경계하고, 과도한 의존을 피해야 합니다. Downcodes 편집기는 보안 코딩이 항상 최우선임을 상기시켜줍니다!