最近、AIプログラミングアシスタントはプログラマーに好まれていますが、セキュリティは懸念を引き起こしています。 Stanford Universityの調査では、AIプログラミングアシスタントを使用すると、コードセキュリティを減らし、プログラマーのコードセキュリティの誤判断につながる可能性があることが示されています。この調査では、47人のプログラマーをテストし、AIアシスタントを使用しているプログラマーは、AIアシスタントを使用しなかったプログラマーよりもセキュリティが大幅に少ないことが示されました。
最近、AIプログラミングアシスタントは非常に人気があり、プログラマーがコードを作成し、効率を向上させるのを支援できると主張しています。多くのプログラマーはそれを「救世主」と見なしており、毎日それを保持してコードを書くことができることを望んでいます。しかし、スタンフォード大学での研究では、これらの「ファナシーファン」に冷たい水を注ぎました。AIプログラミングアシスタントは「安全の悪夢」かもしれません！
スタンフォード大学の研究者は、Python、JavaScript、C。の3つの言語をカバーする5つのセキュリティ関連プログラミングタスクを完了するために47人のプログラマーを発見しました。 AIアシスタントとコードを書いたプログラマーは、コードセキュリティが大幅に悪化していることが判明しました。
これは警戒師ではありません。 AIプログラミングアシスタントは、「信頼できないインターン」のようなものです。たとえば、暗号化と復号化タスクでは、AIアシスタントによって生成されたコードは情報を正しく暗号化できますが、これは必要な認証タグを返すことはできません。これはセキュリティを大幅に減らします。
さらに深刻なことは、AIアシスタントを使用するプログラマーは、書くコードが非常に安全であると感じる可能性が高いということです。これは、「脱出」を服用し、コードのセキュリティの脆弱性に目をつぶるようなものです。これは良いことではなく、自信過剰がより深刻な安全上の問題につながる可能性があります。
また、研究者は、プロンプトプログラマーがコードのセキュリティにAIアシスタントに直接コードのセキュリティに影響を与えることを発見しました。プログラマーがタスクを明確に説明し、いくつかのヘルパー機能を提供できる場合、AIアシスタントが記述したコードの方が安全になります。しかし、プログラマーがAIアシスタントに盲目的に依存し、AIアシスタントによって生成されたコードを直接使用する場合、「セキュリティの脆弱性」を独自のコードにコピーして貼り付けることに相当し、結果を想像できます。
それで、AIプログラミングアシスタントを使用できますか？
答えは次のとおりですが、プログラマーはそれを「パナセア」と見なすことはできません。 AIアシスタントを使用する場合、プログラマーは常に警戒し、セキュリティの脆弱性を避けるためにコードを注意深く確認する必要があります。
紙の住所：https：//arxiv.org/pdf/2211.03622
要するに、AIプログラミングアシスタントは全能ではありません。 AIアシスタントへの過度の依存は、深刻なセキュリティリスクをもたらす可能性があるため、コードレビューとセキュリティ認識が依然として重要です。