Nos últimos anos, os assistentes de programação de IA tornaram-se rapidamente populares devido ao seu potencial para melhorar a eficiência e tornaram-se uma ferramenta poderosa para muitos programadores. No entanto, um estudo recente da Universidade de Stanford revelou os riscos potenciais dos assistentes de programação de IA. Esta investigação levantou preocupações sobre a segurança da programação assistida por IA e lembrou-nos que não podemos confiar cegamente em ferramentas de IA. O editor de Downcodes lhe dará uma compreensão aprofundada das descobertas e conclusões deste estudo.
Recentemente, os assistentes de programação de IA tornaram-se muito populares, alegando ser capazes de ajudar os programadores a escrever código e melhorar a eficiência. Muitos programadores até o consideram um “salvador” e mal podem esperar para escrever código com ele todos os dias. No entanto, um estudo da Universidade de Stanford despejou água fria sobre esses “fãs entusiasmados”: assistentes de programação de IA podem ser um “pesadelo de segurança”!
Pesquisadores da Universidade de Stanford pediram a 47 programadores que completassem cinco tarefas de programação relacionadas à segurança, abrangendo três linguagens: Python, JavaScript e C. Descobriu-se que os programadores que usaram assistentes de IA para escrever código escreveram códigos significativamente menos seguros!
Isto não é alarmista. O assistente de programação de IA é como um “estagiário não confiável”. Embora possa escrever alguns códigos aparentemente corretos, ele não sabe nada sobre questões de segurança. Por exemplo, na tarefa de criptografia e descriptografia, embora o código gerado pelo assistente de IA possa criptografar corretamente as informações, ele não retorna a etiqueta de autenticação necessária. Isso equivale a instalar uma fechadura no cofre, mas não fornecer a chave. , o que reduz bastante a segurança.
O que é ainda pior é que os programadores que usam assistentes de IA têm maior probabilidade de sentir que o código que escrevem é muito seguro. É como tomar "êxtase" e fechar os olhos às vulnerabilidades de segurança do código. Isso não é bom, e o excesso de confiança geralmente leva a problemas de segurança mais sérios.
Os pesquisadores também descobriram que as dicas que os programadores dão aos assistentes de IA afetarão diretamente a segurança do código. Se o programador puder descrever a tarefa com clareza e fornecer algumas funções auxiliares, o código escrito pelo assistente de IA será mais seguro. Mas se os programadores confiarem cegamente nos assistentes de IA, ou mesmo usarem o código gerado diretamente pelos assistentes de IA, isso equivale a copiar e colar "vulnerabilidades de segurança" em seu próprio código, e os resultados podem ser imaginados.
Então, o assistente de programação de IA pode ser usado?
A resposta é: Pode ser usado, mas tenha cuidado! Os programadores não podem considerá-lo uma “panaceia”, muito menos confiar cegamente nele. Ao usar assistentes de IA, os programadores devem estar sempre vigilantes e verificar o código cuidadosamente para evitar vulnerabilidades de segurança.
Endereço do artigo: https://arxiv.org/pdf/2211.03622
Em suma, o assistente de programação de IA é uma faca de dois gumes. Pode melhorar a eficiência, mas também pode trazer riscos à segurança. Os programadores devem usá-lo com cautela, permanecer sempre vigilantes e evitar o excesso de confiança, a fim de maximizar as suas vantagens e evitar os seus riscos. O editor de Downcodes lembra que a codificação segura sempre vem em primeiro lugar!