Le dernier rapport de Gartner indique que l’IA est devenue le plus grand risque de cybersécurité auquel les entreprises sont confrontées pendant trois trimestres consécutifs, et 80 % des dirigeants interrogés en sont profondément préoccupés. L'éditeur de Downcodes interprétera le contenu du rapport pour vous, analysera la manière dont l'IA est utilisée dans les cyberattaques et comment les entreprises devraient répondre à ce défi de plus en plus grave. Cet article se penchera sur l'application de l'IA dans l'écriture de logiciels malveillants, la production d'e-mails de phishing et les attaques par déni de service distribué, et analysera les dernières découvertes des entreprises de sécurité et des instituts de recherche.
Selon le dernier rapport publié par Gartner, l'utilisation de l'intelligence artificielle (IA) dans les cyberattaques est devenue le plus grand risque auquel les entreprises sont confrontées pendant trois trimestres consécutifs.
Le cabinet de conseil a interrogé 286 responsables du risque et de l'audit entre juillet et septembre et a constaté que 80 % des personnes interrogées ont exprimé de profondes inquiétudes face aux attaques malveillantes renforcées par l'IA. Cette tendance n’est pas surprenante, car il est évident que les cyberattaques utilisant l’IA sont en augmentation.
Remarque sur la source de l'image : l'image est générée par l'IA et le fournisseur de services d'autorisation d'image Midjourney
Parmi les autres risques émergents répertoriés dans le rapport figurent la désinformation assistée par l’IA, la polarisation politique croissante et la répartition inégale des talents organisationnels. Les attaquants utilisent l’IA pour rédiger des logiciels malveillants, créer des e-mails de phishing, etc. En prenant HP comme exemple, les chercheurs ont intercepté une campagne de courrier électronique diffusant des logiciels malveillants en juin et ont soupçonné que le script avait été écrit à l'aide de l'IA générative. Le script est clairement structuré et chaque commande est commentée, ce qui n'est pas courant dans l'écriture humaine.
Selon les données de la société de sécurité Vipre, au deuxième trimestre 2023, le nombre d'attaques frauduleuses par courrier électronique professionnel a augmenté de 20 % par rapport à la même période de l'année dernière, dont près de 50 % étaient générées par l'IA. Les PDG, le personnel RH et informatique sont devenus des cibles privilégiées. Usman Choudhary, directeur des produits et de la technologie chez Vipre, a déclaré que les criminels utilisent des algorithmes d'IA sophistiqués pour créer des e-mails de phishing convaincants qui imitent le ton et le style des communications légitimes.
De plus, selon un rapport d'Imperva Threat Research, les sites Web de vente au détail ont subi en moyenne 569 884 attaques basées sur l'IA par jour d'avril à septembre. Les chercheurs ont souligné que des outils tels que ChatGPT, Claude et Gemini, ainsi que des robots spécialisés dans l'exploration des données de sites Web pour former de grands modèles de langage, sont utilisés pour mener des activités telles que des attaques par déni de service distribué et des abus de logique métier.
Un nombre croissant de hackers éthiques admettent également utiliser l’IA générative, leur proportion passant à 77 % contre 64 % l’année dernière. L'IA peut aider dans les attaques multicanaux, les attaques par injection de fautes et les attaques automatisées qui attaquent plusieurs appareils simultanément, ont indiqué les chercheurs. De la même manière, si les « gentils » trouvent l’IA utile, les « méchants » profiteront également de la technologie.
L’essor de l’IA n’est pas surprenant, car elle a abaissé le seuil de la cybercriminalité, permettant aux criminels ayant des compétences techniques moindres d’utiliser l’IA pour générer des contrefaçons profondes, scanner les entrées du réseau, effectuer des reconnaissances, etc. Des chercheurs de l'EPF ont récemment développé un modèle capable de résoudre à 100 % le problème de Google reCAPTCHA v2. Les analystes de la société de sécurité Radware prévoyaient au début de l’année que l’émergence de modèles GPT privés serait utilisée à des fins malveillantes et que le nombre de vulnérabilités zero-day et d’escroqueries deepfake allait augmenter.
Gartner a également noté que pour la première fois, les problèmes critiques des fournisseurs informatiques figurent sur la liste d'attention des dirigeants. Zachary Ginsburg, directeur principal du secteur des risques et de l'audit chez Gartner, a déclaré que les clients qui dépendent fortement d'un seul fournisseur peuvent être confrontés à des risques plus élevés. Tout comme l'incident dStrike de juillet, qui a paralysé 8,5 millions d'appareils Windows dans le monde, il a eu un impact énorme sur les services d'urgence, les aéroports et les forces de l'ordre.
Dans l’ensemble, l’effet d’épée à double tranchant de la technologie de l’IA se reflète le plus clairement dans le domaine de la sécurité des réseaux. Les entreprises doivent prendre des mesures défensives de manière proactive, telles que le renforcement des formations en matière de sécurité, la mise en œuvre d’une authentification multifacteur et l’adoption d’une technologie avancée de détection des menaces, pour faire face efficacement aux cyberattaques basées sur l’IA. À l’avenir, il est crucial de continuer à prêter attention aux tendances de développement de la sécurité de l’IA et d’explorer activement des stratégies de réponse.