Le développement rapide de la technologie de l'intelligence artificielle a apporté des opportunités sans précédent pour les entreprises, mais elle a également apporté de nouveaux risques et défis. La montée en puissance de l'IA générative a attiré une attention particulière sur ses risques potentiels de sécurité. Cet article analysera les derniers rapports de risques publiés pour explorer les difficultés rencontrées par les entreprises dans le traitement des risques génératifs de l'IA et comment prendre des mesures efficaces pour assurer leur propre sécurité et conformité.
Ces dernières années, le développement rapide de l'intelligence artificielle (IA) a apporté de nombreuses opportunités pour les entreprises, mais en même temps, ses menaces potentielles deviennent de plus en plus apparentes. Selon le dernier "rapport de risque de risque de nouvelle génération" de 2024, l'enquête montre que jusqu'à 80% des sociétés interrogées n'ont pas encore formulé de plans de réponse spéciaux pour les risques génératifs de l'IA, y compris les risques de sécurité tels que la fraude en ligne dirigée par l'IA.
L'enquête a été menée par Risk Connect, une société de logiciels de gestion des risques et les répondants comprenaient 218 professionnels mondiaux des risques et de la résilience. Les résultats montrent que 24% des répondants estiment que les menaces de cybersécurité axées sur l'IA telles que les ransomwares, le phishing et la contrefaçon profonde auront un impact significatif sur les entreprises au cours des 12 prochains mois. Parallèlement, 72% des répondants ont déclaré que les risques de cybersécurité avaient eu un impact significatif ou grave sur leurs organisations, une augmentation de 47% des données de l’année dernière.
Alors que les préoccupations concernant l'éthique de l'IA, la vie privée et la sécurité s'intensifie, le rapport a souligné que bien que les préoccupations des entreprises concernant l'IA ont augmenté, elles n'ont pas suivi dans le temps des stratégies de gestion des risques, et il existe encore de nombreuses lacunes clés. Par exemple, 65% des entreprises n'ont pas de politiques d'utilisation de l'IA générative dans les partenaires et les fournisseurs, bien que des tiers soient des canaux d'intrusion communs pour les cyber-escrocs.
Les menaces internes ne devraient pas être sous-estimées. Prenant l'exemple de l'utilisation de l'IA génératrice pour produire du contenu marketing, l'expert en marketing Anthony Miyazaki rappelle que bien que Generative AI fonctionne bien dans l'écriture de textes, la copie finale doit encore être édité manuellement pour assurer sa persuasion et sa précision. De plus, le fait de s'appuyer sur l'IA pour générer du contenu du site Web peut également conduire à des effets négatifs. Optimisation du moteur (SEO).
Pour relever ces défis, les entreprises doivent assurer une couverture complète des politiques internes, assurer la sécurité des données sensibles et respecter les réglementations pertinentes. John Skimoni, directeur de la sécurité de Del Technology, a déclaré avoir formulé des principes avant le boom de l'IA génératif pour garantir que les demandes de l'IA sont justes, transparentes et responsables.
Chez Empathy First Media, le vice-président Ryan Doser a également souligné les mesures strictes prises par l'entreprise pour utiliser l'IA par les employés, notamment en interdisant la contribution des données sensibles aux clients dans des outils générateurs d'IA, nécessitant un examen manuel du contenu généré par l'IA, etc. Ces mesures sont conçues pour augmenter la transparence et renforcer la confiance des clients.
Points clés:
80% des entreprises n'ont pas élaboré de plans spécialisés pour les risques génératifs de l'IA et sont confrontés à des risques de sécurité potentiels.
72% des entreprises estiment que les risques de cybersécurité ont eu un impact significatif sur elles et appellent à une gestion des risques améliorée.
Les entreprises devraient prendre des mesures positives pour assurer la sécurité et la conformité des demandes d'IA et éviter les menaces internes et externes.
Pour résumer, les entreprises doivent réagir activement aux risques de sécurité apportés par une IA générative, à formuler des stratégies complètes de gestion des risques et à renforcer les contrôles de sécurité intérieure afin de maintenir la compétitivité à l'ère IA et de continuer à se développer sainement. Ignorer les risques d'IA entraînera probablement de graves accidents de sécurité et des pertes économiques.