Les progrès des technologies d’intelligence artificielle (IA) ont eu un impact profond sur le monde des affaires, et la cybersécurité ne fait certainement pas exception. Avant la sortie des grands modèles linguistiques (LLM), les systèmes d’IA étaient souvent considérés comme des agents d’IA « étroits », capables d’effectuer des tâches bien définies et intégrés dans des outils de sécurité, tels que ceux pour les fonctionnalités d’authentification et de surveillance, qui sont les principaux domaines sur lesquels portent mes recherches. Les analystes en cybersécurité interagissent avec ces outils pour configurer les contrôles de sécurité et surveiller tout problème.
L’importance de l’analyste humain dans la conduite et la compréhension de ces outils renforce leur importance ; cependant, la complexité croissante (nouveaux produits et nouvelles vulnérabilités) des systèmes numériques signifie que leur temps et leur expertise peuvent être considérés comme d’une importance capitale pour maintenir une posture de sécurité solide. J’ai passé une grande partie de la dernière décennie à examiner comment l’IA remodèle la cybersécurité, et l’évolution actuelle vers des systèmes agents représente un tournant important.
Avec l’IA agentique, où plusieurs outils de sécurité fonctionnent ensemble et orchestrés à l’aide du support LLM, des opérations de cybersécurité de plus haut niveau sont possibles. Niveau supérieur, ce qui signifie que le cyberanalyste peut orchestrer des opérations de sécurité qui couvrent plusieurs contrôles de sécurité sans avoir à s’engager autant qu’auparavant avec des outils d’IA étroits. En d’autres termes, les agents peuvent travailler ensemble pour comprendre et configurer un système sans que l’analyste ne gère l’interaction de bas niveau. D’après mon expérience, cela améliore considérablement les capacités des cyber-analystes et renforcera la sécurité du système.
Je dirais que cette capacité définira les futurs résultats en matière de sécurité pour de nombreuses organisations. Cependant, cela introduit également de nouveaux risques. Même si elle réduit la pression sur les analystes humains et améliore la capacité à identifier les vulnérabilités, l’utilisation contradictoire progresse souvent à un rythme plus rapide. Cela découle de la nature à double usage de l’IA, où les mêmes outils conçus pour renforcer les systèmes peuvent être exploités pour identifier et attaquer les faiblesses. Cet article examinera les deux côtés, en commençant par les applications défensives, avant d’examiner l’innovation contradictoire et l’importance continue des fondamentaux de la cybersécurité.
Cela signifie, de mon point de vue, que la cybersécurité dépend moins des outils individuels que de l’efficacité avec laquelle les organisations peuvent les orchestrer à grande échelle.
L’IA agentique en défense
Du côté défensif, l’IA agentique peut apporter des avantages significatifs en termes de rapidité de réponse et de cohérence. J’ai observé que les systèmes d’IA agentique sont de plus en plus capables de coordonner un flux de travail défensif en plusieurs étapes à travers des outils de sécurité distribués, permettant un raisonnement et une réponse unifiés à travers les couches réseau, points finaux et identité.
À titre d’exemple, avec les systèmes de détection d’intrusion, les agents peuvent prendre en charge l’identification d’alertes provenant de sources d’informations de sécurité hétérogènes, avant de délibérer sur l’escalade et les actions correctives. Cela peut modifier le flux de travail de l’analyste humain, passant de l’inspection manuelle de différents tableaux de bord et résultats analytiques à la validation et à l’autorisation d’actions correctives lorsque les agents ont coordonné l’analyse et l’interprétation sur plusieurs systèmes de sécurité.
Cela apportera un grand avantage en améliorant la gestion à la fois des événements de sécurité de routine lorsqu’une attaque connue a lieu, ainsi que des nouvelles attaques dont les modèles ne sont pas clairs. Les systèmes d’IA agentique, grâce à l’apprentissage des incidents antérieurs et des commentaires des analystes, peuvent affiner l’approche de détection et les actions correctives, améliorant ainsi la résilience contre les adversaires adaptatifs. Outre le fait que ces systèmes contribuent à réduire la pénurie et les coûts des analyses de sécurité, ces systèmes sont également cohérents et peuvent réduire certaines erreurs humaines.
J’ai observé que les systèmes d’IA agentique sont de plus en plus utilisés pour des tâches de sécurité au-delà de la configuration et de la surveillance des systèmes de sécurité. La capacité d’examiner les logiciels, de découvrir les vulnérabilités et de suggérer des mesures d’atténuation peut contribuer à renforcer les systèmes numériques, en particulier ceux classés comme technologies opérationnelles (OT) et considérés comme essentiels pour les industries critiques. Cela inclut, entre autres, des logiciels contrôlant les infrastructures de transport, d’énergie et d’eau. L’OT est souvent tenu de se conformer aux normes de sûreté et de sécurité, ce qui représente un défi important pour les professionnels de la sécurité.
Examiner les artefacts logiciels et les comparer aux vulnérabilités connues, aux normes internationales et aux meilleures pratiques prend énormément de temps et nécessite beaucoup de connaissances, ce qui entraîne une augmentation des coûts et un ralentissement des processus d’approbation. Dans ce contexte, les systèmes d’IA agentique peuvent être utilisés pour effectuer diverses tâches avec un objectif commun. Cela pourrait, par exemple, inclure l’examen du code source, la récupération d’informations sur les vulnérabilités à partir de sources de renseignements sur les menaces, l’analyse de diagrammes d’architecture et l’exécution d’un raisonnement pour identifier les vulnérabilités et suggérer des mesures d’atténuation. Ces agents seraient orchestrés par un LLM.
Les systèmes d’IA agentique ne sont pas sans défauts. Du point de vue de l’analyste, la confiance et une dépendance excessive à l’égard de la technologie d’automatisation peuvent entraîner la prise de décisions incorrectes ou la non-détection des erreurs du système d’IA. Par exemple, une hallucination du système d’IA peut entraîner un mauvais raisonnement et une proposition de mesures correctives qui seraient arrêtées si elles étaient repérées. Cependant, repérer les erreurs au sein du système peut être difficile, car il peut être difficile de retracer les décisions dans les systèmes multi-agents.
En pratique, je trouve que la contrainte est rarement l’accès aux capacités de l’IA, mais plutôt la capacité à intégrer ces systèmes de manière cohérente dans les opérations de sécurité existantes. À mon avis, les organisations qui réussiront seront celles qui considéreront l’IA agentique comme une capacité à travailler aux côtés des cyberanalystes.
Des adversaires qui évoluent rapidement
L’asymétrie entre défense et attaque permet aux adversaires qui s’engagent dans une cybersécurité offensive d’innover plus rapidement. Les adversaires n’ont besoin que d’un seul succès, tandis que les défenseurs doivent tout obtenir. Les adversaires opèrent également en dehors des cadres juridiques, éthiques et réglementaires, ce qui leur donne la possibilité d’expérimenter et de déployer de nouvelles techniques beaucoup plus rapidement. Ils sont également davantage incités à la créativité.
Les organisations, en revanche, tardent souvent à adopter les nouvelles technologies, car elles attendent qu’une plus grande confiance émerge quant à leurs capacités et à la façon dont elles s’intègrent dans l’organisation. Cette différence permet à l’adversaire de tirer parti d’un avantage technologique, et cela est certainement vrai pour l’IA.
L’IA est largement utilisée dans la cybersécurité offensive. Le phishing est l’une des attaques les plus pertinentes et qui se développe rapidement et que beaucoup connaissent. L’utilisation de l’IA générative pour produire du texte, des images et du son crédibles a permis à un attaquant de générer plus facilement des e-mails crédibles et mieux informés. Les attaques vont au-delà de celles visant à manipuler les utilisateurs par ingénierie sociale et incluent l’accélération de la reconnaissance et l’identification des vulnérabilités.
Les systèmes d’IA utilisés à des fins défensives pourraient eux-mêmes devenir une surface d’attaque. Les systèmes d’IA agentique connectent des modèles, des bases de connaissances et des outils logiciels, qui, ensemble, peuvent générer des gains de productivité. Ces intégrations créent de nouvelles voies permettant à un attaquant d’influencer le comportement du modèle ou de tenter d’extraire des données sensibles.
Une autre préoccupation concerne l’exposition de la chaîne d’approvisionnement. Comme cela est courant dans les solutions numériques, on s’appuie sur des technologies tierces, telles que les bibliothèques de logiciels. Cela peut être incroyablement problématique si une vulnérabilité est découverte dans une dépendance tierce. L’IA ne fait pas exception ici, et on s’appuiera sur les modèles pour ses capacités. Lorsque les capacités d’IA sont intégrées aux services de base, la surface d’attaque s’étend au-delà des points de terminaison et des réseaux traditionnels pour inclure des invites, une logique de récupération et des autorisations d’agent qui nécessitent leur propre assurance et surveillance.
J’ai observé un déséquilibre croissant, dans lequel la vitesse de développement des attaques dépasse de plus en plus la vitesse à laquelle les organisations peuvent adapter leurs défenses. Je considère cette asymétrie comme la pression déterminante qui façonnera la cybersécurité au cours des cinq prochaines années.
Les fondamentaux comptent plus que jamais
Même avec les systèmes d’IA agentique en matière de cybersécurité, les fondamentaux restent impératifs. C’est parce que des attaques vont se produire. L’utilisation de systèmes agents pour la cybersécurité offensive est susceptible d’être en avance sur les systèmes défensifs en raison de l’asymétrie mentionnée précédemment, et les organisations sans systèmes défensifs avancés continueront de s’appuyer sur des contrôles de cybersécurité bien établis pour prévenir les vulnérabilités faciles et avoir une bonne hygiène de cybersécurité.
Certaines des approches de sécurité les plus importantes restent des configurations de sécurité diligentes et robustes, un contrôle d’accès fondé sur des principes, une surveillance appropriée et une réponse répétée aux incidents. L’IA agentique peut améliorer ces pratiques et réduire les efforts manuels, mais elle ne peut pas compenser des configurations faibles, une surveillance insuffisante et des procédures de récupération non testées. De plus, si les réponses étape par étape aux attaques de sécurité (généralement appelées playbooks) sont obsolètes ou incomplètes, l’automatisation peut accélérer les mesures correctives incorrectes face à une attaque qu’un analyste humain aurait pu découvrir plus tôt.
Dans les organisations avec lesquelles j’ai travaillé, la priorité est désormais passée de l’adoption des dernières technologies à la garantie que les contrôles existants sont appliqués de manière cohérente et correctement gouvernés.
Bien maîtriser les bases s’applique également aux contrôles spécifiques à l’IA. Les organisations doivent réfléchir attentivement aux données auxquelles un agent peut accéder, aux outils de sécurité qu’il peut invoquer, à la manière dont les autorisations sont examinées et à la manière dont les modifications sont testées et surveillées. Les invites, les pipelines de récupération, les mises à jour de modèles et les intégrations d’outils doivent être traités comme des composants gouvernés avec gestion des versions et auditabilité. Cela est nécessaire pour surveiller ce que font les agents et minimiser les risques.
Les organisations qui adoptent l’IA agentique sans renforcer les contrôles de base en matière de cybersécurité risquent d’amplifier les faiblesses existantes plutôt que d’y remédier. L’avantage stratégique ne réside pas dans l’automatisation globale, mais dans l’intégration disciplinée de ces systèmes parallèlement à une gouvernance solide, une surveillance claire et des principes fondamentaux de sécurité bien établis.
À mon avis, l’implication est claire : l’avantage concurrentiel en matière de cybersécurité dépendra moins de l’adoption préalable de l’IA que de son déploiement responsable et efficace au sein d’un système bien géré.
À propos de l’auteur : Simon Parkinson est professeur de cybersécurité à l’Université de Huddersfield, au Royaume-Uni. Il est également membre du Conseil consultatif sur la cybersécurité du gouvernement britannique et du Collège d’experts du ministère de la Science, de l’Innovation et de la Technologie.
L’expertise et les intérêts de recherche de Simon couvrent l’intersection de la cybersécurité et de l’intelligence artificielle, avec un accent particulier sur la gestion des identités et des accès. Au cours de la dernière décennie, il a mené à bien une série de projets de recherche et d’échange de connaissances, financés par des organisations telles que le Conseil britannique de recherche en ingénierie et en sciences physiques (EPSRC), le Laboratoire des sciences et technologies de la défense (DSTL) et Innovate UK. Grâce à ses recherches, il a développé de nouvelles méthodes pour détecter les failles de sécurité dans les systèmes de contrôle d’accès, identifier les intrusions dans les systèmes informatiques d’entreprise et découvrir les accès non autorisés à l’aide de nouvelles approches biométriques, allant de la dynamique des frappes au clavier à la distorsion du signal Wi-Fi.
