Sécuriser l'infrastructure contre les armes qui pensent par elles-mêmes

Dans quelle mesure votre plan de réponse aux incidents suppose-t-il que l'adversaire est une personne qui commet des erreurs ? Pendant des décennies, notre posture de sécurité a reposé sur le fait qu'un attaquant est humain. Les humains se fatiguent. Ils perdent leur concentration. Ils ont une bande passante limitée pour gérer plusieurs tâches complexes à la fois. Cette limitation humaine était le partenaire silencieux de nos stratégies de défense. L'IA agentique a supprimé cette contrainte. Nous entrons maintenant dans une ère où l'arme n'a plus besoin d'un guerrier pour la manier. Il s'agit d'un passage d'outils qui assistent à des outils qui agissent.

J'ai observé cette évolution depuis les premières lignes. En 2023, j'ai publié un livre blanc au SANS Technology Institute. Il démontrait comment même des utilisateurs non qualifiés pouvaient amener des chatbots à générer des logiciels malveillants fonctionnels. À l'époque, l'IA était un stylo sophistiqué. Elle aidait à rédiger le code, mais un humain devait encore copier, coller et exécuter l'attaque. En 2025, cette dynamique a changé avec l'introduction d'agents autonomes. Aujourd'hui, en 2026, la laisse a disparu. L'agent est l'opérateur.

La laisse est rompue

La différence fondamentale entre l'IA d'il y a trois ans et les modèles agentiques d'aujourd'hui est la boucle de rétroaction. Les itérations précédentes de l'IA offensive étaient réactives. Vous donniez une instruction, et elle donnait une réponse. L'IA agentique est proactive. Elle reçoit un objectif et choisit ensuite les outils à utiliser pour l'atteindre. Elle peut naviguer sur le web, exécuter des commandes de terminal, scanner des ports et réécrire son propre code lorsqu'elle rencontre une erreur. C'est une boucle qui ne nécessite aucune intervention humaine.

Ce changement remodèle les opérations offensives dans deux directions. Il accorde des capacités aux attaquants qui ne possèdent aucune compétence technique, et il prête de la vitesse à ceux qui sont déjà redoutables. Si votre métier est le travail offensif, vous devez réaliser que l'outillage qu'un adversaire tourne contre vous est le même que celui que vous devez utiliser pour vous défendre. Le terrain a bougé. Nous ne nous défendons plus contre une série d'événements discrets. Nous nous défendons contre un processus de réflexion continu qui réside dans le réseau.

La mort silencieuse des indices de phishing

L'un des impacts les plus immédiats est l'automatisation totale de l'ingénierie sociale. Dans un scénario typique, un attaquant déploie un agent pour recueillir des informations accessibles au public sur une cible spécifique. L'agent parcourt les profils LinkedIn, regarde les enregistrements de conférences pour imiter les schémas de parole et lit les communiqués de presse récents. Il utilise cette intelligence pour construire un personnage. Un second agent gère ensuite la conversation. Il envoie le message, gère les réponses et oriente la cible vers un lien malveillant ou une demande d'identifiants.

C'est la mort des signaux auxquels nous avions l'habitude de faire confiance. Pendant des années, notre formation au phishing s'est concentrée sur des indices évidents. Nous cherchions une grammaire maladroite, des modèles génériques et un sentiment d'urgence. L'IA agentique efface ces indicateurs. Chaque message est fluide et unique. Il est ancré dans des faits réels concernant le destinataire. Notre détection doit désormais s'appuyer entièrement sur des signaux d'infrastructure tels que la réputation de l'expéditeur et l'authentification. Nous regardons le pare-feu linguistique s'effondrer. Le phishing est un cheval de Troie numérique qui ressemble désormais trait pour trait à une livraison légitime.

L'essor du script kiddie en tant que service

Je qualifie souvent cet état actuel de "script kiddie as a service". Historiquement, un acteur non qualifié était limité par son propre manque d'expertise. Il devait attendre que quelqu'un d'autre publie un exploit. Désormais, les limitations sont définies par la capacité du modèle d'IA. Parce que de nombreux acteurs non formés utilisent les mêmes modèles de pointe, nous voyons une monoculture comportementale. Les attaques sont compétentes, mais elles suivent des schémas reconnaissables.

C'est un avantage rare pour le défenseur. Lorsque des milliers d'attaquants utilisent le même modèle sous-jacent pour générer une chaîne d'exploitation, ils laissent des empreintes similaires. Nous pouvons construire des détections pour ces comportements par défaut. Cependant, cela ne fonctionne que pour la majorité. Les adversaires expérimentés s'adaptent au-delà de ces paramètres par défaut. Ils utilisent des agents pour exécuter des campagnes en parallèle. Une tâche qui nécessitait autrefois une équipe de trois personnes pendant deux semaines prend désormais quatre heures à une personne et un agent. Le volume d'attaques de haute qualité est la nouvelle norme.

L'automatisation dans la chaîne d'exploitation

L'automatisation s'est déplacée profondément dans la phase d'exploitation. À mesure que les modèles s'amélioraient pour enchaîner les appels d'outils, la barre pour produire un exploit fonctionnel a baissé. Nous l'avons vu clairement lorsque le gouvernement fédéral est intervenu pour faire retirer Anthropic Fable 5 du marché. Les craintes concernant ses capacités n'étaient pas infondées. Lorsque vous liez un modèle capable à une base de données de vulnérabilités connues, il effectue sa propre reconnaissance. Il juge à quoi une cible est susceptible d'être exposée et tire l'exploit correspondant de sa bibliothèque.

Il agit comme un limier qui a trouvé une piste. Il ne fait rapport à l'opérateur que lorsqu'il est prêt à tirer. Les logiciels malveillants deviennent également agentiques. Nous voyons des souches qui réécrivent leurs propres signatures pour échapper aux contrôles qui reconnaissaient la version précédente. C'est l'évolution naturelle des concepts de Guided Network Access Weapon (GNAW) dont j'ai discuté pour la première fois il y a des années. Le logiciel malveillant n'est plus un fichier statique. C'est un logiciel capable de raisonner sur son environnement et de changer son comportement pour rester furtif.

La confiance d'un faux oracle

Il y a un danger à s'appuyer trop lourdement sur ces agents. Ils parlent avec une autorité inébranlable, mais ils ne cherchent pas la vérité. Un agent cherche une tâche terminée. Il veut fournir une réponse qui semble correcte. Il n'a pas de vue privilégiée sur la question de savoir si un hôte est réellement vulnérable. Il fait correspondre des indicateurs à une conclusion. Si vous mariez un agent à un magasin de récupération de vulnérabilités, il fera remonter ce qui est lié, pas ce qui est vrai. Il ignore souvent les numéros de version ou les spécificités de configuration.

C'est le problème du faux oracle. L'agent nommera une cible qui n'est pas là et demandera la permission de frapper. Pour le professionnel, cela signifie que le jugement est désormais la compétence principale. Les parties mécaniques du métier sont maintenant des tâches machine. La capacité de distinguer une découverte réelle d'un mensonge assuré est là où réside la valeur. Chaque fois qu'un agent suggère une voie, un humain doit encore vérifier la logique. Si vous suivez un agent aveuglément, il finira par vous faire tomber d'une falaise.

Prouver la défense par l'utilité

Le SANS Secure AI Blueprint, développé par Rob T. Lee, fournit un cadre pour cette nouvelle réalité. Il divise le défi en trois axes : Protéger l'IA, Utiliser l'IA et Gouverner l'IA. La gouvernance concerne la politique et la surveillance. La protection concerne le durcissement des systèmes. L'utilisation est l'endroit où nous mettons l'IA au travail pour les deux camps. Les opérations offensives vivent dans l'axe "Utiliser".

De nombreux dirigeants pensent que la sécurité de l'IA n'est qu'une question de classeurs de politiques. Ils se trompent. L'utilisation est le seul axe qui produit des preuves. Une organisation peut rédiger toutes les directives qu'elle souhaite, mais tant que quelqu'un ne tourne pas un outil agentique contre le réseau, ces directives sont des théories. Une défense n'a d'importance que lorsqu'elle entre en contact avec une attaque. Le rôle du praticien offensif est de porter ce contact à la surface. Nous sommes ceux qui prouvent si la politique et le durcissement fonctionnent réellement.

Si vous voulez comprendre votre risque réel, vous devez mener une évaluation des risques incluant une simulation d'attaque autonome. Les tests d'intrusion traditionnels ne sont plus un miroir suffisant du paysage des menaces. Vous devez voir comment votre SOC gère un adversaire qui ne dort pas et ne suit pas un horaire humain. Auditez vos fournisseurs tiers pour leur propre utilisation d'outils agentiques. L'arme a changé. La main sur l'arme a reculé, mais le choix de tirer nous appartient toujours. Notre jugement est la seule chose que la machine ne peut pas remplacer.

Sources

• SANS Technology Institute: Whitepaper on Generative AI and Malware (2023)
• SANS Secure AI Blueprint: Developed by Rob T. Lee
• MITRE ATT&CK Framework: For AI-specific adversary tactics and techniques
• NIST AI Risk Management Framework (AI RMF 1.0)

Avertissement : Cet article est destiné à des fins d'information et d'éducation uniquement. Les informations fournies ne remplacent pas un audit de cybersécurité professionnel ou un service de réponse aux incidents. L'auteur ne fournit pas d'instructions pour des activités illégales.