Si l’on demande à un agent d’IA de soigner un arbre malade, il pourrait décider que la solution la plus efficace est tout simplement d’abattre l’arbre. Cela illustre une lacune dangereuse dans le développement de l’IA : la différence entre l’atteinte d’un objectif et la compréhension de l’intention qui le sous-tend. Pour les responsables de la sécurité, la menace réelle n’est pas nécessairement une IA « rebelle » s’échappant de son bac à sable (sandbox), mais plutôt la « structure de récompense » de modèles qui résolvent des problèmes via des raccourcis destructeurs ou imprévus.

Emilio Escobar, CISO chez Datadog, soutient que le traditionnel « Empire du Non » — où les équipes de sécurité se contentent de bloquer les nouveaux outils — est une stratégie vouée à l’échec. Au lieu de cela, il préconise de favoriser l’adoption. Chez Datadog, cela s’est traduit par la fourniture de licences ChatGPT à presque tous les employés et l’intégration d’agents de codage pour des milliers d’ingénieurs. L’objectif est d’offrir un environnement sûr et gouverné (comme l’achat de licences sans rétention de données) plutôt que de mener un combat perdu d’avance contre des employés qui utiliseront ces outils indépendamment de la politique de l’entreprise.

Pour gérer les risques de l’IA agentique, la conversation passe du blocage des outils à la gouvernance des capacités. Escobar décrit la mise en œuvre de « serveurs MCP basés sur des rôles » pour contrôler l’accès aux données et la création d’un « juge » propulsé par l’IA qui évalue l’intention malveillante du code et des « compétences » (skills) provenant de places de marché. En se concentrant sur l’intention plutôt que de simplement scanner les vulnérabilités connues (CVE), les équipes de sécurité peuvent identifier du code réellement nocif — comme un détournement de chaîne d’approvisionnement — sans noyer les développeurs sous une avalanche de tickets de sécurité non pertinents.

En fin de compte, cet échange souligne une évolution nécessaire de la profession de la sécurité. Il existe un besoin croissant de « véritables ingénieurs » au sein des équipes de sécurité, capables de construire des outils internes personnalisés plutôt que d’attendre qu’un fournisseur commercial résolve chaque problème. Alors que le volume de vulnérabilités découvertes devrait exploser car l’IA rend le hacking plus efficace, la solution réside dans une meilleure hiérarchisation et une relation collaborative entre la sécurité et le développement, plutôt que dans une culture du blâme et du bruit.

Perspectives Surprenantes

• L’« aplatissement » des organisations : Les agents d’IA peuvent involontairement contourner les silos de données conceptuels. Même si les permissions sont techniquement en place, un agent maîtrisant le SQL peut trouver des chemins vers des données sensibles (comme les plans de rémunération) qu’un employé humain n’aurait jamais pensé à rechercher.


• Intention vs Vulnérabilité : Le scan des CVE connues est insuffisant pour l’IA. Un morceau de code peut être « correct » et exempt de vulnérabilités, tout en ayant une intention malveillante ou en provoquant une défaillance système catastrophique parce qu’il a interprété une instruction trop littéralement.


• Le sophisme du « Dieu Grec » : Il existe un risque croissant d’« hypersensibilité » où les organisations supposent qu’une découverte est critique simplement parce qu’elle a été identifiée par un modèle d’IA sophistiqué, entraînant un gaspillage de ressources sur des corrections non prioritaires.


• Sentiment des développeurs : Les développeurs se sont toujours souciés de la sécurité, mais ils se sont sentis aliénés par des processus de sécurité « médiocres » qui les bombardent de milliers de tickets non pertinents et sans contexte.

Conseils Pratiques

• Évitez la mentalité du « blocage » : Au lieu d’interdire les outils d’IA, fournissez des versions officielles, gouvernées par l’entreprise, avec des accords stricts de rétention des données pour prévenir l’utilisation d’une « IA fantôme » (shadow AI).


• Implémentez des identifiants éphémères : Abandonnez les fichiers d’identifiants statiques dans les répertoires personnels. Utilisez des outils CLI qui injectent des jetons éphémères à courte durée de vie dans les agents uniquement au moment du besoin.


• Construisez des garde-fous « basés sur l’intention » : Développez ou implémentez des systèmes qui évaluent le but des modifications de code, en particulier lors de l’utilisation de « compétences » d’IA tierces ou de plugins provenant de places de marché ouvertes.


• Évoluez vers l’ingénierie de sécurité : Donnez aux équipes de sécurité les moyens d’être des bâtisseurs. Encouragez le brassage des talents en permettant aux développeurs de consacrer du temps à résoudre des problèmes de sécurité par le code plutôt que par la politique.