Bounded Agency : pourquoi la gouvernance doit précéder l'autonomie dans l'IA d'entreprise

Flo Boymond : Bienvenue, Matthew. C'est un privilège de vous recevoir aujourd'hui. En tant que fondateur et CEO de Conflux, vous conseillez des dirigeants au plus haut niveau à travers le monde. Chez Stackmint, nous construisons l'infrastructure d'exécution gouvernée pour l'IA d'entreprise, et nous observons en permanence des dirigeants qui peinent à déployer l'IA agentique en toute sécurité. De votre point de vue, quels sont les principaux défis auxquels font face les DSI et les COO lorsqu'ils cherchent à adopter l'IA agentique, en particulier dans des environnements fortement réglementés ?

Matthew Skelton : Merci, Florian. C'est un plaisir d'être ici. Les conversations que j'ai avec les dirigeants d'entreprise sont remarquablement similaires d'une organisation à l'autre ; chaque semaine, les mêmes questions reviennent, presque mot pour mot. La grande majorité des organisations n'arrive toujours pas à transformer l'adoption de l'IA en valeur mesurable. La recherche MIT NANDA de 2025 révèle que 95 % des organisations étudiées n'obtenaient aucun retour sur leurs initiatives GenAI, tandis que l'enquête McKinsey 2025 indique que seulement 39 % des répondants ont constaté un impact sur l'EBIT au niveau de l'entreprise. Le constat le plus frappant est que 80 % des entreprises — voire davantage — déclarent ne tirer absolument aucun bénéfice de leurs initiatives IA. Cet échec découle d'une approche qui place la technologie avant les résultats métier, ce qui engendre inévitablement une méfiance au niveau de la direction.

Au-delà du manque de ROI, il existe une anxiété opérationnelle profonde. Un COO ne peut tout simplement pas dormir sereinement en sachant que 10 000 agents IA opèrent 24h/24 et 7j/7 sans supervision rigoureuse. Parallèlement, le RSSI peine à appréhender l'ampleur des risques de sécurité que génère l'IA agentique. Le problème fondamental dans ces contextes fortement réglementés — comme les services financiers ou la santé — est la tentation naïve de certains dirigeants d'accorder aux outils IA un accès illimité en lecture et en écriture à l'ensemble des données et des applications de l'entreprise. Nous n'accorderions jamais à un être humain un accès sans restriction à tous les systèmes, car cela mènerait inévitablement à la catastrophe — pourtant, les organisations s'empressent de faire exactement cela avec des modèles probabilistes. Les périmètres de sécurité n'existent pas uniquement pour protéger les données, mais aussi pour préserver l'intégrité des domaines métier. Si cette intégrité est compromise parce qu'un agent IA opère en dehors de ses limites, c'est la logique même des systèmes métier qui se trouve corrompue.

Flo Boymond : Cela rejoint parfaitement la philosophie fondatrice de Stackmint. Nous disons souvent que confier une autorité directe sur des systèmes métier déterministes à un moteur de raisonnement probabiliste n'est pas une innovation — c'est une responsabilité ingérable. Cela nous amène naturellement à votre nouvelle initiative, Bounded™. Comment les principes fondateurs de Bounded™ et de Team Topologies répondent-ils concrètement à ces enjeux critiques de gouvernance et d'exploitation ?

Matthew Skelton : Bounded™ est une boîte à outils de modèle opérationnel natif IA, conçue spécifiquement pour les organisations où « l'intuition ne suffit pas ». Elle est construite de fond en comble pour les entreprises soumises à des obligations réglementaires strictes et à des exigences d'audit financier. Notre principe fondateur est que la « Bounded Agency » — l'agentivité délimitée — est au cœur absolu du succès avec l'IA. Cela signifie que nous devons imposer des limites délibérées et réfléchies au périmètre d'action d'un agent. Si vos équipes humaines sont déjà organisées selon ce principe, l'adoption de l'IA agentique sera relativement aisée, car vous avez déjà résolu les problèmes organisationnels les plus complexes. À l'inverse, si 80 % des organisations échouent avec l'IA, c'est précisément parce qu'elles n'ont pas structuré leur organisation humaine autour de la Bounded Agency.

Nous utilisons Team Topologies comme « infrastructure de l'agentivité ». Ce cadre fournit les règles, les principes et les garde-fous qui permettent aux équipes humaines et aux agents IA d'agir en véritables gardiens des flux de valeur. Un concept essentiel ici est la charge cognitive, ou ce que nous appelons la « gestion cognitive délimitée ». Si un domaine ne peut pas tenir dans la tête d'un être humain, celui-ci ne peut pas en être un bon gardien. Nous observons un parallèle direct avec l'IA : la fenêtre de contexte constitue en réalité la limite de charge cognitive d'un système IA ; si vous la dépassez, l'agent perd sa cohérence et commence à halluciner des connexions qui n'existent pas. Pour déployer l'IA en toute sécurité, nous devons donc concevoir en priorité pour l'audit et la traçabilité, traiter l'IA comme une infrastructure plutôt que comme un équivalent humain dans le suivi financier, et développer une observabilité organisationnelle pour définir rigoureusement nos périmètres.

Flo Boymond : Ce n'est pas un hasard si cela s'aligne aussi étroitement avec l'architecture technique de Stackmint — nous nous sommes largement inspirés de vos idées dans Team Topologies. Nous mettons fortement l'accent sur une gouvernance active en séparant explicitement le Domaine Intelligence du Moteur d'Exécution. Avant qu'une action soit exécutée, elle doit passer par un Governed Gateway qui vérifie les coupe-circuits, les budgets d'API et les exigences de supervision humaine. De votre point de vue, comment une plateforme comme Stackmint s'intègre-t-elle dans le modèle opérationnel Bounded™ et en applique-t-elle les principes ?

Matthew Skelton : Je considère Stackmint comme un excellent exemple de couche d'exécution pour les modèles opérationnels natifs IA tels que Bounded™. Ce que Stackmint a construit est exactement ce dont l'industrie a besoin pour appliquer techniquement la « Bounded Agency ». Vous avez compris qu'on ne peut pas s'appuyer sur un modèle probabiliste pour garantir une conformité réglementaire stricte : si les garde-fous ne sont que des instructions rédigées dans un fichier markdown, le modèle les ignorera inévitablement dans un certain pourcentage de cas. Si ce modèle dispose de droits d'exécution, il pourrait émettre un remboursement financier non autorisé sans aucune supervision humaine. J'apprécie la manière dont Stackmint aborde ce problème en imposant des points de contrôle humains, des restrictions budgétaires et des politiques de routage directement au niveau des outils, via votre Governed Gateway. Cela fournit les limites déterministes que les dirigeants réclament activement.

Flo Boymond : Exactement. Nous sommes convaincus que les entreprises ne cherchent pas à acquérir des scripts approximatifs — elles veulent des résultats gouvernés et déterministes. En combinant vos cadres stratégiques avec notre infrastructure d'exécution, nous pouvons aider les prestataires de services et les cabinets de conseil à structurer leur expertise en capacités IA hautement gouvernées. Pour conclure, comment les grandes institutions devraient-elles entamer ce parcours pour déployer l'IA de manière sûre et pérenne ?

Matthew Skelton : La toute première étape — ce que j'appelle le « point zéro » — est de partir des résultats attendus et de remonter vers la technologie ; ne jamais commencer par la technologie. Les initiatives technologiques en premier lieu échouent systématiquement parce qu'elles ne placent pas la création de valeur au centre. Ensuite, il faut construire la confiance — et la confiance, qu'elle s'adresse aux équipes humaines ou aux systèmes IA, repose sur la Bounded Agency, qui apporte la clarté nécessaire pour opérer en toute sécurité.

Les organisations doivent abandonner l'idée naïve d'accorder un accès illimité aux données d'entreprise. Elles doivent au contraire donner aux équipes humaines les moyens d'être de véritables gardiens de flux de valeur durables, en s'appuyant sur les périmètres clairs et le langage diagnostique définis par Team Topologies. Enfin, nous devons activement diffuser l'apprentissage et l'innovation à travers l'entreprise, comme je l'explore dans mon nouveau livre Adapt Together. La vitesse d'évolution technologique dépasse aujourd'hui la capacité d'apprentissage organisationnel, et sans une démarche active de partage des connaissances, les déploiements s'enliseront. En associant un modèle opérationnel robuste comme Bounded™ à une plateforme d'exécution rigoureusement gouvernée comme Stackmint, les entreprises fortement réglementées peuvent enfin dépasser le stade de l'expérimentation risquée et atteindre la valeur métier déterministe et récurrente qui leur a été promise.