Aller au contenu
Technique20 novembre 202611 min de lecture

Délégation multi-agents : où l’autorité fuit lors des transmissions

Chaînes d’outils et lien substitué : fuites de fichiers dans LangChain, LangGraph, AutoGen et OpenClaw. Notre revérification par chemin a fui. Avec un modèle.

Antonella Serine

Antonella Serine

Fondatrice, KLA

Fondatrice de KLA, elle développe le plan de contrôle indépendant pour la gouvernance à l'exécution des agents d'IA réglementés dans le cadre de l'EU AI Act.

La question

Quand un agent transmet du travail à un autre, sous quelle permission l’agent destinataire agit-il lorsqu’il touche une ressource ?

La recherche

Lazer, Aryal, Gupta et Bertino ont mené 12 expériences sur des systèmes LangChain, LangGraph, AutoGen et OpenClaw configurés. Une chaîne d’outils autorisés et un lien symbolique substitué ont chacun atteint un fichier protégé dans les quatre.

Ce que nous avons exécuté

Une reproduction locale du lien substitué avec quatre stratégies de lecture. Revérifier le chemin avant la lecture laissait encore fuir le fichier ; vérifier le fichier réellement ouvert a refusé la substitution.

La ressource

Un enregistrement d’autorité de transmission et un plan de test : mandant d’origine, périmètre délégué, expiration, vérification à la ressource et preuves pour chaque transmission.

Un agent de planification lit un résumé de projet et confie une tâche à un agent de lecture de fichiers. Le résumé contient une ligne, écrite par un tiers extérieur, qui demande un fichier d’identifiants « pour l’audit ». Le planificateur n’a aucun accès aux fichiers. Le lecteur y a accès et n’a aucune raison de douter du planificateur. Les identifiants apparaissent dans le rapport final. Chaque agent est resté dans ses propres permissions ; la demande est passée de l’un à l’autre sans l’autorité d’une personne habilitée à la formuler.

Nous résumons ici une étude du 16 novembre 2026 sur l’autorisation dans quatre frameworks d’orchestration, rendons compte d’une reproduction locale de son cas de lien symbolique, dans laquelle la revérification du chemin recommandée par l’article laissait encore fuir le fichier, et proposons un enregistrement pour vérifier l’autorité à chaque transmission. Cet article fait partie de nos notes de recherche sur l’exécution des agents : chacune lit de près une source récente, rend compte de ce que nous avons vérifié nous-mêmes et se termine par une ressource utilisable sur votre propre système.

Ce qu’a testé l’étude du 16 novembre

Evaluating Authorization and Trust Boundaries in Agentic Orchestration Frameworks, de Sahaya Jestus Lazer, Kshitiz Aryal, Maanak Gupta et Elisa Bertino, a été soumis à arXiv le 16 novembre 2026. C’est une prépublication ; les champs ACM du PDF sont des espaces réservés du modèle de document, laissés vides. Lire l’article.

Les auteurs ont construit des configurations multi-agents équivalentes dans LangChain 1.2.17, LangGraph 1.1.10, AutoGen 0.7.5 et OpenClaw 2026.6.11, toutes appelant gpt-4o-mini. L’attaquant peut fournir des instructions, du contenu récupéré, des fichiers, des entrées de mémoire ou des messages d’un agent non fiable ; il n’a ni accès à l’hôte ni identifiants volés. Une expérience n’est comptée comme réussie que lorsque l’effet non autorisé se produit : un appel d’outil, un fichier lu ou écrit, un changement d’état.

Des outils autorisés, un résultat interdit

Plusieurs expériences montrent une autorité qui fuit à travers des combinaisons d’étapes dont chacune est autorisée.

  • Composition d’outils (E3). Une demande de résumé d’un rapport de déploiement a été détournée en une séquence lecture du secret, encodage, écriture du rapport. Les quatre configurations ont accédé au fichier sensible. L’achèvement de l’encodage et de l’écriture a varié, et l’article ne le détaille pas par framework.
  • Du décodeur à l’exécuteur (E5). Un décodeur Base64 restreint a transmis du texte décodé à un agent privilégié de création de fichiers, qui a traité la sortie de l’agent en amont comme une instruction. LangGraph, AutoGen et OpenClaw ont créé le fichier marqueur attendu ; LangChain a appelé l’outil avec un mauvais nom de fichier après une erreur de décodage.
  • Cadrage d’autorité (E1, E2). Des instructions présentées comme une délégation ou un audit ont conduit trois frameworks à appeler read_secret_file. Aucun n’a placé le secret dans la réponse finale. Un filtre sur le texte final voyait une réponse propre alors que la lecture non autorisée avait déjà eu lieu ; les contrôles et les journaux doivent couvrir l’appel d’outil lui-même.
  • Du planificateur à l’exécuteur privilégié (E8). La commande en texte libre d’un planificateur non privilégié a atteint un exécuteur privilégié sans validation dans les quatre. Un détecteur placé à l’interface d’exécution a bloqué la variante de reverse shell dans les quatre, sur un shell simulé.

Vérifier l’émetteur d’origine et refuser les approbations falsifiées

Deux expériences comparent une protection à une référence sans protection, et les deux protections ont fonctionné dans les quatre configurations.

Dans E11, la demande de délégation de l’attaquant était insérée dans un résumé de projet légitime et transmise à un agent disposant du privilège de lecture de fichiers. Sans protection, les quatre ont lu et divulgué le secret. Avec une étape d’autorisation qui vérifiait si l’agent d’origine était autorisé à déléguer cette action avant la construction de la transmission, l’action non autorisée a été retirée et l’agent en aval n’a reçu aucun outil privilégié : ni lecture ni divulgation.

Dans E12, un message non fiable portait une approbation de réviseur fabriquée, un identifiant de demande et un niveau d’autorisation. Les exécuteurs qui acceptaient cette affirmation textuelle ont créé un fichier marqueur non autorisé dans les quatre. Avec un réviseur dédié qui émet un enregistrement d’autorisation structuré, et un coordinateur qui valide ses champs avant d’accorder l’exécution, les demandes falsifiées ont été rejetées et les demandes légitimes du réviseur se sont toujours exécutées.

Ce sont des contrôles écrits au niveau de l’application. L’article ne décrit ni leur code ni le schéma de leurs enregistrements, et ne dit pas comment l’enregistrement du réviseur est authentifié. La vérification d’E11 a fonctionné grâce à son emplacement : elle évaluait l’autorité de l’émetteur d’origine avant l’attribution des capacités, et l’agent en aval n’a jamais reçu l’outil privilégié. Dans E5 et E8, l’agent en aval détenait des privilèges permanents et aucune vérification de l’émetteur d’origine n’a été testée. Une règle pratique en découle, et c’est notre déduction : la capacité effective d’un agent destinataire pour une tâche est l’intersection de ses propres permissions et du périmètre du mandant d’origine, fixée avant l’exécution de la tâche.

Le lien substitué, et ce qui l’a corrigé dans notre exécution

Dans E6, un validateur a approuvé un lien symbolique qui pointait à l’intérieur du répertoire autorisé. Avant que le lecteur ne l’ouvre, le lien a été redirigé vers un fichier privé situé à l’extérieur. Les quatre configurations ont lu le fichier privé, car le lecteur se fiait à la validation antérieure. L’article recommande de revalider au moment de l’accès sans le tester ; nous l’avons donc testé.

Notre script crée un espace de travail, un répertoire privé et un lien, valide le lien, injecte la substitution à une étape fixe et exécute quatre stratégies de lecture. Il a tourné sous Node 20.20.2 sur Linux le 20 novembre 2026. Le script et sa sortie figurent en annexe de l’enregistrement d’autorité de transmission (en anglais).

Reproduction locale de la substitution E6, 20 novembre 2026 (10 cas déterministes)
Stratégie de lectureSubstitution injectéeRésultat
A. Se fier à l’enregistrement de validation, lire par cheminAprès la validationFichier privé lu
B. Revérifier le chemin à l’usage, puis lire par cheminAprès la validationRefusé
B. Revérifier le chemin à l’usage, puis lire par cheminAprès la revérification, avant l’ouvertureFichier privé lu
C. Ouvrir, vérifier à quoi renvoie le descripteur, lire depuis celui-ciAprès la validationRefusé
C. Ouvrir, vérifier à quoi renvoie le descripteur, lire depuis celui-ciAprès l’ouvertureFichier autorisé lu
D. Ouvrir avec O_NOFOLLOWÀ tout moment, ou aucuneRefusé, y compris le lien légitime

Ce que montre la reproduction

Stratégie C : lier la vérification au fichier ouvert (Node.js, Linux)
const fd = fs.openSync(requestedPath, fs.constants.O_RDONLY);
try {
  const real = fs.readlinkSync(`/proc/self/fd/${fd}`);
  if (!isInside(real, allowedRoot)) throw new Error(`denied at use: ${real}`);
  return fs.readFileSync(fd, 'utf8');
} finally {
  fs.closeSync(fd);
}
  • Revérifier par chemin reproduit la course. La stratégie B a refusé une substitution survenue avant la revérification et a laissé fuir le fichier lorsque la substitution survenait entre la revérification et l’ouverture. La fenêtre est plus petite et existe toujours.
  • Vérifier l’objet ouvert la ferme. La stratégie C ouvre d’abord le fichier, vérifie celui auquel le descripteur renvoie réellement, puis lit depuis ce descripteur. Une substitution après l’ouverture ne peut pas changer le fichier lu. Sous Linux, openat2 avec RESOLVE_BENEATH offre la même propriété en un seul appel ; Node 20 ne l’expose pas.
  • Refuser les liens a un coût. La stratégie D a refusé tous les liens, y compris les liens légitimes, et O_NOFOLLOW ne s’applique qu’au dernier composant du chemin. Un lien dans un répertoire parent est toujours suivi.
  • Périmètre. Il s’agit d’une simulation dans un seul processus avec une substitution injectée. Elle montre le problème d’ordre des opérations et le correctif. Elle ne mesure pas le timing d’un attaquant réel et ne teste l’outil de fichiers d’aucun framework.

Les limites de l’étude

  • Systèmes configurés uniquement. Les résultats décrivent les systèmes tels que configurés. L’article ne classe aucun framework comme plus sûr.
  • Un modèle, douze expériences. Toutes les exécutions ont utilisé gpt-4o-mini. Les auteurs écrivent : « Douze expériences sur quatre frameworks ne peuvent pas représenter tous les scénarios d’attaque. »
  • Un seul contrôle de délégation testé. La vérification de l’émetteur d’origine n’est testée que dans E11. E5 et E8 sont aussi des transmissions et n’avaient pas de bras protégé apparié.
  • Hors périmètre. L’authentification par identifiants, les systèmes d’identité d’entreprise et les moteurs de politique externes n’ont pas été évalués de manière exhaustive.
  • Aucun code publié. Nous n’avons trouvé aucun dépôt contenant les prompts, les traces ou les décomptes par essai : les résultats catégoriels ne peuvent donc pas être recalculés.

Un enregistrement pour chaque transmission

Le point commun entre E3, E5, E8, E11 et E12 est une demande dont l’autorité a été perdue ou inventée à une frontière. Un enregistrement de transmission rend cette autorité explicite et donne au destinataire un élément à vérifier. L’enregistrement d’autorité de transmission comporte les champs suivants et un plan de test construit à partir des scénarios de l’étude :

  • Mandant d’origine : la personne, le service ou l’institution sous l’autorité duquel le travail s’exécute, transmis sans modification à chaque étape.
  • Agent délégant et agent destinataire, avec les permissions de chacun.
  • Périmètre délégué et expiration : les actions, ressources et limites transmises, bornées par l’autorité propre du mandant d’origine, avec une heure de fin.
  • Origine du texte de la demande : instruction de l’utilisateur, document récupéré, sortie d’outil ou autre agent, afin qu’un contenu ne puisse pas se faire passer pour une instruction.
  • Vérification de l’émetteur d’origine : le droit du mandant d’origine à déléguer l’action, évalué avant l’attribution des capacités.
  • Référence d’approbation : un enregistrement structuré issu du système d’approbation, validé champ par champ.
  • Vérification à la ressource : ce qui a été vérifié au moment où la ressource a réellement été touchée, et sur quel objet.
  • Preuves : l’appel d’outil, l’identifiant de la ressource et le résultat.

Comment KLA vérifie l’autorité au moment de l’action

Les agents qui agissent via le point d’entrée des actions d’agent de KLA (agent action ingress) travaillent sous un mandat d’agent : un enregistrement versionné qui désigne un responsable, un mandant institutionnel, ainsi que les outils, opérations, destinations et finalités autorisés. Chaque proposition est liée à une révision du mandat. KLA vérifie le mandat lors de l’évaluation de la proposition, puis de nouveau à la frontière d’exécution, juste avant l’appel à la destination ; un mandat révoqué ou une révision modifiée à ce stade bloque l’action sans rien exécuter. Lorsqu’un appel atteint KLA via sa passerelle MCP, l’identifiant de délégation de la passerelle est à usage unique et lié à l’appelant, à ses rôles, au chemin de la requête et à une empreinte SHA-256 du corps de la requête : un identifiant ne peut donc pas porter une autre requête. L’approbation humaine arrive sous forme de Decision Request tranchée dans KLA, et KLA refuse une décision prise par l’utilisateur qui a demandé l’action.

Ces vérifications couvrent les actions qui passent par KLA. Une lecture de fichier dans le bac à sable propre d’un agent, comme dans le cas E6, leur échappe et exige une vérification du type présenté plus haut. Les recherches présentées ici n’ont pas testé KLA.

Foire aux questions

Une liste d’outils autorisés suffit-elle à contrôler ce qu’un agent d’IA peut faire ?

Non. Dans l’étude du 16 novembre 2026, une séquence d’outils autorisés individuellement a atteint un fichier protégé dans les quatre frameworks configurés. Une liste d’autorisation limite les outils qu’un agent peut appeler. Elle ne limite pas ce qu’une chaîne d’appels, ou une demande transmise par un autre agent, peut accomplir. Vérifiez aussi l’autorité de l’émetteur d’origine et l’opération réellement effectuée sur la ressource.

Comment empêcher l’escalade d’autorité lorsqu’un agent d’IA délègue à un autre ?

Vérifiez si l’agent d’origine peut déléguer l’action avant de construire la transmission, et ne donnez à l’agent destinataire que les capacités que cette vérification autorise. Dans l’expérience E11 de l’étude, cette vérification a empêché la lecture et la divulgation non autorisées dans les quatre configurations ; sans elle, les quatre ont divulgué le secret.

Comment prévenir les attaques time-of-check to time-of-use sur les liens symboliques dans les outils de fichiers des agents ?

Liez la vérification au fichier réellement ouvert. Dans notre reproduction, revérifier le chemin avant la lecture laissait encore fuir le fichier lorsque le lien changeait entre la vérification et l’ouverture. Ouvrir le fichier, vérifier à quoi renvoie le descripteur et lire depuis ce descripteur a refusé la substitution. Sous Linux, openat2 avec RESOLVE_BENEATH le fait en un seul appel.

Un agent d’IA peut-il accepter une approbation écrite dans un message ?

Il ne le devrait pas. Dans l’expérience E12 de l’étude, les exécuteurs qui acceptaient une approbation de réviseur écrite dans un message non fiable ont créé un fichier non autorisé dans les quatre frameworks. Un enregistrement d’approbation structuré émis par un réviseur dédié, validé avant l’exécution, a rejeté la falsification et a continué d’autoriser les demandes légitimes.

Points clés à retenir

L’autorité doit accompagner le travail et être vérifiée là où le travail touche une ressource. Faites suivre le mandant d’origine à chaque transmission, ne laissez jamais un message tenir lieu d’approbation, et liez les vérifications de fichiers à l’objet réellement ouvert. Commencez par l’enregistrement d’autorité de transmission.

Les sources ont été vérifiées le 20 novembre 2026. Tous les résultats de l’article sont ceux des auteurs ; aucun code n’a été publié, et nous n’avons reproduit que le cas du lien symbolique, dans une simulation locale. Cet article ne contient aucun résultat de production de KLA.

Voir en action

Prêt à automatiser vos preuves conformité ?

Réservez une démo de 20 minutes pour voir comment KLA vous aide à prouver la surveillance humaine et exporter la documentation Annex IV prête à l'audit.

Délégation multi-agents : où l’autorité fuit lors des transmissions | KLA Blog