Aller au contenu
Technique20 novembre 202610 min de lecture

Préversion de Microsoft agent controls : ce que l’hôte doit encore construire

La préversion d’agent controls évalue des politiques ACS ; files d’approbation, fail-closed et journaux d’audit restent à l’hôte. Plan de test en 14 cas.

Antonella Serine

Antonella Serine

Fondatrice, KLA

Fondatrice de KLA, elle développe le plan de contrôle indépendant pour la gouvernance à l'exécution des agents d'IA réglementés dans le cadre de l'EU AI Act.

Le lancement

Le 18 novembre 2026, Microsoft a ouvert une préversion publique d’agent controls : des politiques Agent Control Specification stockées comme ressources Azure et évaluées via une API hébergée.

Les décisions

allow, deny ou transform. Une revue humaine est un deny qui porte un objet approval, que l’hôte doit résoudre ; le service n’ouvre aucune file.

Ce que nous avons vérifié

La règle de virement imprimée refuse purement et simplement les virements au-dessus du plafond. Les exemples liés renvoyaient une erreur 404 le 20 novembre, et l’article et le guide de l’API placent le sélecteur de politique à des endroits différents.

La ressource

Un plan de test côté hôte pour toute décision de politique hébergée : correspondance de l’envoi, traitement des approbations, pannes, transformations, agrégats et corrélation des reçus.

Microsoft a publié le 18 novembre 2026 une préversion publique d’agent controls, un service Azure managé qui stocke les politiques des agents de façon centralisée et les évalue à l’exécution. Les politiques utilisent la spécification ouverte Agent Control Specification (ACS), et les agents atteignent le service par les points d’interception Agent Hooks. Notre article d’octobre comparait les projets ACS et le contrat Agent Hooks ; celui-ci porte sur le service hébergé.

L’annonce présente la préversion comme un plan de contrôle d’entreprise pour le comportement des agents. La documentation décrit une API de décision hébergée : chaque appel renvoie un verdict de politique pour un événement. La mise en application des décisions, la gestion des pannes, le workflow d’approbation humaine, les totaux cumulés des limites agrégées, l’autorisation d’accès aux comptes dans chaque outil et l’enregistrement de ce qui s’est réellement exécuté relèvent tous de l’application hôte. Nous avons lu l’annonce et la documentation Microsoft Learn, vérifié les contenus liés le 20 novembre et rédigé un plan de test pour le côté hôte. Cet article fait partie de nos notes de recherche sur l’exécution des agents : chacune lit de près une source récente, rend compte de ce que nous avons vérifié nous-mêmes et se termine par une ressource utilisable sur votre propre système.

Ce que Microsoft a annoncé

L’annonce, Introducing agent controls: An enterprise control plane for agent behavior, est signée Mehrnoosh Sameki, Mohamed Elmergawi, Mike Shi, Liam Crumm et l’équipe Responsible AI de Microsoft. Lire l’annonce.

Les politiques résident sur un compte Azure AI Content Safety : les modules Rego sont téléversés comme ressources raiRegos, le manifeste ACS est publié comme ressource raiPolicies, et une ressource raiBindings facultative lie une politique à une ressource d’agent. À chaque point d’intervention configuré, l’hôte envoie l’événement au point de terminaison Unified Moderate et reçoit un verdict. Une politique peut combiner des classifieurs Content Safety, des juges LLM écrits par le client et des règles Rego qui combinent leurs résultats avec le contexte de la requête. Selon Microsoft Learn, les clients de la préversion ne paient que l’usage des classifieurs et des modèles que déclenchent leurs évaluations, et le service exige un compte activé pour la préversion dans une région prise en charge.

Agent Hooks définit huit points d’interception. La version actuelle d’Unified Moderate, 2026-09-01-preview, accepte quatre sources d’événements : input, output, pre_tool_call et post_tool_call.

Le contrat de décision

Le service renvoie allow, deny ou transform. Les avertissements accompagnent un verdict sous forme de métadonnées. Une revue humaine s’exprime comme un deny qui porte un objet approval, et Microsoft Learn est explicite sur ce que cela signifie : « Une décision de revue est un deny tant que votre hôte ne l’a pas résolue. » et « Le champ approval n’ouvre pas de file de revue et n’accorde aucune permission. » La même page demande aux hôtes de « lier toute approbation à l’action exacte et aux valeurs évaluées ». API et opérations.

La gestion des échecs et l’analyse des réponses reviennent aussi à l’hôte. Un HTTP 200 signifie seulement que l’évaluation s’est terminée ; la réponse porte un verdict à allowed ou blocked à côté de acsVerdict.decision. Learn demande aux hôtes de maintenir l’action bloquée en cas de réponse HTTP 429, 500 et 503, d’erreur de transport et de délai dépassé, ainsi que de verdict malformé ou incohérent, et de ne réessayer que dans un délai borné. La vue d’ensemble ajoute que l’hôte doit envoyer les valeurs qu’il a fait évaluer : « Évaluer un ensemble d’arguments d’outil et en envoyer un autre contourne la politique. » L’article sur le cycle de vie des approbations montre ce qui se dérègle dans l’hôte entre une décision et son effet.

Lecture de l’exemple Caldova

La banque d’exemple de l’annonce, Caldova, a trois règles : les virements supérieurs à 10 000 $ passent en revue humaine, un client en difficulté financière est confié à un spécialiste, et aucune donnée personnelle (PII) d’un client ne sort dans une réponse. La politique lie un juge de difficulté financière à input, une règle de virement à pre_tool_call et un classifieur de PII à output.

  • La règle de virement imprimée refuse purement et simplement le virement. Le module Rego refuse par défaut avec le motif tool_call_not_permitted et n’autorise transfer_funds que pour des montants en USD supérieurs à 0 et jusqu’à 10 000. Une demande de 25 000 $ tombe dans le refus par défaut. L’envoyer en revue exige un deny portant une approbation et un workflow de revue dans l’hôte ; l’exemple ne fournit ni l’un ni l’autre.
  • L’outil vérifie toujours le compte. Après la règle de recherche de compte, l’article indique : « L’implémentation de l’outil vérifie toujours l’accès de l’appelant à ce compte. » La politique filtre l’appel ; l’outil applique l’habilitation.
  • Une limite par appel ne voit qu’un appel. La règle vérifie chaque virement isolément. Un plafond quotidien ou par client exige des totaux cumulés qui font foi, fournis dans le contexte de la requête.
  • Le juge renvoie des scores de grille. Le juge de difficulté financière classe un message comme hardship, no_hardship ou uncertain avec les scores 10, 0 et 5, dont la grille elle-même précise qu’ils ne sont pas des probabilités. L’arrêt des offres de crédit et le transfert vers un spécialiste relèvent du comportement de l’hôte.

Ce qu’enregistre un reçu

L’annonce indique : « Chaque évaluation renvoie aussi un reçu qui identifie les politiques et les versions appliquées. Les applications enregistrent ces reçus avec les résultats d’exécution, ce qui permet aux équipes de relier chaque action à la décision de politique. » Les champs de réponse documentés sur Learn sont un verdict, le contenu d’origine ou transformé, et un acsVerdict contenant la décision, le motif, le message, les avertissements, l’approbation, la transformation, les preuves et les résultats des classifieurs. Aucune des deux sources ne montre de champ nommé receipt, de signature ou de procédure de vérification.

Tel que publié, le reçu identifie donc la politique, et le schéma de réponse ne montre aucune signature. Le lien avec l’action repose sur l’hôte : ce qu’il a enregistré de l’événement envoyé, les arguments qu’il a transmis à l’outil et le résultat qu’il a observé. Si vous devez montrer plus tard à un auditeur qu’une action précise s’est exécutée sous une version précise de la politique, écrivez vous-même cette corrélation et protégez-la comme une preuve.

Ce que nous avons vérifié le 20 novembre

Chaque vérification est listée avec son résultat en annexe du plan de test côté hôte (en anglais).

  • Exemples. L’article renvoie à des exemples sous microsoft-foundry/foundry-samples. L’arborescence a renvoyé une erreur HTTP 404, et l’API GitHub a renvoyé 404 pour le dépôt lui-même. L’annonce, les pages Learn et les dépôts ouverts ACS et Agent Hooks ont tous renvoyé 200.
  • Sélecteur de politique. L’article transmet l’identifiant de ressource ARM complet de la politique dans un paramètre de requête policyId encodé pour l’URL. Le guide de l’API sur Learn place le nom de la politique publiée dans le corps JSON sous policyId et demande de le garder hors de la chaîne de requête. Toutes les pages s’accordent sur la version d’API 2026-09-01-preview ; suivez Learn lorsque les deux divergent.
  • Prise en charge des frameworks. Microsoft Agent Framework documente Agent Hooks comme expérimental en Python et pas encore implémenté en .NET ni en Go. Les outils exécutés par le fournisseur du modèle ne passent que par post_model_call : pre_tool_call ne peut donc pas bloquer leur exécution côté serveur.
  • Limites d’application dans la documentation. La vue d’ensemble sur Learn indique qu’agent controls « n’exécute pas votre agent, n’exécute pas ses outils, n’isole pas son processus dans un bac à sable et ne contrôle pas un chemin qui contourne votre code d’interception ». Un deny en post_tool_call empêche l’agent d’utiliser un résultat ; les effets de bord de l’outil se sont déjà produits. Agent Framework met la sortie en mémoire tampon jusqu’à ce que la vérification de sortie soit passée ; un hôte qui diffuse des tokens avant cette vérification ne peut pas les reprendre.

Un plan de test pour l’hôte

Rien de tout cela n’est inhabituel pour un service de décision, et les mêmes tests s’appliquent à tout moteur de politique hébergé, y compris celui de KLA. Une préversion sans mesures publiées de latence, de contournement ou de résultats justifie de les exécuter avant la production. Le plan de test côté hôte liste quatorze cas ; en voici sept.

Tests d’intégration côté hôte pour une décision de politique hébergée (extrait)
CasQue faireRéussi lorsque
L’envoi correspond à l’évaluationModifier un argument après le verdictL’appel modifié est réévalué ou refusé
Revue demandéeRenvoyer un deny portant une approbationL’action reste bloquée jusqu’à ce que votre workflow enregistre une décision liée aux valeurs évaluées
Service indisponibleForcer une erreur 503 et un délai dépasséL’action reste bloquée ; les nouvelles tentatives s’arrêtent à une échéance ; l’événement est enregistré
Chemin non couvertExécuter un outil que le fournisseur du modèle exécute côté serveur, ou un chemin sans hookListé comme non couvert dans votre inventaire des contrôles, avec son propre contrôle
TransformationRenvoyer un argument d’outil transforméRemplacement validé par rapport à votre schéma avant l’envoi, appliqué une seule fois
Limite agrégéeEnvoyer deux virements sous la limite par appel qui dépassent ensemble le plafond quotidienLe second est refusé, car le contexte portait le total cumulé
CorrélationChoisir une action envoyée la semaine dernièreVous pouvez nommer la version de la politique, l’événement envoyé, les arguments transmis et le résultat observé

Ce qui distingue la conception de KLA

KLA place le workflow d’approbation et les preuves dans le plan de contrôle. Le KLA Policy Engine renvoie l’un de quatre résultats : allow, warn, require_approval ou block. Un résultat require_approval ouvre une Decision Request dans KLA, et pour les actions qui passent par le point d’entrée des actions d’agent de KLA (agent action ingress), l’approbation est liée aux arguments figés de la proposition et à leur empreinte. Lorsque l’évaluation échoue, le moteur renvoie sa décision de repli sécurisé, require_approval par défaut. Les résultats sont écrits sous forme de reçus de gouvernance signés dans un registre en ajout seul propre à chaque tenant, et les Sealed Evidence Bundles contiennent les clés publiques dont un vérificateur hors ligne a besoin. Comme pour tout service de décision, un agent qui n’appelle jamais KLA n’est pas gouverné par lui.

Foire aux questions

Qu’est-ce que Microsoft agent controls ?

Un service Azure managé, en préversion publique depuis le 18 novembre 2026, qui stocke des politiques Agent Control Specification comme ressources Azure et évalue les événements des agents via une API hébergée appelée Unified Moderate. Les politiques peuvent combiner des classifieurs Content Safety, des juges LLM et des règles Rego. L’hôte appelant applique le résultat.

Microsoft agent controls prend-il en charge l’approbation humaine ?

Une politique peut renvoyer un deny qui porte un objet approval. Microsoft Learn précise que le champ approval n’ouvre pas de file de revue et n’accorde aucune permission : l’hôte doit exécuter le workflow de revue et lier toute approbation à l’action exacte et aux valeurs évaluées.

Que se passe-t-il si le service agent controls est indisponible ?

Microsoft Learn demande aux hôtes de maintenir l’action bloquée en cas de réponse 429, 500 ou 503, d’erreur de transport ou de délai dépassé, et de ne réessayer que dans un délai borné. Ce comportement dépend de son implémentation dans l’hôte.

Les reçus d’agent controls permettent-ils de détecter une altération ?

L’annonce indique que chaque évaluation renvoie un reçu identifiant les politiques et les versions appliquées. Au 20 novembre 2026, ni l’annonce ni la référence de l’API sur Learn ne montrent de schéma de reçu, de signature ou de procédure de vérification : les documents publiés n’établissent donc pas la détection d’altération.

Points clés à retenir

Agent controls offre aux équipes un lieu central pour écrire et évaluer la politique des agents, quel que soit le framework. La décision est une étape ; l’hôte doit encore envoyer les valeurs évaluées, mener la revue, maintenir les actions bloquées lorsque le service échoue et enregistrer ce qui s’est réellement passé. Testez ces chemins côté hôte avant la production avec le plan de test côté hôte.

Les sources ont été vérifiées le 20 novembre 2026. Nous n’avions pas de compte de préversion et n’avons exécuté aucune évaluation sur le service. Microsoft n’a publié aucune mesure de latence, de contournement ou de résultats pour ce service. Cet article ne contient aucun résultat de production de KLA.

Voir en action

Prêt à automatiser vos preuves conformité ?

Réservez une démo de 20 minutes pour voir comment KLA vous aide à prouver la surveillance humaine et exporter la documentation Annex IV prête à l'audit.

Préversion de Microsoft agent controls : ce que l’hôte doit encore construire | KLA Blog