Couche de gouvernance à l'exécution

Une couche de gouvernance à l'exécution est la couche de contrôle placée entre un agent d'IA et les systèmes sur lesquels il agit. Le livre blanc MAS SAFR (Safeguards for Agentic Finance at Runtime) définit précisément sa position : la couche « se situe entre l'agent et les systèmes sur lesquels il agit, évalue les actions proposées avant leur exécution et fonctionne aux côtés des infrastructures de paiement, des protocoles de règlement, des moteurs de conformité et des systèmes bancaires centraux existants ». Sa garantie est la thèse de SAFR : « aucune action agentique n'atteint l'exécution sans avoir été déclarée, autorisée et évaluée ».

La couche répond à trois lacunes que SAFR identifie dans l'infrastructure de gouvernance actuelle. L'assurance avant exécution : la gestion du risque de modèle valide avant le déploiement, l'audit est rétrospectif et la décision individuelle prise à l'exécution n'est examinée par aucun des deux. L'interface de gouvernance entre l'humain et l'agent : aujourd'hui, l'escalade prend souvent la forme d'une notification ou d'un indicateur de tableau de bord sans échéance, format de décision standard ni dossier d'audit, ce que le livre blanc appelle « l'apparence de la supervision humaine sans sa substance ». La fragmentation : des garde-fous propres à chaque déploiement dont les enregistrements ne peuvent pas être audités de manière cohérente.

La couche occupe une place précise dans la pile. Les garde-fous d'IA (filtrage de contenu, défenses contre les injections de prompt, filtrage des sorties) sont généralement probabilistes et régissent ce qu'un modèle produit ; ils ne déterminent pas si une action financière proposée est autorisée ou exécutable. La couche de gouvernance à l'exécution intervient après le filtrage du contenu et avant l'exécution. L'application des règles au niveau du règlement, notamment les règles des réseaux de cartes, les normes SWIFT et les règles ACH, intervient après que la couche a déterminé si l'agent peut agir. Les plateformes de conformité conservent leurs propres évaluations ; la couche produit l'enregistrement de gouvernance structuré sur lequel elles peuvent s'appuyer.

Dans SAFR, la couche comprend quatre composants d'exécution qui interagissent via l'enveloppe de gouvernance : Agent Identity, le Controls Repository, le moteur de disposition et l'Audit Log. SAFR décrit deux modèles de déploiement. L'intégration native instrumente l'agent pour qu'il émette une enveloppe avant chaque action proposée ; elle est recommandée pour les nouveaux déploiements. L'intégration par passerelle intercepte les appels API sortants au niveau de l'infrastructure sans modifier le code de l'agent ; le livre blanc la présente comme le point de départ pratique pour les institutions qui disposent de nombreux agents existants, l'instrumentation native venant ensuite pour les nouveaux développements.

Dans l'implémentation SAFR de KLA, le KLA Control Plane assure ce rôle.