Trois instruments façonnent désormais la manière dont les institutions financières gouvernent les systèmes d'IA qui agissent : le cadre SAFR publié par l'initiative BuildFin.ai du MAS en juillet 2026, les obligations de la loi européenne sur l'IA pour les systèmes à haut risque et les lignes directrices de la FINMA 08/2024 on gouvernance et gestion des risques lors de l'utilisation de l'IA. Ils diffèrent par leur force juridique, leur portée et leur vocabulaire. Ils s’accordent sur l’orientation : la gouvernance passe de la documentation examinée avant le déploiement aux preuves produites au moment de l’action. Cet article cartographie ce que chaque régime demande, isole le noyau qu’ils partagent et définit ce qu’une institution transfrontalière devrait construire une fois pour répondre à ces trois questions.
Preuve d'exécution pour la finance agentique
La gestion des risques de modèle valide un système avant son déploiement. L'audit examine ce qu'il a fait par la suite. Le livre blanc SAFR cite l’espace entre ces deux disciplines comme la première des trois lacunes de l’infrastructure de gouvernance actuelle : ni l’une ni l’autre n’examine une décision spécifique d’un agent avant son exécution. La deuxième lacune concerne l’interface de gouvernance homme-agent. Aujourd’hui, l’escalade est ponctuelle (une notification, une alerte par e-mail, un indicateur sur le tableau de bord) sans date limite, sans format de décision standard et sans enregistrement d’audit. Le journal appelle cela « l’apparence d’une surveillance humaine sans sa substance ». La troisième lacune est la fragmentation : des garde-fous par déploiement qui ne sont ni interopérables ni auditables dans un format cohérent.
Les lacunes sont importantes en raison de ce que font désormais les systèmes d'IA en finance. Les agents effectuent des paiements, soumettent des ordres de négociation, approuvent des demandes de crédit, déposent des rapports réglementaires et règlent des réclamations d'assurance, souvent à une fréquence élevée et sans examen humain par action. Chacun des trois régimes ci-dessous répond à ce changement avec des exigences qui s'appliquent pendant le fonctionnement du système.
Singapour : le cadre MAS SAFR spécifie le point de contrôle
Safeguards pour Agentic Finance at Runtime (SAFR) est un livre blanc, version 1.0, publié en juillet 2026 by initiative BuildFin.ai de MAS et rédigé avec Ant International, Circle, HSBC, J.P. Morgan Chase, Manulife, Mastercard, OCBC, et Visa. Il décrit une approche de référence pour une couche de gouvernance d'exécution située entre un agent d'IA et les systèmes sur lesquels il agit, évaluant les actions proposées avant leur exécution. Le document est explicite quant à son statut : « Il ne constitue pas une orientation réglementaire ou des attentes en matière de surveillance. » Chaque établissement reste responsable de déterminer dans quelle mesure son déploiement s’aligne sur les attentes prudentielles qui s’appliquent à lui.
La thèse de conception : "aucune action agentique n'atteint l'exécution sans avoir été déclarée, autorisée et évaluée." Quatre composants le fournissent. L'identité de l'agent lie chaque action proposée à un agent enregistré, vérifié par rapport à un registre avant toute autre évaluation. Le référentiel de contrôles contient le règlement configurable de l'institution, tiré des politiques organisationnelles, des exigences réglementaires, des règles de produit et des mandats fournis par les utilisateurs. Le moteur de disposition évalue chaque action par rapport à ces contrôles et renvoie l'un des quatre résultats obligatoires : Refuser, Escalader, Exécuter automatiquement ou Observer. Le journal d'audit enregistre chaque décision de gouvernance sous une forme immuable, inviolable et en annexe uniquement, selon les termes du journal, "le document faisant autorité, indépendant de toute partie intéressée par la façon dont les événements sont caractérisés après coup".
SAFR arrive dans une pile de Singapour plus large. Le projet MindForge, un consortium de l'industrie MAS, a publié un manuel exécutif de 17 considerations et un manuel d'opérationnalisation couvrant, entre autres choses, l'outil de moindre privilège et l'accès aux données pour les agents, les kill switchs et les délais d'attente, ainsi que la traçabilité via une journalisation consultable. Le modèle de gouvernance de l'IA de l'IMDA pour l'IA agentique (2026) ajoute un modèle de gouvernance en quatre parties : délimitation des cas d'utilisation, limitation de l'accès, surveillance humaine et responsabilité de la hiérarchie principale. Une présentation complète du framework se trouve dans notre explication du framework SAFR.
L'EU AI Act : les enregistrements d'exécution en tant qu'obligation légale
L'EU AI Act fixe dans la loi des obligations d'enregistrement d'exécution pour les systèmes d'IA à haut risque. Quatre articles comptent ici.
L'Omnibus numérique sur l'IA, adopté le 29 juin 2026, reporte les obligations les plus à haut risque au 2 décembre 2027. Le report modifie la date de mise en conformité. L'orientation est inchangée et les institutions déployant des systèmes agentiques en 2026 will exploiteront ces mêmes systèmes lorsque les obligations s'appliqueront. Les enregistrements d'événements conçus dès le départ coûtent moins cher que les enregistrements installés ultérieurement sur un domaine en activité.
Pour connaître les obligations d'évaluation qui précèdent le déploiement, consultez notre guide des modèles FRIA pour la loi européenne sur l'IA.
- Article 12 : journalisation automatique des événements. Les systèmes d'IA à haut risque doivent enregistrer automatiquement les événements.
- Article 26 : devoirs du déployeur. L'institution exploitant un système à haut risque conserve les journaux qu'elle génère.
- Article 14 : surveillance humaine. Les systèmes à haut risque doivent être conçus pour une surveillance humaine efficace pendant leur utilisation.
- Article 72 : surveillance post-commercialisation. Les prestataires doivent surveiller les systèmes à haut risque après leur mise sur le marché.
Suisse : Orientation de la FINMA 08/2024
Orientation de la FINMA 08/2024 addredéfinit la gouvernance et la gestion des risques lorsque les institutions financières utilisent l'intelligence artificielle. Il énonce les attentes au niveau des principes. Quatre attentes reviennent :
La proportionnalité est le principe opérationnel des systèmes agentiques. La documentation proportionnée pour un modèle rédigeant des résumés pour examen humain diffère de la documentation proportionnée pour un agent initiant des paiements à haute fréquence. Selon notre lecture, la documentation proportionnée pour les agents autonomes agissant sur les rails financiers est un enregistrement par action de ce qui a été proposé, de quelle autorité cela a été vérifié et pourquoi cela a été autorisé à aller de l'avant.
- inventaires des applications d'IA,
- responsabilité claire de leur utilisation,
- tests et surveillance,
- documentation proportionnée au risque.
Le noyau commun aux trois régimes
Les trois régimes partagent un noyau commun : un système dont l'identité est connue, dont l'autorité est limitée, dont les actions sont évaluées pendant qu'il fonctionne et dont les archives ne peuvent pas être réécrites en silence.
Le mappage est directionnel. SAFR est le plus spécifique des trois : il définit un point de contrôle qui renvoie un résultat contraignant pour chaque action proposée avant l'exécution, et il spécifie les structures de données que l'enregistrement doit contenir. La loi sur l’IA est une loi contraignante et encadre ses exigences au niveau du système : capacité de journalisation, conception de la surveillance, processus de surveillance. La FINMA énonce des principes et laisse à l'institution le soin de mettre en œuvre ses principes. Une institution qui met en œuvre le modèle SAFR produit, comme sous-produit, des enregistrements d’événements par action que les deux autres régimes peuvent lire. Une institution qui met en œuvre uniquement la journalisation au niveau du système doit encore créer le point de contrôle de pré-exécution.
| Exigence | SAFR (MAS BuildFin.ai, 2026) | Loi européenne sur l'IA | Orientation FINMA 08/2024 |
|---|---|---|---|
| Instrument | Approche de référence sectorielle (« ne constitue pas une orientation réglementaire ») | Règlement contraignant ; obligations les plus à haut risque reportées à 2 Dec 2027 | Conseils de surveillance |
| Identité vérifiée | Identité de l'agent vérifiée par rapport à un registre avant toute autre évaluation | Non fournie | Inventaires des applications d'IA |
| Autorité limitée | Mandats : autorité déléguée explicite et lisible par machine ; un agent ne peut pas étendre son propre champ d'action | Surveillance humaine pendant l'utilisation (Art. 14) | Responsabilité claire |
| Évaluation au moment de l'action | Le moteur de disposition renvoie le refus, l'escalade, l'exécution automatique ou l'observation avant l'exécution | Surveillance humaine pendant l'utilisation (Art. 14 ); surveillance post-commercialisation (Art. 72) | Tests et surveillance |
| Enregistrement inviolable | Journal d'audit immuable, en annexe uniquement de chaque décision de gouvernance | Journalisation automatique des événements (Art. 12) ; journaux conservés par le déployeur (Art. 26) | Documentation proportionnée au risque |
Construire une fois, configurer par régime
Une institution supervisée dans plusieurs de ces juridictions doit construire le noyau partagé une seule fois et exprimer les différences de régime sous forme de configuration.
- 1. Un registre d'agents. Chaque agent est une entité enregistrée et versionnée avec un propriétaire humain nommé. Un artefact sert le composant d'identité de l'agent de SAFR, les attentes d'inventaire de la FINMA et le besoin du déployeur de savoir à quels systèmes ses obligations en vertu de l'AI Act s'attachent.
- 2. Une couche de stratégie, des packs de contrôle par régime. Les contrôles sont versionnés et lisibles par machine. Un pack de Singapour code l'étalonnage des dispositions sur les facteurs de SAFR : réversibilité de l'action, matérialité financière, gravité de l'impact sur le client, sensibilité réglementaire et nouveauté. Un pack européen code les tâches de surveillance et de conservation des enregistrements pour les systèmes à haut risque. Un pack suisse encode les missions de responsabilité et la cadence des tests. Le runtime qui les évalue est le même.
- 3. Une norme de preuve unique, définie par le lecteur le plus strict. En annexe uniquement, inviolable, exportable et vérifiable par une partie n'ayant pas accès au système de production. Un enregistrement construit selon cette norme peut être lu par les trois régimes ; les différences de régime résident alors dans les contrôles qui les produisent et dans les modalités de conservation et de reporting.
- 4. Autorisation par action dans un travail en plusieurs étapes. SAFR indique explicitement qu'un résultat d'exécution automatique ou d'observation à une étape n'emporte aucune autorité sur la suivante. Construire cela une fois et chaque étape devient un point de décision où un humain peut être amené.
La place de KLA
KLA Control Plane implémente le modèle SAFR, disponible aujourd'hui. Le Agent Registry contient des agents versionnés avec des propriétaires humains nommés ; le Policy Builder publie via une version régie : linted fail-closed, avec l'approbation de deux personnes sur le Decision Desk. Le KLA Policy Engine résout chaque action proposée pour autoriser, avertir, require_approval ou bloquer avec des codes de raison lisibles par machine, échoue la fermeture si le service de décision est inaccessible et la piste d'audit exporte les Sealed Evidence Bundle qu'un tiers peut vérifier hors ligne. La carte complète des composants, y compris les capacités encore en développement, se trouve sur la page de mise en œuvre SAFR. La façon dont les mêmes preuves d'exécution correspondent aux obligations de l'EU AI Act est expliquée sur notre page Logiciel de conformité à l'EU AI Act.
Par où commencer : la Liste de contrôle de préparation SAFR évalue votre patrimoine actuel à travers huit sections : inventaire des agents, mandats, contrôles, dispositions, enveloppe et traçabilité, opérations d'escalade, audit et preuves, modèle de déploiement. Les institutions dépendant de l'UE ou de la FINMA peuvent utiliser la même carte des écarts ; les sections suivent le noyau partagé ci-dessus. Une session de trente minutes couvre une exécution gouvernée de bout en bout : politique, décision, escalade, preuves scellées : [réserver un examen des écarts SAFR de 30 minutes] (/book-demo). Sources : source source
Foire aux questions
Le SAFR s'applique-t-il aux institutions en dehors de Singapour ?
SAFR est publié par l'initiative BuildFin.ai de MAS, et le document indique qu'il "ne constitue pas des orientations réglementaires ou des attentes en matière de surveillance". Le document le décrit comme une référence industrielle que les institutions peuvent mettre en œuvre au sein de leur propre infrastructure, en utilisant leurs propres configurations de règles et modalités de gouvernance. Chaque établissement reste responsable de déterminer dans quelle mesure son déploiement s’aligne sur les attentes prudentielles qui s’appliquent à lui.
L'Omnibus numérique a-t-il supprimé les obligations de journalisation et de surveillance de la loi européenne sur l'IA ?
Non. L'Omnibus numérique sur l'IA reporte les obligations les plus à haut risque au 2 décembre 2027. Il modifie la date de conformité et laisse les obligations d’enregistrement, de surveillance et de surveillance telles qu’elles étaient.
Qu'ont en commun le SAFR, la loi européenne sur l'IA et les orientations de la FINMA 08/2024 have ?
Quatre exigences reviennent dans les trois : l'identité du système agissant est connue et enregistrée ; son autorité est définie et limitée ; son fonctionnement est évalué et surveillé pendant son exécution ; et ses actions produisent des records qui tiennent après coup. La SAFR les définit comme des composants d'exécution, la loi sur l'IA les définit comme des obligations pour les systèmes à haut risque et la FINMA les définit comme des principes de gouvernance.
Une piste d'audit peut-elle servir aux trois régimes ?
Un enregistrement conçu selon les normes les plus strictes (ajout uniquement, inviolable, exportable et vérifiable indépendamment hors ligne) peut être lu par les trois. Les différences de régime résident alors dans les contrôles qui produisent les documents et dans les modalités de conservation et de reporting. Chaque établissement reste responsable de confirmer que ses dossiers répondent aux attentes spécifiques de ses propres superviseurs.
Points clés à retenir
SAFR donne la description la plus précise à ce jour de ce à quoi ressemble la gouvernance d'exécution pour la finance agentique. La loi européenne sur l’IA fait des enregistrements d’exécution une obligation légale pour les systèmes à haut risque. La FINMA exige des inventaires, une responsabilité, des tests et une surveillance ainsi qu'une documentation proportionnés au risque. Les trois instruments diffèrent par leur force et leur précision et convergent vers la forme : identité vérifiée, autorité limitée, évaluation au moment de l'action, enregistrement inviolable. Une institution qui construit ce noyau répond une fois aux trois avec les mêmes preuves. Évaluez votre domaine avec la Liste de contrôle de préparation SAFR, lisez la carte des composants pour la mise en œuvre du cadre SAFR ou réservez un examen des écarts SAFR de 30 minutes.
Source : Sauvegardes pour Agentic Finance au moment de l'exécution, livre blanc v1.0, MAS BuildFin.ai, juillet 2026. Passages cités © Autorité monétaire de Singapour. SAFR est une référence du secteur et ne constitue pas une orientation réglementaire ou une attente de surveillance. KLA est indépendant et non affilié, approuvé ou certifié par MAS ou BuildFin.ai.