Les lignes directrices de la MAS sur la gestion des risques de l'IA sont définitives : ce que les banques doivent faire d'ici 2027 et 2028

Ce que la MAS a publié¶

Les Guidelines on Artificial Intelligence Risk Management sont datées du 7 octobre 2026. La MAS indique qu'elles s'appliquent à tous les établissements financiers et à toutes les formes de technologies d'IA. Les établissements financiers sont définis par renvoi à la section 2 du Financial Services and Markets Act 2022, et les lignes directrices s'appliquent sur une base consolidée aux établissements constitués localement qui sont soumis à la surveillance consolidée de la MAS ou qui détiennent une infrastructure d'information critique.

La définition de l'IA repose sur un comportement appris. L'IA désigne les systèmes ou modèles fondés sur des machines qui produisent des résultats à partir de ce qu'ils ont appris, par exemple des données ou des entrées qu'ils reçoivent. Les systèmes à base de règles, les formules définies manuellement et l'automatisation robotisée des processus qui suit des instructions fixes sans apprentissage en sont exclus. La liste indicative de ce qui est inclus comprend l'IA générative et les agents d'IA, systèmes multi-agents compris.

Les lignes directrices complètent les instruments existants de la MAS. Les principes FEAT (Fairness, Ethics, Accountability and Transparency) continuent de s'appliquer, et les attentes de la MAS en matière d'externalisation et de tiers s'appliquent à l'IA fournie par des tiers. Un établissement appartenant à un groupe international peut utiliser le cadre de son groupe lorsque celui-ci satisfait aux lignes directrices, et la direction générale locale doit pouvoir démontrer à la MAS comment elle s'acquitte de ses responsabilités de supervision.

Deux dates d'application¶

Le paragraphe 1.8 fixe le calendrier : les lignes directrices entrent en vigueur le 7 octobre 2027 ; les établissements financiers peuvent satisfaire aux attentes des sections 3 et 4 à partir du 7 octobre 2027, et à celles des sections 5 et 6 au plus tard le 7 octobre 2028. Le document de consultation proposait une transition unique de 12 mois après la publication. Le texte final conserve 12 mois pour le volet gouvernance et accorde une année supplémentaire pour le volet contrôles.

Cette répartition suit la structure du document. Les sections 3 et 4 déterminent qui porte le risque lié à l'IA et quelles IA l'établissement utilise. Les sections 5 et 6 déterminent comment chaque cas d'usage est construit, testé, surveillé, modifié et retiré. Un établissement ne peut pas calibrer les contrôles du cycle de vie avant de disposer d'un inventaire et d'une notation de matérialité ; l'ordre des dates correspond donc à l'ordre des travaux.

Ce qui doit être en place d'ici le 7 octobre 2027¶

Supervision. Le conseil d'administration, ou un comité auquel il délègue cette tâche, approuve l'approche globale de gouvernance de la gestion des risques de l'IA et veille à ce que les risques liés à l'utilisation de l'IA soient pris en compte dans le cadre d'appétence au risque, y compris, le cas échéant, au moyen de déclarations qualitatives et de mesures quantitatives de ces risques. La MAS donne des exemples de mesures quantitatives : des seuils sur le nombre ou l'impact financier des incidents liés à l'IA, sur le nombre de cas d'usage importants qui dépendent d'un seul fournisseur et sur le nombre de cas d'usage importants qui dépassent les seuils de performance. La direction générale répartit les rôles entre les trois lignes, met en place un processus interne de remontée pour gérer les risques importants et les exceptions liés à l'utilisation de l'IA, comme les incidents d'IA, et informe en temps utile le conseil d'administration des questions importantes de risque lié à l'IA.

Identification. Une fonction de contrôle désignée est responsable du processus d'identification et tranche en dernier ressort la question de savoir si une utilisation donnée relève de l'IA. L'identification doit couvrir l'IA intégrée dans les services de fournisseurs tiers importants, y compris les logiciels vendus sans étiquette IA.

Inventaire. L'établissement tient un inventaire exact des cas d'usage, systèmes ou modèles d'IA. Les attributs suggérés comprennent la finalité, le périmètre d'utilisation approuvé, le type de modèle, les données utilisées, les dépendances, le stade du cycle de vie, la notation de matérialité du risque, l'état de la revue, les responsables et les liens vers la documentation. Pour les agents, la note de bas de page 25 ajoute des identifiants propres à l'agent, des informations sur les outils et systèmes auxquels il peut accéder, ses composants et les garde-fous qui encadrent le risque.

Matérialité du risque. Chaque cas d'usage de l'IA est évalué selon au moins trois dimensions : l'impact, la complexité et le degré de dépendance. Le degré de dépendance inclut l'autonomie accordée au système ou au modèle d'IA et le degré d'implication ou de supervision humaine. L'évaluation couvre la matérialité inhérente et résiduelle, et la notation résiduelle doit se situer dans l'appétence au risque avant le déploiement. Une fonction de contrôle désignée approuve ou arbitre les notations.

Ce qui doit être en place d'ici le 7 octobre 2028¶

La section 5 demande des contrôles tout au long du cycle de vie de chaque cas d'usage, proportionnés à sa matérialité du risque. Quatre attentes comptent le plus pour les agents.

Contrôle humain (5.9). Des rôles clairs avec des processus de remontée et de prise de décision, un personnel qui a l'autorité et la capacité d'intervenir, des systèmes dotés de mécanismes qui soumettent les résultats ou recommandations de l'IA à une revue humaine lorsque des conditions prédéfinies (de fiabilité ou d'exactitude, par exemple) sont réunies, et une revue documentée des décisions et interventions de supervision, y compris les quasi-incidents. Le texte mentionne aussi le biais d'automatisation et la fatigue décisionnelle.

Revue avant déploiement (5.18–5.19). Une revue par des parties qui n'ont pas participé au développement, et une validation indépendante formelle avant déploiement pour les cas d'usage de matérialité élevée.

Surveillance et incidents (5.23). Des indicateurs assortis de seuils échelonnés et des contrôles de dérive. Le cas échéant, les flux d'information et les chemins de décision des processus qui utilisent l'IA, comme les raisonnements, les actions effectuées et les outils utilisés, devraient aussi être surveillés. Pour l'IA de matérialité élevée, les établissements devraient envisager des « kill switches » ou des mécanismes de neutralisation, et pour les agents d'IA une documentation renforcée, par exemple la journalisation des prompts et des réponses du modèle avec les versions du modèle et les processus de raisonnement.

Gestion des changements (5.25). Les changements significatifs déclenchent une revue et une nouvelle approbation, le contrôle des changements s'exerce sous contrôle humain, et la gestion des versions permet le retour arrière. La section 6 demande ensuite un personnel compétent, des ressources suffisantes et une infrastructure technologique dimensionnée pour le cas d'usage.

C'est sur le contrôle des changements que nos propres tests nous ont le plus appris. Dans KLA, la publication d'une modification de politique crée une approbation à deux personnes, et la nouvelle version reste inactive jusqu'à ce qu'un autre approbateur la valide. Dans nos tenants de test, un run d'agent exécuté contre une politique approuvée mais pas encore active a échoué en mode fermé avec un message de vérification générique, et l'opérateur ne pouvait pas savoir pourquoi. Nous avons modifié le message pour qu'il indique la raison et l'étape suivante. L'enseignement pour le paragraphe 5.25 : chaque version de politique a besoin d'un état visible (brouillon, approuvée, active), et l'enregistrement de chaque action d'agent doit nommer la version active au moment de son exécution.

Ce que le texte final dit des agents d'IA¶

Les agents apparaissent à quatre endroits. Le paragraphe 1.5 indique que les lignes directrices fixent des attentes pour le déploiement de l'IA, y compris l'IA générative et des évolutions plus récentes comme les agents d'IA. Le paragraphe 1.11 décrit le risque : un agent disposant d'un accès à des outils pourrait exécuter de lui-même des actions non autorisées ou erronées, contraires aux objectifs commerciaux de l'établissement ou à l'intérêt du client, et des agents compromis pourraient exfiltrer des données sensibles ou exécuter des commandes malveillantes à grande échelle. La note de bas de page sur l'inventaire énumère des attributs propres aux agents, et le paragraphe sur la surveillance mentionne les actions et les outils.

La MAS renvoie aussi les établissements au Model AI Governance Framework for Agentic AI de l'IMDA comme référence pour les pratiques propres aux agents. Le communiqué de presse annonce l'étape suivante : en 2027, la MAS entend consulter de nouveau le secteur financier sur les orientations complémentaires utiles en matière d'IA agentique. D'ici là, les lignes directrices constituent la base prudentielle pour les agents, appliquée au moyen des mêmes attentes d'inventaire, de matérialité, de supervision et de surveillance que pour toute autre IA.

Lus ensemble, ces passages décrivent un programme d'agents que la MAS peut superviser : chaque agent enregistré avec ses outils et ses garde-fous, une autonomie notée au titre du degré de dépendance, un point défini où les actions proposées remontent vers une personne habilitée à intervenir, un enregistrement des actions et des appels d'outils, et un moyen testé d'arrêter l'agent.

Ce qui a changé par rapport au projet soumis à consultation¶

Calendrier. La consultation proposait 12 mois à compter de la publication. Le texte final accorde 12 mois pour les sections 3 et 4 et 24 mois pour les sections 5 et 6.

Comités. La consultation proposait un comité transversal dédié lorsque l'exposition d'un établissement aux risques de l'IA est importante. Le communiqué de presse indique que les structures de gouvernance existantes peuvent être utilisées et qu'un comité dédié à l'IA n'est pas requis. Le conseil d'administration, ou un comité auquel il délègue, assume les responsabilités de la section 3.

Politiques de base. Les paragraphes 2.3 à 2.5 prévoient une voie définie pour les établissements dont l'utilisation de l'IA n'aurait pas d'impact négatif important si elle fonctionnait mal ou devenait indisponible. Ces établissements peuvent appliquer des politiques de base de gouvernance de l'IA : un dirigeant responsable, des utilisations autorisées et interdites assorties d'exigences de revue humaine, une liste approuvée d'outils d'IA, la formation du personnel, des contrôles de conformité réguliers et un réexamen périodique de leur éligibilité. Les exemples cités sont l'aide à la rédaction, les synthèses internes et la recherche interne. Un agent qui agit au sein d'un flux de travail de production n'entre pas dans ces exemples.

Où en est SAFR¶

Les lignes directrices finales ne mentionnent pas SAFR (Safeguards for Agentic Finance at Runtime), le livre blanc issu du programme BuildFin.ai de la MAS. Deux jours après les lignes directrices, le 9 octobre 2026, BuildFin.ai a publié SAFR version 1.1, qui précise le champ et l'approche de mise en œuvre et ajoute des études de cas. La version 1.1 précise que SAFR ne constitue ni une orientation réglementaire ni une attente prudentielle, et qu'il ne préfigure aucune orientation future de ce type.

SAFR reste donc une référence volontaire, et la MAS ne s'est pas engagée à la rendre obligatoire. Son intérêt pour un établissement financier est pratique : elle décrit les mécanismes d'exécution (identité de l'agent, mandats, une disposition pour chaque action proposée et un journal d'audit) qui produisent les enregistrements de supervision et de surveillance demandés par la section 5. L'explication de SAFR couvre la spécification, et Comment mettre en œuvre SAFR détaille un mandat et un enregistrement de décision à titre d'exemple.

Que faire avant le 7 octobre 2027¶

La première échéance porte sur la gouvernance, et l'essentiel du travail consiste à recenser l'existant. Trois tâches tiennent dans les deux prochains trimestres. Désignez les fonctions de contrôle chargées de l'identification, de l'inventaire et de la matérialité, et faites approuver par le conseil d'administration l'approche de gouvernance et les mesures d'appétence au risque lié à l'IA. Constituez l'inventaire avec les attributs d'agent de la note de bas de page 25, IA de tiers et IA intégrée comprises. Notez chaque cas d'usage selon l'impact, la complexité et le degré de dépendance, afin que les agents de matérialité élevée soient connus avant le début des travaux sur le cycle de vie.

Pour les agents de matérialité élevée, commencez tôt les travaux de 2028. Un point de contrôle à l'exécution qui évalue chaque action proposée avant son exécution, oriente les cas définis vers un évaluateur nommément désigné et enregistre l'action, la version de politique, le résultat et toute décision humaine produit les preuves de supervision et de surveillance décrites à la section 5. KLA Control Plane met en œuvre ce modèle avec quatre résultats : allow, warn, require_approval et block.