MAS SAFR, EU AI Act e FINMA: le autorità di regolamentazione convergono sulle prove di runtime

Evidenze di runtime per la finanza ad agenti¶

La gestione del rischio del modello convalida un sistema prima della distribuzione. L'audit esamina ciò che è stato fatto in seguito. Il Libro bianco SAFR definisce lo spazio tra queste due discipline come la prima delle tre lacune nell’attuale infrastruttura di governance: nessuna delle due esamina una specifica decisione dell’agente prima che venga eseguita. La seconda lacuna è l’interfaccia di governance uomo-agente. Oggi l'escalation è ad hoc (una notifica, un avviso e-mail, un flag sul dashboard) senza scadenza, senza formato decisionale standard e senza record di audit. Il documento definisce ciò “l’apparenza di un controllo umano senza la sua sostanza”. Il terzo divario è la frammentazione: barriere per implementazione che non sono né interoperabili né verificabili in un formato coerente.

Le lacune sono importanti a causa di ciò che fanno oggi i sistemi di intelligenza artificiale nella finanza. Gli agenti avviano pagamenti, inviano ordini di negoziazione, approvano richieste di credito, compilano rapporti normativi e liquidano sinistri assicurativi, spesso con una frequenza elevata e senza alcuna revisione umana per azione. Ciascuno dei tre regimi seguenti risponde a questo cambiamento con requisiti che operano mentre il sistema è in funzione.

Singapore: il quadro MAS SAFR specifica il checkpoint¶

Safeguards for Agentic Finance at Runtime (SAFR) è un white paper, versione 1.0, pubblicato a luglio 2026 dall'iniziativa BuildFin.ai di MAS e scritto con Ant International, Circle, HSBC, J.P. Morgan Chase, Manulife, Mastercard, OCBC e Visa. Descrive un approccio di riferimento per un livello di governance runtime che si colloca tra un agente AI e i sistemi su cui agisce, valutando le azioni proposte prima dell'esecuzione. Il documento è esplicito riguardo al suo status: "Non costituisce una guida normativa o aspettative di vigilanza". Ciascuna istituzione resta responsabile di determinare in che modo la sua implementazione si allinea alle aspettative di vigilanza ad essa applicabili.

La tesi progettuale: "nessuna azione agentica raggiunge l'esecuzione senza essere stata dichiarata, autorizzata e valutata". Quattro componenti lo forniscono. L'identità dell'agente lega ogni azione proposta a un agente registrato, verificato rispetto a un registro prima che proceda qualsiasi altra valutazione. Il repository dei controlli contiene il regolamento configurabile dell'istituto, tratto da politiche organizzative, requisiti normativi, regole di prodotto e mandati forniti dagli utenti. Il motore delle disposizioni valuta ogni azione rispetto a tali controlli e restituisce uno dei quattro risultati vincolanti: Nega, Escalate, Auto-Execute o Observe. Il registro di controllo registra ogni decisione di governance in forma immutabile, a prova di manomissione e di sola aggiunta, secondo le parole del documento, "la registrazione autorevole, indipendente da qualsiasi parte interessata a come gli eventi vengono caratterizzati dopo il fatto".

SAFR arriva all'interno di uno stack più ampio di Singapore. Project MindForge, un consorzio dell'industria MAS, ha pubblicato un manuale esecutivo di considerazioni 17 e un manuale di operatività che copre, tra le altre cose, strumenti con privilegi minimi e accesso ai dati per gli agenti, kill switch e timeout e tracciabilità attraverso la registrazione ricercabile. Il Model AI Governance Framework for Agentic AI (2026) aggiunge un modello di governance in quattro parti: delimitazione dei casi d'uso, limitazione dell'accesso, supervisione umana e responsabilità della gerarchia principale. Una panoramica completa del framework è disponibile nel nostro spiegatore del framework SAFR.

L’EU AI Act: i record di runtime come obbligo legale¶

La legge UE sull’intelligenza artificiale stabilisce per legge obblighi di registrazione del tempo di esecuzione dei sistemi di intelligenza artificiale ad alto rischio. Qui contano quattro articoli.

Il Digital Omnibus sull'intelligenza artificiale, adottato il 29 giugno 2026, rinvia la maggior parte degli obblighi ad alto rischio a 2 dicembre 2027. Il differimento modifica la data di adempimento. La direzione è immutata e le istituzioni che implementano sistemi di agenti in 2026 gestiranno gli stessi sistemi quando si applicheranno gli obblighi. I record degli eventi progettati fin dall'inizio costano meno dei record adattati a un sistema funzionante.

Per gli obblighi di valutazione che precedono l'implementazione, consultare la nostra guida ai modelli FRIA per l'EU AI Act.

• Articolo 12: registrazione automatica degli eventi. I sistemi IA ad alto rischio devono registrare automaticamente gli eventi.
• Articolo 26: compiti dell'operatore. L'istituzione che gestisce un sistema ad alto rischio conserva i registri che genera.
• Articolo 14: supervisione umana. I sistemi ad alto rischio devono essere progettati per garantire un'efficace supervisione umana durante l'uso.
• Articolo 72: monitoraggio post-commercializzazione. I fornitori devono monitorare i sistemi ad alto rischio dopo la loro immissione sul mercato.

Svizzera: Direttiva FINMA 08/2024¶

La Guidance 08/2024 della FINMA affronta la governance e la gestione del rischio quando gli istituti finanziari utilizzano l'intelligenza artificiale. Afferma le aspettative a livello di principi. Ricorrono quattro aspettative:

La proporzionalità è il principio operativo dei sistemi ad agenti. La documentazione proporzionata per un modello che redige riepiloghi per la revisione umana è diversa dalla documentazione proporzionata per un agente che dispone pagamenti ad alta frequenza. Nella nostra lettura, la documentazione proporzionata per gli agenti autonomi che agiscono su binari finanziari è una registrazione per azione di ciò che è stato proposto, rispetto a quale autorità è stato controllato e perché è stato autorizzato a procedere.

• inventari delle applicazioni IA,
• chiara responsabilità per il loro utilizzo,
• test e monitoraggio,
• documentazione proporzionata al rischio.

Il nucleo condiviso tra tre regimi¶

I tre regimi condividono un nucleo comune: un sistema la cui identità è conosciuta, la cui autorità è limitata, le cui azioni vengono valutate mentre funziona e il cui record non può essere riscritto silenziosamente.

La mappatura è direzionale. SAFR è il più specifico dei tre: definisce un checkpoint che restituisce un risultato vincolante per ogni azione proposta prima dell'esecuzione e specifica le strutture dati che il record deve contenere. La legge sull’intelligenza artificiale è una legge vincolante e ne definisce i requisiti a livello di sistema: capacità di registrazione, progettazione della supervisione, processo di monitoraggio. La FINMA definisce i principi e lascia all’istituto la profondità dell’attuazione. Un'istituzione che implementa il modello SAFR produce, come sottoprodotto, i record degli eventi per-azione che gli altri due regimi possono leggere. Un'istituzione che implementa solo la registrazione a livello di sistema deve ancora creare il checkpoint pre-esecuzione.

Costruisci una volta, configura in base al regime¶

Un ente vigilato in più di una di queste giurisdizioni dovrebbe costruire il nucleo condiviso una sola volta ed esprimere le differenze di regime come configurazione.

• 1. Registro di un agente. Ogni agente è un'entità registrata e dotata di versione con un proprietario umano denominato. Un artefatto serve la componente identità dell'agente della SAFR, le aspettative di inventario della FINMA e la necessità dell'operatore di sapere a quali sistemi si riferiscono i suoi obblighi nell'AI Act.
• 2. Un livello di policy, pacchetti di controllo per regime. I controlli sono dotati di versione e leggibili dalla macchina. Un pacchetto Singapore codifica la calibrazione delle disposizioni sui fattori SAFR: reversibilità dell'azione, materialità finanziaria, gravità dell'impatto sul cliente, sensibilità normativa e novità. Un pacchetto UE codifica gli obblighi di supervisione e conservazione dei dati per i sistemi ad alto rischio. Un pacchetto svizzero codifica gli incarichi di responsabilità e la cadenza dei test. Il runtime che li valuta è lo stesso.
• 3. Uno standard di prova, stabilito dal lettore più severo. Di sola aggiunta, a prova di manomissione, esportabile e verificabile da una parte senza accesso al sistema di produzione. Un record costruito secondo questo standard può essere letto da tutti e tre i regimi; le differenze di regime risiedono poi nei controlli che lo producono e negli accordi di conservazione e rendicontazione.
• 4. Autorizzazione per azione nel lavoro in più fasi. SAFR è esplicito che un risultato di esecuzione automatica o osservazione in un passaggio non comporta alcuna autorità in quello successivo. Costruirlo una volta per tutte diventa un punto decisionale in cui è possibile coinvolgere un essere umano.

Dove si inserisce l'KLA¶

KLA Control Plane implementa il modello SAFR, disponibile oggi. Il registro degli agenti contiene agenti con versione con proprietari umani nominati; il Policy Builder pubblica tramite una versione regolamentata: linted fail-closed, con l'approvazione di due persone da parte del Decision Desk. Il motore delle politiche KLA risolve ogni azione proposta per consentire, avvisare, require_approval o bloccare con codici motivo leggibili dalla macchina, non riesce a chiudersi se il servizio decisionale non è raggiungibile e l'audit trail esporta pacchetti di prove sigillate che una terza parte può verificare offline. La mappa completa dei componenti, comprese le funzionalità ancora in fase di sviluppo, si trova nella pagina di implementazione SAFR. Il modo in cui le stesse prove di runtime si associano agli obblighi dell'EU AI Act è spiegato nella nostra pagina Software di conformità dell'EU AI Act.

Da dove iniziare: la lista di controllo della preparazione al SAFR valuta il tuo stato attuale in otto sezioni: inventario degli agenti, mandati, controlli, disposizioni, busta e lineage, operazioni di escalation, audit e prove, modello di distribuzione. Le istituzioni che rispondono all’UE o alla FINMA possono utilizzare la stessa mappa dei divari; le sezioni tracciano il nucleo condiviso sopra. Una sessione di trenta minuti copre un ciclo governato dall'inizio alla fine: politica, decisione, escalation, prove sigillate: prenota una revisione del gap SAFR di 30-minuti.