Livello di governance a runtime

Un livello di governance a runtime è il livello di controllo posizionato tra un agente di IA e i sistemi su cui agisce. Il white paper MAS SAFR (Safeguards for Agentic Finance at Runtime) definisce con precisione questa posizione: il livello "si trova tra l'agente e i sistemi su cui agisce, valutando le azioni proposte prima dell'esecuzione e operando insieme ai rail di pagamento esistenti, ai protocolli di regolamento, ai motori di conformità e ai sistemi bancari core". La sua garanzia è la tesi di SAFR: "nessuna azione agentica raggiunge l'esecuzione senza essere stata dichiarata, autorizzata e valutata".

Il livello risponde a tre lacune che SAFR individua nell'infrastruttura di governance attuale. Assurance prima dell'esecuzione: il model risk management valida prima del deployment, l'audit è retrospettivo e la singola decisione a runtime resta inesaminata da entrambi. Interfaccia di governance tra esseri umani e agenti: oggi l'escalation è spesso una notifica o un indicatore in dashboard senza scadenza, formato decisionale standard o record di audit, quella che il white paper definisce "l'apparenza della supervisione umana senza la sua sostanza". Frammentazione: guardrail per singolo deployment i cui record non possono essere sottoposti ad audit in modo uniforme.

Il livello occupa un punto preciso nello stack. I guardrail per l'IA (filtraggio dei contenuti, difese contro la prompt injection, filtraggio degli output) sono in genere probabilistici e governano ciò che un modello produce; non determinano se un'azione finanziaria proposta è autorizzata o eseguibile. Il livello di governance a runtime opera dopo il filtraggio dei contenuti e prima dell'esecuzione. L'applicazione dei controlli a livello di settlement, comprese le regole dei circuiti delle carte, gli standard SWIFT e le regole ACH, opera dopo che il livello ha determinato se l'agente può agire. Le piattaforme di conformità mantengono le proprie valutazioni; il livello genera il record strutturato di governance a cui possono attingere.

In SAFR il livello comprende quattro componenti a runtime che interagiscono tramite la busta di governance: Agent Identity, il Controls Repository, il motore di disposizione e l'Audit Log. SAFR descrive due modelli di deployment. L'integrazione nativa istruisce l'agente a emettere una busta prima di ogni azione proposta ed è raccomandata per i nuovi deployment. L'integrazione gateway intercetta le chiamate API in uscita a livello infrastrutturale senza modificare il codice dell'agente; il white paper la presenta come punto di partenza pratico per le istituzioni con molti agenti esistenti, seguita dall'instrumentazione nativa per le nuove implementazioni.

Nell'implementazione SAFR di KLA, questo ruolo è svolto dal KLA Control Plane.