Motore di disposizione

Un motore di disposizione è il componente di un livello di governance a runtime che decide cosa accade a ogni azione proposta da un agente. Recupera i controlli applicabili, valuta l'azione rispetto a essi e restituisce un esito vincolante prima che qualcosa venga eseguito. Il white paper MAS SAFR (Safeguards for Agentic Finance at Runtime) descrive l'output come "un esito definito e vincolante per ogni azione proposta, calibrato sul rischio specifico che presenta".

SAFR definisce quattro esiti. Deny: l'azione viola un vincolo normativo o di policy inderogabile oppure il suo profilo di rischio supera le soglie definite; viene rifiutata prima dell'esecuzione e il motivo specifico viene registrato. Escalate: l'azione rientra nell'ambito e non viola i vincoli inderogabili, ma supera la soglia per l'esecuzione autonoma; resta sospesa in attesa della revisione umana. Auto-Execute: l'azione rientra nell'ambito, non viola i vincoli inderogabili e resta entro le soglie di rischio definite; procede senza intervento umano. Observe: l'azione procede mentre viene registrata un'osservazione strutturata per una revisione successiva, quando l'istituzione ha configurato il relativo pattern o segnale come meritevole di attenzione.

SAFR individua una lacuna nell'assurance prima dell'esecuzione: il model risk management valida un sistema prima del deployment e l'audit esamina ciò che è avvenuto in seguito, lasciando non esaminata la singola decisione a runtime. Il motore di disposizione valuta quella decisione nel momento in cui l'azione viene proposta. Valuta ogni azione nell'ambito in modo deterministico rispetto ai controlli recuperati, e ogni esito viene registrato con le regole specifiche applicate e la base della decisione. I controlli generici, come le verifiche di autorizzazione e i limiti di esposizione, sono deterministici; i controlli specifici per l'IA, come la qualità delle evidenze, possono richiedere una valutazione probabilistica o semantica.

L'assegnazione dell'esito viene calibrata in fase di progettazione su cinque fattori: reversibilità dell'azione, rilevanza finanziaria, gravità dell'impatto sul cliente, sensibilità normativa e novità rispetto ai pattern consolidati all'interno del mandato. Profili di rischio più elevati spostano gli esiti verso Deny o Escalate.

In SAFR, il Disposition Engine è uno dei quattro componenti a runtime. Opera a partire dal Controls Repository, valuta ogni busta di governance e scrive ogni esito nell'Audit Log. Nell'implementazione SAFR di KLA, questo ruolo è svolto dal KLA Policy Engine.