SAFR per AML: Governare gli agenti AI di verifica della conformità in fase di runtime

Perché il triage AML è nell'elenco delle preoccupazioni maggiori del SAFR¶

Un agente di triage AML esegue tre tipi di lavoro: arricchisce un avviso con i dati del cliente, dell'account e della transazione; propone una disposizione al rischio (chiudere come non sospetto o intensificare per indagini); e redige una segnalazione di attività sospetta o di transazione sospetta (SAR/STR) ove ciò sia giustificato. Ciascuna è un'azione con conseguenze normative: la chiusura di un avviso pone fine al controllo di tale attività e una SAR archiviata è una richiesta normativa. Per i volumi di triage non è prevista una revisione umana per azione.

SAFR identifica tre lacune nell’infrastruttura di governance gestita oggi dalla maggior parte delle istituzioni e il triage AML rientra perfettamente in tutte e tre. La gestione del rischio del modello ha convalidato il modello di triage prima dell'implementazione; il campionamento per il controllo della qualità esamina le decisioni a posteriori; nessuno dei due rileva una disposizione problematica prima di essere eseguita. L'escalation, laddove esiste, è ad hoc: un flag sul dashboard o un avviso e-mail senza scadenza, senza formato decisionale standard e senza record di audit. Il documento definisce ciò “l’apparenza di un controllo umano senza la sua sostanza”. La terza lacuna è la frammentazione: ogni implementazione porta con sé i propri guardrail su misura, senza un formato di audit coerente su di essi.

La risposta di SAFR è un livello di governance runtime tra l'agente e i sistemi su cui agisce, che valuta ogni azione proposta prima dell'esecuzione: "nessuna azione dell'agente raggiunge l'esecuzione senza essere stata dichiarata, autorizzata e valutata". Per un modello di controllo più ampio tra gli agenti della criminalità finanziaria, vedere la disciplina dell'antiriciclaggio e degli agenti di pagamento e la mappa del controllo e delle prove degli agenti antiriciclaggio.

Il flusso di lavoro, azione per azione¶

Con SAFR, ciascuna delle azioni proposte dall'agente di triage (una ricerca di arricchimento, una chiusura di un avviso, una bozza SAR) viene inserita in una busta di governance prima di poter essere eseguita. La busta contiene tre classi di informazioni: l'azione stessa (tipo, ambito, parametri), la traccia dell'azione (i passaggi effettivi eseguiti dall'agente per arrivare alla proposta, comprese le chiamate allo strumento effettuate, i dati recuperati e i controlli eseguiti) e i metadati del contesto (identità dell'agente, mandato applicabile, conto corrente o stato del sistema, vincoli di politica operativa).

La regola delle fasi multiple è importante in particolare per il triage. SAFR applica il proprio flusso di controllo a ciascuna azione dell'agente in modo indipendente: "Un risultato di esecuzione automatica o osservazione in un passaggio non comporta alcuna autorità in quello successivo". L'autorizzazione ad arricchire un avviso non conferisce l'autorizzazione a chiuderlo. Ogni azione proposta è autorizzata di per sé, contro lo stato delle partite correnti e il mandato, nel momento in cui viene proposta.

Come si presenta il mandato dell'agente di triage¶

SAFR definisce un mandato come "il meccanismo attraverso il quale un utente definisce i limiti dell'autorità delegata a un agente": esplicito e leggibile dalla macchina, basato sulla sicurezza basata sulle capacità, il lignaggio che sta alla base di OAuth 2.0.

Per un agente di triage antiriciclaggio, il mandato di un'istituzione normalmente codifica:

Il confine è strutturale: "Un agente non può estendere la portata di un mandato attraverso il proprio ragionamento o inferenza". Un agente di triage che conclude, dalla propria analisi, che dovrebbe anche chiudere un avviso correlato su una coda adiacente ha proposto un'azione fuori mandato e il livello runtime la tratterà come tale.

• Tipi di azioni consentiti. Recupera dati su clienti, conti e transazioni da sistemi di origine denominati; proporre disposizioni sulle code di allerta designate; bozza di resoconti SAR/STR. L'archiviazione è un tipo di azione separata, descritta di seguito.
• Limiti di ambito. Le code di avvisi, i segmenti di clienti e le fasce di rischio su cui l'agente può lavorare; classi di allerta interamente ritagliate (ad esempio, allerte legate a risultati di screening delle sanzioni o ad indagini aperte).
• Condizioni e validità. Il periodo di validità della delega e il soggetto che l'ha concessa: solitamente il responsabile del monitoraggio delle transazioni o l'unità di informazione finanziaria, rispecchiando il quadro di autorità delegate esistente dell'istituzione.

Quali controlli si applicano¶

Il repository dei controlli è il regolamento configurabile dell'istituzione, tratto dalla politica organizzativa, dai requisiti normativi, dalle regole di prodotto e dai mandati concessi dagli utenti. Le quattro categorie di controllo di SAFR si associano chiaramente al triage AML:

I controlli generici (controlli autorizzativi, limiti di esposizione) sono deterministici; I controlli specifici dell’intelligenza artificiale, come la qualità delle prove e l’integrità della busta, possono comportare una valutazione probabilistica o semantica. Ciascun controllo codifica i tipi di azione consentiti, la logica decisionale, le condizioni di escalation, un periodo di validità e l'autorità principale dietro di esso.

Le quattro disposizioni SAFR sulle classi di allerta reali¶

Il motore delle disposizioni valuta ogni azione nell'ambito in modo deterministico rispetto ai controlli recuperati e restituisce uno dei quattro risultati vincolanti. Su una coda AML, appaiono così:

L’assegnazione dei risultati è calibrata in fase di progettazione rispetto a cinque fattori menzionati nel documento: reversibilità dell’azione, materialità finanziaria, gravità dell’impatto sul cliente, sensibilità normativa e novità rispetto ai modelli stabiliti all’interno del mandato. Un avviso chiuso è difficile da invertire nella pratica e ogni disposizione sulla coda comporta sensibilità normativa, quindi una configurazione ben calibrata sposta i casi limite verso l'escalation e riserva l'esecuzione automatica per le classi di avviso in cui il contratto di prova è esplicito e coerentemente soddisfatto.

Observe è il cavallo di battaglia su code ad alto volume: le classi di avviso a basso rischio si chiudono automaticamente alla velocità della macchina mentre un campione definito di chiusure passa al controllo a campione umano, mantenendo una garanzia continua sulla popolazione che l'istituzione ha scelto di automatizzare.

Maker-checker per la presentazione della SAR¶

Redigere una SAR e presentarne una sono azioni diverse. La stesura può essere eseguita in modo autonomo: l'agente assembla la narrazione, le transazioni di supporto e il contesto del cliente, e la bozza viene registrata come qualsiasi altra azione governata. La presentazione è una presentazione normativa ed è calibrata per l'escalation.

Un risultato dell'escalation nell'ambito del SAFR è un obbligo strutturato con tre dimensioni operative su cui il documento è specifico:

Questo è un maker-checker con sostanza: l'agente come maker, un essere umano nominato e autorizzato come controllore, una scadenza, un'impostazione predefinita definita e una decisione registrata.

• Autorità del revisore. Il revisore deve avere una chiara autorità per approvare, modificare o rifiutare e le decisioni del revisore "hanno lo stesso peso istituzionale della decisione originale dell'agente". Per una SAR, il revisore è la persona il cui nome l'istituzione è disposta a sostenere in una presentazione.
• Rivedi il turnaround. Ogni escalation dovrebbe comportare una finestra di timeout; se non arriva alcuna decisione al suo interno, l'azione viene bloccata o inoltrata a un revisore senior. La finestra dovrebbe riflettere una disponibilità realistica del revisore, inclusa la copertura notturna e nel fine settimana.
• Volume di escalation. Una funzione di escalation che genera più revisioni di quelle che il team può elaborare in modo significativo ha smesso di fornire garanzie. La calibrazione dovrebbe mantenere la coda di escalation alle disposizioni che necessitano realmente di una decisione umana e lasciare che l'osservazione del campionamento copra il resto.

Ciò che vede l'ispettore¶

Ognuno dei quattro risultati (incluso Nega) alimenta il registro di controllo, un record immutabile, di sola aggiunta e a prova di manomissione di ogni decisione di governance. Per ogni azione proposta sulla coda AML, la voce acquisisce la busta di governance così come inviata, il mandato rispetto al quale è stata verificata l'azione, il risultato prodotto dal Disposition Engine, le regole specifiche applicate, la base del risultato e il tempo trascorso in ogni fase.

Per un avviso chiuso automaticamente, ciò significa che il record contiene già ciò che l'agente ha recuperato (la traccia dell'azione: chiamate allo strumento, dati, controlli), quali controlli sono stati attivati ​​e perché la chiusura è qualificata per l'esecuzione automatica. Nel caso di una SAR archiviata, contiene la bozza, l'escalation, il revisore nominato e la decisione. Per un'azione negata, contiene il tentativo e il vincolo specifico che lo ha interrotto: la prova del funzionamento del livello di controllo, prodotta dal livello di controllo stesso.

SAFR è attento a una modalità di fallimento che conta in contesti contraddittori: la traccia dell'azione e i dettagli dell'azione sono entrambi dichiarati dall'agente e una sofisticata iniezione contraddittoria potrebbe fabbricarli insieme. La busta va quindi "trattata come un documento da autenticare rispetto alla sua provenienza, e non come una mera registrazione di quanto riferito dall'agente". Lo standard del documento per il registro stesso: "Il registro è la registrazione autorevole, indipendente da qualsiasi parte interessata a come gli eventi vengono caratterizzati dopo il fatto." Questo è lo standard a cui un ispettore AML manterrà il record.

Lo sto eseguendo sul piano di controllo dell'KLA¶

KLA Control Plane implementa il modello SAFR, spedito oggi, e il triage sulla criminalità finanziaria è uno dei carichi di lavoro che è stato dimostrato end-to-end. I quattro componenti SAFR vengono mappati direttamente: il registro degli agenti mantiene ciascun agente di triage come entità registrata e con versione con un proprietario umano denominato; il Policy Builder è il repository dei controlli, con pubblicazione controllata da controlli di lanugine e approvazione di due persone; il Policy Engine di KLA valuta ogni azione proposta rispetto alla versione della policy pubblicata prima dell'esecuzione e non riesce a chiudersi se irraggiungibile; e l'Audit Trail è il record di sola aggiunta, a prova di manomissione, esportabile come pacchetti di prove sigillate che un revisore può verificare offline.

La grammatica della disposizione è uno a uno. Nega le mappe a block. Inoltra le mappe a require_approval, che solleva una richiesta di decisione indirizzata a un revisore nominato e autorizzato sul Decision Desk, con la separazione maker-checker applicata sul lato server. Esegui automaticamente le mappe su allow. Osservare le mappe su warn e una coda di revisione del campionamento instrada le analisi campionate al controllo a campione programmato: il modello di chiusura automatica con campionamento descritto nelle quattro disposizioni di cui sopra, funziona come prodotto spedito.

Due note sullo stato: vengono spedite le soglie dei valori per azione e i controlli delle prove del giudice AI; sono in fase di sviluppo finestre di esposizione aggregata, limiti di velocità per finestra, soglie di confidenza come primitiva di instradamento di prima classe e valori predefiniti di timeout per classe di decisione. La pagina Implementazione SAFR riporta la tabella completa dello stato requisito per requisito.