Busta di governance

Una busta di governance è il pacchetto strutturato assemblato attorno a un'azione proposta dall'agente prima che venga eseguita, e contiene tutto ciò che serve a un valutatore per esaminarla. Il white paper MAS SAFR (Safeguards for Agentic Finance at Runtime) definisce tre classi di informazioni. Azione: il tipo di azione, il suo ambito e i parametri proposti. Traccia dell'azione: i passaggi effettivamente eseguiti dall'agente per arrivare alla proposta, comprese le chiamate agli strumenti effettuate, i dati recuperati e i controlli svolti. Metadati di contesto: l'identità dell'agente, il mandato applicabile, lo stato corrente dell'account o del sistema e i vincoli di policy operativi.

La busta esiste perché le decisioni di governance richiedono input coerenti. SAFR indica la frammentazione come una delle tre lacune dell'infrastruttura di governance attuale: i guardrail configurati per singolo deployment producono record che non possono essere sottoposti ad audit in un formato uniforme. Quando ogni azione arriva nella stessa struttura, la valutazione è ripetibile, gli esiti sono confrontabili tra agenti e il record di audit ha la stessa forma per ogni workflow.

Il problema più difficile è l'autenticità. I dettagli dell'azione e la sua traccia sono entrambi dichiarati dall'agente, e un'iniezione avversaria sofisticata può fabbricarli insieme in modo che il record resti internamente coerente. La risposta del white paper è: "La busta deve quindi essere trattata come un documento da autenticare rispetto alla sua origine, non semplicemente come un record di ciò che l'agente ha dichiarato." In pratica, l'autenticazione per costruzione soddisfa questo requisito: la busta viene assemblata in un checkpoint del percorso di esecuzione, a partire dalla chiamata intercettata, così è il livello di governance a costruire il record che valuta.

Nel ciclo di vita di un'azione SAFR la busta viene per prima: viene validata per completezza e coerenza, poi si verifica l'identità dell'agente, si recuperano i controlli e si restituisce una disposizione. La busta, così come è stata inviata, viene registrata nell'Audit Log insieme a ogni esito, ed è qui che incontra il lineage a prova di manomissione. Nell'implementazione SAFR di KLA, questo ruolo è svolto dal checkpoint nel percorso di esecuzione.