Lineage a prova di manomissione

Il lineage a prova di manomissione è un record append-only di tutto ciò che un agente ha fatto e di ogni decisione di governance applicata, strutturato in modo che qualsiasi modifica, inserimento o cancellazione successiva sia rilevabile. Per ogni azione governata, il record cattura la busta così come è stata inviata, il mandato rispetto al quale l'azione è stata verificata, l'esito, le regole specifiche applicate, la base dell'esito e il tempo trascorso in ogni fase. Questi sono i contenuti che il white paper MAS SAFR (Safeguards for Agentic Finance at Runtime) richiede per il proprio Audit Log.

La proprietà è necessaria perché il record di audit è ciò che viene esaminato quando l'azione di un agente è contestata, e le parti che lo esaminano hanno interessi contrapposti. Il white paper enuncia chiaramente il requisito: "Il log è il record autorevole, indipendente da qualsiasi parte interessata a come gli eventi vengono caratterizzati a posteriori." I normali log applicativi sono scritti per gli operatori, e chi amministra il sistema può ruotarli, troncarli o modificarli; la loro integrità si basa sulla fiducia nell'amministratore. Un record di lineage è progettato per essere esaminato da una parte esterna, quindi la sua integrità deve poter essere verificata senza fidarsi della parte che lo ha prodotto.

Tre meccanismi rendono concreta questa proprietà. Hash chaining: ogni voce è legata crittograficamente alle voci precedenti, quindi una voce modificata o rimossa interrompe la catena. Regola write-before-decide: la decisione viene restituita solo dopo la persistenza delle evidenze e il sistema opera in fail-closed in caso di errore di scrittura, così nessuna azione governata può essere eseguita senza essere registrata. Verifica indipendente: il record viene esportato con un manifest firmato, prove di inclusione per ogni artefatto e un impegno di timestamp esterno, così un verificatore può confermare l'integrità offline.

In SAFR il lineage compare due volte. La traccia dell'azione all'interno di ogni busta di governance registra come l'agente è arrivato a una proposta, mentre l'Audit Log registra come l'istituzione ha deciso in merito. Insieme offrono all'ispettore la sequenza degli eventi con la prova che il record è invariato: il nucleo probatorio di qualsiasi livello di governance a runtime. Nell'implementazione SAFR di KLA, questo ruolo è svolto dall'Audit Trail e dai suoi Sealed Evidence Bundles.