Provenienza dei dati
La provenienza dei dati è il record che indica da dove proviene un dato, che cosa lo ha prodotto e come è cambiato prima di essere usato.
Definizione
La provenienza dei dati è il record che indica da dove provengono i dati e come sono arrivati al punto in cui sono stati usati. Le specifiche W3C PROV definiscono la provenienza come l’informazione su entità, attività e persone coinvolte nella produzione di un dato, utilizzabile per valutarne qualità, affidabilità o attendibilità.
Per un agente AI, la provenienza risponde alla domanda che i revisori pongono dopo quasi ogni decisione contestata: che cosa ha letto l’agente prima di agire? Un agente che redige una proposta di fido o chiude un alert AML può combinare un documento di policy recuperato, un record del cliente dal core banking, una risposta dello screening sanzioni e un riassunto prodotto da un modello. Per ogni input servono il sistema di origine, l’identificativo o la versione, l’ora della lettura e la query o la chiamata allo strumento che lo ha recuperato.
L’AI Act chiede la provenienza in due punti. L’articolo 10, paragrafo 2, lettera b), impone che le pratiche di governance dei dati di addestramento, convalida e prova riguardino «i processi di raccolta dei dati e l’origine dei dati». L’articolo 12 impone ai sistemi di IA ad alto rischio di registrare eventi ai fini della tracciabilità, e per l’identificazione biometrica remota l’articolo 12, paragrafo 3, indica la banca dati di riferimento consultata dal sistema e i dati di input che hanno portato a una corrispondenza. La provenienza a runtime per gli agenti applica la stessa idea a ogni lettura effettuata da un agente.
Registrate la provenienza al momento della lettura. Un record ricostruito in seguito dal database attuale mostra che cosa dicono i dati oggi. Conservate un hash del contenuto di ogni input con il suo riferimento alla fonte, così un revisore può confermare che l’agente ha visto esattamente quella versione. Per i dati personali, registrate insieme la finalità della lettura.
In KLA, Lineage Explorer mostra le chiamate agli strumenti effettuate da un’esecuzione con i relativi input e output, e Document Intake collega i documenti di origine e i campi approvati all’esecuzione del Process che li ha usati.
Termini correlati
Lineage a prova di manomissione
Il lineage a prova di manomissione è un record append-only delle azioni di un agente e delle decisioni di governance applicate, la cui integrità può essere verificata in modo indipendente.
Traccia di audit
Un record cronologico delle attività, decisioni e interazioni umane di un sistema di IA che abilita tracciabilità e responsabilità.
Replay deterministico
Il replay deterministico consiste nel rieseguire una decisione registrata di un agente AI con gli stessi input, la stessa versione della policy e la stessa configurazione, per confermare che produca lo stesso esito.