Una checklist di audit degli agenti IA deve verificare chi è titolare del sistema, quale identità e autorità utilizza, in quali punti le policy e le approvazioni umane limitano l’esecuzione e se un revisore può verificare le evidenze risultanti. Copiate i 10 passaggi di revisione qui sotto in una carta di lavoro dell’audit, aggiungete un riferimento al campione a ogni riga e registrate il risultato rispetto al criterio di superamento indicato.
Checklist di audit degli agenti IA in 10 controlli, pronta da copiare
Per ogni riga, acquisite l’identificativo del sistema, dell’esecuzione, del rilascio o dell’incidente campionato. Il superamento richiede evidenze che coprano il campione selezionato e il periodo di revisione.
| # | Area di controllo | Passaggio di revisione da copiare | Richiesta di evidenze | Criterio di superamento | Segnale di errore |
|---|---|---|---|---|---|
| 1 | Inventario e titolarità nominativa | Selezionate un agente incluso nel perimetro e riconciliatelo con l’inventario di produzione e il titolare responsabile. | Record dell’inventario, finalità prevista, ambito di distribuzione, titolare, livello di rischio e data dell’ultima revisione. | L’agente distribuito e il suo titolare attuale figurano nell’inventario approvato con ambito e data di revisione aggiornati. | L’agente è assente, duplicato, assegnato a un alias di team o descritto con una finalità obsoleta. |
| 2 | Identità dell’agente e delega | Tracciate l’identità dell’agente e ogni identità delegata utilizzata durante un’esecuzione campionata. | Identità di servizio, emittente della credenziale, catena di delega, attestazioni di sessione, scadenza e mappatura dell’attore. | Ogni azione è riconducibile a un’identità autenticata di agente o persona e a un percorso di delega delimitato. | Nel campione compaiono credenziali condivise, attori non risolti, deleghe senza limiti o record di scadenza mancanti. |
| 3 | Permessi e accesso agli strumenti | Confrontate i permessi effettivi con la policy approvata per strumenti, server MCP, API e confini dei dati. | Snapshot delle autorizzazioni, catalogo degli strumenti, autorizzazione MCP, ambiti dei dati, eccezioni e revisione degli accessi. | L’accesso effettivo corrisponde all’ambito approvato a privilegi minimi e ogni eccezione ha un titolare e una scadenza. | Sono presenti accessi ampi inutilizzati, strumenti non approvati, eccezioni non aggiornate o accesso a dati di produzione oltre il confine approvato. |
| 4 | Approvazione umana e override | Campionate un’azione soggetta a controllo e verificate l’approvazione, l’autorità dell’approvatore, il contesto presentato e il percorso di override. | Policy di approvazione, payload della richiesta, record della decisione, identità dell’approvatore, timestamp e log di override. | L’azione attende la decisione autorizzata richiesta e conserva il contesto completo dell’approvazione. | Sono presenti auto-approvazione, approvazione successiva all’esecuzione, contesto mancante o un meccanismo di arresto e override inutilizzabile. |
| 5 | Applicazione runtime delle policy | Ripetete una decisione di policy per un’azione consentita e una bloccata usando gli input registrati e la versione della policy. | Fonte della policy, versione, input della valutazione, output della decisione, risposta di applicazione e record del test. | Il runtime applica con coerenza il risultato registrato e il test bloccato non può raggiungere l’azione protetta. | La policy esiste solo come indicazione, mancano le valutazioni o un’azione negata viene comunque eseguita. |
| 6 | Tracciabilità dell’esecuzione | Tracciate un esito operativo dalla richiesta attraverso ragionamento, chiamate agli strumenti, approvazioni, output ed effetti collaterali. | ID di correlazione, input, versioni del modello e del prompt, chiamate agli strumenti, decisioni di policy, approvazioni, output e timestamp. | Le evidenze ricostruiscono l’esecuzione completa nell’ordine corretto e collegano ogni effetto collaterale alla decisione che lo autorizza. | Correlazione interrotta, risultati degli strumenti mancanti, timestamp modificabili o un effetto collaterale senza spiegazione impediscono la riproduzione. |
| 7 | Evidenze di rilascio e modifica | Selezionate una modifica in produzione e tracciate autorizzazione, test, distribuzione e revisione successiva al rilascio. | Richiesta di modifica, versioni del codice e della configurazione, risultati dei test, approvatore, record di distribuzione ed evidenze di rollback. | La versione distribuita corrisponde all’artefatto approvato e i test e le approvazioni richiesti precedono il rilascio. | Compaiono modifiche non tracciate al prompt o alla policy, versioni non corrispondenti, test assenti o rilasci precedenti all’approvazione. |
| 8 | Risposta agli incidenti e revoca | Esaminate un incidente recente o un’esercitazione e verificate contenimento, revoca delle credenziali, escalation e ripristino. | Avviso, cronologia dell’incidente, azioni intraprese, accessi revocati, comunicazioni, causa radice e titolare della correzione. | Il team può arrestare l’agente, revocarne l’autorità, conservare le evidenze e seguire la correzione fino alla chiusura. | La revoca dipende da una scoperta manuale, le evidenze vengono sovrascritte, la titolarità dell’escalation non è chiara o l’accesso resta attivo. |
| 9 | Conservazione e integrità delle evidenze | Verificate un record di esecuzione conservato rispetto al calendario applicabile e alla relativa prova di integrità. | Regola di conservazione, base giuridica o di policy, manifest delle evidenze, hash o firma, controlli di archiviazione e record di eliminazione. | I record restano disponibili per il periodo richiesto e un verificatore indipendente può rilevare modifiche. | Compaiono conservazione indefinita, manifest incompleti, record non verificabili o eliminazioni fuori dal processo approvato. |
| 10 | Selezione del campione e verifica indipendente | Definite la popolazione, riproducete la selezione del campione e verificate in autonomia le evidenze per ogni elemento selezionato. | Estratto della popolazione, metodo di campionamento, seed o logica di selezione, elenco del campione, eccezioni e risultati del verificatore. | Un revisore può riprodurre popolazione e campione e raggiungere il risultato registrato a partire dalle evidenze esportate. | Compaiono esempi selezionati dalla direzione, popolazioni incomplete, campionamenti non riproducibili o evidenze che dipendono da accesso privilegiato al sistema. |
Definite l’ambito e il campione prima del test
Iniziate con un periodo di audit definito, un confine di sistema nominato, un titolare responsabile e la popolazione completa delle esecuzioni. Registrate il metodo di selezione prima di esaminare i singoli risultati. I campioni basati sul rischio possono includere azioni ad alto impatto, negazioni di policy, override umani, modifiche in produzione, incidenti e una selezione casuale riproducibile delle esecuzioni ordinarie.
Associate ogni eccezione al titolare del controllo, alla popolazione interessata, alla gravità, alla data di correzione e alle evidenze di follow-up. Questo crea un registro delle risultanze utilizzabile e mantiene le lacune isolate nelle evidenze distinte dai fallimenti di controllo estesi alla popolazione.
Conservate evidenze che un altro revisore possa verificare
Esportate i record campionati con un manifest che identifichi sistemi sorgente, orari di raccolta, versioni, checksum o firme e limitazioni note. Conservate gli identificativi originali affinché un revisore possa riconciliare ogni artefatto con la popolazione sorgente.
Il framework di audit aziendale offre il metodo di audit completo. La guida alle tracce di audit definisce il record di esecuzione e il percorso di riproduzione usati da diverse righe della checklist.
Domande frequenti
Cosa dovrebbe includere una checklist di audit per agenti IA?
Includete inventario e titolarità, identità e delega, permessi, approvazioni, applicazione runtime delle policy, tracciabilità dell’esecuzione, evidenze di rilascio, risposta agli incidenti, conservazione e integrità e selezione riproducibile del campione. Ogni voce richiede una richiesta di evidenze, un criterio di superamento e un segnale di errore.
Come dovrebbe un auditor interno campionare l’attività degli agenti IA?
Definite prima la popolazione completa e il periodo. Selezionate azioni ad alto impatto, negazioni, override, modifiche, incidenti e un campione riproducibile di esecuzioni ordinarie. Conservate la logica di selezione e riconciliate ogni elemento selezionato con le evidenze sorgente.
Cosa rende le evidenze di audit degli agenti IA verificabili in autonomia?
Un revisore necessita di identificativi stabili, tracciabilità completa dell’esecuzione, metadati sulla sorgente e sulla raccolta, versioni applicabili della policy e del software e prove di integrità quali hash o firme. L’esportazione deve consentire la verifica a partire dal pacchetto di evidenze stesso.
Punti chiave
Usate questa checklist come carta di lavoro per il test dei controlli sul campione definito. Registrate ogni risultato, allegate le evidenze di riferimento, assegnate le eccezioni a titolari nominati e pianificate test di follow-up sulle evidenze di correzione.