Registro degli agenti AI

Un registro degli agenti AI è l’inventario che un’organizzazione tiene di tutti gli agenti AI che sviluppa o gestisce. Ogni voce indica chi è responsabile dell’agente, quale processo di business serve, quale modello e quale versione usa, a quali strumenti e dati può accedere, chi approva le sue azioni rilevanti e se è in test, in produzione, sospeso o dismesso.

Il registro risponde alle prime domande di ogni revisione o incidente: quali agenti esistono, chi risponde di ciascuno e che cosa può fare ciascuno. Revisioni degli accessi, valutazioni del rischio e risposta agli incidenti partono tutte da qui. Per un agente senza una voce aggiornata non è possibile ricertificare i permessi, e un operatore non può essere sicuro che un kill switch abbia raggiunto ogni istanza.

Il registro interno e la banca dati dell’UE sono registri distinti. Ai sensi dell’articolo 49 dell’AI Act, i fornitori registrano i sistemi di IA ad alto rischio elencati nell’allegato III nella banca dati dell’UE istituita dall’articolo 71, e i deployer che sono autorità pubbliche, o che agiscono per loro conto, registrano il proprio uso di tali sistemi. Il registro interno di una banca copre di solito molti agenti sotto la soglia dell’alto rischio e contiene dettagli operativi come i permessi sugli strumenti e i responsabili delle approvazioni.

Tenete il registro collegato ai sistemi che eseguono gli agenti. Una voce tenuta a mano in un foglio di calcolo si disallinea man mano che le versioni cambiano, mentre una voce aggiornata dal processo di rilascio resta attuale. In uno dei nostri ambienti di test il registro è arrivato a 17 agenti, circa 14 dei quali erano versioni di test quasi identiche che nessun processo dismetteva, e questo rendeva difficile trovare l’agente in produzione. Registrate ogni cambio di versione con data e approvatore, così un auditor può ricondurre qualsiasi azione passata alla versione dell’agente che l’ha compiuta. Scrivete identità e versione dell’agente in ogni record decisionale al momento della creazione, perché un record sigillato non può essere modificato in seguito.

In KLA l’Agent Registry registra responsabile, versioni e stato di rilascio di ogni agente, e il Tool Catalog registra gli strumenti che ciascun agente può chiamare.