Registre des agents d'IA

Un registre des agents d'IA est l'inventaire qu'une organisation tient de tous les agents d'IA qu'elle développe ou exploite. Chaque entrée indique qui est responsable de l'agent, quel processus métier il sert, quel modèle et quelle version il utilise, à quels outils et données il peut accéder, qui approuve ses actions importantes, et s'il est en test, en production, suspendu ou retiré.

Le registre répond aux premières questions de toute revue ou de tout incident : quels agents existent, qui répond de chacun et ce que chacun peut faire. Les revues d'accès, les analyses de risques et la réponse aux incidents partent de lui. Sans entrée à jour, les permissions d'un agent ne peuvent pas être recertifiées, et un opérateur ne peut pas être sûr qu'un coupe-circuit a atteint toutes les instances.

Le registre interne et la base de données de l'UE sont deux registres distincts. En vertu de l'article 49 de l'EU AI Act, les fournisseurs enregistrent les systèmes d'IA à haut risque visés à l'annexe III dans la base de données de l'UE prévue à l'article 71, et les déployeurs qui sont des autorités publiques, ou qui agissent pour leur compte, y enregistrent leur utilisation de ces systèmes. Le registre interne d'une banque couvre en général de nombreux agents situés sous le seuil du haut risque, et il conserve des informations d'exploitation comme les permissions d'outils et les responsables d'approbation.

Reliez le registre aux systèmes qui exécutent les agents. Une entrée tenue à la main dans un tableur se périme à mesure que les versions changent ; une entrée mise à jour par le processus de mise en production reste exacte. Dans l'un de nos propres environnements de test, le registre est monté à 17 agents, dont environ 14 versions de test quasi identiques que rien ne retirait, si bien que l'agent en service devenait difficile à repérer. Enregistrez chaque changement de version avec sa date et son approbateur, pour qu'un auditeur puisse rattacher toute action passée à la version de l'agent qui l'a exécutée. Inscrivez l'identité et la version de l'agent dans chaque enregistrement de décision au moment de sa création, car un enregistrement scellé ne peut plus être modifié ensuite.

Dans KLA, l'Agent Registry enregistre le responsable, les versions et l'état de mise en production de chaque agent, et le Tool Catalog enregistre les outils que chaque agent peut appeler.