Registro de agentes de IA

Un registro de agentes de IA es el inventario que una organización mantiene de todos los agentes de IA que desarrolla o ejecuta. Cada entrada recoge quién es el propietario del agente, a qué proceso de negocio sirve, qué modelo y qué versión usa, a qué herramientas y datos puede acceder, quién aprueba sus acciones relevantes y si está en pruebas, en producción, suspendido o retirado.

El registro responde a las primeras preguntas de cualquier revisión o incidente: qué agentes existen, quién responde de cada uno y qué puede hacer cada uno. Las revisiones de accesos, las evaluaciones de riesgos y la respuesta a incidentes parten de él. Los permisos de un agente sin entrada actualizada no pueden recertificarse, y un operador no puede estar seguro de que un interruptor de parada llegó a todas las instancias.

El registro interno y la base de datos de la UE son registros distintos. Conforme al artículo 49 del Reglamento de IA de la UE, los proveedores registran los sistemas de IA de alto riesgo enumerados en el anexo III en la base de datos de la UE creada por el artículo 71, y los responsables del despliegue que sean autoridades públicas, o que actúen en su nombre, registran su uso de esos sistemas. El registro interno de un banco suele abarcar muchos agentes por debajo del umbral de alto riesgo y conserva datos operativos como los permisos de herramientas y los responsables de aprobación.

Mantenga el registro vinculado a los sistemas que ejecutan los agentes. Una entrada mantenida a mano en una hoja de cálculo se desactualiza a medida que cambian las versiones, mientras que una entrada actualizada por el proceso de publicación sigue al día. En uno de nuestros propios entornos de prueba, el registro llegó a 17 agentes, unos 14 de ellos versiones de prueba casi idénticas que nada retiraba, lo que hacía difícil encontrar el agente en producción. Registre cada cambio de versión con su fecha y su aprobador, para que un auditor pueda asociar cualquier acción pasada a la versión del agente que la realizó. Escriba la identidad y la versión del agente en cada registro de decisión en el momento de crearlo, porque un registro sellado no puede modificarse después.

En KLA, Agent Registry recoge el propietario, las versiones y el estado de publicación de cada agente, y el Tool Catalog recoge las herramientas que puede invocar cada agente.