Capa de gobernanza en tiempo de ejecución

Una capa de gobernanza en tiempo de ejecución es la capa de control situada entre un agente de IA y los sistemas sobre los que actúa. El documento técnico MAS SAFR (Safeguards for Agentic Finance at Runtime) define exactamente su posición: la capa "se sitúa entre el agente y los sistemas sobre los que actúa, evaluando las acciones propuestas antes de su ejecución y trabajando junto con las infraestructuras de pago, los protocolos de liquidación, los motores de cumplimiento y los sistemas bancarios centrales existentes". Su garantía es la tesis de SAFR: "ninguna acción agéntica llega a la ejecución sin haber sido declarada, autorizada y evaluada".

La capa responde a tres brechas que SAFR identifica en la infraestructura de gobernanza actual. Garantía previa a la ejecución: la gestión del riesgo de modelos valida antes del despliegue, la auditoría es retrospectiva y ninguna de las dos examina la decisión individual tomada en tiempo de ejecución. Interfaz de gobernanza entre humanos y agentes: el escalado suele ser una notificación o una señal en un panel sin plazo, formato de decisión estándar ni registro de auditoría, lo que el documento denomina "la apariencia de supervisión humana sin su sustancia". Fragmentación: barreras de cada despliegue cuyos registros no pueden auditarse de forma coherente.

La capa ocupa un lugar concreto en la pila. Las barreras de IA (filtrado de contenido, defensas contra inyección de prompts y filtrado de salidas) suelen ser probabilísticas y gobiernan lo que produce un modelo; no determinan si una acción financiera propuesta está autorizada o puede ejecutarse. La capa de gobernanza en tiempo de ejecución opera después del filtrado de contenido y antes de la ejecución. La aplicación de controles en la capa de liquidación, incluidas las reglas de las redes de tarjetas, los estándares SWIFT y las reglas ACH, opera después de que la capa haya determinado si el agente puede actuar. Las plataformas de cumplimiento conservan sus propias evaluaciones; la capa genera el registro de gobernanza estructurado del que pueden servirse.

En SAFR, la capa comprende cuatro componentes en tiempo de ejecución que interactúan mediante el sobre de gobernanza: Agent Identity, el Controls Repository, el motor de resolución y el Audit Log. SAFR describe dos patrones de despliegue. La integración nativa instrumenta el agente para emitir un sobre antes de cada acción propuesta, y se recomienda para nuevos despliegues. La integración mediante gateway intercepta las llamadas API salientes en la capa de infraestructura sin cambios en el código del agente; el documento la presenta como el punto de partida práctico para instituciones con muchos agentes existentes, seguido de instrumentación nativa en nuevas construcciones.

En la implementación de SAFR de KLA, el KLA Control Plane cumple esta función.