Trazabilidad con alteraciones detectables
La trazabilidad con alteraciones detectables es un registro de solo anexado de las acciones de un agente y de las decisiones de gobernanza aplicadas a ellas cuya integridad puede verificarse de forma independiente.
Definición
La trazabilidad con alteraciones detectables es un registro de solo anexado de todo lo que hizo un agente y de cada decisión de gobernanza que se le aplicó, estructurado de modo que cualquier alteración, inserción o eliminación posterior pueda detectarse. Para cada acción gobernada, el registro captura el sobre tal como se presentó, el mandato frente al que se comprobó la acción, el resultado, las reglas concretas aplicadas, la base de ese resultado y el tiempo transcurrido en cada etapa. Estos son los contenidos que el documento técnico MAS SAFR (Safeguards for Agentic Finance at Runtime) exige para su Audit Log.
La propiedad existe porque el registro de auditoría es lo que se examina cuando se cuestiona la acción de un agente, y las partes que lo examinan tienen intereses opuestos. El documento expresa el requisito con claridad: "El registro es la fuente autorizada de los hechos, independiente de cualquier parte interesada en cómo se caractericen los acontecimientos después de ocurridos". Los registros de aplicación estándar se escriben para operadores, y quien administra el sistema puede rotarlos, truncarlos o editarlos; su integridad depende de confiar en ese administrador. Un registro de trazabilidad se construye para que lo examine una parte externa, por lo que su integridad debe poder comprobarse sin confiar en quien lo produjo.
En la práctica, tres mecanismos proporcionan esta propiedad. Encadenamiento de hashes: cada entrada se vincula criptográficamente con las entradas anteriores, de modo que una entrada modificada o eliminada rompe la cadena. Orden de escritura antes de la decisión: la decisión solo se devuelve una vez que la evidencia ha persistido y el sistema se cierra ante un fallo de escritura, por lo que ninguna acción gobernada puede ejecutarse sin quedar registrada. Verificación independiente: el registro se exporta con un manifiesto firmado, pruebas de inclusión de cada artefacto y un compromiso de sello temporal externo, de modo que un verificador puede confirmar la integridad sin conexión.
En SAFR, la trazabilidad aparece dos veces. El rastro de acción dentro de cada sobre de gobernanza registra cómo llegó el agente a una propuesta, y el Audit Log registra cómo decidió la institución al respecto. Juntos ofrecen al inspector la secuencia de acontecimientos con la prueba de que el registro no ha cambiado, que constituye el núcleo probatorio de cualquier capa de gobernanza en tiempo de ejecución. En la implementación de SAFR de KLA, el Audit Trail y sus Sealed Evidence Bundles cumplen esta función.
Términos relacionados
Sobre de gobernanza
Un sobre de gobernanza reúne una acción propuesta por un agente con todo el contexto necesario para evaluarla antes de su ejecución.
Capa de gobernanza en tiempo de ejecución
Una capa de gobernanza en tiempo de ejecución se sitúa entre un agente de IA y los sistemas sobre los que actúa y evalúa cada acción propuesta antes de ejecutarla.
