Reproducción determinista

La reproducción determinista (deterministic replay) consiste en volver a ejecutar una decisión registrada con las entradas, la versión de la política, la salida del modelo y la configuración vigentes en aquel momento, y obtener de nuevo el mismo resultado. En un agente de IA, la decisión que más importa está en el punto de control: el agente propuso una acción, una política la evaluó y el resultado fue allow, warn, require_approval o block. Si un auditor puede reproducir esa evaluación y llegar al mismo resultado, el registro respalda la afirmación de que el control funcionó como se describe.

La reproducción importa porque el comportamiento de un agente es difícil de reconstruir a posteriori. Un modelo de lenguaje de gran tamaño puede devolver una respuesta distinta para la misma instrucción, y el modelo que hay detrás de una API puede cambiar de versión. Volver a consultar al modelo pone a prueba el modelo de hoy. Una reproducción fiel usa lo que se registró. El artículo 12 del Reglamento de IA de la UE exige que los sistemas de IA de alto riesgo registren eventos para que su funcionamiento sea trazable en un grado adecuado a su finalidad prevista, y la reproducción es una prueba práctica de si los registros están completos.

Tres partes de una decisión de un agente pueden reproducirse con exactitud, siempre que se hayan registrado: la evaluación de la política (mismas reglas, misma versión, mismos campos de entrada), el envío de una acción retenida a un revisor y cualquier cálculo de umbral o límite. El razonamiento del modelo solo puede reproducirse reutilizando la salida registrada del modelo. Una reproducción muestra cómo se llegó a la decisión. El resultado de la herramienta, la confirmación del pago o el justificante del sistema registrados tras la ejecución muestran si la acción tuvo lugar.

Para que la reproducción funcione, registre para cada acción: la acción propuesta y sus argumentos, la versión de la política y el hash de su contenido, los datos de entrada que leyó la política, la salida del modelo que llevó a la propuesta, el resultado y la regla que lo produjo, cualquier decisión humana y una marca de tiempo para cada paso. Si falta un elemento, la reproducción pasa a ser una aproximación, y el registro debe indicarlo.

En KLA, una versión de la política puede reproducirse sobre las ejecuciones registradas recientes del tenant. Cada ejecución se vuelve a evaluar y se compara con el resultado registrado en su momento, las ejecuciones registradas sin sus entradas de decisión se listan como no reproducidas, y la reproducción no crea aprobaciones ni registros de evidencia. En una de nuestras propias rondas de QA con datos sintéticos, un borrador de política reproducido sobre 200 ejecuciones registradas comparó 195, excluyó 5 cuyos campos estaban enmascarados o faltaban y elevó el número de solicitudes de aprobación de 37 a 40. Elegimos este diseño después de juzgar poco prácticos para el personal de cumplimiento los casos de prueba construidos a mano con muchos campos.