Procedencia de los datos

La procedencia de los datos (data provenance) es el registro de dónde vinieron los datos y cómo llegaron al punto en que se usaron. Las especificaciones W3C PROV definen la procedencia como la información sobre las entidades, actividades y personas que intervienen en la producción de un dato, que puede usarse para valorar su calidad, fiabilidad o credibilidad.

En un agente de IA, la procedencia responde a la pregunta que hacen los revisores tras casi cualquier decisión discutida: ¿qué leyó el agente antes de actuar? Un agente que redacta un informe de crédito o cierra una alerta de prevención del blanqueo de capitales puede combinar un documento de política recuperado, un registro de cliente del sistema bancario central, una respuesta del cribado de sanciones y un resumen de un modelo. Cada entrada necesita su sistema de origen, su identificador o versión, el momento en que se leyó y la consulta o llamada a herramienta que la obtuvo.

El Reglamento de IA de la UE pide procedencia en dos lugares. El artículo 10, apartado 2, letra b), exige que las prácticas de gobernanza de los datos de entrenamiento, validación y prueba abarquen "los procesos de recogida de datos y el origen de los datos". El artículo 12 exige que los sistemas de IA de alto riesgo registren eventos para la trazabilidad y, para la identificación biométrica remota, el artículo 12, apartado 3, menciona la base de datos de referencia que consultó el sistema y los datos de entrada que dieron lugar a una coincidencia. La procedencia en tiempo de ejecución de los agentes aplica la misma idea a cada lectura que hace un agente.

Registre la procedencia en el momento de la lectura. Un registro reconstruido más tarde a partir de la base de datos actual muestra lo que dicen los datos ahora. Guarde un hash del contenido de cada entrada junto con su referencia de origen, para que un revisor pueda confirmar que el agente vio exactamente esa versión. En el caso de datos personales, registre junto a ella la finalidad de la lectura.

En KLA, Lineage Explorer muestra las llamadas a herramientas de una ejecución con sus entradas y salidas, y Document Intake vincula los documentos de origen y los campos aprobados a la ejecución del Process que los usó.