Provenance des données
La provenance des données est l'enregistrement de l'origine d'une donnée, de ce qui l'a produite et des transformations qu'elle a subies avant d'être utilisée.
Définition
La provenance des données (data provenance) est l'enregistrement de l'origine des données et du chemin qu'elles ont suivi jusqu'à leur utilisation. Les spécifications W3C PROV définissent la provenance comme l'information sur les entités, les activités et les personnes ayant contribué à produire une donnée, information qui permet d'en évaluer la qualité, la fiabilité ou la crédibilité.
Pour un agent d'IA, la provenance répond à la question que les réviseurs posent après presque chaque décision contestée : qu'a lu l'agent avant d'agir ? Un agent qui rédige une note de crédit ou clôture une alerte LCB-FT peut combiner un document de politique interne récupéré, un dossier client issu du système bancaire central, une réponse de filtrage des sanctions et un résumé produit par un modèle. Chaque donnée d'entrée doit être rattachée à son système source, à son identifiant ou à sa version, à l'heure de sa lecture et à la requête ou à l'appel d'outil qui l'a obtenue.
L'EU AI Act demande la provenance à deux endroits. L'article 10, paragraphe 2, point b), exige que les pratiques de gouvernance des données d'entraînement, de validation et de test portent sur « les processus de collecte de données et l'origine des données ». L'article 12 impose aux systèmes d'IA à haut risque une journalisation des événements à des fins de traçabilité ; pour l'identification biométrique à distance, l'article 12, paragraphe 3, cite la base de données de référence utilisée par le système et les données d'entrée pour lesquelles la recherche a abouti à une correspondance. La provenance à l'exécution applique la même logique à chaque lecture effectuée par un agent.
Enregistrez la provenance au moment de la lecture. Un enregistrement reconstitué plus tard à partir de la base de données actuelle montre ce que disent les données aujourd'hui. Conservez une empreinte (hash) du contenu de chaque donnée d'entrée avec sa référence source, afin qu'un réviseur puisse confirmer que l'agent a vu exactement cette version. Pour les données à caractère personnel, enregistrez aussi la finalité de la lecture.
Dans KLA, le Lineage Explorer montre les appels d'outils d'une exécution avec leurs entrées et leurs sorties, et Document Intake rattache les documents sources et les champs approuvés à l'exécution du Process qui les a utilisés.
Termes connexes
Traçabilité à altération détectable
La traçabilité à altération détectable est un registre en ajout uniquement des actions d'un agent et des décisions de gouvernance qui leur sont appliquées, dont l'intégrité peut être vérifiée indépendamment.
Piste d'audit
Un enregistrement chronologique des activités, décisions et interactions humaines d'un système d'IA, permettant la traçabilité et la redevabilité.
Rejeu déterministe
Le rejeu déterministe consiste à réexécuter une décision enregistrée d'un agent d'IA avec les mêmes entrées, la même version de politique et la même configuration, pour vérifier qu'elle produit le même résultat.