Datenherkunft

Datenherkunft (data provenance) ist der Nachweis, woher Daten stammen und auf welchem Weg sie an die Stelle gelangt sind, an der sie verwendet wurden. Die W3C-PROV-Spezifikationen definieren Provenienz als Information über die Entitäten, Aktivitäten und Personen, die an der Erzeugung eines Datums beteiligt waren, und mit der sich dessen Qualität, Zuverlässigkeit oder Vertrauenswürdigkeit beurteilen lässt.

Bei einem KI-Agenten beantwortet die Datenherkunft die Frage, die Prüfer nach fast jeder strittigen Entscheidung stellen: Was hat der Agent gelesen, bevor er gehandelt hat? Ein Agent, der eine Kreditvorlage entwirft oder einen Geldwäsche-Alert schließt, kann ein abgerufenes Richtliniendokument, einen Kundendatensatz aus dem Kernbankensystem, eine Antwort aus dem Sanktionslisten-Screening und eine Zusammenfassung eines Modells kombinieren. Für jede Eingabe braucht es das Quellsystem, die Kennung oder Version, den Lesezeitpunkt und die Abfrage oder den Tool-Aufruf, mit dem sie abgerufen wurde.

Die KI-Verordnung verlangt die Datenherkunft an zwei Stellen. Artikel 10 Absatz 2 Buchstabe b verlangt, dass die Daten-Governance für Trainings-, Validierungs- und Testdaten „die Datenerhebungsverfahren und die Herkunft der Daten“ umfasst. Artikel 12 verlangt von Hochrisiko-KI-Systemen, Ereignisse zur Rückverfolgbarkeit zu protokollieren; für die biometrische Fernidentifizierung nennt Artikel 12 Absatz 3 die Referenzdatenbank, die das System abgeglichen hat, und die Eingabedaten, die zu einer Übereinstimmung geführt haben. Datenherkunft zur Laufzeit wendet denselben Gedanken auf jeden Lesezugriff eines Agenten an.

Erfassen Sie die Datenherkunft im Moment des Lesens. Ein später aus der heutigen Datenbank rekonstruierter Datensatz zeigt, was die Daten heute sagen. Speichern Sie zu jeder Eingabe einen Inhalts-Hash mit ihrer Quellenreferenz, damit ein Prüfer bestätigen kann, dass der Agent genau diese Version gesehen hat. Bei personenbezogenen Daten halten Sie zusätzlich den Zweck des Lesezugriffs fest.

In KLA zeigt der Lineage Explorer die Tool-Aufrufe eines Laufs mit ihren Ein- und Ausgaben, und Document Intake ordnet Quelldokumente und freigegebene Felder dem Process-Lauf zu, der sie verwendet hat.