Audit-Trail

Ein Audit-Trail im Kontext von KI-Systemen ist ein umfassender, chronologischer Nachweis aller wesentlichen Ereignisse, Entscheidungen und Interaktionen während des Systembetriebs. Im Gegensatz zu einfachem Application Logging für Debugging oder Performance Monitoring sind Audit-Trails darauf ausgelegt, Rechenschaftsfragen zu beantworten: Wer hat welche Entscheidung getroffen? Wann ist sie erfolgt? Welche Informationen lagen vor? Welche menschliche Aufsicht oder Intervention hat stattgefunden? Audit-Trails machen KI-Betrieb von einem undurchsichtigen Prozess zu einer transparenten, prüfbaren Abfolge.

Artikel 12 des EU AI Act verlangt automatische Logging-Fähigkeiten für Hochrisiko-KI-Systeme. Diese Logs müssen den Betrieb überwachen, die Überwachung nach dem Inverkehrbringen unterstützen und die Nachvollziehbarkeit der Systemfunktion über den Lebenszyklus ermöglichen. Der Rechtsakt fordert jedoch mehr als „Logs müssen existieren“: Er verlangt Logs, die zweckgeeignet sind. Auditoren werden konkret fragen: Können Sie zeigen, was passiert ist, als diese Entscheidung getroffen wurde? Können Sie beweisen, wer diese Aktion freigegeben hat und wann? Können Sie belegen, dass die behaupteten Aufsichtsmaßnahmen tatsächlich angewendet wurden? Ohne auditfähige Trails bleiben diese Fragen unbeantwortet.

Nicht jedes Logging ist ein Audit-Trail im regulatorischen Sinne. Auditfähige Trails benötigen mehrere Eigenschaften. Integrität: Einträge müssen manipulationssicher oder zumindest manipulationsnachweisbar sein. Auditoren brauchen Vertrauen, dass Logs nicht nachträglich „geschönt“ wurden. Append-only Storage, kryptografisches Hashing und Integritätsprüfmechanismen liefern diese Sicherheit. Vollständigkeit: Der Trail muss relevante Ereignisse erfassen, nicht nur Fehler oder Ausnahmen. Dazu gehören Routineentscheidungen, menschliche Freigaben, Overrides, Eskalationen und normales Systemverhalten. Zugänglichkeit: Einträge müssen abfragbar und in auditorentauglichen Formaten exportierbar sein. Verteilte Logs ohne klare Retrieval-Mechanismen erfüllen diese Anforderung nicht. Aufbewahrung: In regulierten Branchen sind sieben Jahre oder mehr üblich. Audit-Trail-Infrastruktur muss Langzeitarchivierung mit Zugriff ermöglichen. Kontext: Jeder Eintrag braucht ausreichend Kontext: Zeitstempel, Akteursidentitäten, Entscheidungsinputs, Systemzustand und Bezug zu übergeordneten Workflows.

Organisationen sollten zwischen plattformbezogenen Audit-Logs (Zugriffe, Konfigurationsänderungen, administrative Aktionen) und workflowbezogenen Entscheidungsnachweisen (KI-Empfehlung, menschliche Freigabe, ausgeführte Aktion) unterscheiden. Beides ist notwendig. Die Architektur sollte append-only Writes unterstützen, um nachträgliche Änderungen zu verhindern. Denken Sie nicht nur an Speicherung, sondern auch daran, wie Audit-Trails in einer regulatorischen Prüfung exportiert und präsentiert werden. Planen Sie zudem Aufbewahrungsfristen passend zu Branche und Rechtsräumen.