Systemkarte

Eine Systemkarte (system card) ist ein umfassendes Dokumentationsartefakt, das ein KI-System als Ganzes beschreibt statt einzelne Modelle isoliert. Systemkarten erfassen die komplette Funktionsweise einer KI-Anwendung: Architektur, Komponentenmodelle, Datenflüsse, Integrationspunkte, menschliche Touchpoints und operativen Kontext. Da KI-Systeme zunehmend mehrere Modelle mit Business-Logik, externen Services und menschlichen Workflows kombinieren, liefern Systemkarten die ganzheitliche Sicht, die Modellkarten allein nicht bieten.

Der EU AI Act reguliert KI-Systeme, nicht isolierte Modelle. Model Cards dokumentieren einzelne ML-Modelle, doch Anforderungen an technische Dokumentation, Transparenz und Risikobewertung gelten für das Gesamtsystem, das Outputs produziert oder Entscheidungen trifft. Systemkarten schließen diese Lücke: Sie dokumentieren Orchestrierung, Datenflüsse, Stellen der menschlichen Aufsicht und die Einbettung in organisatorische Prozesse. Anforderungen aus Anhang IV passen eng zu Systemkarteninhalten: allgemeine Systembeschreibung (Zweck), Interaktion mit Hardware/Software, relevante Softwareversionen, Input/Output-Formen und benötigte Rechenressourcen. Diese Systemperspektive ist entscheidend für Konformitätsbewertung und dafür, dass Betreiber verstehen, was sie implementieren. Für moderne KI-Anwendungen auf Foundation Models mit retrieval augmentation, Tool-Use und mehrstufigem Reasoning sind Systemkarten besonders wichtig, weil Verhalten stark von Orchestrierungslogik, Kontextmanagement und Integrationsdesign abhängt, die in Model Cards unsichtbar sind.

Organisationen sollten Systemkarten für jedes entwickelte oder eingesetzte KI-System erstellen, ergänzend zu Model Cards der Komponenten. Eine vollständige Systemkarte umfasst: Systemüberblick (Zweck, Nutzer, Kontext), Architektur-Dokumentation (Komponenten und Interaktionen), Data-Flow-Diagramme, Modellinventar mit Verweisen auf Model Cards, menschliche Touchpoints (Interaktion/Aufsicht), Integrationspunkte (externe Systeme und Datenquellen) sowie operative Parameter (Performance, Grenzen, Failure Modes).

Systemkarten sollten als lebende Dokumente behandelt und bei wesentlichen Änderungen an Architektur, Modellen, Integrationen oder Kontext aktualisiert werden. Versionierung mit klarer Änderungshistorie unterstützt Governance und regulatorische Anforderungen an aktuelle Dokumentation. Das Verhältnis von Model Cards, Systemkarten und Anhang-IV-Dokumentation sollte bewusst gestaltet werden: Model Cards speisen Systemkarten, die wiederum große Teile der Anhang-IV-Inhalte liefern. Mit Templates und Prozessen lässt sich diese Dokumentationshierarchie effizient aufbauen, ohne Redundanz und bei ausreichender Vollständigkeit.