Modellkarte

Eine Modellkarte (model card) ist ein strukturiertes Dokumentationsartefakt, das zentrale Informationen zu einem Machine-Learning-Modell bereitstellt: beabsichtigter Zweck, Eigenschaften der Trainingsdaten, Leistungsmetriken über verschiedene Populationen, bekannte Grenzen und ethische Überlegungen. Ursprünglich 2018 von Google-Forschern vorgeschlagen, sind Model Cards zu einem branchenweiten Standard für transparente KI-Dokumentation geworden und werden häufig zusammen mit Modellen auf Plattformen wie Hugging Face veröffentlicht.

Der EU AI Act schreibt Model Cards nicht explizit vor, doch die Transparenz- und Dokumentationspflichten aus Artikeln 11 und 13 entsprechen ihren Prinzipien. Hochrisiko-KI muss Nutzern ausreichende Informationen geben, um Fähigkeiten, Grenzen und angemessene Einsatzbedingungen zu verstehen. Model Cards bieten ein bewährtes Format, diese Informationen zu strukturieren. Für Organisationen, die Drittmodelle nutzen, sind Model Cards wichtige Due-Diligence-Artefakte. Der EU AI Act erwartet, dass Betreiber die Systeme verstehen, die sie einsetzen; Model Cards von Upstream-Anbietern liefern dazu Informationen über Verhalten, Datenprovenienz und bekannte Bias, die Betreiber in eigene Risikoanalysen einbeziehen müssen. Allerdings reichen Model Cards allein nicht für EU-AI-Act-Compliance aus. Sie dokumentieren das Modell isoliert, während der Rechtsakt Dokumentation des gesamten KI-Systems inklusive Integration, Deployment-Kontext und operativer Schutzmaßnahmen verlangt. Model Cards müssen daher durch systembezogene Dokumentation ergänzt werden.

Organisationen sollten Model Cards für jedes entwickelte oder eingesetzte KI-Modell erstellen oder beschaffen. Eine vollständige Model Card umfasst typischerweise: Modelldetails (Architektur, Version, Trainingsdatum), beabsichtigte Use Cases und explizit ausgeschlossene Einsatzzwecke, Datenquellen und -eigenschaften, Evaluationsmethodik und Datensätze, Leistungsmetriken aufgeschlüsselt nach relevanten demografischen Gruppen, bekannte Grenzen und Failure Modes sowie ethische Aspekte einschließlich Bias und Mitigation.

Für interne Modelle sollten Teams Model Cards im Entwicklungsprozess erstellen und bei Retraining oder Änderungen aktualisieren. Für Drittmodelle sollten Organisationen Model Cards anfordern und Informationslücken dokumentieren. Das Zusammenspiel von Model Cards, System Cards und Dokumentation nach Anhang IV ist zentral: Model Cards beschreiben einzelne Modelle; System Cards beschreiben komplette Systeme; Anhang IV bildet den umfassenden Compliance-Nachweis für Hochrisiko-Systeme. Eine gute Dokumentationsstrategie baut effizient von Model Cards über System Cards zu Anhang-IV-Anforderungen auf, ohne unnötige Duplikation.