KI-Compliance-Glossar
Definitionen zentraler Begriffe aus KI-Governance, Compliance mit dem EU AI Act und regulatorischen Rahmenwerken, für Compliance-Teams und Praktiker.
Compliance
Compliance-Prozesse und Dokumentationsanforderungen
Modellkarte
Ein standardisiertes Dokument, das Zweck, Performance, Grenzen und ethische Aspekte eines KI-Modells beschreibt.
Nachweispaket
Ein umfassendes Bündel aus Dokumentation, Logs und Artefakten, das die Compliance eines KI-Systems für Auditoren belegt.
Systemkarte
Dokumentation, die ein vollständiges KI-System beschreibt, einschließlich Architektur, Komponenten, Datenflüssen und Einsatzkontext.
Überwachung nach dem Inverkehrbringen
Kontinuierliche Überwachung von KI-Systemleistung und Compliance nach Deployment, um Probleme zu erkennen und zu beheben.
EU AI Act
Schlüsselbegriffe und Konzepte aus dem EU AI Act
Anbieter
Eine Stelle, die ein KI-System entwickelt (oder entwickeln lässt) und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt.
Anhang III
Der Anhang des EU AI Act, der Kategorien von Hochrisiko-KI-Systemen auflistet, die strengen Compliance-Anforderungen unterliegen.
Anhang IV
Der Anhang des EU AI Act, der Anforderungen an die technische Dokumentation für Hochrisiko-KI-Systeme festlegt.
Benannte Stelle
Eine von einem EU-Mitgliedstaat benannte Organisation, die die Konformität bestimmter Hochrisiko-KI-Systeme bewertet.
Betreiber
Eine Organisation, die ein KI-System unter ihrer Autorität nutzt, ausgenommen rein persönliche, nicht-professionelle Nutzung.
CE-Kennzeichnung
Ein Kennzeichen, das anzeigt, dass ein KI-System die EU-Anforderungen an Gesundheit, Sicherheit und Umweltschutz erfüllt.
FRIA
Fundamental Rights Impact Assessment - eine Bewertung, wie ein KI-System Grundrechte beeinträchtigen kann.
Hochrisiko-KI-System
Ein KI-System, das aufgrund potenzieller Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte im EU AI Act strengen Anforderungen unterliegt.
Konformitätsbewertung
Der Prozess, mit dem geprüft wird, ob ein KI-System vor dem Inverkehrbringen alle anwendbaren Anforderungen des EU AI Act erfüllt.
KI-Governance
Zentrale Konzepte und Rahmenwerke der KI-Governance
KI-Governance
Der Rahmen aus Richtlinien, Prozessen und Kontrollen, der sicherstellt, dass KI-Systeme sicher, ethisch und regelkonform entwickelt, bereitgestellt und betrieben werden.
Menschliche Aufsicht
Mechanismen, die sicherstellen, dass Menschen KI-Systeme überwachen, eingreifen und sie bei Bedarf außer Kraft setzen können.
Technik
Technische Konzepte zur Überwachung und Kontrolle von KI-Systemen
Audit-Trail
Ein chronologischer Nachweis von Aktivitäten, Entscheidungen und menschlichen Interaktionen eines KI-Systems, der Traceability und Rechenschaft ermöglicht.
Bias-Erkennung
Der Prozess, unfairen oder diskriminierenden Muster in KI-Ausgaben oder Trainingsdaten zu identifizieren und zu messen.
Drift-Erkennung
Monitoring der KI-Systemleistung über die Zeit, um Degradation oder Abweichungen vom erwarteten Verhalten zu erkennen.
Erklärbarkeit
Die Fähigkeit, nachzuvollziehen und zu kommunizieren, wie ein KI-System zu Outputs oder Entscheidungen gelangt.
Leitplanken
Technische und prozedurale Mechanismen, die KI-Verhalten innerhalb akzeptabler Grenzen halten und schädliche oder nicht-konforme Outputs verhindern.
Bereit, KI-Governance umzusetzen?
Erfahren Sie, wie KLA Digital regulierte Organisationen dabei unterstützt, diese Konzepte mit Policy-Checkpoints, Audit-Trails und Nachweisexporten zu operationalisieren.