KI-Compliance-Glossar
Definitionen zentraler Begriffe aus KI-Governance, Compliance mit dem EU AI Act und regulatorischen Rahmenwerken, für Compliance-Teams und Praktiker.
Compliance
Compliance-Prozesse und Dokumentationsanforderungen
Modellkarte
Ein standardisiertes Dokument, das Zweck, Performance, Grenzen und ethische Aspekte eines KI-Modells beschreibt.
Nachweispaket
Ein umfassendes Bündel aus Dokumentation, Logs und Artefakten, das die Compliance eines KI-Systems für Auditoren belegt.
Systemkarte
Dokumentation, die ein vollständiges KI-System beschreibt, einschließlich Architektur, Komponenten, Datenflüssen und Einsatzkontext.
Überwachung nach dem Inverkehrbringen
Kontinuierliche Überwachung von KI-Systemleistung und Compliance nach Deployment, um Probleme zu erkennen und zu beheben.
EU-KI-Verordnung
Schlüsselbegriffe und Konzepte aus dem EU AI Act
Anbieter
Eine Stelle, die ein KI-System entwickelt (oder entwickeln lässt) und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt.
Anhang III
Der Anhang des EU AI Act, der Kategorien von Hochrisiko-KI-Systemen auflistet, die strengen Compliance-Anforderungen unterliegen.
Anhang IV
Der Anhang des EU AI Act, der Anforderungen an die technische Dokumentation für Hochrisiko-KI-Systeme festlegt.
Benannte Stelle
Eine von einem EU-Mitgliedstaat benannte Organisation, die die Konformität bestimmter Hochrisiko-KI-Systeme bewertet.
Betreiber
Eine Organisation, die ein KI-System unter ihrer Autorität nutzt, ausgenommen rein persönliche, nicht-professionelle Nutzung.
CE-Kennzeichnung
Ein Kennzeichen, das anzeigt, dass ein KI-System die EU-Anforderungen an Gesundheit, Sicherheit und Umweltschutz erfüllt.
FRIA
Fundamental Rights Impact Assessment - eine Bewertung, wie ein KI-System Grundrechte beeinträchtigen kann.
Hochrisiko-KI-System
Ein KI-System, das aufgrund potenzieller Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte im EU AI Act strengen Anforderungen unterliegt.
KI-Kompetenz
KI-Kompetenz sind die Fähigkeiten, Kenntnisse und das Verständnis, die Menschen brauchen, um KI-Systeme sachkundig einzusetzen und sich ihrer Chancen, Risiken und möglichen Schäden bewusst zu werden.
Konformitätsbewertung
Der Prozess, mit dem geprüft wird, ob ein KI-System vor dem Inverkehrbringen alle anwendbaren Anforderungen des EU AI Act erfüllt.
KI-Governance
Zentrale Konzepte und Rahmenwerke der KI-Governance
Agentenautorisierung
Agentenautorisierung ist die Prüfung, die bei jeder von einem KI-Agenten vorgeschlagenen Aktion entscheidet, ob der Agent diese Aktion mit diesen Argumenten für seinen Prinzipal ausführen darf.
Agentenmandat
Ein Agentenmandat ist eine explizite, maschinenlesbare Definition der Befugnis, die ein Prinzipal an einen KI-Agenten delegiert.
Disposition Engine
Eine Disposition Engine bewertet jede vorgeschlagene Agentenaktion anhand der Controls einer Institution und gibt vor ihrer Ausführung ein verbindliches Ergebnis zurück.
Governance Envelope
Ein Governance Envelope bündelt eine vorgeschlagene Agentenaktion mit dem vollständigen Kontext, der für ihre Bewertung vor der Ausführung erforderlich ist.
KI-Agenten-Register
Ein KI-Agenten-Register ist das Verzeichnis der KI-Agenten einer Organisation und hält für jeden Agenten Verantwortlichen, Zweck, Version, Berechtigungen und Status fest.
KI-Governance
Der Rahmen aus Richtlinien, Prozessen und Kontrollen, der sicherstellt, dass KI-Systeme sicher, ethisch und regelkonform entwickelt, bereitgestellt und betrieben werden.
Manipulationsnachweisbare Lineage
Manipulationsnachweisbare Lineage ist ein unveränderlich erweiterbares Protokoll der Aktionen eines Agenten und der auf sie angewandten Governance-Entscheidungen, dessen Integrität unabhängig verifiziert werden kann.
Menschliche Aufsicht
Mechanismen, die sicherstellen, dass Menschen KI-Systeme überwachen, eingreifen und sie bei Bedarf außer Kraft setzen können.
Policy-Bound Execution
Policy-Bound Execution bewertet jede vorgeschlagene Agentenaktion anhand einer veröffentlichten, versionierten Policy, bevor die Aktion ausgeführt wird.
Runtime-Governance-Schicht
Eine Runtime-Governance-Schicht liegt zwischen einem KI-Agenten und den Systemen, auf die er einwirkt, und bewertet jede vorgeschlagene Aktion vor ihrer Ausführung.
Technik
Technische Konzepte zur Überwachung und Kontrolle von KI-Systemen
Agenten-Kill-Switch
Ein Agenten-Kill-Switch ist eine Kontrolle, die mit einem einzigen Befehl die laufenden Ausführungen eines KI-Agenten stoppt, seine nächsten Aktionen ablehnt und seine Zugriffe widerruft.
Audit-Trail
Ein chronologischer Nachweis von Aktivitäten, Entscheidungen und menschlichen Interaktionen eines KI-Systems, der Traceability und Rechenschaft ermöglicht.
Bias-Erkennung
Der Prozess, unfairen oder diskriminierenden Muster in KI-Ausgaben oder Trainingsdaten zu identifizieren und zu messen.
Datenherkunft
Datenherkunft (Data Provenance) ist der Nachweis, woher ein Datum stammt, was es erzeugt hat und wie es sich vor seiner Verwendung verändert hat.
Deterministisches Replay
Deterministisches Replay ist die erneute Ausführung einer aufgezeichneten Entscheidung eines KI-Agenten mit denselben Eingaben, derselben Policy-Version und derselben Konfiguration, um zu bestätigen, dass sie dasselbe Ergebnis liefert.
Drift-Erkennung
Monitoring der KI-Systemleistung über die Zeit, um Degradation oder Abweichungen vom erwarteten Verhalten zu erkennen.
Erklärbarkeit
Die Fähigkeit, nachzuvollziehen und zu kommunizieren, wie ein KI-System zu Outputs oder Entscheidungen gelangt.
Leitplanken
Technische und prozedurale Mechanismen, die KI-Verhalten innerhalb akzeptabler Grenzen halten und schädliche oder nicht-konforme Outputs verhindern.
Bereit, KI-Governance umzusetzen?
Erfahren Sie, wie KLA regulierte Organisationen dabei unterstützt, diese Konzepte mit Policy-Checkpoints, Audit-Trails und Nachweisexporten zu operationalisieren.