Leitfadenvorschau (Auszug)
Teil 2: Rollen und Verantwortlichkeiten der Aufsicht
2.1 Definitionen der Aufsichtsrollen
| Rolle | Berechtigungsstufe | Erforderliche Schulung |
|---|---|---|
| KI-Bedienperson | Stufe 1: Standardentscheidungen | Erstzertifizierung + jährliche Auffrischung |
| Senior-Bedienperson | Stufe 2: Erweiterte Entscheidungen | Fortgeschrittenenzertifizierung + vierteljährliche Prüfung |
| Aufsichtverantwortliche Person | Stufe 3: Berechtigung zum Überschreiben | Aufsichtszertifizierung + monatliche Kalibrierung |
Teil 5: Verfahren für Überschreibung und Rücknahme
5.1 Arten der Überschreibung
| Art der Überschreibung | Erforderliche Berechtigung | Dokumentationsstufe |
|---|---|---|
| Überschreibung vor der Ausführung | Standardberechtigung für Genehmigungen | Standard |
| Rücknahme nach der Ausführung | Stufe 2+ | Erweitert mit Begründung |
| Notfallüberschreibung | Jede geschulte Bedienperson | Notfallprotokoll + nachträgliche Prüfung |
Das praktische Beispiel ansehen
Kategorien für Überschreibungsgründe:
| Kategorie | Beschreibung | Prüfpriorität |
|---|---|---|
| SAFETY | Sicherheitsbedenken für Nutzende oder Dritte | Sofortige Prüfung |
| ERROR | Offensichtlicher KI-Fehler oder Fehlfunktion | Hohe Priorität |
| CONTEXT | Der KI fehlte relevanter Kontext | Standardprüfung |
| POLICY | Richtlinienaspekt, den die KI nicht bewerten kann | Standardprüfung |
| JUDGMENT | Menschliches Urteil weicht im Grenzfall ab | Musteranalyse |
Bevor Sie beginnen
Für Teams aus Regulatorik, Risikomanagement, Produkt und Betrieb maschinellen Lernens, die agentenbasierte Prozesse in regulierten Umgebungen einsetzen.
Artikel 14 der EU-KI-Verordnung verlangt, dass Hochrisiko-KI-Systeme für eine wirksame Aufsicht durch natürliche Personen ausgelegt sind. Dieser Leitfaden übersetzt die Anforderungen aus Artikel 14 in operative Verfahren.
Er umfasst 7 Teile: Anforderungen aus Artikel 14, Aufsichtsrollen, Freigabeprozesse, Warteschlangenverwaltung, Verfahren zum Übersteuern, Schulungsanforderungen und Nachweiserfassung.
Wann diese Ressource verwendet werden soll
- Sie bauen Freigabepunkte in KI-Prozesse ein (risikoreiche Aktionen, Zugriff auf sensible Daten, Änderungen in der Produktion).
- Sie müssen nachweisen, wer eine Entscheidung freigegeben oder überschrieben hat und welchen Kontext diese Person gesehen hat.
- Sie bereiten einen Abschnitt zur menschlichen Aufsicht für Anhang IV oder eine interne Kontrollprüfung vor.
Zu erfassende Informationen
- Rollendefinitionen mit Befugnisebenen und Kompetenzanforderungen.
- Auslöser, Schritte und Dokumentationsanforderungen der Freigabeprozesse.
- SLAs für Warteschlangen, Priorisierungsregeln und Verfahren zur Reaktion auf Engpässe.
- Arten der Übersteuerung, erforderliche Befugnisse und Begründungskategorien.
- Schulungslehrplan mit rollenspezifischen Anforderungen und Rezertifizierung.
- Nachweisdatenpunkte, Erfassungsmethoden und Integritätsanforderungen.
Prüfcheckliste
Nutzen Sie diese Prüfungen gemeinsam mit der für Ihr System verantwortlichen Person. Bestätigen Sie die anwendbaren Anforderungen und fügen Sie Nachweise für die Entscheidungen Ihres Teams an.
- Rollen und Befugnisebenen sind mit Kompetenzanforderungen und Zeitplänen für die Rezertifizierung eindeutig festgelegt.
- Freigabeprozesse definieren Auslöser, Schritte und Dokumentation für Standard-, Eskalations- und Ausnahmewege.
- Die Warteschlangenverwaltung umfasst SLAs, Priorisierungsregeln, Arbeitsverteilung und die Reaktion auf Engpässe.
- Verfahren zum Übersteuern decken Übersteuerungen vor der Ausführung, Rücknahmen nach der Ausführung und Notfallübersteuerungen mit Begründungskategorien ab.
- Das Schulungsprogramm definiert Lehrplan, rollenspezifische Anforderungen und fortlaufende Kompetenzprüfung.
- Die Nachweiserfassung legt Datenpunkte, Erfassungsmethoden und Integritätsanforderungen für alle Aufsichtshandlungen fest.
Betriebskontrollen und Nachweise
- Steuern
Policy-as-Code-Checkpoints, die hochriskante Aktionen blockieren oder eine Prüfung erfordern.
Versionskontrolle für Änderungen an Modellen, Eingabeaufforderungen, Richtlinien und Prozessen.
- Absichern
Risikogestaffelte Sampling-Reviews (Baseline + Burst während Vorfällen oder nach Änderungen).
Near-miss-Tracking (blockierte / fast blockierte Schritte) als messbares Kontrollsignal.
- Belegen
Konfigurierbare Aufbewahrungsfristen, Integritätsprüfung und ein ausschließlich ergänzbarer Audit Trail.
Evidence Room Export-Bundles (Manifest + Prüfsummen), damit Prüfer unabhängig verifizieren können.
Fragen zu dieser Ressource
Was verlangt Artikel 14 tatsächlich?
Artikel 14 verlangt, dass Menschen die Fähigkeiten und Grenzen der KI verstehen, sich der Automatisierungsverzerrung bewusst bleiben, Ergebnisse korrekt interpretieren, Entscheidungen übersteuern oder zurücknehmen können und in das System eingreifen oder es stoppen können.
Was sollte für jede Freigabe oder Übersteuerung erfasst werden?
Mindestens: Entscheidungs-ID, KI-Empfehlung, angezeigter Kontext, Prüfer-ID, Zeitstempel, ausgeführte Aktion, Begründung (falls erforderlich), Prüfzeit und geltende Richtlinienversion.
Wie verhindern wir eine bloße Bestätigung ohne Prüfung?
Definieren Sie Prüfkriterien, verlangen Sie für risikoreiche Freigaben eine Begründung, prüfen Sie Entscheidungen stichprobenartig, führen Sie Kalibrierungssitzungen durch und erfassen Sie die Prüfzeit.
Was ist eine „Zwei-Personen-Regel“?
Eine Vorgabe, nach der bestimmte Aktionen zwei getrennte menschliche Freigaben benötigen. Sie wird häufig für weitreichende oder irreversible Entscheidungen wie Kontoschließungen oder die Abgabe einer SAR verwendet.
Wie behandeln wir Notfallübersteuerungen?
Erlauben Sie jedem geschulten Operator eine sofortige Aktion, verlangen Sie eine Dokumentation als „Notfallübersteuerung“, benachrichtigen Sie Aufsichtsverantwortliche und die Regulatorik automatisch und schließen Sie die nachträgliche Prüfung innerhalb von 24-48 Stunden ab.
Welche Schulungskompetenzen sind erforderlich?
Grundlagen von KI-Systemen, Fachwissen, Aufsichtsverfahren, Bewusstsein für Automatisierungsverzerrungen, Verfahren zum Übersteuern und regulatorische Anforderungen. Die Rezertifizierung sollte jährlich oder häufiger erfolgen.
Sprache der Download-Datei: Englisch