Vorlagenvorschau (Auszug)
Einseitige Zusammenfassung zu Annex IV (weiterleitbar)
- Vorgesehener Zweck:
- Unterstützte oder automatisierte Entscheidung(en):
- Prüfpunkte der menschlichen Aufsicht:
- Datenquellen (Top 5):
- Überwachungssignale und Schwellenwerte:
- Protokollierungs- und Aufbewahrungsrichtlinie:
5) Risikomanagementsystem
- Typische Schäden: unterschiedliche Auswirkungen, ungerechte Ablehnung, Betrugs-/Identitätsfehler
- Maßnahmen zur Risikominderung + Verifizierungsnachweise (Tests, Stichprobenergebnisse)
Das praktische Beispiel ansehen
Auslöser für eine Prüfung in jedem Fall:
- Jede Ablehnungsempfehlung bei einer Konfidenz < 0.65
- Jede Entscheidung mit Auswirkungen auf eine intern definierte Kategorie schutzbedürftiger Kundinnen und Kunden
- Beinaheverletzung einer Richtlinie (blockierter oder beinahe blockierter Schritt)
Bevor Sie beginnen
Für Teams aus Regulatorik, Risikomanagement, Produkt und Betrieb maschinellen Lernens, die agentenbasierte Prozesse in regulierten Umgebungen einsetzen.
Eine auf den Systemtyp zugeschnittene Anhang-IV-Vorlage für Teams der Kreditvergabe: bestimmungsgemäßer Zweck, Entscheidungsgrenzen, Daten-Governance, menschliche Aufsicht, Überwachung und Nachweisverweise.
Sie bildet die tatsächliche Prüfungspraxis ab: Prüfer suchen konkrete Kontrollen und exportierbare Nachweise, keine Rechtstheorie.
Wann diese Ressource verwendet werden soll
- Ihr System beeinflusst Entscheidungen zu Kreditwürdigkeit, Anspruchsberechtigung oder Preisgestaltung.
- Sie benötigen belastbare, mit Nachweisen verknüpfte Dokumentation (Protokolle, Freigaben, Evaluierungen).
- Sie bereiten ein technisches Dokumentationspaket und eine Exportübung für Nachweise vor.
Zu erfassende Informationen
- Systembeschreibung (welche Entscheidungen beeinflusst werden und was beratend oder automatisch ist).
- Datenquellen und Qualitätsprüfungen (einschließlich Aufbewahrung und Zugriffskontrollen).
- Evaluierungsansatz (Kennzahlen, Leistungsprüfungen nach Segment, Schwellenwerte).
- Verweise auf die Standardarbeitsanweisung für die Aufsicht, den Überwachungsplan und die Aufbewahrungsrichtlinie.
Prüfcheckliste
Nutzen Sie diese Prüfungen gemeinsam mit der für Ihr System verantwortlichen Person. Bestätigen Sie die anwendbaren Anforderungen und fügen Sie Nachweise für die Entscheidungen Ihres Teams an.
- Der bestimmungsgemäße Zweck und ausdrücklich ausgeschlossene Verwendungen sind festgelegt.
- Eingaben und Datenquellen sind mit Governance- und Qualitätsprüfungen aufgeführt.
- Auslöser für menschliche Aufsicht und Eskalationsregeln sind definiert.
- Überwachungssignale umfassen Verteilungsverschiebungen, Leistung nach Segmenten und Vorfallauslöser.
- Die Protokollierung deckt Entscheidungen, Freigaben, Übersteuerungen, Werkzeugaufrufe und Versionierung ab; die Aufbewahrung ist festgelegt.
- Jeder Abschnitt verweist auf Nachweise, die als Paket (Manifest + Prüfsummen) exportiert werden können.
Betriebskontrollen und Nachweise
- Steuern
Policy-as-Code-Checkpoints, die hochriskante Aktionen blockieren oder eine Prüfung erfordern.
Versionskontrolle für Änderungen an Modellen, Eingabeaufforderungen, Richtlinien und Prozessen.
- Absichern
Risikogestaffelte Sampling-Reviews (Baseline + Burst während Vorfällen oder nach Änderungen).
Near-miss-Tracking (blockierte / fast blockierte Schritte) als messbares Kontrollsignal.
- Belegen
Konfigurierbare Aufbewahrungsfristen, Integritätsprüfung und ein ausschließlich ergänzbarer Audit Trail.
Evidence Room Export-Bundles (Manifest + Prüfsummen), damit Prüfer unabhängig verifizieren können.
Fragen zu dieser Ressource
Gilt Kreditvergabe nach der EU-KI-Verordnung gewöhnlich als „hohes Risiko“?
Viele Anwendungsfälle zur Bewertung der Kreditwürdigkeit und zur Entscheidungsunterstützung bei wesentlichen Dienstleistungen werden gewöhnlich als Hochrisiko-Kategorien behandelt. Die Einstufung hängt jedoch vom bestimmungsgemäßen Zweck und Kontext ab. Klären Sie sie mit Ihrer Rechtsberatung.
Wonach suchen Prüfer zuerst?
Entscheidungsgrenzen, Daten-Governance, Überwachungssignale und Schwellenwerte, Aufsichtsauslöser sowie der Nachweis, dass Sie Protokolle und Freigaben für konkrete Entscheidungen exportieren können.
Wie oft sollte die Anhang-IV-Dokumentation aktualisiert werden?
Behandeln Sie sie als lebende Dokumentation: Aktualisieren Sie sie bei Modell- und Richtlinienänderungen, wesentlichen Prozessänderungen, Vorfällen und Erkenntnissen aus der Überwachung.
Welche Nachweise sollten für Kreditvergabesysteme beigefügt werden?
Leistungsprüfungen nach Segment, Berichte zu Verteilungsverschiebungen, Freigaben für Schwellenwertänderungen, Datensätze der Prüfwarteschlange und Audit-Protokolle mit Verknüpfung zu IDs der Entscheidungsverfolgung.
Können wir sensible Daten aus Exporten heraushalten?
Ja. Verwenden Sie Schwärzungsregeln und, wo angemessen, gehashte Verweise und dokumentieren Sie den Ansatz als Teil des Nachweispakets.
Brauchen wir eine einseitige Zusammenfassung?
Sie ist nicht verpflichtend, aber sehr nützlich: Interne Prüfer leiten sie weiter und können damit Beteiligte schnell ausrichten.
Sprache der Download-Datei: Englisch