Vorlagenvorschau (Auszug)
4) Leistungskennzahlen und Schwellenwerte
- Gültigkeitskennzahlen (Eignung für den Zweck)
- Fairness-Prüfungen (soweit anwendbar)
- Kalibrierung und Fehleranalyse
Verweise auf Nachweise
- Aufzeichnungen zur Aufsicht (Genehmigungen, Überschreibungen, Eskalation)
- Artefakte zur Kandidatenoffenlegung + UI-Nachweis (soweit anwendbar)
Das praktische Beispiel ansehen
Grenze:
- Das System liefert ausschließlich Empfehlungen.
- Menschen treffen die endgültigen Einstellungsentscheidungen.
- Immer prüfen: jede Ablehnungsempfehlung mit einer Konfidenz < 0.7.
Bevor Sie beginnen
Für Teams aus Regulatorik, Risikomanagement, Produkt und Betrieb maschinellen Lernens, die agentenbasierte Prozesse in regulierten Umgebungen einsetzen.
Eine auf den Systemtyp zugeschnittene Anhang-IV-Vorlage für die Personalvorauswahl und Einstellungsverfahren: Rangfolgen, Bewertungen, Empfehlungen und die für Aufsichts- und Fairnessprüfungen erforderlichen Nachweise.
Der Fokus liegt auf Kontrollen und Nachweisen: Transparenzhinweise, Prüferprozesse und Nachvollziehbarkeit über Versionen hinweg.
Wann diese Ressource verwendet werden soll
- Ihr System prüft, erstellt Rangfolgen oder bewertet Kandidaten oder beeinflusst Einstellungsentscheidungen.
- Sie müssen Nachweise für Aufsicht, Erklärbarkeit und eine fairnessorientierte Evaluierung vorlegen.
- Sie bereiten interne Governance-Prüfungen oder externe Prüfungen vor.
Zu erfassende Informationen
- Eine klare Aussage zum bestimmungsgemäßen Zweck und zu den Grenzen (besonders für Einstellungsentscheidungen).
- Ihre Datenquellen und Aufbewahrungszeiträume.
- Evaluierungsansatz und Governance der Schwellenwerte.
- Verweise auf die Standardarbeitsanweisung für die Aufsicht und den Überwachungsplan.
Prüfcheckliste
Nutzen Sie diese Prüfungen gemeinsam mit der für Ihr System verantwortlichen Person. Bestätigen Sie die anwendbaren Anforderungen und fügen Sie Nachweise für die Entscheidungen Ihres Teams an.
- Ergebnisse (Rangfolgen/Bewertungen) und Grenzen (was nicht automatisiert wird) sind ausdrücklich festgelegt.
- Datenminimierung und der Umgang mit sensiblen Daten sind definiert.
- Fairnessbezogene Prüfungen und Schwellenwerte sind dokumentiert, sofern anwendbar.
- Aufsichtsregeln definieren verpflichtende gegenüber stichprobenartigen Prüfungen und die Erfassung der Begründung.
- Protokolle und Exporte können belegen, welche Modell- und Richtlinienversion eine Empfehlung erzeugt hat.
Betriebskontrollen und Nachweise
- Steuern
Policy-as-Code-Checkpoints, die hochriskante Aktionen blockieren oder eine Prüfung erfordern.
Versionskontrolle für Änderungen an Modellen, Eingabeaufforderungen, Richtlinien und Prozessen.
- Absichern
Risikogestaffelte Sampling-Reviews (Baseline + Burst während Vorfällen oder nach Änderungen).
Near-miss-Tracking (blockierte / fast blockierte Schritte) als messbares Kontrollsignal.
- Belegen
Konfigurierbare Aufbewahrungsfristen, Integritätsprüfung und ein ausschließlich ergänzbarer Audit Trail.
Evidence Room Export-Bundles (Manifest + Prüfsummen), damit Prüfer unabhängig verifizieren können.
Fragen zu dieser Ressource
Wird Personalvorauswahl bei Einstellungen gewöhnlich als Hochrisiko eingestuft?
Viele Anwendungsfälle zur Entscheidungsunterstützung im Beschäftigungsbereich werden gewöhnlich als Hochrisikokategorien behandelt. Die Einstufung hängt jedoch vom bestimmungsgemäßen Zweck und Kontext ab. Klären Sie sie mit Ihrer Rechtsberatung.
Welche Nachweise sind für die Personalvorauswahl am wichtigsten?
Aufsichtsprotokolle, Evaluierungsergebnisse (einschließlich relevanter Untergruppen- oder Segmentanalysen, sofern anwendbar) sowie die Nachvollziehbarkeit von Empfehlungen zu Versionen und Richtlinien.
Brauchen wir Transparenzhinweise für Kandidaten?
Die Transparenzpflichten hängen vom System und der Rechtsordnung ab. Viele Teams bieten klare Transparenz für Kandidaten und bewahren einen Nachweis auf, dass sie angezeigt wurde.
Wie verhindern wir, dass sensible Daten in Protokolle gelangen?
Verwenden Sie Schwärzungsregeln, minimieren Sie protokollierte Daten und setzen Sie Zugriffskontrollen durch; erfassen Sie alle Exportaktionen.
Wie oft sollten wir die Dokumentation aktualisieren?
Bei wesentlichen Änderungen, Vorfällen und Erkenntnissen aus der Überwachung; viele Teams richten die Aktualisierung am Rhythmus der Änderungssteuerung aus.
Was lehnen Auditoren ab?
Dokumentation ohne Verknüpfung von Aussagen und Nachweisen: fehlende Prüfprotokolle, fehlende Evaluierungsergebnisse oder fehlende Nachvollziehbarkeit von Versionen.
Sprache der Download-Datei: Englisch