FRIA für KI-Kreditscoring: ein vollständiges Praxisbeispiel

Warum Kreditscoring unabhängig vom öffentlichen oder privaten Status eine FRIA auslöst¶

Artikel 27 Absatz 1 beginnt: "Vor der Inbetriebnahme eines Hochrisiko-KI-Systems gemäß Artikel 6 Absatz 2, mit Ausnahme von Hochrisiko-KI-Systemen, die in einem in Anhang III Nummer 2 aufgeführten Bereich verwendet werden sollen, führen Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts handelt oder um private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b und c eine Abschätzung der Auswirkungen durch, die die Verwendung eines solchen Systems auf die Grundrechte haben kann." Der Satz definiert zwei Gruppen von Betreibern, die diese Abschätzung durchführen müssen.

Die erste Gruppe sind öffentliche Stellen und private Unternehmen, die öffentliche Dienstleistungen erbringen und Hochrisikosysteme gemäß Anhang III einsetzen. Die zweite Gruppe sind Einsätze von Systemen, die in den Punkten 5(b) und (c) des Anhangs III erwähnt werden: Kreditwürdigkeitsbewertung und Preisgestaltung von Lebens- oder Krankenversicherungen. Diese zweite Klausel trägt keine öffentliche- oder private Qualifikation. Sie bindet jeden Einsatzer eines 5(b)-Kreditwürdigkeitssystems und jeden Einsatzer eines 5(c)-Lebens- oder Krankenversicherungs-Preisgestaltungssystems, einschließlich kommerzieller Banken und Verbraucherkrediteuren.

Eine Lesetrap ist es wert, direkt genannt zu werden. Der Ausdruck "mit Ausnahme von ... Punkt 2 der Anhang III" entfernt kritische Infrastruktur-Systeme nur aus der ersten Gruppe. Punkt 2 des Anhangs III deckt kritische Infrastruktur ab; Kreditwürdigkeitsbewertung liegt in Punkt 5(b). Ein Implementierer von Kreditwürdigkeitsbewertungen nach 5(b) wird durch die zweite Klausel eingezogen, und die Ausnahme nach Punkt 2 berührt diese Klausel nicht.

Anhang III Nummer 5 Buchstabe b erfasst "KI-Systeme, die bestimmungsgemäß für die Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen verwendet werden sollen, mit Ausnahme von KI-Systemen, die zur Aufdeckung von Finanzbetrug verwendet werden." Ein Ausfallwahrscheinlichkeitsmodell, das Verbraucherkreditentscheidungen steuert, fällt eindeutig unter diese Definition. Der Leitfaden zur FRIA-Vorlage fasst diesen Auslöser zusammen; der restliche Artikel arbeitet ihn vollständig aus. Den weiteren Einstufungsrahmen (einschließlich der Frage, wie Artikel 6 und Anhang III bestimmen, was als hochriskant gilt) behandelt der Leitfaden zur Einstufung von Hochrisiko-KI.

Ein weiterer Einstufungsschritt macht den Auslöser lückenlos. Nach Artikel 6 Absatz 3 kann ein System aus Anhang III aus der Hochrisiko-Einstufung herausfallen, wenn es kein erhebliches Risiko der Beeinträchtigung der Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt: etwa, weil es eine eng gefasste Verfahrensaufgabe erfüllt. Diese Ausnahme greift beim Kreditscoring nicht: Artikel 6 Absatz 3 bestimmt, dass ein System aus Anhang III stets als hochriskant gilt, wenn es ein Profiling natürlicher Personen vornimmt, und ein Kreditwürdigkeitsmodell, das die wirtschaftliche Situation einer Person bewertet, ist Profiling im Sinne von Artikel 4 Nummer 4 DSGVO. Ein Kreditscoring-System, das Kreditentscheidungen maßgeblich steuert, bleibt daher hochriskant, und sein Betreiber behält die FRIA-Pflicht nach Artikel 27.

Die Ausnahme für die Betrugserkennung: was erfasst ist und was nicht¶

Die Definition 5(b) umfasst ausdrücklich KI "für den Zweck der Erkennung von Finanzbetrug verwendet." Ein reines Betrugserkennungsmodell fällt daher nicht in die Kategorie der Bonität gemäß 5(b) und erbt den FRIA-Auslöser für die Bonitätsbewertung nicht über 5(b). Ein Betrugsmodell kann dennoch aus anderen Gründen hochrisikoreich sein und seine eigenen Verwaltungsaufgaben erfüllen; es erbt einfach nicht den 5(b)-Bonitätsbewertung-FRIA-Haken. Wenn dieselbe Institution Betrugs- und AML-Modelle neben ihrem Kreditmotor betreibt, wird der Verwaltungsansatz für diese im Abschnitt Verwaltung von AML- und Zahlungsagenten behandelt.

Zwei angrenzende Fälle runden die Abgrenzung ab. Allein die Tarifierung von Nicht-Lebensversicherungen (Kfz, Wohngebäude, Reise) fällt nicht unter Nummer 5 Buchstabe c; eine Nicht-Lebenssparte müsste über einen gesonderten Weg nach Anhang III oder Anhang I hochriskant sein. Nur die Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung fällt unter Nummer 5 Buchstabe c, die eine eigene FRIA-Pflicht mit sich bringt.

Drei Rechtsebenen über einer einzigen KI-Kreditentscheidung¶

Eine einzelne automatisierte Ablehnung unterliegt nicht allein der KI-Verordnung. Drei Bereiche des EU-Rechts überlagern dieselbe Entscheidung, und eine belastbare FRIA muss alle drei berücksichtigen. Diese Detailtiefe im Verbraucherkreditgeschäft unterscheidet eine ausgearbeitete Kreditscoring-Abschätzung von der generischen Vorlage.

Das Erläuterungsrecht nach Artikel 86 und die DSGVO-Anknüpfungspunkte¶

Die KI-Verordnung verankert mit Artikel 86 den Anknüpfungspunkt zur Erläuterung der Ablehnung im Gesetz selbst. Sie gibt "jeder betroffenen Person, die einer Entscheidung unterliegt, die der Betreiber auf der Grundlage der Ausgabe eines in Anhang III aufgeführten Hochrisiko-KI-Systems … trifft und die rechtliche Auswirkungen hat oder die betroffene Person in ähnlicher Weise erheblich beeinträchtigt, sodass sie der Ansicht ist, dass sie sich nachteilig auf ihre Gesundheit, Sicherheit oder Grundrechte auswirkt, … das Recht, vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten." Das Recht steht unter dem Vorbehalt dieser Schwelle: Die Entscheidung muss rechtliche Auswirkungen haben oder die Person in ähnlicher Weise erheblich beeinträchtigen. Eine Kreditablehnung erreicht diese Schwelle, weil sie den Zugang zu einem Kredit, einer Karte oder einem Dispositionskredit bestimmt; ein abgelehnter Antragsteller ist somit eine betroffene Person, die sich auf Artikel 86 berufen kann. Artikel 86 Absatz 3 hält das Recht als Auffangregelung: Es gilt nur insoweit, als ein gleichwertiges Recht nicht anderweitig nach Unionsrecht vorgesehen ist; wo also die DSGVO-Transparenz und die Rechte aus Artikel 22 die Erläuterung bereits abdecken, sind diese Vorschriften maßgeblich, und Artikel 86 füllt, was sie offenlassen. Auf der DSGVO-Seite sind die verbindlichen Anknüpfungspunkte die Artikel 13 bis 15 (aussagekräftige Informationen über die involvierte Logik) und Artikel 22 Absatz 3 (Eingreifen einer Person, Recht auf Darlegung des eigenen Standpunkts und auf Anfechtung). Auch Erwägungsgrund 71 beschreibt eine Erläuterung der getroffenen Entscheidung, ist aber ein nicht verbindlicher Erwägungsgrund, sodass die Erläuterungspflicht am besten in diesen verbindlichen Artikeln sowie in Artikel 86 verankert wird. Der US-amerikanische Begriff "adverse-action notice" ist ein nützliches Kürzel für diese Pflichten, jedoch kein gesetzlicher Begriff der EU.

Das Szenario: die Bank und das System¶

Das ausgearbeitete Beispiel verwendet durchgehend einen Betreiber. Die Bank ist eine mittelgroße EU-Retailbank und Verbraucherkreditgeberin, die als Betreiber eines Hochrisiko-KI-Systems handelt. Das System ist ein auf maschinellem Lernen beruhendes Kreditwürdigkeitsmodell (Anbieter "ScoreCo", Modell v2.3), das einen Ausfallwahrscheinlichkeits-Score ausgibt, mit dem über Verbraucherkreditanträge entschieden wird: Ratenkredite, Kreditkarten und eingeräumte Dispositionskredite.

Die Entscheidungslogik ist eine dreistufige Schwellenwertlogik. Scores über dem oberen Schwellenwert werden automatisch genehmigt; Scores unter dem unteren Schwellenwert werden automatisch abgelehnt; das mittlere Band geht an menschliche Kreditsachbearbeiter. Ein separates, unabhängiges Betrugsprüfungsmodell läuft zuerst und liegt nach der Ausnahme in Anhang III Nummer 5 Buchstabe b außerhalb des Umfangs dieser FRIA. Die Nutzung erfolgt ab dem Inbetriebnahmedatum fortlaufend und unbefristet, mit Echtzeit-Scoring im Moment der Antragstellung, rund 3.000 Entscheidungen pro Woche (etwa 150.000 pro Jahr) über die EU-Retailmärkte der Bank hinweg, online und in der Filiale. Das System fällt unter Anhang III Nummer 5 Buchstabe b, sodass die FRIA nach Artikel 27 Absatz 1 unabhängig vom öffentlichen oder privaten Status der Bank erforderlich ist.

Die ausgearbeitete FRIA, Abschnitt für Abschnitt (Artikel 27 Absatz 1 Buchstaben a–f)¶

Artikel 27 Absatz 1 nennt sechs verpflichtende Bestandteile. Die beiden folgenden Absätze erläutern, was jeder einzelne für den Kreditscoring-Fall leistet, und die anschließende Tabelle füllt alle sechs für das ausgearbeitete Beispiel aus.

Die Abschnitte 1 bis 3 legen die Tatsachen fest, über die der Rest der Abschätzung urteilt. Abschnitt 1 hält das System und seine Zweckbestimmung fest (das Ausfallwahrscheinlichkeitsmodell von ScoreCo, den Kreditvergabeprozess, in dem es eingebettet ist, und die dreistufige Schwellenwertlogik) und stellt unmissverständlich klar, dass die Betrugsprüfung ein separates Modell außerhalb dieser FRIA ist. Abschnitt 2 hält Dauer und Häufigkeit fest: fortlaufender Produktivbetrieb, Echtzeit-Scoring im Moment der Antragstellung und das wöchentliche Entscheidungsvolumen. Abschnitt 3 benennt die betroffenen Personen, mit besonderem Augenmerk auf Antragsteller mit dünner Kreditakte und schutzbedürftige Antragsteller sowie auf Dritte wie Mitantragsteller und Bürgen.

Die Abschnitte 4 bis 6 tragen die Analyse. Abschnitt 4 ist das nachstehend vollständig dargestellte Risikoregister: jedes Grundrecht, das Schadensszenario, eine Bewertung von Eintrittswahrscheinlichkeit und Schweregrad, die Minderungsmaßnahme und das Restrisiko. Abschnitt 5 dokumentiert die Maßnahmen der menschlichen Aufsicht: die benannten Mitarbeiter, die eine automatische Ablehnung überstimmen können, die verpflichtende Prüfung von Ablehnungen in markierten Gruppen und die Modellrisiko-Funktion der zweiten Verteidigungslinie. Abschnitt 6 hält fest, was geschieht, wenn sich ein Risiko verwirklicht: den Beschwerdeweg, die Rechte aus Artikel 22 Absatz 3 DSGVO und Artikel 86, die ein Antragsteller geltend machen kann, Modell-Rollback und Anpassung der Schwellenwerte sowie die Mitteilung nach Artikel 27 Absatz 3 an die Marktüberwachungsbehörde.

Abschnitt 4 vollständig: das Kreditscoring-Risikoregister¶

In Abschnitt 4 wird eine FRIA konkret. Artikel 27 Absatz 1 Buchstabe d verlangt, dass die Abschätzung die konkreten Schadensrisiken darlegt, die voraussichtlich die in Abschnitt 3 benannten Kategorien natürlicher Personen betreffen; ein Register Recht für Recht (jedes betroffene Grundrecht, ein konkretes Schadensszenario, eine Bewertung von Eintrittswahrscheinlichkeit und Schweregrad, die Minderungsmaßnahme und das Restrisiko) ist ein vertretbarer Weg, diese Risiken zu dokumentieren. Das nachstehende Register tut dies für den Kreditscoring-Fall. Die Werte für Eintrittswahrscheinlichkeit, Schweregrad und Restrisiko sind eine beispielhafte Bewertung, die in sich mit der nachfolgenden Bewertungsmatrix stimmig ist. Sie veranschaulichen eine vertretbare Methode; die konkreten Werte sind von keiner Aufsichtsbehörde vorgeschrieben.

Bewertung des Registers: Eintrittswahrscheinlichkeit × Schweregrad¶

Die Risikostufen im Register stammen aus einer Matrix aus Eintrittswahrscheinlichkeit und Schweregrad, die über die gesamte Abschätzung hinweg einheitlich angewandt wird. Die Dokumentation der Matrix und der Begründung hinter jeder Bewertung ist für eine Aufsichtsbehörde ebenso bedeutsam wie die endgültige Risikostufe.

Minderungsmaßnahmen im Detail¶

Disparate-Impact-Tests. Führen Sie vierteljährlich Tests der Adverse-Impact-Ratio über geschützte Gruppen hinweg durch und vergleichen Sie Genehmigungsquoten, Ablehnungsquoten und Preisbildungsergebnisse. Die Vier-Fünftel-Regel (80 %) ist ein erstes Signal; dokumentieren Sie den Test, die betrachteten Gruppen und die ergriffene Maßnahme, wenn eine Ungleichbehandlung auftritt.

Umgang mit Proxy-Merkmalen. Prüfen Sie die Eingabemerkmale auf Korrelation mit geschützten Merkmalen. Postleitzahl, Beruf, Gerätetyp und mit der Staatsangehörigkeit verknüpfte Variablen sind häufige Proxys für ethnische Herkunft, Geschlecht oder Alter. Entfernen oder transformieren Sie die Merkmale, die ein Proxy-Signal tragen, und testen Sie nach jeder Änderung erneut.

Menschliche Prüfung von Ablehnungen. Leiten Sie jede Ablehnung in einer markierten Gruppe vor ihrer Mitteilung an einen benannten Kreditsachbearbeiter und geben Sie diesem eine echte Befugnis, das Modell zu überstimmen. Scores mit geringer Konfidenz gehen in die menschliche Prüfung.

Ablehnungsgründe und die Erläuterung nach Artikel 86. Nennen Sie dem Antragsteller die Hauptgründe für die Ablehnung in klarer Sprache sowie die Erläuterung nach Artikel 86 zur Rolle des KI-Systems in der Entscheidung und zu den wichtigsten Elementen der getroffenen Entscheidung. Hauptgrund-Codes, die den Einflussfaktoren des Modells zugeordnet sind, machen dies wiederholbar und prüfbar.

Alternativer manueller Weg. Bieten Sie einen Weg zu einer vollständigen manuellen Beurteilung für Antragsteller an, die eine automatische Ablehnung anfechten oder zusätzliche Nachweise vorlegen können, etwa eine Historie von Miet- oder Versorgungszahlungen.

Dünne Kreditakte und alternative Daten. Nutzen Sie bei Antragstellern mit geringer Kredithistorie mit Einwilligung erhobene alternative Daten (Miete, Versorgungszahlungen oder Open-Banking-Cashflow) unter manueller Prüfung und überwachen Sie die Modellleistung nach Aktendichte und Alterskohorte, um Versagen auf Segmentebene zu erkennen.

Jede dieser Kontrollen braucht einen Verantwortlichen, Nachweise und einen Platz im Kontrollrahmen der Bank; sie den einschlägigen Artikeln der KI-Verordnung zuzuordnen, ist Aufgabe der Ansicht Kontrollzuordnung.

DSGVO Artikel 22, SCHUFA und die DSFA¶

Eine automatische Ablehnung an einem Score-Schwellenwert ist eine ausschließlich auf automatisierter Verarbeitung beruhende Entscheidung mit erheblicher Wirkung und fällt damit unter Artikel 22 DSGVO. Der EuGH hat diese Schwelle niedriger angesetzt, als viele Kreditgeber annahmen. In SCHUFA Holding (Scoring), Rechtssache C-634/21 (Urteil vom 7. Dezember 2023) entschied der Gerichtshof, dass eine Kreditauskunftei, die einen automatisierten Wahrscheinlichkeitswert für die Bonität erzeugt, selbst eine automatisierte Entscheidung im Einzelfall nach Artikel 22 Absatz 1 trifft, wenn ein Dritter wie ein Kreditgeber diesem Wert maßgebliche Bedeutung für die Gewährung oder Verweigerung von Kredit beimisst; der Gerichtshof stellte fest, dass ein unzureichender Wahrscheinlichkeitswert in nahezu allen Fällen zu einer Ablehnung führt. Ein Score kann selbst unter Artikel 22 fallen, wenn ein Dritter ihm bei der Gewährung oder Verweigerung von Kredit maßgebliche Bedeutung beimisst; eine Bank, die an ihrem eigenen Schwellenwert automatisch ablehnt, trifft eine solche Entscheidung daher noch unmittelbarer.

Das bedeutet, dass die Bank sowohl eine eigene Rechtsgrundlage nach Artikel 6 für die Verarbeitung als auch eine Ausnahme nach Artikel 22 Absatz 2 vom Verbot ausschließlich automatisierter Entscheidungen benötigt. Die übliche Ausnahme ist die Vertragserforderlichkeit nach Artikel 22 Absatz 2 Buchstabe a (die Entscheidung ist für den Abschluss eines Kreditvertrags erforderlich), die wie der Weg über die ausdrückliche Einwilligung in Artikel 22 Absatz 2 Buchstabe c die Garantien des Artikels 22 Absatz 3 mit sich bringt: das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung. Der Weg über Artikel 22 Absatz 2 Buchstabe b, eine durch das Recht der Union oder der Mitgliedstaaten zugelassene Entscheidung, verlangt stattdessen, dass diese Garantien in der ermächtigenden Rechtsvorschrift festgelegt sind. Artikel 22 Absatz 4 beschränkt zudem die Verwendung besonderer Kategorien personenbezogener Daten, weshalb das Risikoregister Eingaben besonderer Datenkategorien untersagt und auf deren Proxys überwacht. Die verbleibende Möglichkeit besteht darin, bei jeder Ablehnung eine Person einzubinden, sodass die Entscheidung nicht ausschließlich automatisiert ist.

Die Datenschutzanalyse überschneidet sich stark mit einer DSFA nach der DSGVO. Artikel 27 Absatz 4 der KI-Verordnung sieht vor, dass die FRIA eine DSFA ergänzt, wenn eine Pflicht bereits durch eine DSFA erfüllt wird. Verwenden Sie die in der DSFA geleistete Arbeit zu Datenflüssen, Rechtsgrundlagen und Datenqualität als Ausgangspunkt und erweitern Sie sie um die Charta-Rechte, die eine DSFA nicht abdeckt. Zur DSFA-Seite siehe DSFA für KI-Systeme; um beide zusammen zu erstellen, nutzen Sie den DSFA- und FRIA-Generator.

Nach der FRIA: Mitteilung und laufende Überwachung¶

Artikel 27 verlangt auch nach der Abschätzung eine Mitteilung und Aktualisierungen. Nach Artikel 27 Absatz 3 teilt der Betreiber, sobald die FRIA durchgeführt ist, der zuständigen Marktüberwachungsbehörde deren Ergebnisse mithilfe der Vorlage nach Artikel 27 Absatz 5 mit. Das KI-Büro hat diese Vorlage im Juni 2026 noch nicht veröffentlicht; dokumentieren Sie daher zwischenzeitlich anhand der Kriterien des Artikels 27 Absatz 1, denn das Fehlen der Vorlage entbindet nicht von der Pflicht. Die einzige Befreiung von der Mitteilung ist der eng gefasste Fall des Artikels 46 Absatz 1.

Die FRIA ist außerdem ein lebendes Dokument. Artikel 27 Absatz 2 verlangt eine Aktualisierung, sobald sich ihre Elemente ändern oder nicht mehr aktuell sind. Bei einem Kreditscoring-Modell sind die praktischen Aktualisierungsanlässe ein erneutes Training oder ein Versionswechsel des Modells, eine Anpassung von Schwellenwert oder Cut-off, eine Leistungs- oder Verteilungs-Drift, eine neue Antragstellerkohorte oder ein neuer Markt sowie jede Änderung der Datenquellen, die in den Score einfließen. Ein Betreiber darf sich für ein hinreichend ähnliches System auf eine bereits durchgeführte FRIA stützen und muss die Abschätzung aktuell halten. Den Blickwinkel der französischen Aufsicht für Banken, die ein solches Modell einsetzen, behandelt ACPR-KI-Governance für französische Banken.