FRIA per lo scoring del credito IA: esempio completo

Perché lo scoring del credito fa scattare una FRIA, a prescindere dalla natura pubblica o privata¶

L'articolo 27, paragrafo 1 esordisce così: «Prima di mettere in uso un sistema di IA ad alto rischio di cui all'articolo 6, paragrafo 2, ad eccezione dei sistemi di IA ad alto rischio destinati a essere utilizzati nel settore elencato nell'allegato III, punto 2, i deployer che sono organismi di diritto pubblico, o sono soggetti privati che forniscono servizi pubblici, e i deployer di sistemi di IA ad alto rischio di cui all'allegato III, punto 5, lettere b) e c), effettuano una valutazione dell'impatto sui diritti fondamentali che l'uso di tale sistema può produrre.» La frase individua due gruppi di deployer tenuti a effettuare la valutazione.

Il primo gruppo è costituito dagli organismi di diritto pubblico e dai soggetti privati che forniscono servizi pubblici che mettono in uso sistemi ad alto rischio dell'allegato III. Il secondo gruppo è quello dei deployer dei sistemi di cui all'allegato III, punto 5, lettere b) e c): lo scoring del credito e la tariffazione delle assicurazioni sulla vita o sanitarie. Questa seconda parte della disposizione non contiene alcuna distinzione tra soggetti pubblici e privati. Vincola ogni deployer di un sistema di affidabilità creditizia di cui alla lettera b) e ogni deployer di un sistema di tariffazione delle assicurazioni sulla vita o sanitarie di cui alla lettera c), comprese le banche commerciali e gli erogatori di credito al consumo.

Vale la pena segnalare apertamente un'insidia interpretativa. La formula «ad eccezione… dell'allegato III, punto 2» esclude i sistemi di infrastrutture critiche dal solo primo gruppo. Il punto 2 dell'allegato III riguarda le infrastrutture critiche; lo scoring del credito rientra nel punto 5, lettera b). Un deployer di scoring del credito di cui alla lettera b) è ricompreso attraverso la seconda parte della disposizione, e l'eccezione relativa al punto 2 non incide su tale parte.

L'allegato III, punto 5, lettera b) riguarda i «sistemi di IA destinati a essere utilizzati per valutare l'affidabilità creditizia delle persone fisiche o per stabilire il loro merito di credito, a eccezione dei sistemi di IA utilizzati allo scopo di individuare frodi finanziarie.» Un modello di probabilità di default che guida le decisioni sul credito al consumo rientra pienamente in questa definizione. La guida al modello di FRIA riassume questo presupposto; il resto dell'articolo lo sviluppa per intero. Per un quadro più ampio della classificazione, compreso il modo in cui l'articolo 6 e l'allegato III stabiliscono che cosa è considerato ad alto rischio, consulta la guida alla classificazione dei sistemi di IA ad alto rischio.

Un ulteriore passaggio della classificazione rende il presupposto incontrovertibile. Ai sensi dell'articolo 6, paragrafo 3, un sistema dell'allegato III può non rientrare tra quelli ad alto rischio se non presenta un rischio significativo di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, ad esempio quando svolge un compito procedurale limitato. Questa deroga non si applica allo scoring del credito: l'articolo 6, paragrafo 3, stabilisce che un sistema dell'allegato III è sempre considerato ad alto rischio se effettua la profilazione di persone fisiche, e un modello di affidabilità creditizia che valuta la situazione economica di una persona costituisce profilazione ai sensi dell'articolo 4, punto 4), del GDPR. Un sistema di scoring del credito che incide in modo sostanziale sulle decisioni di credito resta pertanto ad alto rischio, e il suo deployer mantiene l'obbligo di FRIA dell'articolo 27.

L'esclusione per l'individuazione delle frodi: cosa rientra e cosa no¶

La definizione del punto 5, lettera b), esclude espressamente l'IA «utilizzata allo scopo di individuare frodi finanziarie.» Un modello di pura individuazione delle frodi è quindi al di fuori della categoria dell'affidabilità creditizia di cui alla lettera b) e non eredita, attraverso tale lettera, il presupposto della FRIA per lo scoring del credito. Un modello antifrode può comunque essere ad alto rischio per altri motivi e comportare i propri obblighi di governance; semplicemente, non eredita l'aggancio alla FRIA per lo scoring del credito previsto dalla lettera b). Quando lo stesso istituto utilizza modelli antifrode e AML accanto al proprio motore di credito, l'approccio di governance per questi è trattato in governare gli agenti AML e dei pagamenti.

Due casi contigui completano il confine. La sola tariffazione delle assicurazioni danni (auto, casa, viaggi) è al di fuori del punto 5, lettera c); un ramo danni richiederebbe un percorso autonomo dell'allegato III o dell'allegato I per essere ad alto rischio. Solo la valutazione del rischio e la tariffazione delle assicurazioni sulla vita e sanitarie rientrano nel punto 5, lettera c), che comporta un proprio obbligo di FRIA.

Tre livelli normativi su un'unica decisione di credito IA¶

Un singolo rifiuto automatizzato non ricade soltanto sotto l'AI Act. Tre corpi normativi dell'UE si sovrappongono sulla stessa decisione, e una FRIA credibile deve considerarli tutti. È questo approfondimento sul credito al consumo a distinguere una valutazione svolta per lo scoring del credito da un modello generico di FRIA.

Il diritto alla spiegazione dell'articolo 86 e gli agganci al GDPR¶

L'articolo 86 dell'AI Act è l'aggancio alla spiegazione del rifiuto all'interno del regolamento stesso. Esso riconosce a «qualsiasi persona interessata che è oggetto di una decisione presa dal deployer sulla base dell'output di un sistema di IA ad alto rischio elencato nell'allegato III… e che produce effetti giuridici o in modo analogo incide significativamente su tale persona in un modo che essa ritenga avere ripercussioni negative sulla sua salute, sicurezza o sui suoi diritti fondamentali… il diritto di ottenere dal deployer spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata.» Il diritto è subordinato a tale soglia: la decisione deve produrre effetti giuridici o incidere in modo analogamente significativo sulla persona. Un rifiuto di credito raggiunge quella soglia, perché determina l'accesso a un prestito, a una carta o a uno scoperto di conto, sicché il richiedente respinto è una persona interessata che può invocare l'articolo 86. L'articolo 86, paragrafo 3, mantiene il diritto come norma di chiusura: si applica solo nella misura in cui un diritto equivalente non sia altrimenti previsto dal diritto dell'Unione, sicché laddove la trasparenza del GDPR e i diritti dell'articolo 22 coprano già la spiegazione, prevalgono quelle disposizioni e l'articolo 86 colma ciò che esse lasciano aperto. Sul versante del GDPR, gli agganci vincolanti sono gli articoli da 13 a 15 (informazioni significative sulla logica utilizzata) e l'articolo 22, paragrafo 3 (intervento umano, diritto di esprimere la propria opinione e di contestare la decisione). Anche il considerando 71 descrive una spiegazione della decisione raggiunta, ma è un considerando non vincolante, sicché è preferibile ancorare l'obbligo di spiegazione a quegli articoli vincolanti e all'articolo 86. L'espressione statunitense «adverse-action notice» è una comoda formula sintetica per questi obblighi, pur non essendo un termine normativo dell'UE.

Lo scenario: la banca e il sistema¶

L'esempio svolto utilizza un unico deployer in tutto il testo. La banca è una banca retail e finanziaria di credito al consumo di medie dimensioni dell'UE, che agisce in qualità di deployer di un sistema di IA ad alto rischio. Il sistema è un modello di affidabilità creditizia di machine learning (fornitore «ScoreCo», modello v2.3) che produce un punteggio di probabilità di default usato per decidere le domande di credito al consumo: prestiti personali, carte di credito e scoperti di conto concordati.

Il disegno decisionale prevede una soglia a tre fasce. I punteggi superiori alla soglia più alta sono approvati automaticamente; i punteggi inferiori alla soglia più bassa sono rifiutati automaticamente; la fascia intermedia è rinviata a istruttori umani. Un modello di screening antifrode separato e indipendente viene eseguito per primo ed è escluso dall'ambito di questa FRIA in virtù dell'esclusione dell'allegato III, lettera b). L'utilizzo è continuativo e a tempo indeterminato a partire dalla data di messa in uso, con scoring in tempo reale al momento della domanda, per circa 3.000 decisioni a settimana (all'incirca 150.000 all'anno) nei mercati retail dell'UE della banca, online e in filiale. Il sistema rientra nell'allegato III, punto 5, lettera b), sicché la FRIA è richiesta ai sensi dell'articolo 27, paragrafo 1, qualunque sia la natura pubblica o privata della banca.

La FRIA svolta, sezione per sezione (articolo 27, paragrafo 1, lettere a)-f))¶

L'articolo 27, paragrafo 1, elenca sei componenti obbligatori. I due paragrafi seguenti illustrano la funzione di ciascuno per il caso dello scoring del credito, e la tabella che segue li completa tutti e sei per l'esempio svolto.

Le sezioni da 1 a 3 fissano i fatti su cui ragiona il resto della valutazione. La sezione 1 documenta il sistema e la sua finalità prevista (il modello di probabilità di default di ScoreCo, il flusso di erogazione in cui è inserito e il disegno della soglia a tre fasce) e dichiara esplicitamente che lo screening antifrode è un modello separato, esterno a questa FRIA. La sezione 2 documenta la durata e la frequenza: utilizzo continuativo in produzione, scoring in tempo reale al momento della domanda e il volume settimanale di decisioni. La sezione 3 individua le persone interessate, con particolare attenzione ai richiedenti con storia creditizia scarsa e vulnerabili e ai terzi quali co-richiedenti e garanti.

Le sezioni da 4 a 6 portano avanti l'analisi. La sezione 4 è il registro dei rischi riportato per intero più avanti: ciascun diritto fondamentale, lo scenario di danno, una valutazione di probabilità e gravità, la misura di mitigazione e il rischio residuo. La sezione 5 documenta le misure di sorveglianza umana: i responsabili designati che possono ribaltare un rifiuto automatico, il riesame obbligatorio dei rifiuti nei gruppi segnalati e la funzione di model risk di seconda linea. La sezione 6 documenta cosa accade quando un rischio si concretizza: il canale di reclamo, i diritti di cui all'articolo 22, paragrafo 3, del GDPR e all'articolo 86 che il richiedente può invocare, il rollback del modello e l'aggiustamento delle soglie, e la notifica di cui all'articolo 27, paragrafo 3, all'autorità di vigilanza del mercato.

La sezione 4 per intero: il registro dei rischi dello scoring del credito¶

La sezione 4 è il punto in cui una FRIA diventa concreta. L'articolo 27, paragrafo 1, lettera d), impone che la valutazione esponga i rischi specifici di danno che possono incidere sulle categorie di persone fisiche individuate nella sezione 3; un registro diritto per diritto — ciascun diritto fondamentale in gioco, uno scenario di danno specifico, una valutazione di probabilità e gravità, la mitigazione e il rischio residuo — è un modo difendibile per documentare tali rischi. Il registro che segue lo fa per il caso dello scoring del credito. I valori di probabilità, gravità e rischio residuo sono una valutazione esemplificativa, internamente coerente con la matrice di punteggio che segue. Illustrano un metodo difendibile; le cifre specifiche non sono prescritte da alcuna autorità di regolamentazione.

Punteggio del registro: probabilità per gravità¶

I livelli di rischio del registro derivano da una matrice probabilità-gravità applicata in modo coerente a tutta la valutazione. Documentare la matrice, e il ragionamento dietro ciascuna valutazione, conta per un'autorità di regolamentazione quanto il livello di rischio finale.

Le mitigazioni in dettaglio¶

Test di impatto differenziato. Eseguire test trimestrali sul rapporto di impatto sfavorevole tra i gruppi protetti, confrontando tassi di approvazione, tassi di rifiuto ed esiti di tariffazione. La soglia dei quattro quinti (80%) è un segnale di partenza; documentare il test, le popolazioni e l'azione intrapresa quando emerge una disparità.

Gestione delle variabili proxy. Verificare le variabili di input alla ricerca di correlazioni con caratteristiche protette. Codice di avviamento postale, professione, tipo di dispositivo e variabili legate alla nazionalità sono proxy comuni di origine etnica, genere o età. Rimuovere o trasformare le variabili che recano segnale proxy, e ripetere i test dopo ogni modifica.

Riesame umano dei rifiuti. Indirizzare ogni rifiuto in un gruppo segnalato a un istruttore designato prima che venga comunicato, e attribuire a tale istruttore un effettivo potere di ribaltare il modello. I punteggi a bassa confidenza vanno al riesame umano.

Motivazioni del rifiuto e spiegazione dell'articolo 86. Fornire al richiedente le motivazioni principali del rifiuto in linguaggio chiaro, oltre alla spiegazione, ai sensi dell'articolo 86, del ruolo del sistema di IA nella decisione e dei principali elementi della decisione adottata. Codici delle motivazioni principali mappati sui fattori del modello rendono tutto ciò ripetibile e verificabile.

Percorso manuale alternativo. Offrire una via verso una valutazione manuale completa ai richiedenti che contestano un rifiuto automatizzato o che possono fornire prove aggiuntive, come lo storico dei pagamenti di affitto o utenze.

Storie creditizie scarse e dati alternativi. Per i richiedenti con storia creditizia esigua, utilizzare dati alternativi previo consenso (affitto, utenze o flussi di cassa da open banking) sotto riesame manuale, e monitorare le prestazioni del modello per spessore della storia creditizia e fascia d'età al fine di individuare cedimenti a livello di segmento.

Ciascuno di questi controlli necessita di un responsabile, di prove e di una collocazione nel framework di controllo della banca; mapparli sui pertinenti articoli dell'AI Act è la funzione della vista mappatura dei controlli.

Articolo 22 del GDPR, SCHUFA e la DPIA¶

Un rifiuto automatico a una soglia di punteggio è una decisione basata unicamente sul trattamento automatizzato con un effetto significativo, il che la fa rientrare nell'articolo 22 del GDPR. La CGUE ha fissato tale soglia più in basso di quanto molti finanziatori avessero supposto. Nella causa SCHUFA Holding (Scoring), C-634/21 (sentenza del 7 dicembre 2023), la Corte ha statuito che un'agenzia di informazioni creditizie che produce un valore di probabilità di punteggio di credito automatizzato compie essa stessa un processo decisionale automatizzato relativo alle persone fisiche ai sensi dell'articolo 22, paragrafo 1, qualora un terzo, come un finanziatore, si basi in misura determinante su tale valore per concedere o rifiutare il credito; la Corte ha osservato che un valore di probabilità insufficiente conduce, nella quasi totalità dei casi, a un rifiuto. Un punteggio può di per sé ricadere nell'articolo 22 quando un terzo vi si basa in misura determinante per concedere o rifiutare il credito, sicché una banca che rifiuta automaticamente alla propria soglia adotta tale decisione in modo ancora più diretto.

Ciò significa che la banca necessita sia di un'autonoma base giuridica ai sensi dell'articolo 6 per il trattamento sia di un'eccezione dell'articolo 22, paragrafo 2 al divieto di decisioni basate unicamente sul trattamento automatizzato. L'eccezione consueta è la necessità contrattuale dell'articolo 22, paragrafo 2, lettera a) — la decisione è necessaria per la conclusione di un contratto di credito — che, come la via del consenso esplicito di cui all'articolo 22, paragrafo 2, lettera c), comporta le garanzie dell'articolo 22, paragrafo 3: il diritto di ottenere l'intervento umano, di esprimere la propria opinione e di contestare la decisione. La via dell'articolo 22, paragrafo 2, lettera b), una decisione autorizzata dal diritto dell'Unione o di uno Stato membro, richiede invece che tali garanzie siano stabilite nella legge autorizzativa. L'articolo 22, paragrafo 4, limita inoltre l'uso dei dati delle categorie particolari, ed è per questo che il registro dei rischi vieta gli input di categorie particolari e monitora le relative proxy. L'opzione restante è mantenere una persona nel processo per ogni rifiuto, in modo che la decisione non sia basata unicamente sul trattamento automatizzato.

L'analisi in materia di protezione dei dati si sovrappone ampiamente a una DPIA del GDPR. L'articolo 27, paragrafo 4, dell'AI Act prevede che, laddove un obbligo sia già soddisfatto attraverso una DPIA, la FRIA integri tale DPIA. Riutilizzare come input il lavoro della DPIA su flussi di dati, base giuridica e qualità dei dati, ed estenderlo ai diritti della Carta che una DPIA non copre. Per il versante DPIA, cfr. DPIA per i sistemi di IA, e per redigere entrambe insieme usa il generatore di DPIA e FRIA.

Dopo la FRIA: notifica e monitoraggio continuo¶

L'articolo 27 richiede anche notifica e aggiornamenti dopo la valutazione. Ai sensi dell'articolo 27, paragrafo 3, una volta effettuata la FRIA il deployer notifica i risultati alla competente autorità di vigilanza del mercato, utilizzando il modello di cui all'articolo 27, paragrafo 5. L'Ufficio per l'IA non ha ancora pubblicato tale modello a giugno 2026, sicché nel frattempo conviene documentare in base ai criteri dell'articolo 27, paragrafo 1; l'assenza del modello non esonera dall'obbligo. L'unica esenzione dalla notifica è il caso ristretto dell'articolo 46, paragrafo 1.

La FRIA è anche un documento vivo. L'articolo 27, paragrafo 2, impone un aggiornamento ogni volta che i suoi elementi cambiano o non sono più attuali. Per un modello di scoring del credito i fattori pratici che ne fanno scattare l'aggiornamento sono un riaddestramento o cambio di versione del modello, un aggiustamento di soglia o di cut-off, una deriva (drift) delle prestazioni o della distribuzione, una nuova fascia di richiedenti o un nuovo mercato, e qualsiasi modifica delle fonti di dati che alimentano il punteggio. Un deployer può fare affidamento su una FRIA precedentemente condotta per un sistema sufficientemente simile, e deve mantenere aggiornata la valutazione. Il profilo della vigilanza francese per le banche che mettono in uso questo tipo di modello è trattato in governance dell'IA ACPR per le banche francesi.