AIDF pour la notation de crédit par IA : cas pratique complet

Pourquoi la notation de crédit déclenche une AIDF, que le déployeur soit public ou privé¶

L'article 27, paragraphe 1 dispose : « Avant de déployer un système d'IA à haut risque visé à l'article 6, paragraphe 2, à l'exception des systèmes d'IA à haut risque destinés à être utilisés dans le domaine visé à l'annexe III, point 2, les déployeurs qui sont des organismes de droit public ou des entités privées fournissant des services publics et les déployeurs de systèmes d'IA à haut risque visés à l'annexe III, points 5 b) et c), procèdent à une évaluation de l'impact que l'utilisation de ce système peut avoir sur les droits fondamentaux. » Cette phrase définit deux groupes de déployeurs tenus de réaliser l'analyse.

Le premier groupe rassemble les organismes de droit public et les entités privées fournissant des services publics qui déploient des systèmes à haut risque de l'annexe III. Le second groupe rassemble les déployeurs des systèmes visés à l'annexe III, points 5 b) et c) — la notation de crédit, ainsi que la tarification de l'assurance-vie ou de l'assurance maladie. Cette seconde catégorie ne comporte aucune restriction tenant au caractère public ou privé. Elle s'impose à tout déployeur d'un système d'évaluation de la solvabilité relevant du point 5 b) et à tout déployeur d'un système de tarification de l'assurance-vie ou maladie relevant du point 5 c), banques commerciales et prêteurs à la consommation compris.

Un piège de lecture mérite d'être signalé d'emblée. La formule « à l'exception de […] l'annexe III, point 2 » ne retire les systèmes d'infrastructures critiques que du premier groupe. Le point 2 de l'annexe III vise les infrastructures critiques ; la notation de crédit relève du point 5 b). Un déployeur de notation de crédit relevant du point 5 b) est visé par la seconde catégorie, et l'exception relative au point 2 ne touche pas cette catégorie.

L'annexe III, point 5 b) vise les « systèmes d'IA destinés à être utilisés pour évaluer la solvabilité des personnes physiques ou pour établir leur note de crédit, à l'exception des systèmes d'IA utilisés afin de détecter des fraudes financières ». Un modèle de probabilité de défaut qui pilote des décisions de crédit à la consommation entre pleinement dans cette définition. Le guide du modèle d'AIDF résume ce critère de déclenchement ; le reste de cet article le déroule intégralement. Pour une vue d'ensemble de la classification, notamment la façon dont l'article 6 et l'annexe III déterminent ce qui relève du haut risque, voir le guide de classification des IA à haut risque.

Une étape de classification supplémentaire rend le déclenchement incontestable. En vertu de l'article 6, paragraphe 3, un système de l'annexe III peut échapper au haut risque lorsqu'il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux des personnes physiques — par exemple lorsqu'il exécute une tâche procédurale limitée. Cette dérogation ne s'applique pas à la notation de crédit : l'article 6, paragraphe 3, précise qu'un système de l'annexe III est toujours considéré comme à haut risque lorsqu'il effectue un profilage de personnes physiques, et un modèle d'évaluation de la solvabilité qui apprécie la situation économique d'une personne constitue un profilage au sens de l'article 4, point 4), du RGPD. Un système de notation de crédit qui pilote de manière déterminante les décisions de crédit demeure donc à haut risque, et son déployeur conserve l'obligation d'AIDF prévue à l'article 27.

L'exception relative à la détection de la fraude : ce qui entre et ce qui sort du champ¶

La définition du point 5 b) excepte expressément l'IA « utilisée afin de détecter des fraudes financières ». Un modèle de détection de la fraude pur se situe donc hors de la catégorie « évaluation de la solvabilité » du point 5 b) et n'hérite pas, par ce point 5 b), du critère déclenchant l'AIDF pour la notation de crédit. Un modèle de fraude peut tout de même être à haut risque pour d'autres motifs et porter ses propres obligations de gouvernance ; il n'hérite simplement pas de l'obligation d'AIDF attachée à la notation de crédit du point 5 b). Lorsqu'un même établissement exploite des modèles de fraude et de LCB-FT aux côtés de son moteur de crédit, leur approche de gouvernance est traitée dans gouverner les agents de LCB-FT et de paiement.

Deux cas voisins complètent la délimitation. La seule tarification de l'assurance non-vie (automobile, habitation, voyage) se situe hors du point 5 c) ; une branche non-vie devrait emprunter une autre voie de l'annexe III ou de l'annexe I pour être à haut risque. Seules l'évaluation des risques et la tarification de l'assurance-vie et de l'assurance maladie relèvent du point 5 c), qui emporte sa propre obligation d'AIDF.

Trois strates juridiques sur une même décision de crédit par IA¶

Un simple refus automatisé ne relève pas du seul règlement IA. Trois corpus du droit de l'UE se superposent sur la même décision, et une AIDF crédible doit tous les prendre en compte. C'est cette profondeur propre au crédit à la consommation qui distingue une analyse de notation de crédit détaillée du modèle générique.

Le droit à l'explication de l'article 86 et les points d'ancrage du RGPD¶

L'article 86 du règlement IA est le point d'ancrage de l'explication du refus au sein même du règlement. Il confère à « toute personne concernée faisant l'objet d'une décision prise par le déployeur sur la base des sorties d'un système d'IA à haut risque répertorié à l'annexe III […] et qui produit des effets juridiques ou affecte significativement cette personne de façon similaire d'une manière qu'elle considère comme ayant une incidence négative sur sa santé, sa sécurité ou ses droits fondamentaux […] le droit d'obtenir du déployeur des explications claires et pertinentes sur le rôle du système d'IA dans la procédure décisionnelle et sur les principaux éléments de la décision prise ». Ce droit est subordonné à ce seuil : la décision doit produire des effets juridiques ou affecter la personne de manière comparable et significative. Un refus de crédit atteint ce seuil, car il conditionne l'accès à un prêt, à une carte ou à un découvert ; un demandeur dont la demande est refusée est donc une personne concernée qui peut invoquer l'article 86. L'article 86, paragraphe 3, en fait un droit subsidiaire : il ne s'applique que dans la mesure où un droit équivalent n'est pas déjà prévu par le droit de l'Union ; ainsi, lorsque la transparence du RGPD et les droits de l'article 22 couvrent déjà l'explication, ce sont ces dispositions qui s'appliquent et l'article 86 ne comble que ce qu'elles laissent ouvert. Côté RGPD, les points d'ancrage contraignants sont les articles 13 à 15 (informations utiles concernant la logique sous-jacente) et l'article 22, paragraphe 3 (intervention humaine, droit d'exprimer son point de vue et de contester). Le considérant 71 évoque lui aussi une explication de la décision prise, mais il s'agit d'un considérant non contraignant : il est donc préférable d'ancrer l'obligation d'explication dans ces articles contraignants ainsi que dans l'article 86. Le terme américain « adverse-action notice » est un raccourci commode pour désigner ces obligations, même s'il ne s'agit pas d'une notion juridique de l'UE.

Le scénario : la banque et le système¶

Le cas pratique repose sur un seul déployeur d'un bout à l'autre. La banque est une banque de détail et un prêteur à la consommation de taille moyenne dans l'UE, agissant comme déployeur d'un système d'IA à haut risque. Le système est un modèle d'évaluation de la solvabilité par apprentissage automatique (fournisseur « ScoreCo », modèle v2.3) qui produit un score de probabilité de défaut servant à décider des demandes de crédit à la consommation : prêts personnels, cartes de crédit et découverts autorisés.

La logique de décision repose sur un découpage en trois tranches. Les scores supérieurs au seuil haut donnent lieu à une approbation automatique ; les scores inférieurs au seuil bas, à un refus automatique ; la tranche intermédiaire est orientée vers des analystes crédit humains. Un modèle de filtrage de la fraude distinct et indépendant s'exécute en amont et reste hors du champ de la présente AIDF en vertu de l'exception de l'annexe III, point 5 b). L'utilisation est continue et à durée indéterminée à compter de la date de déploiement, avec une notation en temps réel au moment de la demande, soit environ 3 000 décisions par semaine (environ 150 000 par an) sur les marchés de détail de la banque dans l'UE, en ligne et en agence. Le système relève de l'annexe III, point 5 b) : l'AIDF est donc requise au titre de l'article 27, paragraphe 1, quel que soit le caractère public ou privé de la banque.

L'AIDF détaillée, section par section (article 27, paragraphe 1, points a) à f))¶

L'article 27, paragraphe 1, énumère six composantes obligatoires. Les deux paragraphes ci-dessous exposent le rôle de chacune pour le cas de la notation de crédit, et le tableau qui suit les complète toutes les six pour le cas pratique.

Les sections 1 à 3 fixent les faits sur lesquels raisonne le reste de l'analyse. La section 1 consigne le système et sa destination (le modèle de probabilité de défaut de ScoreCo, le processus d'octroi dans lequel il s'insère et le découpage en trois tranches) et indique clairement que le filtrage de la fraude est un modèle distinct, hors du champ de la présente AIDF. La section 2 consigne la durée et la fréquence : utilisation continue en production, notation en temps réel au moment de la demande et volume hebdomadaire de décisions. La section 3 recense les personnes affectées, en prêtant une attention particulière aux demandeurs à historique de crédit limité et vulnérables ainsi qu'aux tiers tels que les coemprunteurs et les garants.

Les sections 4 à 6 portent l'analyse. La section 4 est le registre des risques présenté intégralement ci-dessous : chaque droit fondamental, le scénario de préjudice, une cotation de la probabilité et de la gravité, la mesure d'atténuation et le risque résiduel. La section 5 documente les mesures de surveillance humaine : les responsables désignés habilités à passer outre un refus automatique, l'examen obligatoire des refus dans les groupes signalés et la fonction de gestion du risque de modèle de deuxième ligne. La section 6 consigne ce qui se passe lorsqu'un risque se matérialise : la voie de réclamation, les droits de l'article 22, paragraphe 3, du RGPD et de l'article 86 que le demandeur peut invoquer, le retour à une version antérieure du modèle et l'ajustement des seuils, ainsi que la notification à l'autorité de surveillance du marché prévue à l'article 27, paragraphe 3.

La section 4 en détail : le registre des risques de la notation de crédit¶

C'est dans la section 4 qu'une AIDF devient concrète. L'article 27, paragraphe 1, point d), exige que l'analyse expose les risques spécifiques de préjudice susceptibles d'affecter les catégories de personnes physiques recensées à la section 3 ; un registre droit par droit — chaque droit fondamental en jeu, un scénario de préjudice précis, une cotation de la probabilité et de la gravité, la mesure d'atténuation et le risque résiduel — est une manière défendable de documenter ces risques. Le registre ci-dessous le fait pour le cas de la notation de crédit. Les valeurs de probabilité, de gravité et de risque résiduel constituent une évaluation à titre d'exemple, cohérente en interne avec la matrice de cotation présentée plus loin. Elles illustrent une méthode défendable ; les chiffres précis ne sont prescrits par aucune autorité de régulation.

Coter le registre : probabilité × gravité¶

Les niveaux de risque du registre proviennent d'une matrice probabilité × gravité appliquée de manière cohérente à l'ensemble de l'analyse. Consigner la matrice, ainsi que le raisonnement sous-tendant chaque cotation, importe autant à une autorité de régulation que le niveau de risque final.

Les mesures d'atténuation en détail¶

Tests d'impact disparate. Réalisez des tests trimestriels de ratio d'impact défavorable entre groupes protégés, en comparant les taux d'approbation, les taux de refus et les résultats de tarification. Le seuil des quatre cinquièmes (80 %) constitue un signal de départ ; documentez le test, les populations concernées et la mesure prise lorsqu'une disparité apparaît.

Traitement des variables indirectes. Auditez les variables d'entrée pour détecter toute corrélation avec des caractéristiques protégées. Le code postal, la profession, le type d'appareil et les variables liées à la nationalité sont des variables indirectes courantes de l'origine ethnique, du sexe ou de l'âge. Retirez ou transformez les variables porteuses d'un signal indirect, et retestez après chaque modification.

Examen humain des refus. Orientez chaque refus dans un groupe signalé vers un analyste crédit désigné avant toute communication, et conférez à cet analyste une réelle autorité pour passer outre le modèle. Les scores à faible confiance sont soumis à un examen humain.

Motifs du refus et explication de l'article 86. Communiquez au demandeur les principaux motifs du refus en langage clair, ainsi que l'explication, au titre de l'article 86, du rôle du système d'IA dans la décision et des principaux éléments de la décision prise. Des codes de motifs principaux reliés aux facteurs déterminants du modèle rendent l'opération reproductible et auditable.

Voie manuelle alternative. Offrez l'accès à une évaluation manuelle complète aux demandeurs qui contestent un refus automatisé ou qui peuvent fournir des éléments complémentaires, tels qu'un historique de paiement des loyers ou des factures.

Dossiers à historique limité et données alternatives. Pour les demandeurs à faible historique de crédit, utilisez des données alternatives consenties (loyers, factures ou flux de trésorerie issus de l'open banking) sous examen manuel, et suivez les performances du modèle selon la richesse du dossier et la cohorte d'âge afin de détecter les défaillances par segment.

Chacun de ces contrôles requiert un responsable, des preuves et une place dans le cadre de contrôle de la banque ; les relier aux articles pertinents du règlement IA, c'est précisément la fonction de la vue cartographie des contrôles.

L'article 22 du RGPD, SCHUFA et l'AIPD¶

Un refus automatique à un seuil de score est une décision fondée exclusivement sur un traitement automatisé produisant un effet significatif, ce qui la fait relever de l'article 22 du RGPD. La CJUE a fixé ce seuil plus bas que ne le supposaient bien des prêteurs. Dans l'affaire SCHUFA Holding (Scoring), C-634/21 (arrêt du 7 décembre 2023), la Cour a jugé qu'une société de renseignement de crédit produisant une valeur de probabilité de score de crédit automatisée effectue elle-même une décision individuelle automatisée au sens de l'article 22, paragraphe 1, lorsqu'un tiers tel qu'un prêteur se fonde de manière déterminante sur cette valeur pour accorder ou refuser le crédit ; la Cour a relevé qu'une valeur de probabilité insuffisante conduit, dans la quasi-totalité des cas, à un refus. Un score peut lui-même relever de l'article 22 lorsqu'un tiers s'en sert de manière déterminante pour accorder ou refuser le crédit ; aussi une banque qui refuse automatiquement à son propre seuil prend-elle, plus directement encore, une telle décision.

Cela signifie que la banque a besoin à la fois d'une base légale distincte au titre de l'article 6 pour le traitement et d'une exception de l'article 22, paragraphe 2 à l'interdiction des décisions exclusivement automatisées. L'exception habituelle est la nécessité contractuelle de l'article 22, paragraphe 2, point a) — la décision est nécessaire à la conclusion d'un contrat de crédit — qui, à l'instar de la voie du consentement explicite de l'article 22, paragraphe 2, point c), emporte les garanties de l'article 22, paragraphe 3 : le droit d'obtenir une intervention humaine, d'exprimer son point de vue et de contester la décision. La voie de l'article 22, paragraphe 2, point b), une décision autorisée par le droit de l'Union ou d'un État membre, exige en revanche que ces garanties soient prévues par la disposition légale qui l'autorise. L'article 22, paragraphe 4, restreint par ailleurs l'utilisation des catégories particulières de données, ce qui explique pourquoi le registre des risques interdit ces données en entrée et surveille leurs variables indirectes. L'option restante consiste à maintenir un humain dans la boucle pour chaque refus, de sorte que la décision ne soit pas exclusivement automatisée.

L'analyse relative à la protection des données recoupe largement une AIPD au titre du RGPD. L'article 27, paragraphe 4, du règlement IA prévoit que, lorsqu'une obligation est déjà remplie au moyen d'une AIPD, l'AIDF complète cette AIPD. Réutilisez en entrée le travail de l'AIPD sur les flux de données, la base légale et la qualité des données, et étendez-le aux droits de la Charte qu'une AIPD ne couvre pas. Pour le volet AIPD, voir l'AIPD pour les systèmes d'IA, et pour rédiger les deux ensemble, utilisez le générateur d'AIPD et d'AIDF.

Après l'AIDF : notification et suivi continu¶

L'article 27 impose aussi une notification et des mises à jour après l'analyse. En vertu de l'article 27, paragraphe 3, une fois l'AIDF réalisée, le déployeur en notifie les résultats à l'autorité de surveillance du marché compétente, au moyen du modèle prévu à l'article 27, paragraphe 5. Le Bureau de l'IA n'a pas encore publié ce modèle en juin 2026 : documentez donc au regard des critères de l'article 27, paragraphe 1, en attendant ; l'absence de modèle n'exonère pas de l'obligation. La seule dispense de notification est le cas restreint de l'article 46, paragraphe 1.

L'AIDF est par ailleurs un document vivant. L'article 27, paragraphe 2, impose une mise à jour dès lors que ses éléments changent ou ne sont plus à jour. Pour un modèle de notation de crédit, les déclencheurs concrets de mise à jour sont un réentraînement ou un changement de version du modèle, un ajustement de seuil ou de coupure, une dérive de performance ou de distribution, une nouvelle cohorte de demandeurs ou un nouveau marché, ainsi que toute modification des sources de données alimentant le score. Un déployeur peut s'appuyer sur une AIDF déjà réalisée pour un système suffisamment similaire, et il doit maintenir l'analyse à jour. Le volet de la supervision française pour les banques déployant ce type de modèle est traité dans la gouvernance de l'IA par l'ACPR pour les banques françaises.