Aperçu du modèle (extrait)
Résumé d’une page de l’Annexe IV (à transmettre)
- Finalité prévue :
- Décision(s) assistée(s) ou automatisée(s) :
- Points de contrôle de la supervision humaine :
- Sources de données (5 principales) :
- Signaux et seuils de surveillance :
- Politique de journalisation et de conservation :
5) Système de gestion des risques
- Préjudices typiques : impact disproportionné, refus injuste, erreurs de fraude/d’identité
- Mesures d’atténuation + preuves de vérification (tests, résultats d’échantillonnage)
Voir l’exemple détaillé
Déclencheur de revue systématique :
- Toute recommandation de refus lorsque la confiance est < 0.65
- Toute décision concernant une catégorie de client vulnérable (telle que définie en interne)
- Tout quasi-incident de politique (étape bloquée ou presque bloquée)
Avant de commencer
Pour les équipes de conformité, de gestion des risques, produit et ML ops qui mettent en production des Processes agentiques dans des environnements réglementés.
Un modèle Annexe IV par type de système pour les équipes de crédit : finalité prévue, limites décisionnelles, gouvernance des données, supervision humaine, surveillance et pointeurs vers les preuves.
Cela reflète le fonctionnement réel des audits : les réviseurs recherchent des contrôles concrets et des preuves exportables, sans théorie juridique.
Quand utiliser cette ressource
- Votre système influence la solvabilité, l’éligibilité ou les décisions de tarification.
- Vous avez besoin d’une documentation défendable reliée aux preuves (journaux, approbations, évaluations).
- Vous préparez un dossier de documentation technique et un exercice d’export d’un pack de preuves.
Informations à recueillir
- Description du système (quelles décisions sont influencées, ce qui est consultatif ou automatique).
- Sources de données et contrôles qualité (y compris la conservation et les contrôles d’accès).
- Approche d’évaluation (métriques, contrôles des performances par segment, seuils).
- Références à la SOP de supervision, au plan de surveillance et à la politique de conservation.
Liste de contrôle de revue
Utilisez ces contrôles lors de la revue avec le responsable de votre système. Confirmez les exigences applicables et joignez les preuves relatives aux décisions de votre équipe.
- La finalité prévue et les limites « ne pas utiliser pour » sont explicites.
- Les entrées et les sources de données sont répertoriées avec la gouvernance et les contrôles qualité.
- Les déclencheurs de supervision humaine et les règles d’escalade sont définis.
- Les signaux de surveillance incluent la dérive, la performance par segment et les déclencheurs d’incident.
- La journalisation couvre les décisions, les approbations/overrides, les appels d’outils et le versionnage ; la conservation est déclarée.
- Chaque section renvoie à des preuves qui peuvent être exportées sous forme de bundle (manifeste + sommes de contrôle).
Contrôles opérationnels et preuves
- Gouverner
Points de contrôle policy-as-code qui bloquent ou exigent une revue pour les actions à haut risque.
Gestion des changements versionnée pour les mises à jour du modèle/prompt/politique/Process.
- Assurer
Revues par échantillonnage selon le niveau de risque (référence + renforcement pendant les incidents ou après les changements).
Suivi des quasi-incidents (étapes bloquées ou presque bloquées) comme signal de contrôle mesurable.
- Prouvez
Calendriers de conservation configurables, vérification de l’intégrité et piste d’audit append-only.
Bundles d’export Evidence Room (manifeste + checksums) permettant aux auditeurs de vérifier de manière indépendante.
Questions sur cette ressource
La souscription de crédit est-elle généralement « à haut risque » au titre de l’EU AI Act ?
De nombreux cas d’usage d’aide à la décision en matière de solvabilité et de services essentiels sont généralement traités comme des catégories à haut risque, mais la classification dépend de la finalité prévue et du contexte. Confirmez avec votre conseil juridique.
Que regardent les réviseurs en premier ?
Limites de décision, gouvernance des données, signaux et seuils de monitoring, déclencheurs de supervision, et preuve que vous pouvez exporter les journaux et les approbations pour des décisions précises.
À quelle fréquence mettre à jour la documentation Annexe IV ?
Traitez-la comme une documentation vivante : mettez-la à jour lors des changements de modèle ou de politique, des changements importants de Process, des incidents et des constats de surveillance.
Quelles preuves faut-il joindre pour les systèmes de souscription ?
Contrôles de performance par segment, rapports de dérive, approbations de changement de seuil, enregistrements de la file de revue et journaux d’audit liés aux identifiants de trace de décision.
Pouvons-nous exclure les données sensibles des exports ?
Oui. Utilisez des règles de caviardage et des références hachées lorsque cela convient, et documentez l’approche dans le pack de preuves.
Avons-nous besoin d’un résumé d’une page ?
Ce n’est pas obligatoire, mais c’est très efficace : c’est ce que les réviseurs internes transmettent et cela aide à aligner rapidement les parties prenantes.
Langue du fichier téléchargé : anglais