Aperçu du guide opérationnel (extrait)
Partie 2 : rôles et responsabilités de supervision
2.1 Définitions des rôles de supervision
| Rôle | Niveau d’autorité | Formation requise |
|---|---|---|
| Opérateur IA | Niveau 1 : décisions standard | Certification initiale + mise à jour annuelle |
| Opérateur senior | Niveau 2 : décisions renforcées | Certification avancée + revue trimestrielle |
| Superviseur de la supervision | Niveau 3 : autorité de dérogation | Certification de supervision + étalonnage mensuel |
Partie 5 : procédures de dérogation et d’inversion
5.1 Types de dérogation
| Type de dérogation | Autorité requise | Niveau de documentation |
|---|---|---|
| Dérogation avant exécution | Autorité d’approbation standard | Standard |
| Inversion après exécution | Niveau 2+ | Renforcé avec justification |
| Dérogation d’urgence | Tout opérateur formé | Protocole d’urgence + examen rétrospectif |
Voir l’exemple détaillé
Catégories de motifs de dérogation :
| Catégorie | Description | Priorité de revue |
|---|---|---|
| SAFETY | Préoccupation de sécurité pour l’utilisateur ou un tiers | Revue immédiate |
| ERROR | Erreur ou dysfonctionnement manifeste de l’IA | Haute priorité |
| CONTEXT | L’IA ne disposait pas du contexte pertinent | Revue standard |
| POLICY | Considération de politique que l’IA ne peut pas évaluer | Revue standard |
| JUDGMENT | Le jugement humain diffère dans un cas limite | Analyse des tendances |
Avant de commencer
Pour les équipes de conformité, de gestion des risques, produit et ML ops qui mettent en production des Processes agentiques dans des environnements réglementés.
L’Article 14 de l’EU AI Act exige que les systèmes d’IA à haut risque soient conçus pour permettre une supervision effective par des personnes physiques. Ce playbook traduit les exigences de l’Article 14 en procédures opérationnelles.
Il couvre 7 parties : exigences de l’Article 14, rôles de supervision, Processes d’approbation, gestion des files, procédures d’override, exigences de formation et capture des preuves.
Quand utiliser cette ressource
- Vous insérez des points de contrôle d’approbation dans des Processes IA (actions à haut risque, accès à des données sensibles, changements en production).
- Vous devez prouver qui a approuvé ou annulé une décision et quel contexte cette personne a vu.
- Vous préparez une section sur la supervision humaine pour l’Annexe IV ou une revue de contrôle interne.
Informations à recueillir
- Définitions des rôles avec niveaux d’autorité et exigences de compétence.
- Déclencheurs, étapes et exigences documentaires du Process d’approbation.
- SLA de file, règles de priorisation et procédures de réponse aux goulets d’étranglement.
- Types de dérogation, exigences d’autorité et catégories de motifs.
- Programme de formation avec exigences propres aux rôles et recertification.
- Points de données probants, méthodes de capture et exigences d’intégrité.
Liste de contrôle de revue
Utilisez ces contrôles lors de la revue avec le responsable de votre système. Confirmez les exigences applicables et joignez les preuves relatives aux décisions de votre équipe.
- Les rôles et niveaux d’autorité sont explicites, avec des exigences de compétence et des calendriers de recertification.
- Les Processes d’approbation définissent les déclencheurs, étapes et documents pour les parcours standard, d’escalade et d’exception.
- La gestion de la file inclut les SLA, les règles de priorisation, la répartition de la charge et la réponse aux goulets d’étranglement.
- Les procédures de dérogation couvrent l’avant-exécution, l’inversion après exécution et les dérogations d’urgence, avec des catégories de motifs.
- Le programme de formation définit le cursus, les exigences propres aux rôles et la vérification continue des compétences.
- La capture des preuves précise les points de données, les méthodes de capture et les exigences d’intégrité pour toutes les actions de supervision.
Contrôles opérationnels et preuves
- Gouverner
Points de contrôle policy-as-code qui bloquent ou exigent une revue pour les actions à haut risque.
Gestion des changements versionnée pour les mises à jour du modèle/prompt/politique/Process.
- Assurer
Revues par échantillonnage selon le niveau de risque (référence + renforcement pendant les incidents ou après les changements).
Suivi des quasi-incidents (étapes bloquées ou presque bloquées) comme signal de contrôle mesurable.
- Prouvez
Calendriers de conservation configurables, vérification de l’intégrité et piste d’audit append-only.
Bundles d’export Evidence Room (manifeste + checksums) permettant aux auditeurs de vérifier de manière indépendante.
Questions sur cette ressource
Que requiert réellement l’article 14 ?
Article 14 exige que les humains comprennent les capacités et limites de l’IA, restent conscients du biais d’automatisation, interprètent correctement les résultats, puissent déroger aux décisions ou les inverser, et puissent intervenir ou arrêter le système.
Que faut-il enregistrer pour chaque approbation ou dérogation ?
Au minimum : ID de décision, recommandation de l’IA, contexte présenté, ID du réviseur, horodatage, action prise, justification (si requise), temps consacré à la revue et version de politique en vigueur.
Comment empêcher les approbations de pure forme ?
Définissez les grilles d’évaluation des réviseurs, exigez une justification pour les approbations risquées, échantillonnez les décisions des réviseurs, organisez des sessions de calibration et suivez le temps consacré aux revues.
Qu’est-ce qu’une « règle des deux personnes » ?
Une exigence selon laquelle certaines actions nécessitent deux approbations humaines distinctes, couramment utilisée pour des décisions à fort impact ou irréversibles telles que la clôture d’un compte ou le dépôt d’un SAR.
Comment gérer les overrides d’urgence ?
Autoriser une action immédiate par tout opérateur formé, exiger la documentation « Dérogation d’urgence », notifier automatiquement les superviseurs et la conformité, puis terminer la revue rétrospective sous 24-48 heures.
Quelles compétences de formation sont requises ?
Fondamentaux des systèmes d’IA, connaissances du domaine, procédures de supervision, sensibilisation au biais d’automatisation, procédures de dérogation et exigences de conformité. La recertification devrait être annuelle ou plus fréquente.
Langue du fichier téléchargé : anglais