La conformité des agents IA au Règlement européen sur l'IA (AI Act) commence par la destination du système, le rôle de l'opérateur et la classification des risques. La classification découle de l'article 6, de l'annexe I ou III et des faits du déploiement ; l'étiquette « agent » ne fournit aucune classification en soi. Les fournisseurs et les déployeurs cartographient ensuite les obligations applicables en matière de gestion des risques, de gouvernance des données, de documentation technique, de tenue de registres, de transparence, de supervision humaine, d'exactitude, de cybersécurité, de surveillance et de réponse aux incidents. Le Digital Omnibus sur l'IA, adopté en juin 2026, fixe la date d'application des systèmes à haut risque de l'annexe III au 2 décembre 2027 et celle des systèmes intégrés à des produits de l'annexe I au 2 août 2028. Les obligations de transparence de l'article 50 s'appliquent à partir du 2 août 2026.
Les agents IA fonctionnent de manière fondamentalement différente des modèles d'IA traditionnels
Les modèles d'apprentissage automatique traditionnels suivent des processus prévisibles et prédéterminés. Vous saisissez des données, le modèle les traite au moyen d'algorithmes fixes et produit une prédiction ou une classification. Un modèle de scoring de crédit, par exemple, prend les données d'un demandeur et renvoie un score de risque. Des humains décident ensuite de l'usage à faire de ce score.
Les agents IA fonctionnent tout autrement. Ils poursuivent des objectifs de manière autonome, en décomposant des buts complexes en étapes, en utilisant des outils externes et en adaptant leur approche en fonction des retours en temps réel, le tout avec une supervision humaine minimale. Un agent IA chargé du service client peut accéder à votre CRM, consulter les systèmes de gestion des stocks, rédiger des e-mails et traiter des remboursements sans qu'un humain valide chaque étape.
Cette distinction est capitale pour la conformité. 86 % des dirigeants qui connaissent l'IA agentique estiment qu'elle présente des risques supplémentaires par rapport à l'IA traditionnelle. Le Règlement européen sur l'IA en tient compte en exigeant des mesures de supervision humaine « proportionnées aux risques, au niveau d'autonomie et au contexte d'utilisation » au titre de l'article 14.
- Autonomie : prise de décisions sans intervention humaine ; vous ne pouvez pas vous appuyer uniquement sur des contrôles définis à la conception
- Utilisation d'outils : interaction directe avec des systèmes externes, des API et des bases de données, ce qui élargit la surface d'attaque potentielle
- Raisonnement en plusieurs étapes : chaînes de décision complexes qui masquent les raisons de décisions spécifiques
- Comportement orienté objectif : adaptation dynamique vers des résultats, pouvant produire des effets inattendus
- Interaction avec l'environnement : effets réels via des transactions et des modifications de systèmes potentiellement irréversibles
Comment les agents IA se rattachent aux catégories de risque du Règlement européen sur l'IA
Le Règlement européen sur l'IA établit un cadre de risque à quatre niveaux : risque inacceptable (interdit), haut risque (fortement réglementé), risque limité (obligations de transparence) et risque minimal (aucune exigence obligatoire). Bien que le règlement ne mentionne pas explicitement les « agents IA » ni l'« IA agentique », sa conception technologiquement neutre englobe clairement les systèmes autonomes.
Un agent IA relève du régime des systèmes à haut risque lorsque sa destination remplit les conditions de l'article 6 pour un composant de sécurité de l'annexe I ou un cas d'usage de l'annexe III. L'autonomie de l'agent peut modifier la conception des contrôles et les preuves nécessaires pour le déploiement, tandis que la classification reste liée au cas d'usage réglementé et au rôle.
L'annexe III couvre des usages définis dans des domaines tels que l'emploi et la gestion des travailleurs, l'accès aux services essentiels, les infrastructures critiques, l'éducation, les services répressifs, la migration et l'administration de la justice. Le profilage dans le cadre d'un cas d'usage de l'annexe III a également une incidence sur la possibilité d'appliquer l'exclusion restreinte de l'article 6, paragraphe 3.
Pour les déploiements dans les services financiers, la santé, l'assurance ou le secteur public, documentez la destination, les personnes concernées, l'impact des décisions, l'annexe de rattachement, le rôle de l'opérateur et la justification. Réévaluez ce dossier lorsque l'agent obtient un nouvel outil, une nouvelle source de données, une nouvelle autorité de décision ou un nouveau contexte de déploiement.
L'application échelonnée du Règlement européen sur l'IA et ce qu'elle implique
Le Règlement européen sur l'IA est entré en vigueur le 1er août 2024 avec un calendrier de mise en œuvre progressif. Le règlement initial fixait les principales dates d'application des systèmes à haut risque en 2026 et 2027. Les amendements du Digital Omnibus adoptés par les colégislateurs de l'UE en juin 2026 modifient certaines parties de ce calendrier, sous réserve de publication et d'entrée en vigueur.
Traitez le calendrier comme une donnée de conformité à tenir à jour. Confirmez le texte juridique en vigueur, la catégorie du système, toute règle transitoire, l'état des normes harmonisées et les orientations des autorités nationales avant de fixer une échéance de conformité, d'enregistrement ou de déploiement.
La mise en œuvre continue d'exiger un délai de préparation pour l'inventaire, l'analyse des rôles et de la classification, les contrôles des risques, la documentation technique, la journalisation, la supervision humaine, les tests, la surveillance, les preuves apportées par les fournisseurs tiers et la remédiation. Conservez la source juridique et la date d'effet utilisées pour chaque décision de planification.
- Violations des pratiques interdites : amendes pouvant atteindre 35 millions d'EUR ou 7 % du chiffre d'affaires annuel mondial
- Violations relatives aux systèmes à haut risque : sanctions pouvant atteindre 15 millions d'EUR ou 3 % du chiffre d'affaires
- Fourniture d'informations inexactes aux autorités en réponse à une demande : amendes pouvant atteindre 7,5 millions d'EUR ou 1 % du chiffre d'affaires
- Les autorités peuvent exiger le retrait du marché des systèmes non conformes
Les exigences de supervision humaine imposent de nouveaux modèles opérationnels
L'article 14 établit des obligations spécifiques de supervision humaine (« contrôle humain » dans la version française du règlement) pour les systèmes d'IA à haut risque, et ces exigences ont des implications particulières pour les agents IA autonomes.
Le principe fondamental est que les systèmes d'IA à haut risque doivent être conçus de manière à pouvoir être effectivement supervisés par des personnes physiques pendant leur utilisation. L'objectif est de prévenir ou de réduire au minimum les risques pour la santé, la sécurité et les droits fondamentaux. Point essentiel, les mesures de supervision doivent être proportionnées aux risques encourus, au niveau d'autonomie et au contexte d'utilisation, ce qui signifie que les systèmes plus autonomes exigent une supervision plus intensive.
Le règlement précise cinq capacités dont doivent disposer les superviseurs humains : la compréhension (maîtrise complète des capacités du système avec aptitude à détecter les anomalies), la conscience du biais d'automatisation (reconnaissance de la tendance à se fier excessivement aux résultats de l'IA), l'interprétation (accès à des outils permettant de comprendre correctement les résultats de l'IA), la capacité de passer outre (pouvoir d'ignorer un résultat ou d'annuler des décisions) et la capacité d'intervention (possibilité d'interrompre le système au moyen d'un bouton d'arrêt ou d'une procédure similaire).
Pour les agents IA, ces exigences créent des défis de mise en œuvre importants. Le comportement émergent signifie que les agents apprennent par l'interaction, ce qui fait évoluer leur comportement de manière imprévue ; des évaluations de risque statiques réalisées en amont sont insuffisantes. Le risque d'intégration externe naît du fait que les agents s'interfacent de façon autonome avec des outils tiers, avec des vulnérabilités susceptibles de se propager en cascade. Le déficit de responsabilité découle du fonctionnement des agents par d'innombrables micro-décisions, ce qui complique la traçabilité des causes d'un événement.
- Humain dans la boucle (human-in-the-loop) : implication directe et approbation préalable pour les décisions critiques
- Humain sur la boucle (human-on-the-loop) : surveillance de supervision et intervention par exception pour les traitements à fort volume
- Humain aux commandes (human-in-command) : les humains conservent l'autorité ultime et un droit de veto pour les infrastructures critiques
La journalisation traditionnelle ne suffit pas pour les agents IA : voici ce dont vous avez réellement besoin
L'article 12 du Règlement européen sur l'IA impose des capacités de journalisation automatique pour les systèmes d'IA à haut risque afin d'enregistrer les événements tout au long de leur cycle de vie. La journalisation traditionnelle des entrées et sorties reste très en deçà de ce qu'exigent les agents IA.
Le problème fondamental est que savoir ce qui est entré et ce qui est sorti n'explique pas pourquoi un agent IA a pris une décision particulière. Lorsque des agents exécutent un raisonnement en plusieurs étapes, invoquent divers outils et adaptent leur approche en fonction des résultats intermédiaires, vous avez besoin d'une granularité au niveau des traces pour reconstituer les cheminements décisionnels.
Une piste d'audit complète pour les agents IA doit capturer la journalisation des transactions de base (métadonnées de session, contexte utilisateur, capture des entrées), la documentation de la chaîne de décision (étapes de raisonnement, appels d'outils et résultats, informations de contexte et d'état, états avant/après), les enregistrements de supervision humaine (marqueurs de revue, documentation des interventions, enregistrements d'escalade) et les signaux de qualité et de conformité (évaluations automatisées, scores de confiance, indicateurs de confidentialité).
L'article 19 impose aux fournisseurs de conserver les journaux pendant au moins six mois, ou plus longtemps selon les réglementations sectorielles. Le secteur converge vers des approches de traçage distribué fondées sur les normes OpenTelemetry, dépassant la journalisation traditionnelle pour capturer le chemin d'exécution complet, du prompt initial à l'action finale.
Les services financiers font face à des exigences réglementaires superposées
Les organisations de services financiers qui déploient des agents IA doivent composer avec le Règlement européen sur l'IA en plus des cadres existants, notamment MiFID II, Bâle III/IV, CRR/CRD et le règlement sur la résilience opérationnelle numérique (DORA).
Les orientations de l'ESMA de mai 2024 sur l'IA dans les services d'investissement établissent des exigences essentielles. Les entreprises doivent maintenir un « engagement indéfectible » à agir dans le meilleur intérêt des clients, que les décisions soient prises par des humains ou par l'IA. Les organes de direction restent pleinement responsables des décisions fondées sur l'IA. Les conseils en investissement fournis par des agents IA exigent des évaluations d'adéquation rigoureuses.
En matière d'exigences organisationnelles, l'ESMA attend des structures de gouvernance robustes avec des tests et des contrôles ex ante, des systèmes de gestion des risques traitant spécifiquement les biais algorithmiques, une tenue de registres exhaustive documentant l'utilisation de l'IA et les processus décisionnels, ainsi qu'une formation du personnel couvrant les implications opérationnelles, éthiques et réglementaires.
L'EBA surveille l'adoption de l'IA dans le secteur bancaire en se concentrant particulièrement sur les modèles de risque de crédit. Les systèmes d'IA utilisés pour le scoring de crédit ou l'évaluation de la solvabilité des personnes physiques sont explicitement classés à haut risque par le Règlement européen sur l'IA. Les modèles de ML complexes doivent concilier précision prédictive et exigences d'explicabilité.
Les organisations de santé font face à une double conformité au MDR et au Règlement européen sur l'IA
Les dispositifs médicaux dotés d'IA évoluent dans un environnement réglementaire double et complexe, qui exige la conformité à la fois au Règlement européen sur l'IA et au règlement relatif aux dispositifs médicaux (MDR) ou au règlement relatif aux dispositifs médicaux de diagnostic in vitro (IVDR).
Les dispositifs médicaux intégrant de l'IA sont considérés comme à haut risque au titre du Règlement européen sur l'IA si le système d'IA est un composant de sécurité d'un dispositif ou si le dispositif lui-même est un système d'IA, et s'il est soumis à une évaluation de la conformité par un tiers en vertu du MDR/IVDR. Concrètement, cela signifie que les dispositifs MDR de classe IIa, IIb et III et les dispositifs IVDR de classe B à D sont normalement à haut risque au titre du Règlement européen sur l'IA.
La Commission européenne a publié des orientations permettant aux organisations d'adopter une approche intégrée unique. Un seul système de gestion de la qualité peut satisfaire aux deux règlements. La documentation technique peut s'appuyer sur un ensemble unique de documents. La gestion des risques peut intégrer l'évaluation spécifique à l'IA aux exigences générales en matière de sécurité et de performances de l'annexe I.
Le calendrier diffère de celui des autres secteurs : les obligations relatives aux systèmes d'IA à haut risque s'appliquent aux dispositifs médicaux relevant de l'annexe I à partir du 2 août 2028, soit un an après la date du 2 décembre 2027 applicable aux systèmes de l'annexe III non intégrés à un produit.
L'IA dans l'assurance face aux orientations de l'EIOPA et aux impératifs de non-discrimination
L'EIOPA a publié en août 2025 des orientations complètes qui interprètent Solvabilité II, la DDA (IDD) et DORA dans le contexte de l'IA.
Au titre du Règlement européen sur l'IA, l'évaluation des risques et la tarification en assurance vie et santé sont explicitement désignées comme à haut risque et exigent une conformité complète au chapitre III. Les autres applications d'IA en assurance relèvent des orientations de l'EIOPA, qui mettent l'accent sur l'évaluation des risques par une analyse d'impact en deux étapes, l'équité par des indicateurs de non-discrimination, une gouvernance des données complète, une documentation assortie de pistes d'audit complètes, la transparence vis-à-vis des autorités et des clients, et la supervision humaine tout au long du cycle de vie du système.
Les exigences d'équité et de non-discrimination sont particulièrement strictes. Les systèmes d'IA ne doivent pas produire de résultats discriminatoires fondés sur des caractéristiques protégées, notamment le genre, la race, l'âge et le handicap. Les organisations doivent mettre en œuvre des techniques statistiques de détection des biais telles que l'analyse de l'impact disproportionné (disparate impact), documenter les actions correctives et tenir compte de l'impact sur l'inclusion financière et les clients vulnérables.
Les assureurs restent pleinement responsables des systèmes d'IA, même lorsqu'ils sont développés en externe. Cela exige une diligence raisonnable à l'égard des fournisseurs, des garanties contractuelles de conformité et des SLA permettant les audits.
Le secteur public et les administrations font face aux interdictions les plus strictes
Le secteur public fait face à la fois aux interdictions les plus strictes et aux classifications à haut risque les plus étendues du Règlement européen sur l'IA.
Les pratiques d'IA interdites sont en vigueur depuis février 2025. La notation sociale par les autorités publiques évaluant les individus sur la base de leur comportement social est totalement interdite. La police prédictive fondée uniquement sur le profilage est interdite. L'identification biométrique à distance en temps réel dans les espaces publics est interdite, sous réserve d'exceptions limitées pour les services répressifs. La reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement est interdite. Les violations sont passibles de la sanction maximale de 35 millions d'EUR ou 7 % du chiffre d'affaires.
Les catégories à haut risque pour le secteur public sont étendues : applications répressives (évaluation de la fiabilité des preuves, profilage dans les enquêtes pénales, détection de mensonges, prédiction de la récidive), migration et contrôle aux frontières (examen des demandes de visa, évaluation des risques, vérification des documents, traitement des demandes d'asile), administration de la justice (assistance aux autorités judiciaires) et décisions de l'administration publique (éligibilité aux prestations, accès aux services essentiels, envoi des services d'urgence).
Les entités publiques doivent réaliser des analyses d'impact sur les droits fondamentaux avant de déployer des systèmes d'IA à haut risque, évaluer les impacts potentiels, documenter le processus et s'enregistrer dans la base de données de l'UE avant utilisation.
Construire votre cadre de conformité des agents IA
Les organisations ont besoin de programmes de gouvernance structurés couvrant quatre composantes essentielles.
L'inventaire et le catalogage de l'IA constituent le socle. Vous devez identifier toutes les applications d'IA de l'organisation, y compris les systèmes internes et l'IA de fournisseurs tiers. Documentez les attributions de propriété et de responsabilité, le type de modèle et le niveau de sensibilité, l'historique des versions, les emplacements de déploiement et l'intégration aux registres informatiques existants. Créez un portail centralisé de contrôle de l'IA, mettez en place une découverte automatisée pour éliminer l'IA fantôme (shadow AI) et établissez des processus de prise en charge des nouvelles initiatives d'IA.
La cartographie des capacités définit les limites des agents IA. Précisez les données auxquelles chaque agent peut accéder, définissez les actions que les agents peuvent entreprendre et les cas où une escalade vers un humain est requise, mettez en œuvre des cadres de permissions contextuelles et documentez toutes les intégrations d'outils avec des API, bases de données et services externes.
L'évaluation des risques suit une approche structurée. Déterminez si les systèmes répondent à la définition de l'IA. Vérifiez-les au regard des pratiques interdites de l'article 5. Évaluez-les par rapport aux catégories à haut risque de l'annexe III. Documentez les décisions de classification avec les preuves à l'appui. Dans les cas limites, traitez le système comme à haut risque pour garantir la conformité.
La conception de la supervision doit suivre un modèle d'autonomie graduée. Les agents commencent avec des permissions limitées et gagnent en autonomie à mesure que leur fiabilité est démontrée par des audits. Les mécanismes essentiels comprennent des tableaux de bord en temps réel, des environnements de test en bac à sable, des comités de supervision transversaux, des procédures claires de réponse aux incidents et des points de contrôle avec humain dans la boucle aux moments décisionnels critiques.
Le paysage réglementaire continue d'évoluer
Le Bureau européen de l'IA est opérationnel depuis août 2025 et assume la responsabilité centrale de la mise en œuvre et de l'application du Règlement européen sur l'IA, en particulier pour les modèles d'IA à usage général. Il dispose d'une compétence exclusive sur les fournisseurs de GPAI et peut demander de la documentation, mener des évaluations, ordonner des mesures correctives et recommander des sanctions.
Les normes harmonisées sont en cours d'élaboration par le CEN/CENELEC selon des calendriers distincts. Le DIN indique que la norme EN 18286 a franchi le vote formel, et le BSI annonce sa publication nationale sous la référence BS EN 18286:2026 le 24 juillet. La page de la Commission, mise à jour pour la dernière fois le 27 juillet, décrit toujours la publication finale du CEN/CENELEC comme en attente. La revue des sources officielles du 28 juillet n'a relevé aucune référence à l'EN 18286 au JOUE. L'article 40, paragraphe 1 traite de la présomption de conformité pour les exigences du chapitre III, section 2, énoncées aux articles 8 à 15 ; l'article 17 relève de la section 3. Vérifiez l'effet juridique précis de toute référence qui viendrait à être publiée.
Les bacs à sable réglementaires deviennent obligatoires d'ici le 2 août 2027 au titre de l'article 57, échéance reportée du 2 août 2026 par le Digital Omnibus sur l'IA. Les États membres doivent établir au moins un bac à sable. Les bacs à sable offrent des tests sous supervision réglementaire, une preuve écrite des activités menées avec succès et une protection contre les amendes administratives lorsque les lignes directrices sont suivies de bonne foi.
Foire aux questions
Les agents IA sont-ils automatiquement à haut risque au titre du Règlement européen sur l'IA ?
L'étiquette « agent » ne crée aucune classification automatique à haut risque. Appliquez l'article 6 à la destination et aux faits du déploiement, puis testez la voie pertinente de l'annexe I ou de l'annexe III. Documentez les rôles des opérateurs, l'impact des décisions, les personnes concernées et toute analyse au titre de l'article 6, paragraphe 3, et réévaluez lorsque l'agent obtient une nouvelle autorité ou entre dans un nouveau contexte.
Comment documenter les décisions des agents IA pour les auditeurs ?
La journalisation traditionnelle des entrées et sorties est insuffisante pour les agents IA. Vous avez besoin d'une granularité au niveau des traces capturant la journalisation des transactions de base (métadonnées de session, contexte utilisateur), la documentation de la chaîne de décision (étapes de raisonnement, appels d'outils et résultats, états avant/après), les enregistrements de supervision humaine (marqueurs de revue, documentation des interventions) et les signaux de qualité (évaluations automatisées, scores de confiance). L'article 19 impose une conservation d'au moins six mois. Le secteur converge vers le traçage distribué fondé sur les normes OpenTelemetry pour capturer les chemins d'exécution complets.
Puis-je utiliser des agents IA dans les services financiers ?
Oui, avec une gouvernance appropriée. Les services financiers doivent composer avec le Règlement européen sur l'IA en plus de MiFID II, Bâle III/IV et DORA. Les orientations de l'ESMA imposent aux entreprises de maintenir leur engagement envers les intérêts des clients, que les décisions soient prises par des humains ou par l'IA, les organes de direction restant pleinement responsables. Les systèmes d'IA de scoring de crédit sont explicitement à haut risque. Vous avez besoin de structures de gouvernance robustes, d'une gestion des risques traitant les biais algorithmiques, d'une tenue de registres exhaustive et d'une formation du personnel aux implications réglementaires.
Quel est le calendrier pour atteindre la conformité des agents IA ?
Le Digital Omnibus sur l'IA, adopté en juin 2026, fixe les dates d'application. Les obligations de transparence de l'article 50 s'appliquent à partir du 2 août 2026, les obligations relatives aux systèmes à haut risque de l'annexe III à partir du 2 décembre 2027 et les obligations relatives aux systèmes à haut risque intégrés à des produits de l'annexe I à partir du 2 août 2028. Identifiez la règle transitoire applicable à votre catégorie de système, puis planifiez à rebours l'inventaire, les contrôles, la documentation, les tests, la surveillance et la remédiation.
Quelles sont les sanctions en cas de non-conformité ?
Les sanctions sont sévères. Les violations des pratiques interdites sont passibles d'amendes pouvant atteindre 35 millions d'EUR ou 7 % du chiffre d'affaires annuel mondial. Les violations relatives aux systèmes à haut risque sont passibles d'amendes pouvant atteindre 15 millions d'EUR ou 3 % du chiffre d'affaires. La fourniture d'informations inexactes aux autorités en réponse à une demande peut entraîner une amende de 7,5 millions d'EUR ou 1 % du chiffre d'affaires. Au-delà des sanctions financières, les autorités peuvent exiger le retrait du marché des systèmes non conformes, ce qui entraîne des perturbations opérationnelles importantes et une atteinte à la réputation.
Points clés à retenir
Un dossier de conformité des agents IA défendable relie la destination et le rôle de l'opérateur à la classification, aux obligations applicables, aux contrôles mis en œuvre et aux preuves à jour. Le cadre d'audit pour l'entreprise couvre la méthode d'assurance complète, l'évaluation de la préparation identifie les lacunes en matière de contrôles et de preuves, et la page sur le logiciel d'audit des agents IA couvre le parcours d'évaluation de la plateforme.