Glossaire de la conformité IA
Définitions des termes clés de la gouvernance de l'IA, de la conformité à l'EU AI Act et des cadres réglementaires, pour les responsables conformité et les praticiens.
Conformité
Processus de conformité et exigences en matière de documentation
Dossier de preuves
Un ensemble structuré de documentation, journaux et artefacts qui démontre la conformité d'un système d'IA à destination des auditeurs.
Fiche modèle
Un document standardisé décrivant l'usage prévu d'un modèle d'IA, ses performances, ses limites et ses considérations éthiques.
Fiche système
Une documentation décrivant un système d'IA complet, y compris son architecture, ses composants, ses flux de données et son contexte opérationnel.
Surveillance après commercialisation
La surveillance continue des performances et de la conformité d'un système d'IA après déploiement afin d'identifier et traiter les problèmes.
Règlement européen sur l’IA
Termes et concepts clés du règlement européen sur l'IA (EU AI Act)
Annexe III
L'annexe de l'EU AI Act qui liste des catégories de systèmes d'IA à haut risque soumis à des exigences strictes de conformité.
Annexe IV
L'annexe de l'EU AI Act qui précise les exigences de documentation technique pour les systèmes d'IA à haut risque.
Déployeur
Une organisation qui utilise un système d'IA sous sa propre autorité, à l'exception d'un usage personnel non professionnel.
Évaluation de la conformité
Le processus visant à vérifier qu'un système d'IA satisfait à l'ensemble des exigences applicables de l'EU AI Act avant sa mise sur le marché.
Fournisseur
Une entité qui développe (ou fait développer) un système d'IA et le met sur le marché ou le met en service.
FRIA
Fundamental Rights Impact Assessment : une évaluation de la manière dont un système d'IA peut affecter les droits fondamentaux.
Maîtrise de l'IA
La maîtrise de l'IA désigne les compétences, les connaissances et la compréhension qui permettent de déployer des systèmes d'IA en connaissance de cause et de prendre conscience de leurs possibilités, de leurs risques et des préjudices qu'ils peuvent causer.
Marquage CE
Une marque de certification indiquant qu'un système d'IA respecte les exigences de l'UE en matière de santé, de sécurité et de protection de l'environnement.
Organisme notifié
Une organisation désignée par un État membre de l'UE pour évaluer la conformité de certains systèmes d'IA à haut risque.
Système d'IA à haut risque
Un système d'IA soumis à des exigences strictes au titre de l'EU AI Act en raison de son impact potentiel sur la santé, la sécurité ou les droits fondamentaux.
Gouvernance de l'IA
Concepts et cadres fondamentaux de gouvernance de l'IA
Autorisation des agents
L'autorisation des agents est le contrôle, effectué chaque fois qu'un agent d'IA propose une action, qui décide si l'agent peut l'exécuter avec ces paramètres pour le compte de son mandant.
Contrôle humain
Le contrôle humain est la capacité de personnes désignées et compétentes à surveiller un système d'IA pendant son utilisation, à interpréter ses sorties, à les ignorer ou à les inverser, et à arrêter le système.
Couche de gouvernance à l'exécution
Une couche de gouvernance à l'exécution se situe entre un agent d'IA et les systèmes sur lesquels il agit, et évalue chaque action proposée avant son exécution.
Enveloppe de gouvernance
Une enveloppe de gouvernance associe à une action proposée par un agent l'ensemble du contexte nécessaire à son évaluation avant exécution.
Exécution liée à une politique
L'exécution liée à une politique évalue chaque action proposée par un agent au regard d'une politique publiée et versionnée avant son exécution.
Gouvernance de l'IA
Le cadre de politiques, de processus et de contrôles qui garantit que les systèmes d'IA fonctionnent de manière sûre, éthique et conforme aux réglementations.
Mandat d'agent
Un mandat d'agent est une définition explicite et lisible par machine de l'autorité qu'un mandant délègue à un agent d'IA.
Moteur de disposition
Un moteur de disposition évalue chaque action proposée par un agent au regard des contrôles de l'institution et renvoie un résultat contraignant avant l'exécution de l'action.
Registre des agents d'IA
Un registre des agents d'IA est l'inventaire des agents d'IA d'une organisation, qui indique pour chacun son responsable, sa finalité, sa version, ses permissions et son statut.
Traçabilité à altération détectable
La traçabilité à altération détectable est un registre en ajout uniquement des actions d'un agent et des décisions de gouvernance qui leur sont appliquées, dont l'intégrité peut être vérifiée indépendamment.
Technique
Concepts techniques pour la surveillance et le contrôle des systèmes d'IA
Coupe-circuit d'agent
Un coupe-circuit d'agent (kill switch) est un contrôle qui arrête les exécutions en cours d'un agent d'IA, refuse ses actions suivantes et révoque ses accès en une seule commande.
Détection de dérive
La surveillance des performances d'un système d'IA dans le temps afin d'identifier une dégradation ou une dérive par rapport au comportement attendu.
Détection des biais
Le processus consistant à identifier et mesurer des schémas injustes ou discriminatoires dans les sorties d'un système d'IA ou dans les données d'entraînement.
Explicabilité
L'explicabilité est la mesure dans laquelle des personnes peuvent comprendre comment un système d'IA a produit une sortie ou une décision, et l'expliquer à d'autres.
Garde-fous
Des mécanismes techniques et procéduraux qui maintiennent un système d'IA dans des limites acceptables et empêchent des sorties nuisibles ou non conformes.
Piste d'audit
Un enregistrement chronologique des activités, décisions et interactions humaines d'un système d'IA, permettant la traçabilité et la redevabilité.
Provenance des données
La provenance des données est l'enregistrement de l'origine d'une donnée, de ce qui l'a produite et des transformations qu'elle a subies avant d'être utilisée.
Rejeu déterministe
Le rejeu déterministe consiste à réexécuter une décision enregistrée d'un agent d'IA avec les mêmes entrées, la même version de politique et la même configuration, pour vérifier qu'elle produit le même résultat.
Prêt à mettre en œuvre la gouvernance de l'IA ?
Découvrez comment KLA aide les organisations réglementées à rendre ces concepts opérationnels grâce à des points de contrôle des politiques, des pistes d'audit et des exports de preuves.