Aperçu du modèle (extrait)
Faites défiler pour voir toutes les colonnes
Section 2 : utilisation prévue
2.1 Principaux cas d’utilisation
| Cas d’utilisation | Description | Type d’utilisateur |
|---|---|---|
| [Cas d’utilisation principal 1] | [Description détaillée] | [Qui l’utilise] |
2.3 Utilisations hors périmètre
| Cas d’utilisation | Motif de la non-prise en charge |
|---|---|
| [Cas d’utilisation interdit 1] | [Pourquoi inapproprié : limites des données, préoccupations éthiques, etc.] |
Section 7 : limites
7.2 Modes de défaillance connus
| Mode de défaillance | Conditions de déclenchement | Détection | Réponse |
|---|---|---|---|
| [Mode de défaillance 1] | [Cause de cette défaillance] | [Comment la détecter] | [Que faire] |
Voir l’exemple détaillé
Utilisations hors périmètre :
| Cas d’usage | Motif de non-prise en charge |
|---|---|
| Prise de décision de crédit sans intervention humaine | Modèle conçu comme aide à la décision uniquement ; revue humaine requise |
| Utilisation sur des populations absentes des données d’entraînement | Performance non validée ; résultats potentiellement non fiables |
| Applications critiques pour la sécurité en temps réel | Exigences de latence non validées pour ce cas d’usage |
Avant de commencer
Pour les équipes de conformité, de gestion des risques, produit et ML ops qui mettent en production des Processes agentiques dans des environnements réglementés.
Les model cards sont une documentation standardisée pour les modèles d’IA. Initialement proposées par des chercheurs de Google en 2019, elles sont devenues une bonne pratique du secteur pour communiquer ce que fait un modèle, ses performances et ses limites.
Pour les organisations soumises à l’EU AI Act, les model cards contribuent à satisfaire les exigences de transparence de l’Article 13 et à la documentation technique requise par l’Annexe IV.
Quand utiliser cette ressource
- Vous déployez des modèles de ML et avez besoin d’une documentation standardisée pour les réviseurs techniques.
- Vous devez satisfaire aux exigences de transparence de l’EU AI Act (article 13) ou contribuer à la documentation de l’Annexe IV.
- Vous souhaitez communiquer les capacités, limites et considérations éthiques du modèle aux déployeurs et aux utilisateurs.
Informations à recueillir
- Détails de l’architecture, de la version et de la provenance de l’entraînement du modèle.
- Cas d’usage prévus et utilisations explicitement hors périmètre.
- Documentation des données d’entraînement et d’évaluation avec problèmes connus.
- Indicateurs de performance (globaux et désagrégés) avec intervalles de confiance.
- Résultats de l’analyse de l’équité et considérations éthiques.
- Limites connues, modes d’échec et conditions aux limites.
Liste de contrôle de revue
Utilisez ces contrôles lors de la revue avec le responsable de votre système. Confirmez les exigences applicables et joignez les preuves relatives aux décisions de votre équipe.
- L’identification du modèle inclut la version, l’architecture, le lignage et la provenance du développement.
- La finalité prévue définit les cas d’usage principaux, les utilisateurs prévus et énonce explicitement les utilisations hors périmètre.
- Les données d’entraînement sont documentées avec leurs sources, caractéristiques, prétraitement et problèmes de qualité connus.
- Les indicateurs de performance incluent des résultats globaux et désagrégés avec intervalles de confiance.
- Les considérations éthiques couvrent les métriques d’équité, les tests de biais et les caractéristiques protégées.
- Les limites sont documentées de manière exhaustive, y compris les modes d’échec et les conditions aux limites.
- Les recommandations fournissent des conseils exploitables sur le déploiement, la surveillance et la maintenance.
Contrôles opérationnels et preuves
- Gouverner
Fiches modèles versionnées reliées au registre des modèles et aux pipelines de déploiement.
Les étapes d’approbation vérifient que la model card est complète avant le déploiement en production.
- Assurer
Capture automatisée des indicateurs de performance, signaux de dérive et indicateurs d’équité.
Monitoring des performances ventilées entre groupes protégés et conditions limites.
- Prouvez
Model cards reliées aux artefacts d’évaluation, au lignage des données d’entraînement et aux enregistrements d’approbation.
Bundles de preuves reliant les affirmations documentaires aux données de performance à l’exécution.
Questions sur cette ressource
Quelle est la différence entre une fiche modèle et une fiche système ?
Une model card documente un seul modèle ML. Une system card documente un système d’IA complet pouvant inclure plusieurs modèles, intégrations et Processes. Les model cards sont des éléments constitutifs des system cards.
Les model cards sont-elles requises par l’EU AI Act ?
L’EU AI Act n’impose pas explicitement les fiches modèles, mais les informations qu’elles contiennent sont requises sous différentes formes dans l’ensemble du cadre de conformité, notamment pour la transparence de l’article 13 et la documentation technique de l’Annexe IV.
À quelle fréquence mettre à jour les model cards ?
Mettez à jour lorsque le modèle est réentraîné, que ses caractéristiques de performance changent de manière importante, que de nouvelles limites sont découvertes ou que les cas d’usage prévus changent.
Que dois-je inclure dans les performances désagrégées ?
Signalez les performances sur les sous-groupes pertinents pour révéler les disparités. Les sous-groupes doivent inclure les caractéristiques protégées, le cas échéant, ainsi que les conditions qui influencent le comportement du modèle.
Comment gérer les limites découvertes après le déploiement ?
Documentez immédiatement les limites nouvellement découvertes, mettez à jour la model card et informez les déployeurs. Reliez les limites à vos processus de monitoring et de réponse aux incidents.
Que regardent les réviseurs dans les fiches modèles ?
Limites complètes (pas seulement les métriques favorables), performances ventilées, utilisations prévues et hors périmètre claires, et traçabilité vers les artefacts d’évaluation et les données d’entraînement.
Langue du fichier téléchargé : anglais