Fiche système

Une fiche système (system card) est un artefact de documentation complet qui décrit un système d'IA dans son ensemble, et non des modèles pris isolément. Elle capture l'image complète du fonctionnement d'une application : architecture, modèles composants, flux de données, points d'intégration, points de contact humains et contexte opérationnel. À mesure que les systèmes combinent plusieurs modèles, de la logique métier, des services externes et des workflows humains, les fiches système fournissent la vue holistique que les fiches modèle ne peuvent pas offrir seules.

Le EU AI Act régule des systèmes d'IA, pas des modèles isolés. Si les fiches modèle documentent des modèles, les exigences de documentation technique, de transparence et d'analyse de risques s'appliquent au système complet qui produit des sorties ou prend des décisions. Les fiches système comblent cet écart en documentant l'orchestration des modèles, les flux de données, la supervision humaine et l'intégration dans des processus organisationnels. Les exigences de documentation technique de l'annexe IV s'alignent largement avec le contenu d'une fiche système : description générale (finalité), interactions matériel/logiciel, versions logicielles, formes d'entrée et de sortie et ressources de calcul. Cette perspective au niveau système est essentielle pour l'évaluation de la conformité et pour permettre aux déployeurs de comprendre ce qu'ils mettent en œuvre. Pour des applications modernes basées sur des modèles de fondation avec retrieval augmentation, usage d'outils et raisonnements multi-étapes, les fiches système sont particulièrement importantes : le comportement dépend fortement de la logique d'orchestration, de la gestion du contexte et des choix d'intégration, invisibles dans une fiche modèle mais critiques pour l'analyse de risques et la supervision.

Les organisations devraient créer une fiche système pour chaque système d'IA développé ou déployé, distincte des fiches modèle des composants. Une fiche système complète inclut : un aperçu (finalité, utilisateurs, contexte), une description d'architecture (composants et interactions), des schémas de flux de données, un inventaire des modèles avec références à leurs fiches, les points de contact humains (où les humains interagissent ou supervisent), les intégrations (connexions à des systèmes externes et sources de données) et des paramètres opérationnels (performances, limites, modes de défaillance).

Les fiches système doivent être traitées comme des documents vivants, mis à jour lors de changements significatifs d'architecture, de modèles, d'intégrations ou de contexte. Un contrôle de version avec historique de changements soutient la gouvernance interne et les exigences réglementaires de mise à jour de la documentation. La relation entre fiches modèle, fiches système et documentation de l'annexe IV doit être conçue intentionnellement : les fiches modèle alimentent la fiche système, qui fournit une grande partie du contenu requis par l'annexe IV. Concevoir cette hiérarchie documentaire dès le départ, avec des modèles et des processus, permet de construire efficacement des artefacts de conformité sans duplication inutile.