Scheda di sistema

Una scheda di sistema (system card) è un artefatto di documentazione completo che descrive un intero sistema di IA piuttosto che modelli isolati. Le schede di sistema catturano il quadro completo di come funziona un'applicazione: architettura, modelli componenti, flussi di dati, punti di integrazione, touchpoint umani e contesto operativo. Poiché i sistemi di IA combinano sempre più modelli, logica di business, servizi esterni e workflow umani, le schede di sistema forniscono la visione olistica che le schede modello da sole non possono offrire.

Il EU AI Act regola sistemi di IA, non modelli isolati. Le schede modello documentano singoli modelli, ma i requisiti di documentazione tecnica, trasparenza e valutazione del rischio si applicano al sistema completo che produce output o decisioni. Le schede di sistema colmano questo gap documentando orchestrazione dei modelli, flussi di dati, dove avviene la supervisione umana e come il sistema si integra nei processi organizzativi. I requisiti dell'Allegato IV sono strettamente allineati: descrizione generale, interazione con hardware e software, versioni rilevanti, forme di input/output e risorse computazionali. Questa prospettiva di sistema è essenziale per la valutazione di conformità e per consentire agli utilizzatori di capire cosa stanno implementando. Nelle applicazioni moderne basate su foundation model con retrieval augmentation, uso di strumenti e reasoning multi-step, il comportamento dipende fortemente dalla logica di orchestrazione e dal contesto, aspetti invisibili nelle schede modello ma critici per rischio e supervisione.

Le organizzazioni dovrebbero creare schede di sistema per ogni sistema sviluppato o utilizzato, distinte e complementari alle schede modello. Una scheda completa include: overview (scopo, utenti, contesto), architettura (componenti e interazioni), diagrammi di flusso dati, inventario dei modelli con riferimenti alle schede, touchpoint umani, integrazioni con sistemi esterni e fonti dati e parametri operativi (performance, limiti, failure modes).

Le schede di sistema devono essere trattate come documenti vivi e aggiornate quando avvengono cambiamenti significativi. Il versioning con storico delle modifiche supporta governance interna e requisiti regolatori. La relazione tra schede modello, schede di sistema e documentazione dell'Allegato IV deve essere progettata intenzionalmente: le schede modello alimentano la scheda di sistema, che a sua volta fornisce gran parte del contenuto per l'Allegato IV. Con template e processi adeguati, questa gerarchia documentale può essere costruita in modo efficiente, evitando duplicazioni e garantendo completezza.