Monitoraggio post-commercializzazione

Il monitoraggio post-commercializzazione è il processo sistematico e continuo di raccolta, analisi e azione su dati relativi a performance, comportamento e impatti di un sistema di IA dopo il deployment in produzione. Questo monitoraggio consente di rilevare degradazioni, identificare rischi emergenti, rispondere a incidenti e mantenere la conformità lungo il ciclo di vita operativo.

L'articolo 72 del EU AI Act richiede ai fornitori di sistemi ad alto rischio di istituire un sistema di monitoraggio post-commercializzazione proporzionato alla tecnologia e ai rischi. Non è un'osservazione facoltativa, ma un obbligo di conformità con requisiti specifici di documentazione e azione. Il regolamento riconosce che i sistemi si comportano diversamente in produzione rispetto a test controllati: cambiano le distribuzioni dei dati, evolvono i comportamenti degli utenti e emergono edge case. Il monitoraggio fornisce il feedback loop per rilevare questi cambiamenti e intervenire prima che generino danni o non conformità. Inoltre, è collegato agli obblighi di segnalazione di incidenti gravi dell'articolo 73: quando il monitoraggio rileva incidenti o malfunzionamenti che costituiscono violazioni o rischi seri per salute, sicurezza o diritti fondamentali, i fornitori devono notificare le autorità competenti entro tempi definiti.

I fornitori devono documentare l'approccio in un piano formale: quali dati verranno raccolti, come verranno analizzati, quali soglie attivano azioni e chi è responsabile di revisione e risposta. Questo piano è parte della documentazione dell'Allegato IV e deve essere aggiornato. Dimensioni chiave: metriche di performance, rilevamento della deriva, monitoraggio dei bias, incident tracking e monitoraggio dell'uso (uso reale vs uso previsto).

Stabilite procedure chiare di escalation che colleghino i risultati del monitoraggio ad azioni correttive. Degradazioni minori possono attivare retraining; bias o problemi di sicurezza significativi possono richiedere la sospensione del sistema. Le evidenze di monitoraggio (dati, analisi e azioni) devono essere conservate e rese disponibili alle autorità su richiesta.