Conformità degli agenti AI ai sensi del Regolamento europeo sull'intelligenza artificiale

Gli agenti AI operano in modo radicalmente diverso dai modelli AI tradizionali

I modelli di machine learning tradizionali seguono flussi di lavoro prevedibili e predeterminati. Si inseriscono i dati, il modello li elabora tramite algoritmi fissi e restituisce una previsione o una classificazione. Un modello di credit scoring, ad esempio, acquisisce i dati del richiedente e produce un punteggio di rischio. Sono poi gli operatori umani a decidere come utilizzare quel punteggio.

Gli agenti AI funzionano in modo completamente diverso. Perseguono obiettivi in modo autonomo, scomponendo obiettivi complessi in fasi successive, utilizzando strumenti esterni e adattando il proprio approccio in base al feedback in tempo reale — il tutto con una supervisione umana minima. Un agente AI che gestisce il servizio clienti potrebbe accedere al CRM, verificare i sistemi di inventario, redigere e-mail ed elaborare rimborsi senza che un operatore umano approvi ogni singola operazione.

Questa distinzione è di importanza cruciale per la conformità. L'86% dei dirigenti a conoscenza dell'AI agentica ritiene che essa comporti rischi aggiuntivi rispetto all'AI tradizionale. Il Regolamento europeo sull'intelligenza artificiale ne tiene conto, richiedendo misure di sorveglianza umana «commisurate ai rischi, al livello di autonomia e al contesto di utilizzo» ai sensi dell'Articolo 14.

• Autonomia: capacità di prendere decisioni senza intervento umano — non è possibile affidarsi esclusivamente a controlli definiti in fase di progettazione
• Utilizzo di strumenti: interazione diretta con sistemi esterni, API e database, con conseguente ampliamento della superficie di attacco potenziale
• Ragionamento multi-step: catene decisionali complesse che rendono opache le ragioni alla base di specifiche decisioni
• Comportamento orientato agli obiettivi: adattamento dinamico verso determinati risultati, con la possibilità di produrre esiti imprevisti
• Interazione con l'ambiente: effetti concreti attraverso transazioni e modifiche ai sistemi che possono essere irreversibili

Come gli agenti AI si inquadrano nelle categorie di rischio del Regolamento europeo sull'AI

Il Regolamento europeo sull'intelligenza artificiale stabilisce un quadro di rischio a quattro livelli: rischio inaccettabile (pratiche vietate), alto rischio (fortemente regolamentato), rischio limitato (obblighi di trasparenza) e rischio minimo (nessun requisito obbligatorio). Sebbene il Regolamento non menzioni esplicitamente «agenti AI» o «AI agentica», la sua impostazione tecnologicamente neutrale comprende chiaramente i sistemi autonomi.

La maggior parte degli agenti AI aziendali nei settori regolamentati rientrerà nella categoria ad alto rischio. Ciò avviene attraverso diversi percorsi previsti dall'Articolo 6 e dall'Allegato III.

Il primo fattore scatenante è la profilazione. Qualsiasi sistema AI che effettua la profilazione di persone fisiche — il trattamento automatizzato di dati personali per valutare le prestazioni lavorative, la situazione economica, la salute, le preferenze, il comportamento o la posizione — è automaticamente classificato ad alto rischio. Poiché molti agenti AI personalizzano le interazioni o formulano raccomandazioni basate sui dati degli utenti, questa disposizione interessa una parte significativa delle implementazioni aziendali.

Il secondo fattore riguarda le categorie dell'Allegato III. Le applicazioni per l'occupazione e la gestione dei lavoratori (selezione del personale, screening dei CV, valutazione delle prestazioni, assegnazione di compiti, decisioni di risoluzione del rapporto di lavoro), l'accesso a servizi essenziali (credit scoring, ammissibilità a prestazioni pubbliche, valutazione del rischio assicurativo), le infrastrutture critiche (componenti di sicurezza nelle infrastrutture digitali, servizi pubblici, energia) e le applicazioni nel settore dell'istruzione rientrano tutti nella categoria ad alto rischio.

L'implicazione pratica: se state implementando agenti AI nei servizi finanziari, nella sanità, nel settore assicurativo o nella pubblica amministrazione, pianificate la conformità per l'alto rischio, a meno che non disponiate di prove chiare di esenzione.

La scadenza di agosto 2026 e le sue implicazioni

Il Regolamento europeo sull'intelligenza artificiale è entrato in vigore il 1° agosto 2024, con un calendario di attuazione graduale. La scadenza critica per la maggior parte delle organizzazioni è il 2 agosto 2026, data in cui le norme sui sistemi AI ad alto rischio diventano pienamente applicabili.

Ciò che questa data comporta comprende la piena conformità ai requisiti del Capo III per i sistemi ad alto rischio, il completamento obbligatorio delle valutazioni di conformità, la registrazione nella banca dati dell'UE prima dell'immissione sul mercato, la piena operatività dei poteri di sorveglianza e applicazione del mercato, nonché le disposizioni sanzionatorie esecutive.

I tempi di preparazione sono più lunghi di quanto la maggior parte delle organizzazioni immagini. Gli esperti di conformità stimano un minimo di 32-56 settimane per raggiungere la conformità. L'inventario dei sistemi e l'analisi delle lacune richiedono generalmente 4-8 settimane. Le modifiche tecniche necessitano di 12-20 settimane per la governance dei dati, le funzionalità di sorveglianza umana e gli strumenti di trasparenza. La valutazione di conformità richiede 8-16 settimane per i test interni, la selezione dell'organismo notificato e le eventuali azioni correttive.

Se la vostra organizzazione inizia a gennaio 2026, i tempi sono già molto stretti. Gli organismi notificati stanno programmando gli slot di valutazione fino al secondo trimestre 2026, creando vincoli di capacità.

• Violazioni delle pratiche vietate: sanzioni fino a 35 milioni di EUR o il 7% del fatturato annuo globale
• Violazioni relative ai sistemi ad alto rischio: sanzioni fino a 15 milioni di EUR o il 3% del fatturato
• Fornitura di informazioni false: sanzioni fino a 7,5 milioni di EUR o l'1% del fatturato
• Le autorità possono disporre il ritiro dal mercato dei sistemi non conformi

I requisiti di sorveglianza umana impongono nuovi modelli operativi

L'Articolo 14 stabilisce obblighi specifici di sorveglianza umana per i sistemi AI ad alto rischio, e tali requisiti hanno implicazioni particolari per gli agenti AI autonomi.

Il principio fondamentale prevede che i sistemi AI ad alto rischio siano progettati in modo da poter essere efficacemente sorvegliati da persone fisiche durante l'uso. L'obiettivo è prevenire o ridurre al minimo i rischi per la salute, la sicurezza e i diritti fondamentali. È essenziale sottolineare che le misure di sorveglianza devono essere proporzionate ai rischi, al livello di autonomia e al contesto di utilizzo — il che significa che sistemi più autonomi richiedono una sorveglianza più intensiva.

Il Regolamento specifica cinque capacità che i sorveglianti umani devono possedere: Comprensione (piena conoscenza delle capacità del sistema con la possibilità di rilevare anomalie), Consapevolezza del bias di automazione (riconoscimento della tendenza a fare eccessivo affidamento sugli output dell'AI), Interpretazione (accesso a strumenti per comprendere correttamente gli output dell'AI), Capacità di override (potere di ignorare l'output o annullare le decisioni) e Capacità di intervento (possibilità di interrompere il sistema tramite un pulsante di arresto o una procedura analoga).

Per gli agenti AI, questi requisiti creano sfide implementative significative. Il comportamento emergente implica che gli agenti apprendono attraverso l'interazione, causando variazioni comportamentali impreviste — le valutazioni statiche del rischio effettuate a priori risultano insufficienti. Il rischio da integrazione esterna deriva dal fatto che gli agenti interagiscono autonomamente con strumenti di terze parti, con la possibilità che le vulnerabilità si propaghino a cascata. Il vuoto di responsabilità è dovuto al fatto che gli agenti operano attraverso innumerevoli micro-decisioni, rendendo difficile ricostruire le ragioni alla base di un determinato evento.

• Human-in-the-loop: coinvolgimento diretto e approvazione preventiva per le decisioni critiche
• Human-on-the-loop: monitoraggio supervisivo e intervento basato su eccezioni per l'elaborazione di grandi volumi
• Human-in-command: gli operatori umani mantengono l'autorità ultima e il potere di veto per le infrastrutture critiche

Il logging tradizionale è inadeguato per gli agenti AI — ecco cosa serve realmente

L'Articolo 12 del Regolamento europeo sull'intelligenza artificiale richiede capacità di registrazione automatica per i sistemi AI ad alto rischio, al fine di documentare gli eventi durante l'intero ciclo di vita. Il tradizionale logging input-output è drasticamente insufficiente per le esigenze degli agenti AI.

Il problema fondamentale è che sapere cosa è entrato e cosa è uscito non spiega perché un agente AI ha preso una determinata decisione. Quando gli agenti eseguono ragionamenti multi-step, invocano diversi strumenti e adattano il proprio approccio in base a risultati intermedi, è necessaria una granularità a livello di traccia per ricostruire i percorsi decisionali.

Una traccia di audit completa per gli agenti AI deve documentare: registrazione delle transazioni fondamentali (metadati della sessione, contesto dell'utente, acquisizione degli input), documentazione della catena decisionale (passaggi del ragionamento, chiamate agli strumenti e relativi risultati, informazioni su contesto e stato, stati prima/dopo), registrazioni della sorveglianza umana (marcatori di revisione, documentazione degli interventi, registrazioni delle escalation) e segnali di qualità e conformità (valutazioni automatizzate, punteggi di confidenza, flag sulla privacy).

L'Articolo 19 impone ai fornitori di conservare i log per almeno sei mesi, o per periodi più lunghi secondo le normative settoriali. Il settore sta convergendo verso approcci di tracciamento distribuito basati sugli standard OpenTelemetry, superando il logging tradizionale per catturare il percorso di esecuzione completo, dal prompt iniziale all'azione finale.

I servizi finanziari affrontano requisiti normativi stratificati

Le organizzazioni di servizi finanziari che implementano agenti AI devono orientarsi tra il Regolamento europeo sull'intelligenza artificiale e i quadri normativi esistenti, tra cui MiFID II, Basilea III/IV, CRR/CRD e il Regolamento sulla resilienza operativa digitale (DORA).

Le linee guida dell'ESMA del maggio 2024 sull'AI nei servizi di investimento stabiliscono requisiti fondamentali. Le imprese devono mantenere un «impegno incrollabile» ad agire nel migliore interesse dei clienti, indipendentemente dal fatto che le decisioni siano prese da esseri umani o dall'AI. Gli organi di gestione restano pienamente responsabili delle decisioni guidate dall'AI. La consulenza in materia di investimenti erogata tramite agenti AI richiede rigorose valutazioni di adeguatezza.

Per quanto riguarda i requisiti organizzativi, l'ESMA prevede strutture di governance solide con test e controlli ex ante, sistemi di gestione del rischio che affrontino specificamente i bias algoritmici, una documentazione completa che registri l'utilizzo dell'AI e i processi decisionali, nonché la formazione del personale sulle implicazioni operative, etiche e normative.

L'EBA monitora l'adozione dell'AI nel settore bancario con particolare attenzione ai modelli di rischio di credito. I sistemi AI utilizzati per il credit scoring o la valutazione del merito creditizio delle persone fisiche sono esplicitamente classificati come ad alto rischio ai sensi del Regolamento sull'AI. I modelli di machine learning complessi devono bilanciare l'accuratezza predittiva con i requisiti di spiegabilità.

Le organizzazioni sanitarie affrontano una doppia conformità: MDR e Regolamento sull'AI

I dispositivi medici basati sull'AI si trovano ad affrontare un ambiente regolamentare complesso a doppio binario, che richiede la conformità sia al Regolamento europeo sull'intelligenza artificiale sia al Regolamento sui dispositivi medici (MDR) o al Regolamento sui dispositivi medico-diagnostici in vitro (IVDR).

I dispositivi medici con componenti AI rientrano nella categoria ad alto rischio ai sensi del Regolamento sull'AI se il sistema AI è una componente di sicurezza del dispositivo o se il dispositivo stesso è un sistema AI, e se richiede una valutazione di conformità da parte di terzi ai sensi del MDR/IVDR. Ciò significa in pratica che i dispositivi MDR di Classe IIa, IIb, III e i dispositivi IVDR di Classe B-D sono normalmente classificati ad alto rischio ai sensi del Regolamento sull'AI.

La Commissione europea ha pubblicato orientamenti che consentono alle organizzazioni di adottare approcci integrati. Un unico sistema di gestione della qualità può soddisfare entrambi i regolamenti. La documentazione tecnica può basarsi su un unico set di documenti. La gestione del rischio può integrare la valutazione specifica per l'AI con i Requisiti generali di sicurezza e prestazione dell'Allegato I.

La tempistica differisce da quella degli altri settori: gli obblighi per i sistemi AI ad alto rischio si applicano ai dispositivi medici ai sensi dell'Allegato II nell'agosto 2027, con una possibile proroga ad agosto 2028 qualora le misure di supporto subiscano ritardi.

L'AI assicurativa è soggetta alle linee guida EIOPA e agli imperativi di non discriminazione

L'EIOPA ha pubblicato linee guida esaustive nell'agosto 2025, interpretando la legislazione assicurativa vigente — Solvency II, IDD e DORA — nel contesto dell'intelligenza artificiale.

Ai sensi del Regolamento sull'AI, la valutazione del rischio e la tariffazione nelle assicurazioni vita e malattia sono esplicitamente designate come ad alto rischio, con l'obbligo di piena conformità al Capo III. Per le altre applicazioni AI nel settore assicurativo si applicano le linee guida dell'EIOPA, che pongono l'accento sulla valutazione del rischio attraverso una procedura di impatto in due fasi, sull'equità attraverso metriche di non discriminazione, su una governance dei dati completa, sulla documentazione con tracce di audit complete, sulla trasparenza verso le autorità e i clienti, e sulla sorveglianza umana durante l'intero ciclo di vita del sistema.

I requisiti di equità e non discriminazione sono particolarmente rigorosi. I sistemi AI non devono produrre risultati discriminatori basati su caratteristiche protette, tra cui genere, razza, età e disabilità. Le organizzazioni devono implementare tecniche statistiche di rilevamento dei bias come l'analisi dell'impatto disparato, documentare le azioni correttive e considerare l'impatto sull'inclusione finanziaria e sui clienti vulnerabili.

Gli assicuratori restano pienamente responsabili dei sistemi AI anche se sviluppati esternamente. Ciò richiede due diligence sui fornitori, garanzie contrattuali di conformità e SLA che consentano gli audit.

La pubblica amministrazione è soggetta ai divieti più severi

Il settore pubblico è soggetto sia ai divieti più severi sia alle classificazioni ad alto rischio più estese previste dal Regolamento europeo sull'intelligenza artificiale.

Le pratiche AI vietate sono in vigore dal febbraio 2025. Il social scoring da parte delle autorità pubbliche, che valutano gli individui in base al comportamento sociale, è completamente vietato. La polizia predittiva basata esclusivamente sulla profilazione è proibita. L'identificazione biometrica remota in tempo reale negli spazi pubblici è vietata, con limitate eccezioni per le forze dell'ordine. Il riconoscimento delle emozioni nei luoghi di lavoro e negli istituti scolastici è proibito. Le violazioni sono soggette alla sanzione massima di 35 milioni di EUR o il 7% del fatturato.

Le categorie ad alto rischio per il settore pubblico sono ampie: applicazioni nel campo delle forze dell'ordine (valutazione dell'affidabilità delle prove, profilazione nelle indagini penali, rilevazione della menzogna, previsione della recidiva), gestione della migrazione e controllo delle frontiere (esame dei visti, valutazione del rischio, verifica dei documenti, trattamento delle domande di asilo), amministrazione della giustizia (assistenza alle autorità giudiziarie) e decisioni della pubblica amministrazione (ammissibilità a prestazioni, accesso a servizi essenziali, smistamento delle emergenze).

Gli enti pubblici devono condurre valutazioni d'impatto sui diritti fondamentali prima di implementare sistemi AI ad alto rischio, valutare gli impatti potenziali, documentare il processo e registrare i sistemi nella banca dati dell'UE prima dell'uso.

Costruire il quadro di conformità per gli agenti AI

Le organizzazioni necessitano di programmi di governance strutturati che coprano quattro componenti essenziali.

L'inventario e la catalogazione dell'AI costituiscono le fondamenta. È necessario identificare tutte le applicazioni AI all'interno dell'organizzazione, inclusi i sistemi interni e l'AI di fornitori terzi. Occorre documentare le assegnazioni di proprietà e responsabilità, il tipo di modello e il livello di sensibilità, la cronologia delle versioni, le sedi di implementazione e l'integrazione con i registri IT esistenti. Create un portale centralizzato di controllo dell'AI, implementate il rilevamento automatizzato per eliminare lo shadow AI e definite processi di intake per le nuove iniziative AI.

La mappatura delle capacità definisce i confini operativi degli agenti AI. Specificate a quali dati ogni agente può accedere, definite quali azioni gli agenti possono compiere e quando è necessaria l'escalation a un operatore umano, implementate framework di autorizzazioni context-aware e documentate tutte le integrazioni con API esterne, database e servizi.

La valutazione del rischio segue un approccio strutturato. Determinate se i sistemi soddisfano la definizione di AI. Verificate la conformità rispetto alle pratiche vietate dall'Articolo 5. Valutate il sistema rispetto alle categorie ad alto rischio dell'Allegato III. Documentate le decisioni di classificazione con le relative evidenze a supporto. In caso di dubbio, trattate il sistema come ad alto rischio per garantire la conformità.

La progettazione della sorveglianza dovrebbe seguire un modello di autonomia graduale. Gli agenti iniziano con permessi limitati e ottengono maggiore autonomia man mano che la loro affidabilità viene comprovata dagli audit. I meccanismi essenziali includono dashboard in tempo reale, ambienti di test sandbox, comitati di sorveglianza interfunzionali, procedure chiare di risposta agli incidenti e checkpoint human-in-the-loop nei punti decisionali critici.

Il panorama normativo continua a evolversi

L'Ufficio europeo per l'AI è operativo dall'agosto 2025 con la responsabilità centrale di attuare e far rispettare il Regolamento sull'AI, in particolare per i modelli AI di uso generale. Detiene la competenza esclusiva sui fornitori di GPAI e può richiedere documentazione, condurre valutazioni, ordinare misure correttive e raccomandare sanzioni.

Le norme armonizzate sono in fase di sviluppo tramite CEN/CENELEC, ma registrano ritardi rispetto alle tempistiche previste. La prima norma armonizzata, prEN 18286 sui sistemi di gestione della qualità, è entrata in inchiesta pubblica nell'ottobre 2025 con pubblicazione prevista entro il quarto trimestre 2026. L'Articolo 40(1) prevede che i sistemi conformi alle norme armonizzate beneficino della presunzione di conformità.

I sandbox regolamentari diventeranno obbligatori entro agosto 2026. Gli Stati membri dovranno istituire almeno un sandbox. I sandbox offrono la possibilità di effettuare test sotto supervisione regolatoria, prove scritte delle attività completate con successo e protezione dalle sanzioni amministrative se le linee guida vengono seguite in buona fede.