Articolo 50 della legge sull'intelligenza artificiale dell'UE. Lista di controllo per chatbot, copiloti e agenti IA

Cosa richiede l'articolo 50 in un linguaggio semplice¶

L'articolo 50 crea obblighi di trasparenza per i fornitori e gli distributori di determinati sistemi di IA. Un fornitore sviluppa o immette sul mercato un sistema di intelligenza artificiale o un modello di intelligenza artificiale generale con il proprio nome o marchio. Un operatore utilizza un sistema di intelligenza artificiale sotto la sua autorità, ad eccezione dell'uso puramente personale e non professionale.

Per chatbot, copiloti e agenti, i compiti solitamente rientrano in cinque pratici settori. Il controllo deve essere chiaro e distinguibile, apparire non oltre la prima interazione o esposizione e soddisfare i requisiti di accessibilità applicabili.

Perché chatbot, copiloti e agenti necessitano di controlli diversi¶

Un chatbot di base può spesso soddisfare l'articolo 50 con una divulgazione visibile alla prima interazione, una copia accessibile e la prova che la divulgazione è apparsa. Un copilota è più complicato perché può riassumere record, redigere messaggi per i clienti, preparare note di reclamo, generare codice, consigliare azioni successive o creare contenuti che un essere umano pubblicherà successivamente.

Un agente AI è ancora una volta più difficile. Gli agenti non si limitano a rispondere. Pianificano, chiamano strumenti, creano ticket, aggiornano sistemi, attivano processi, inviano messaggi e lavorano manualmente su altri sistemi. Una divulgazione mostrata una volta durante una presentazione del prodotto non dimostrerà che ogni interazione mediata dall'intelligenza artificiale, output generato, messaggio pubblico o percorso di pubblicazione è stato gestito correttamente.

Inizia con ogni superficie di interazione dell'IA¶

L'implementazione dell'articolo 50 inizia con un inventario. Elencare tutti i luoghi in cui una persona fisica può interagire con il sistema di intelligenza artificiale o essere esposta ai suoi risultati. Non fermarti all'ovvio chatbot del sito web.

Per ciascuna superficie, registrare il proprietario, il pubblico, la geografia, il modello o il sistema utilizzato, se il sistema interagisce direttamente con le persone, se genera contenuto, se il contenuto generato può lasciare l'organizzazione e se il processo influisce su clienti, dipendenti, pazienti, candidati, cittadini o altri gruppi protetti.

• Chatbot del sito web, assistente di supporto in-app, chat del servizio clienti, assistente vocale e bot dell'helpdesk AI.
• Copilota dipendente interno, barra laterale CRM, assistente biglietteria, copilota approvvigionamento, assistente risorse umane e assistente sinistri.
• Slack, Teams, e-mail, estensioni del browser, widget incorporati, API e messaggi di escalation da agente a persona.
• Report, PDF, immagini, audio, video, avvisi ai clienti, bozze della knowledge base e commenti pubblici generati dall'intelligenza artificiale.
• Agenti di processo che richiedono l'approvazione, attivano chiamate a strumenti, instradano casi o preparano comunicazioni in uscita.

Classificare il trigger Articolo 50 prima di scegliere la copia¶

Non scrivere un'informativa generica e definire il problema risolto. Il giusto controllo dipende dal grilletto. Un avviso di interazione diretta, una revisione del testo di interesse pubblico, la divulgazione di deepfake e una strategia di provenienza leggibile dalla macchina non sono la stessa cosa.

Una valutazione pratica dovrebbe essere sufficientemente breve da poter essere utilizzata dai team di prodotto durante la revisione del rilascio, ma sufficientemente strutturata da consentire agli aspetti legali, di rischio e di controllo di comprendere perché un processo rientrava o era fuori dall'ambito.

Separare gli obblighi del fornitore da quelli dell'operatore¶

Non dare per scontato che ogni articolo 50 sia posseduto dalla stessa squadra. Una società di software che offre una piattaforma di chatbot può essere il fornitore della funzionalità di divulgazione. Un'azienda che utilizza quel chatbot nel suo percorso del cliente può essere l'utente responsabile di dove appare la divulgazione, di come il processo pubblica i contenuti e di quali prove vengono conservate.

Per i sistemi ad agenti, la divisione può essere ancora meno evidente. Un fornitore di modelli, un fornitore di orchestrazione, un fornitore di strumenti, un distributore aziendale e un editore downstream possono ciascuno controllare diverse parti dell'esperienza dell'utente finale.

• Assegna la proprietà per l'avviso di prima interazione, il testo, il posizionamento dell'interfaccia utente, la localizzazione e il test di accessibilità.
• Assegna la proprietà per la provenienza del contenuto generato, la marcatura leggibile dalla macchina, il comportamento di esportazione e la revisione della pubblicazione.
• Assegna la proprietà per la divulgazione di deepfake, controlli di testo di interesse pubblico, avvisi biometrici/emotivi e approvazione delle eccezioni.
• Conserva un RACI, i termini del fornitore, il record dell'architettura, il proprietario della divulgazione, il proprietario dell'approvazione e il proprietario del controllo.

Metti l'avviso AI nel punto di interazione¶

L'articolo 50 non dice di seppellire l'informativa nei termini del servizio. La persona deve essere informata in modo chiaro e distinguibile, al più tardi al momento della prima interazione o esposizione.

Per i chatbot l'informativa dovrebbe apparire prima o durante il primo scambio. Per i copiloti, dovrebbe apparire nel punto in cui l'utente richiama la funzione AI. Per gli agenti, dovrebbe essere visualizzato ovunque una persona sia esposta all'azione dell'agente: chat, e-mail, Slack, Teams, notifica del portale, casella di posta di approvazione, report generato o messaggio in uscita del cliente.

Rendere la divulgazione sufficientemente persistente per il Processo¶

Una divulgazione alla prima interazione potrebbe essere sufficiente per alcune semplici sessioni di chatbot. Di solito non è sufficiente per copiloti e agenti complessi.

Per i processi ad impatto maggiore, mantieni visibile un indicatore AI durante l'uso. Non è necessario che sia invadente, ma dovrebbe evitare confusione sul fatto che la persona abbia a che fare con un essere umano, un flusso di lavoro deterministico o un sistema di intelligenza artificiale. Per gli agenti, rivelare anche le transizioni di stato: in bozza, in raccomandazione, in attesa di approvazione, in esecuzione, completato o bloccato.

• Utilizza la divulgazione persistente quando l'IA elabora comunicazioni esterne, consiglia azioni, richiede strumenti, inoltra casi o indirizza decisioni.
• Utilizzare la divulgazione persistente quando un essere umano potrebbe attribuire erroneamente l'output a un altro essere umano.
• Utilizzare un'informativa più forte quando i Processi influiscono su diritti, ammissibilità, prezzi, accesso, salute, occupazione, richieste di risarcimento, credito o servizi pubblici.
• Conserva prove degli stati dell'interfaccia utente, delle etichette di stato, degli stati di approvazione, della telemetria dell'interazione e delle note sui test degli utenti.

Etichetta i contenuti generati dall'intelligenza artificiale prima che lascino i sistemi controllati¶

L'articolo 50 impone ai fornitori di sistemi di intelligenza artificiale che generano audio, immagini, video o testo sintetici di garantire che gli output siano contrassegnati in un formato leggibile dalla macchina e rilevabili come generati o manipolati artificialmente, per quanto tecnicamente fattibile.

Non esagerare. La marcatura leggibile dalla macchina per immagini, video e file strutturati può essere più semplice della marcatura efficace di testo in formato libero dopo copia-incolla, modifica, screenshot o conversione del formato. Un'implementazione pratica di solito combina metadati, record di provenienza, hash di contenuto, registri di output, controlli del processo di pubblicazione e marcatura rilevabile ove tecnicamente fattibile.

Gestire deliberatamente le eccezioni e i media speciali¶

L'articolo 50 include un'eccezione per i sistemi di intelligenza artificiale che svolgono una funzione assistiva per la modifica standard o non alterano sostanzialmente i dati di input forniti dall'operatore o la semantica di tali dati. Gestisci attentamente questa eccezione.

Le modifiche standard a basso rischio possono includere correzioni ortografiche, suggerimenti grammaticali, formattazione, ridimensionamento, compressione o altre trasformazioni limitate che non modificano sostanzialmente il significato. Molte funzionalità del copilota vanno oltre: riepilogo, riscrittura, trasformazione del tono, generazione di raccomandazioni, classificazione automatizzata, punteggio di rischio, messaggistica sintetica per i clienti e redazione di agenti possono modificare il significato, l'enfasi, il contesto o le decisioni a valle.

Rendere le informazioni accessibili e localizzate¶

L'avviso AI non dovrebbe esistere solo come piccolo testo grigio, un suggerimento al passaggio del mouse o un'immagine senza il supporto dello screen reader. L'articolo 50 richiede che le informazioni siano conformi ai requisiti di accessibilità applicabili.

Per gli agenti vocali, la divulgazione deve essere pronunciata abbastanza presto da consentire alla persona di capire che sta interagendo con l'intelligenza artificiale prima di fornire informazioni sensibili o fare affidamento sul sistema. Per quanto riguarda gli strumenti interni, non dare per scontato che i dipendenti abbiano bisogno di meno chiarezza. Anche i dipendenti sono persone fisiche e i copiloti interni possono creare dipendenza, pregiudizi nell’automazione, esposizione alla privacy e lacune di responsabilità.

• Controlla la compatibilità dello screen reader, la navigazione tramite tastiera, il contrasto, il layout mobile, la trasparenza dell'interfaccia vocale e la leggibilità.
• Prepara avvisi tradotti per le lingue supportate e testa i tempi di divulgazione in processi rapidi.
• Rendi accessibili le etichette dei contenuti generati nei PDF esportati, nei documenti, nelle e-mail e nelle visualizzazioni incorporate.
• Conserva i risultati dei test di accessibilità, la revisione della localizzazione, le trascrizioni vocali, le prove dello screen reader e l'approvazione del progetto.

Cattura la prova che la divulgazione è stata effettivamente mostrata¶

Una politica che dice "divulghiamo l'uso dell'intelligenza artificiale" non è la prova che sia apparsa una divulgazione. Cattura un evento leggero quando viene presentata la divulgazione di un articolo 50, riconosciuta ove appropriato o allegata al contenuto generato.

È qui che l'articolo 50 si collega alla governance del runtime. Il controllo dovrebbe attivarsi quando il sistema è in funzione, non solo quando qualcuno compila un foglio di calcolo durante l'approvvigionamento. KLA è costruito attorno a questo modello operativo: controlli delle policy di runtime, instradamento dell'approvazione umana e registri delle prove pronti per l'audit tra agenti AI e sistemi critici.

Aggiungi cancelli di approvazione per percorsi ad alto impatto¶

Non tutti gli eventi dell'articolo 50 necessitano dell'approvazione umana. Alcuni processi non dovrebbero procedere senza revisione. L'approvazione dovrebbe includere il contenuto, l'output del sistema, lo stato di divulgazione, la politica applicabile, l'identità del revisore e la decisione finale.

Utilizzare i canali di approvazione laddove sarebbe difficile risolvere la mancata trasparenza dopo la pubblicazione, l'invio, l'esecuzione o l'esposizione del cliente.

• Richiedi l'approvazione prima di pubblicare testo di interesse pubblico generato dall'intelligenza artificiale.
• Richiedi l'approvazione prima di inviare messaggi legali, finanziari, sanitari, assicurativi, lavorativi o normativi generati dall'intelligenza artificiale.
• Richiedi l'approvazione prima di pubblicare immagini, audio o video sintetici che potrebbero essere scambiati per contenuti autentici.
• Richiedere l'approvazione prima di rimuovere o indebolire la divulgazione di un'intelligenza artificiale, modificare la classificazione dell'articolo 50, ignorare la revisione del contenuto generato o modificare il comportamento di contrassegno.
• Richiedi l'approvazione prima di trasformare un chatbot in un agente che utilizza strumenti o di lanciarlo in un nuovo paese, lingua o dominio regolamentato.

L'articolo di prova 50 controlla le caratteristiche del prodotto¶

I controlli dell'articolo 50 possono rompersi come qualsiasi altro elemento di produzione. Mettili alla prova su sessioni nuove e ricorrenti, utenti anonimi e registrati, dispositivi mobili e desktop, widget incorporati, risposte API, bot Slack o Teams, processi di posta elettronica, flussi di lavoro vocali, esportazioni, PDF, flussi di copia-incolla, localizzazione, modalità di accessibilità, trasferimento umano, escalation degli agenti, pubblicazione pubblica e flussi di lavoro di eliminazione o redazione.

Il test di accettazione dovrebbe dimostrare ciò che l'utente ha visto e ciò che il sistema ha registrato, non semplicemente che un componente esiste da qualche parte nella base di codice.

• L'avviso dell'IA appare prima o alla prima interazione e non è nascosto dietro un elemento compresso.
• L'avviso sopravvive alle riprogettazioni, ai test A/B, alle distribuzioni integrate e a tutte le lingue supportate.
• Le etichette del contenuto generato vengono visualizzate prima della pubblicazione e i metadati leggibili dalla macchina sono presenti dove previsto.
• Lo stato di revisione umana viene registrato e l'esportazione delle prove ricostruisce ciò che è accaduto.
• Le eccezioni richiedono l'approvazione e una divulgazione non riuscita blocca l'avvio o i percorsi da rivedere.

Monitorare la deriva della trasparenza dopo il lancio¶

La conformità all'articolo 50 può variare man mano che i sistemi si evolvono. Il chatbot acquisisce strumenti ma l'informativa descrive ancora un semplice assistente. Il copilota inizia a redigere comunicazioni esterne senza etichette di contenuto. L'agente passa dalla raccomandazione all'esecuzione. Viene lanciato un nuovo canale senza l'avviso dell'IA. Un'esportazione del contenuto generato rimuove i metadati.

Imposta controlli ricorrenti. L'articolo 50 dovrebbe far parte della revisione del rilascio, della revisione della modifica del modello, dell'espansione del processo, della revisione della modifica del fornitore e della risposta agli incidenti.

Utilizza un modello di implementazione a cinque livelli¶

Una forte implementazione dell'articolo 50 non è un banner. Si tratta di una serie di controlli che iniziano con la politica e finiscono con l’evidenza. Il cambiamento fondamentale sta passando da “abbiamo una politica di trasparenza dell’IA” a “possiamo dimostrare il corretto controllo attivato durante l’effettivo flusso di lavoro dell’IA”.

Fai queste domande prima della prossima versione¶

Utilizza queste domande di preparazione prima di spedire un chatbot, un copilota o un agente. Se la risposta a una qualsiasi di queste domande non è chiara, il sistema non è pronto per la revisione della produzione.

• Una persona fisica interagisce direttamente con il sistema di intelligenza artificiale e ciò viene comunicato chiaramente prima o alla prima interazione?
• La divulgazione rimane visibile, comprensibile, accessibile e accurata se il sistema richiama strumenti o intraprende azioni?
• Il sistema genera testo sintetico, immagini, audio o video e gli output sono contrassegnati in modo leggibile dalla macchina laddove tecnicamente fattibile?
• Il contenuto generato può essere esportato, copiato, pubblicato, inviato via email o allegato al record di un cliente?
• Il processo crea contenuti simili a deepfake, pubblica testi di interesse pubblico o prevede il riconoscimento delle emozioni o la categorizzazione biometrica?
• Esiste una revisione umana e una responsabilità editoriale laddove il team fa affidamento su tale eccezione?
• Gli eventi di divulgazione vengono registrati, le prove possono essere ricostruite in seguito e chi detiene il controllo dopo il lancio?
• Cosa succede se la divulgazione fallisce?