Glossario della compliance AI
Definizioni dei termini chiave per la governance dell'IA, la conformità all'EU AI Act e i quadri normativi, per compliance officer e professionisti.
Conformità
Processi di conformità e requisiti di documentazione
Monitoraggio post-commercializzazione
La sorveglianza continua di performance e conformità di un sistema di IA dopo il deployment per identificare e risolvere problemi.
Pacchetto di evidenze
Un bundle strutturato di documentazione, log e artefatti che dimostra la conformità di un sistema di IA per gli auditor.
Scheda di sistema
Documentazione che descrive un sistema di IA completo, incluse architettura, componenti, flussi di dati e contesto operativo.
Scheda modello
Un documento standardizzato che descrive l'uso previsto di un modello di IA, performance, limiti e considerazioni etiche.
EU AI Act
Termini e concetti chiave dell'EU AI Act
Alfabetizzazione in materia di IA
L’alfabetizzazione in materia di IA è l’insieme di competenze, conoscenze e comprensione di cui le persone hanno bisogno per utilizzare i sistemi di IA in modo informato ed essere consapevoli delle loro opportunità, dei rischi e dei possibili danni.
Allegato III
L'allegato dell'EU AI Act che elenca le categorie di sistemi di IA ad alto rischio soggetti a requisiti stringenti di conformità.
Allegato IV
L'allegato dell'EU AI Act che specifica i requisiti di documentazione tecnica per i sistemi di IA ad alto rischio.
Fornitore
Un'entità che sviluppa (o fa sviluppare) un sistema di IA e lo immette sul mercato o lo mette in servizio.
FRIA
Fundamental Rights Impact Assessment: una valutazione di come un sistema di IA possa incidere sui diritti fondamentali.
Marcatura CE
Un marchio di certificazione che indica che un sistema di IA è conforme ai requisiti UE in materia di salute, sicurezza e tutela ambientale.
Organismo notificato
Un'organizzazione designata da uno Stato membro UE per valutare la conformità di alcuni sistemi di IA ad alto rischio.
Sistema di IA ad alto rischio
Un sistema di IA soggetto a requisiti stringenti nell'EU AI Act per il suo potenziale impatto su salute, sicurezza o diritti fondamentali.
Utilizzatore
Un'organizzazione che usa un sistema di IA sotto la propria autorità, salvo uso personale non professionale.
Valutazione di conformità
Il processo di verifica che un sistema di IA soddisfi tutti i requisiti applicabili dell'EU AI Act prima dell'immissione sul mercato.
Governance dell'IA
Concetti e framework fondamentali per la governance dell'IA
Autorizzazione degli agenti
L’autorizzazione degli agenti è il controllo, eseguito ogni volta che un agente AI propone un’azione, che decide se l’agente può compiere quell’azione con quegli argomenti per conto del suo mandante.
Busta di governance
Una busta di governance riunisce un'azione proposta dall'agente e tutto il contesto necessario per valutarla prima dell'esecuzione.
Esecuzione vincolata dalla policy
L'esecuzione vincolata dalla policy valuta ogni azione proposta dall'agente rispetto a una policy pubblicata e versionata prima di eseguirla.
Governance dell'IA
Il quadro di politiche, processi e controlli che garantisce che i sistemi di IA operino in modo sicuro, etico e conforme alle normative.
Lineage a prova di manomissione
Il lineage a prova di manomissione è un record append-only delle azioni di un agente e delle decisioni di governance applicate, la cui integrità può essere verificata in modo indipendente.
Livello di governance a runtime
Un livello di governance a runtime si trova tra un agente di IA e i sistemi su cui agisce e valuta ogni azione proposta prima dell'esecuzione.
Mandato dell'agente
Un mandato dell'agente è una definizione esplicita e leggibile dalla macchina dell'autorità che un mandante delega a un agente di IA.
Motore di disposizione
Un motore di disposizione valuta ogni azione proposta dall'agente rispetto ai controlli dell'istituzione e restituisce un esito vincolante prima dell'esecuzione.
Registro degli agenti AI
Un registro degli agenti AI è l’inventario degli agenti AI di un’organizzazione, che indica per ciascuno responsabile, finalità, versione, permessi e stato.
Sorveglianza umana
La sorveglianza umana è la capacità di persone designate e competenti di monitorare un sistema di IA durante l'uso, interpretarne l'output, ignorarlo o ribaltarlo, e arrestare il sistema.
Tecnico
Concetti tecnici per il monitoraggio e il controllo dei sistemi di IA
Barriere di sicurezza
Meccanismi tecnici e procedurali che vincolano il comportamento dell'IA entro limiti accettabili e prevengono output dannosi o non conformi.
Kill switch per agenti
Un kill switch per agenti è un controllo che, con un solo comando, ferma le esecuzioni attive di un agente AI, ne rifiuta le azioni successive e ne revoca gli accessi.
Provenienza dei dati
La provenienza dei dati è il record che indica da dove proviene un dato, che cosa lo ha prodotto e come è cambiato prima di essere usato.
Replay deterministico
Il replay deterministico consiste nel rieseguire una decisione registrata di un agente AI con gli stessi input, la stessa versione della policy e la stessa configurazione, per confermare che produca lo stesso esito.
Rilevamento dei bias
Il processo di identificare e misurare pattern ingiusti o discriminatori negli output di un sistema di IA o nei dati di training.
Rilevamento della deriva
Il monitoraggio delle performance di un sistema di IA nel tempo per individuare degradazioni o deviazioni dal comportamento atteso.
Spiegabilità
La spiegabilità è la misura in cui le persone possono capire come un sistema di IA è arrivato a un output o a una decisione e spiegarlo ad altri.
Traccia di audit
Un record cronologico delle attività, decisioni e interazioni umane di un sistema di IA che abilita tracciabilità e responsabilità.
Pronti a implementare la governance AI?
Scoprite come KLA aiuta le organizzazioni regolamentate a rendere operativi questi concetti con checkpoint delle policy, tracce di audit ed esportazioni delle prove.