Glossario della compliance AI
Definizioni dei termini chiave per la governance dell'IA, la conformità all'EU AI Act e i quadri normativi, per compliance officer e professionisti.
Conformità
Processi di conformità e requisiti di documentazione
Monitoraggio post-commercializzazione
La sorveglianza continua di performance e conformità di un sistema di IA dopo il deployment per identificare e risolvere problemi.
Pacchetto di evidenze
Un bundle strutturato di documentazione, log e artefatti che dimostra la conformità di un sistema di IA per gli auditor.
Scheda di sistema
Documentazione che descrive un sistema di IA completo, incluse architettura, componenti, flussi di dati e contesto operativo.
Scheda modello
Un documento standardizzato che descrive l'uso previsto di un modello di IA, performance, limiti e considerazioni etiche.
EU AI Act
Termini e concetti chiave dell'EU AI Act
Allegato III
L'allegato dell'EU AI Act che elenca le categorie di sistemi di IA ad alto rischio soggetti a requisiti stringenti di conformità.
Allegato IV
L'allegato dell'EU AI Act che specifica i requisiti di documentazione tecnica per i sistemi di IA ad alto rischio.
Fornitore
Un'entità che sviluppa (o fa sviluppare) un sistema di IA e lo immette sul mercato o lo mette in servizio.
FRIA
Fundamental Rights Impact Assessment: una valutazione di come un sistema di IA possa incidere sui diritti fondamentali.
Marcatura CE
Un marchio di certificazione che indica che un sistema di IA è conforme ai requisiti UE in materia di salute, sicurezza e tutela ambientale.
Organismo notificato
Un'organizzazione designata da uno Stato membro UE per valutare la conformità di alcuni sistemi di IA ad alto rischio.
Sistema di IA ad alto rischio
Un sistema di IA soggetto a requisiti stringenti nell'EU AI Act per il suo potenziale impatto su salute, sicurezza o diritti fondamentali.
Utilizzatore
Un'organizzazione che usa un sistema di IA sotto la propria autorità, salvo uso personale non professionale.
Valutazione di conformità
Il processo di verifica che un sistema di IA soddisfi tutti i requisiti applicabili dell'EU AI Act prima dell'immissione sul mercato.
Governance dell'IA
Concetti e framework fondamentali per la governance dell'IA
Governance dell'IA
Il quadro di politiche, processi e controlli che garantisce che i sistemi di IA operino in modo sicuro, etico e conforme alle normative.
Supervisione umana
Meccanismi che garantiscono che le persone possano monitorare, intervenire e sovrascrivere l'operatività di un sistema di IA quando necessario.
Tecnico
Concetti tecnici per il monitoraggio e il controllo dei sistemi di IA
Barriere di sicurezza
Meccanismi tecnici e procedurali che vincolano il comportamento dell'IA entro limiti accettabili e prevengono output dannosi o non conformi.
Rilevamento dei bias
Il processo di identificare e misurare pattern ingiusti o discriminatori negli output di un sistema di IA o nei dati di training.
Rilevamento della deriva
Il monitoraggio delle performance di un sistema di IA nel tempo per individuare degradazioni o deviazioni dal comportamento atteso.
Spiegabilità
La capacità di comprendere e comunicare come un sistema di IA arrivi ai suoi output o decisioni.
Traccia di audit
Un record cronologico delle attività, decisioni e interazioni umane di un sistema di IA che abilita tracciabilità e responsabilità.
Pronti a implementare la governance AI?
Scoprite come KLA aiuta le organizzazioni regolamentate a rendere operativi questi concetti con checkpoint delle policy, tracce di audit ed esportazioni delle prove.