Glosario de cumplimiento normativo de IA
Definiciones de términos clave sobre gobernanza de la IA, cumplimiento del EU AI Act y marcos regulatorios, para equipos de cumplimiento normativo y profesionales.
Cumplimiento
Procesos de cumplimiento y requisitos de documentación
Ficha del modelo
Un documento estandarizado que describe el uso previsto de un modelo de IA, su rendimiento, limitaciones y consideraciones éticas.
Ficha del sistema
Documentación que describe un sistema de IA completo, incluyendo arquitectura, componentes, flujos de datos y contexto operativo.
Paquete de evidencias
Un conjunto estructurado de documentación, logs y artefactos que demuestra la conformidad de un sistema de IA ante auditores.
Vigilancia posterior a la comercialización
La supervisión continua del rendimiento y cumplimiento de un sistema de IA tras el despliegue para identificar y abordar problemas.
EU AI Act
Términos y conceptos clave del Reglamento de IA de la UE (EU AI Act)
Anexo III
El anexo del EU AI Act que enumera categorías de sistemas de IA de alto riesgo sujetos a requisitos estrictos de cumplimiento.
Anexo IV
El anexo del EU AI Act que especifica los requisitos de documentación técnica para los sistemas de IA de alto riesgo.
Entidad usuaria
Una organización que utiliza un sistema de IA bajo su autoridad, excepto para uso personal no profesional.
Evaluación de la conformidad
El proceso de evaluar si un sistema de IA cumple todos los requisitos aplicables del EU AI Act antes de su puesta en el mercado.
FRIA
Fundamental Rights Impact Assessment: una evaluación de cómo un sistema de IA puede afectar los derechos fundamentales.
Marcado CE
Una marca de certificación que indica que un sistema de IA cumple los requisitos de la UE en materia de salud, seguridad y protección medioambiental.
Organismo notificado
Una organización designada por un Estado miembro de la UE para evaluar la conformidad de ciertos sistemas de IA de alto riesgo.
Proveedor
Una entidad que desarrolla (o encarga el desarrollo de) un sistema de IA y lo pone en el mercado o lo pone en servicio.
Sistema de IA de alto riesgo
Un sistema de IA sujeto a requisitos estrictos bajo el EU AI Act por su posible impacto en salud, seguridad o derechos fundamentales.
Gobernanza de la IA
Conceptos y marcos esenciales de gobernanza de la IA
Gobernanza de la IA
El marco de políticas, procesos y controles que garantiza que los sistemas de IA operen de forma segura, ética y conforme a la normativa.
Supervisión humana
Mecanismos que garantizan que las personas puedan monitorizar, intervenir y anular la operación de un sistema de IA cuando sea necesario.
Técnico
Conceptos técnicos para la supervisión y el control de sistemas de IA
Detección de deriva
La monitorización continua del rendimiento de un sistema de IA para identificar degradación o desviaciones respecto al comportamiento esperado.
Detección de sesgos
El proceso de identificar y medir patrones injustos o discriminatorios en las salidas de un sistema de IA o en los datos de entrenamiento.
Explicabilidad
La capacidad de entender y comunicar cómo un sistema de IA llega a sus salidas o decisiones.
Rastro de auditoría
Un registro cronológico de actividades, decisiones e interacciones humanas de un sistema de IA que habilita trazabilidad y rendición de cuentas.
Salvaguardas
Mecanismos técnicos y procedimentales que mantienen el comportamiento de la IA dentro de límites aceptables y evitan salidas dañinas o no conformes.
¿Listo para implementar la gobernanza de la IA?
Vea cómo KLA Digital ayuda a las organizaciones reguladas a poner en práctica estos conceptos con puntos de control de políticas, registros de auditoría y exportaciones de evidencia.