Glosario de cumplimiento normativo de IA
Definiciones de términos clave sobre gobernanza de la IA, cumplimiento del EU AI Act y marcos regulatorios, para equipos de cumplimiento normativo y profesionales.
Cumplimiento
Procesos de cumplimiento y requisitos de documentación
Ficha del modelo
Un documento estandarizado que describe el uso previsto de un modelo de IA, su rendimiento, limitaciones y consideraciones éticas.
Ficha del sistema
Documentación que describe un sistema de IA completo, incluyendo arquitectura, componentes, flujos de datos y contexto operativo.
Paquete de evidencias
Un conjunto estructurado de documentación, logs y artefactos que demuestra la conformidad de un sistema de IA ante auditores.
Vigilancia posterior a la comercialización
La supervisión continua del rendimiento y cumplimiento de un sistema de IA tras el despliegue para identificar y abordar problemas.
EU AI Act
Términos y conceptos clave del Reglamento de IA de la UE (EU AI Act)
Anexo III
El anexo del EU AI Act que enumera categorías de sistemas de IA de alto riesgo sujetos a requisitos estrictos de cumplimiento.
Anexo IV
El anexo del EU AI Act que especifica los requisitos de documentación técnica para los sistemas de IA de alto riesgo.
Entidad usuaria
Una organización que utiliza un sistema de IA bajo su autoridad, excepto para uso personal no profesional.
Evaluación de la conformidad
El proceso de evaluar si un sistema de IA cumple todos los requisitos aplicables del EU AI Act antes de su puesta en el mercado.
FRIA
Fundamental Rights Impact Assessment: una evaluación de cómo un sistema de IA puede afectar los derechos fundamentales.
Marcado CE
Una marca de certificación que indica que un sistema de IA cumple los requisitos de la UE en materia de salud, seguridad y protección medioambiental.
Organismo notificado
Una organización designada por un Estado miembro de la UE para evaluar la conformidad de ciertos sistemas de IA de alto riesgo.
Proveedor
Una entidad que desarrolla (o encarga el desarrollo de) un sistema de IA y lo pone en el mercado o lo pone en servicio.
Sistema de IA de alto riesgo
Un sistema de IA sujeto a requisitos estrictos bajo el EU AI Act por su posible impacto en salud, seguridad o derechos fundamentales.
Gobernanza de la IA
Conceptos y marcos esenciales de gobernanza de la IA
Capa de gobernanza en tiempo de ejecución
Una capa de gobernanza en tiempo de ejecución se sitúa entre un agente de IA y los sistemas sobre los que actúa y evalúa cada acción propuesta antes de ejecutarla.
Ejecución vinculada a políticas
La ejecución vinculada a políticas evalúa cada acción propuesta por un agente frente a una política publicada y versionada antes de que la acción se ejecute.
Gobernanza de la IA
El marco de políticas, procesos y controles que garantiza que los sistemas de IA operen de forma segura, ética y conforme a la normativa.
Mandato del agente
Un mandato de agente es una definición explícita y legible por máquinas de la autoridad que un mandante delega en un agente de IA.
Motor de resolución
Un motor de resolución evalúa cada acción propuesta por un agente frente a los controles de una institución y devuelve un resultado vinculante antes de que la acción se ejecute.
Sobre de gobernanza
Un sobre de gobernanza reúne una acción propuesta por un agente con todo el contexto necesario para evaluarla antes de su ejecución.
Supervisión humana
Mecanismos que garantizan que las personas puedan monitorizar, intervenir y anular la operación de un sistema de IA cuando sea necesario.
Trazabilidad con alteraciones detectables
La trazabilidad con alteraciones detectables es un registro de solo anexado de las acciones de un agente y de las decisiones de gobernanza aplicadas a ellas cuya integridad puede verificarse de forma independiente.
Técnico
Conceptos técnicos para la supervisión y el control de sistemas de IA
Detección de deriva
La monitorización continua del rendimiento de un sistema de IA para identificar degradación o desviaciones respecto al comportamiento esperado.
Detección de sesgos
El proceso de identificar y medir patrones injustos o discriminatorios en las salidas de un sistema de IA o en los datos de entrenamiento.
Explicabilidad
La capacidad de entender y comunicar cómo un sistema de IA llega a sus salidas o decisiones.
Rastro de auditoría
Un registro cronológico de actividades, decisiones e interacciones humanas de un sistema de IA que habilita trazabilidad y rendición de cuentas.
Salvaguardas
Mecanismos técnicos y procedimentales que mantienen el comportamiento de la IA dentro de límites aceptables y evitan salidas dañinas o no conformes.
¿Listo para implementar la gobernanza de la IA?
Vea cómo KLA ayuda a las organizaciones reguladas a poner en práctica estos conceptos con puntos de control de políticas, registros de auditoría y exportaciones de evidencia.