Glosario de cumplimiento normativo de IA
Definiciones de términos clave sobre gobernanza de la IA, cumplimiento del EU AI Act y marcos regulatorios, para equipos de cumplimiento normativo y profesionales.
Cumplimiento
Procesos de cumplimiento y requisitos de documentación
Ficha del modelo
Un documento estandarizado que describe el uso previsto de un modelo de IA, su rendimiento, limitaciones y consideraciones éticas.
Ficha del sistema
Documentación que describe un sistema de IA completo, incluyendo arquitectura, componentes, flujos de datos y contexto operativo.
Paquete de evidencias
Un conjunto estructurado de documentación, logs y artefactos que demuestra la conformidad de un sistema de IA ante auditores.
Vigilancia posterior a la comercialización
La supervisión continua del rendimiento y cumplimiento de un sistema de IA tras el despliegue para identificar y abordar problemas.
EU AI Act
Términos y conceptos clave del Reglamento de IA de la UE (EU AI Act)
Alfabetización en materia de IA
La alfabetización en materia de IA son las capacidades, los conocimientos y la comprensión que las personas necesitan para desplegar sistemas de IA con conocimiento de causa y ser conscientes de sus oportunidades, riesgos y posibles perjuicios.
Anexo III
El anexo del EU AI Act que enumera categorías de sistemas de IA de alto riesgo sujetos a requisitos estrictos de cumplimiento.
Anexo IV
El anexo del EU AI Act que especifica los requisitos de documentación técnica para los sistemas de IA de alto riesgo.
Entidad usuaria
Una organización que utiliza un sistema de IA bajo su autoridad, excepto para uso personal no profesional.
Evaluación de la conformidad
El proceso de evaluar si un sistema de IA cumple todos los requisitos aplicables del EU AI Act antes de su puesta en el mercado.
FRIA
Fundamental Rights Impact Assessment: una evaluación de cómo un sistema de IA puede afectar los derechos fundamentales.
Marcado CE
Una marca de certificación que indica que un sistema de IA cumple los requisitos de la UE en materia de salud, seguridad y protección medioambiental.
Organismo notificado
Una organización designada por un Estado miembro de la UE para evaluar la conformidad de ciertos sistemas de IA de alto riesgo.
Proveedor
Una entidad que desarrolla (o encarga el desarrollo de) un sistema de IA y lo pone en el mercado o lo pone en servicio.
Sistema de IA de alto riesgo
Un sistema de IA sujeto a requisitos estrictos bajo el EU AI Act por su posible impacto en salud, seguridad o derechos fundamentales.
Gobernanza de la IA
Conceptos y marcos esenciales de gobernanza de la IA
Autorización de agentes
La autorización de agentes es la comprobación, realizada cada vez que un agente de IA propone una acción, que decide si el agente puede realizar esa acción con esos argumentos en nombre de su mandante.
Capa de gobernanza en tiempo de ejecución
Una capa de gobernanza en tiempo de ejecución se sitúa entre un agente de IA y los sistemas sobre los que actúa y evalúa cada acción propuesta antes de ejecutarla.
Ejecución vinculada a políticas
La ejecución vinculada a políticas evalúa cada acción propuesta por un agente frente a una política publicada y versionada antes de que la acción se ejecute.
Gobernanza de la IA
El marco de políticas, procesos y controles que garantiza que los sistemas de IA operen de forma segura, ética y conforme a la normativa.
Mandato del agente
Un mandato de agente es una definición explícita y legible por máquinas de la autoridad que un mandante delega en un agente de IA.
Motor de resolución
Un motor de resolución evalúa cada acción propuesta por un agente frente a los controles de una institución y devuelve un resultado vinculante antes de que la acción se ejecute.
Registro de agentes de IA
Un registro de agentes de IA es el inventario de agentes de IA de una organización, que recoge para cada uno su propietario, finalidad, versión, permisos y estado.
Sobre de gobernanza
Un sobre de gobernanza reúne una acción propuesta por un agente con todo el contexto necesario para evaluarla antes de su ejecución.
Supervisión humana
La supervisión humana es la capacidad de personas designadas y competentes de vigilar un sistema de IA mientras está en uso, interpretar sus resultados de salida, descartarlos o revertirlos, y detener el sistema.
Trazabilidad con alteraciones detectables
La trazabilidad con alteraciones detectables es un registro de solo anexado de las acciones de un agente y de las decisiones de gobernanza aplicadas a ellas cuya integridad puede verificarse de forma independiente.
Técnico
Conceptos técnicos para la supervisión y el control de sistemas de IA
Detección de deriva
La monitorización continua del rendimiento de un sistema de IA para identificar degradación o desviaciones respecto al comportamiento esperado.
Detección de sesgos
El proceso de identificar y medir patrones injustos o discriminatorios en las salidas de un sistema de IA o en los datos de entrenamiento.
Explicabilidad
La explicabilidad es el grado en que las personas pueden entender cómo un sistema de IA llegó a un resultado o una decisión y explicarlo a otros.
Interruptor de parada del agente
Un interruptor de parada del agente es un control que detiene las ejecuciones activas de un agente de IA, rechaza sus siguientes acciones y revoca su acceso con una sola orden.
Procedencia de los datos
La procedencia de los datos es el registro de dónde vino un dato, qué lo produjo y cómo cambió antes de usarse.
Rastro de auditoría
Un registro cronológico de actividades, decisiones e interacciones humanas de un sistema de IA que habilita trazabilidad y rendición de cuentas.
Reproducción determinista
La reproducción determinista consiste en volver a ejecutar una decisión registrada de un agente de IA con las mismas entradas, la misma versión de la política y la misma configuración para confirmar que produce el mismo resultado.
Salvaguardas
Mecanismos técnicos y procedimentales que mantienen el comportamiento de la IA dentro de límites aceptables y evitan salidas dañinas o no conformes.
¿Listo para implementar la gobernanza de la IA?
Vea cómo KLA ayuda a las organizaciones reguladas a poner en práctica estos conceptos con puntos de control de políticas, registros de auditoría y exportaciones de evidencia.