Vigilancia posterior a la comercialización
La supervisión continua del rendimiento y cumplimiento de un sistema de IA tras el despliegue para identificar y abordar problemas.
Definición
La vigilancia posterior a la comercialización es el proceso sistemático y continuo de recopilar, analizar y actuar sobre datos del rendimiento, comportamiento e impactos de un sistema de IA después de su despliegue en producción. Esta vigilancia permite detectar degradación, identificar riesgos emergentes, responder a incidentes y mantener el cumplimiento durante todo el ciclo de vida operativo.
El artículo 72 del EU AI Act exige a proveedores de sistemas de alto riesgo establecer un sistema de vigilancia proporcional a la tecnología y riesgos. No es observación opcional: es una obligación de cumplimiento con requisitos de documentación y acción. El reglamento reconoce que los sistemas se comportan distinto en producción que en pruebas controladas: cambian distribuciones, evolucionan usuarios y aparecen casos límite. La vigilancia proporciona el bucle de retroalimentación para detectar cambios y actuar antes de que generen daño o incumplimiento. Además, se conecta con la notificación de incidentes graves del artículo 73: cuando la vigilancia revela incidentes o fallos que constituyen una vulneración de obligaciones o riesgos graves para salud, seguridad o derechos fundamentales, los proveedores deben notificar a autoridades competentes en plazos definidos. Una vigilancia eficaz es la base para detección y reporte.
Los proveedores deben documentar su enfoque en un plan formal: qué datos se recopilan, cómo se analizan, qué umbrales activan acciones y quién revisa y responde. Este plan forma parte de la documentación del Anexo IV y debe actualizarse. Dimensiones clave: métricas de rendimiento, detección de deriva, monitorización de sesgos, seguimiento de incidentes y monitorización de uso (uso real frente a uso previsto).
Establezca procedimientos claros de escalado desde hallazgos a remediación. Una degradación menor puede activar reentrenamiento; sesgos o problemas de seguridad significativos pueden requerir suspender el sistema. La evidencia de vigilancia (datos, análisis y acciones) debe conservarse y estar disponible para autoridades.
Términos relacionados
Detección de deriva
La monitorización continua del rendimiento de un sistema de IA para identificar degradación o desviaciones respecto al comportamiento esperado.
Rastro de auditoría
Un registro cronológico de actividades, decisiones e interacciones humanas de un sistema de IA que habilita trazabilidad y rendición de cuentas.
Sistema de IA de alto riesgo
Un sistema de IA sujeto a requisitos estrictos bajo el EU AI Act por su posible impacto en salud, seguridad o derechos fundamentales.