Detección de deriva
La monitorización continua del rendimiento de un sistema de IA para identificar degradación o desviaciones respecto al comportamiento esperado.
Definición
La detección de deriva es la práctica de monitorizar continuamente sistemas de IA en producción para identificar cuándo su comportamiento se desvía de baselines esperadas. Los sistemas pueden degradarse con el tiempo cuando los datos reales divergen de los datos de entrenamiento, cambian los comportamientos de usuario o se desplazan las relaciones subyacentes que el modelo captura. Sin detección de deriva, las organizaciones pueden no darse cuenta de que los sistemas están produciendo salidas poco fiables o sesgadas hasta que ocurre un daño significativo.
El artículo 72 del EU AI Act exige a proveedores de sistemas de alto riesgo establecer sistemas de vigilancia posterior a la comercialización que recopilen, documenten y analicen activamente datos de rendimiento durante toda la vida útil. La detección de deriva es una capacidad técnica central para cumplirlo. No se puede monitorizar si un sistema sigue funcionando como se espera sin mecanismos para detectar cuándo deja de hacerlo. El reglamento reconoce que los sistemas de IA no son estáticos: a diferencia del software tradicional, pueden mostrar cambios emergentes cuando cambian los patrones de datos en producción. La evaluación de conformidad en el momento de comercialización no garantiza cumplimiento continuo; se requiere monitorización durante todo el ciclo de vida.
Una detección de deriva eficaz aborda varias desviaciones: deriva de datos (cambios en la distribución de entradas), deriva de concepto (cambios en la relación entre entradas y salidas correctas), deriva de rendimiento del modelo (degradación de métricas como accuracy, precisión o recall) y deriva de predicciones (cambios en la distribución de salidas, incluso si la precisión permanece estable).
La detección de deriva requiere establecer baselines en validación, implementar monitorización estadística en producción (por ejemplo population stability index, pruebas de Kolmogorov-Smirnov o medidas de divergencia), definir umbrales de alerta y procedimientos de respuesta cuando se detecta deriva.
Términos relacionados
Detección de sesgos
El proceso de identificar y medir patrones injustos o discriminatorios en las salidas de un sistema de IA o en los datos de entrenamiento.
Vigilancia posterior a la comercialización
La supervisión continua del rendimiento y cumplimiento de un sistema de IA tras el despliegue para identificar y abordar problemas.
Salvaguardas
Mecanismos técnicos y procedimentales que mantienen el comportamiento de la IA dentro de límites aceptables y evitan salidas dañinas o no conformes.