Vista previa del libro de estrategias (extracto)
Part 2: Funciones y responsabilidades de supervisión
2.1 Definiciones de funciones de supervisión
| Rol | Nivel de autoridad | Formación requerida |
|---|---|---|
| Operador AI | Nivel 1: Decisiones estándar | Certificado inicial + actualización anual |
| Operador Senior | Nivel 2: Decisiones elevadas | Certificado avanzado + revisión trimestral |
| Supervisora de Supervisión | Nivel 3: Anular autoridad | Certificado de supervisión + calibración mensual |
Part 5: Procedimientos de anulación y reversión
Tipos de anulación de 5.1
| Tipo de anulación | Autoridad requerida | Nivel de documentación |
|---|---|---|
| Anulación previa a la ejecución | Autoridad de aprobación estándar | Estándar |
| Reversión posterior a la ejecución | Nivel 2+ | Mejorado con justificación |
| Anulación de emergencia | Cualquier operador capacitado | Protocolo de emergencia + retrospectiva |
Ver el ejemplo trabajado
Anular categorías de motivos:
| Categoría | Descripción | Prioridad de revisión |
|---|---|---|
| SEGURIDAD | Preocupación por la seguridad del usuario o de terceros | Revisión inmediata |
| ERROR | Error o mal funcionamiento obvio de la IA | Alta prioridad |
| CONTEXTO | A la IA le faltaba contexto relevante | Revisión estándar |
| POLÍTICA | Consideración de política que la IA no puede evaluar | Revisión estándar |
| SENTENCIA | El juicio humano difiere en el caso límite | Análisis de patrones |
Antes de comenzar
Para equipos de operaciones de cumplimiento, riesgo, productos y ML que ponen en funcionamiento procesos de agentes en entornos regulados.
EU AI Act Artículo 14 requiere que los sistemas AI de alto riesgo estén diseñados para una supervisión eficaz por parte de personas físicas. Este manual traduce los requisitos de Artículo 14 en procedimientos operativos.
Cubre 7 partes: requisitos de Artículo 14, funciones de supervisión, procesos de aprobación, gestión de colas, procedimientos de anulación, requisitos de capacitación y captura de evidencia.
Cuándo utilizar este recurso
- Está insertando puertas de aprobación en los procesos AI (acciones de alto riesgo, acceso a datos confidenciales, cambios de producción).
- Debe demostrar quién aprobó/anuló una decisión y qué contexto vio.
- Estás preparando una sección de supervisión humana para Anexo IV o una revisión de control interno.
Información para recopilar
- Definiciones de roles con niveles de autoridad y requisitos de competencia.
- Activadores del proceso de aprobación, pasos y requisitos de documentación.
- Acuerdos de nivel de servicio en cola, reglas de priorización y procedimientos de respuesta a cuellos de botella.
- Anular tipos, requisitos de autoridad y categorías de motivos.
- Plan de estudios de formación con requisitos específicos de cada puesto y recertificación.
- Puntos de datos de evidencia, métodos de captura y requisitos de integridad.
Revisar la lista de verificación
Utilice estas comprobaciones en la revisión con el propietario de su sistema. Confirme los requisitos aplicables y adjunte evidencia de las decisiones que toma su equipo.
- Los roles y niveles de autoridad son explícitos con requisitos de competencia y cronogramas de recertificación.
- Los procesos de aprobación definen desencadenantes, pasos y documentación para rutas estándar, de escalamiento y de excepción.
- La gestión de colas incluye SLA, reglas de priorización, distribución de carga de trabajo y respuesta a cuellos de botella.
- Los procedimientos de anulación cubren anulaciones previas a la ejecución, reversión posterior a la ejecución y anulaciones de emergencia con categorías de motivos.
- El programa de capacitación define el plan de estudios, los requisitos específicos de cada función y la verificación continua de competencias.
- La captura de evidencia especifica puntos de datos, métodos de captura y requisitos de integridad para todas las acciones de supervisión.
Controles operativos y evidencia.
- Gobernar
Puntos de control de políticas como código que bloquean o requieren revisión para acciones de alto riesgo.
Control de cambios versionado para actualizaciones de modelo/solicitud/política/proceso.
- Asegurar
Revisiones de muestreo por niveles de riesgo (línea de base + explosión durante incidentes o después de cambios).
Seguimiento de cuasi accidentes (pasos bloqueados/casi bloqueados) como señal de control medible.
- Probar
Programas de retención configurables, verificación de integridad y un Audit Trail de solo anexado.
Paquetes de exportación Evidence Room (manifiesto + sumas de verificación) para que los auditores puedan verificar de forma independiente.
Preguntas sobre este recurso
¿Qué requiere realmente Artículo 14?
Artículo 14 requiere que los humanos comprendan las capacidades y limitaciones de AI, sean conscientes del sesgo de automatización, interpreten correctamente los resultados, sean capaces de anular o revertir decisiones y puedan intervenir o detener el sistema.
¿Qué se debe registrar para cada aprobación o anulación?
Como mínimo: ID de decisión, recomendación AI, contexto presentado, ID del revisor, marca de tiempo, acción tomada, justificación (si es necesaria), tiempo dedicado a la revisión y versión de la política vigente.
¿Cómo prevenimos el estampado de goma?
Defina rúbricas de revisores, solicite fundamentos para aprobaciones riesgosas, muestree decisiones de revisores, ejecute sesiones de calibración y realice un seguimiento del tiempo dedicado a las revisiones.
¿Qué es una "regla de dos personas"?
Un requisito de que ciertas acciones necesitan dos aprobaciones humanas distintas, comúnmente utilizadas para decisiones irreversibles o de alto impacto como el cierre de cuentas o la presentación de SAR.
¿Cómo manejamos las anulaciones de emergencia?
Permita la acción inmediata por parte de cualquier operador capacitado, solicite documentación de "Anulación de emergencia", notifique automáticamente a los supervisores y al cumplimiento, y complete la revisión retrospectiva dentro de 24-48 horas.
¿Qué competencias formativas se requieren?
Fundamentos del sistema AI, conocimiento del dominio, procedimientos de supervisión, conciencia del sesgo de automatización, procedimientos de anulación y requisitos de cumplimiento. La recertificación debe ser anual o más frecuente.
Idioma de descarga del archivo: inglés