Supervisión humana

La supervisión humana es la capacidad de personas designadas y competentes de vigilar un sistema de IA mientras está en uso, interpretar sus resultados de salida, descartarlos o revertirlos, y detener el sistema. En el EU AI Act, el artículo 14 la convierte en un requisito de diseño de los sistemas de IA de alto riesgo, y el artículo 26, apartado 2, obliga a los responsables del despliegue a encomendarla «a personas físicas que tengan la competencia, la formación y la autoridad necesarias».

El artículo 14, apartado 1, exige que los sistemas de IA de alto riesgo se diseñen de modo que puedan ser vigilados de manera efectiva por personas físicas durante el período en que estén en uso. El apartado 4 enumera lo que esas personas deben poder hacer, según proceda y de manera proporcionada: entender las capacidades y limitaciones del sistema y vigilar su funcionamiento; ser conscientes del sesgo de automatización, la tendencia a confiar automáticamente o en exceso en los resultados de salida del sistema; interpretar correctamente esos resultados; decidir no utilizar el sistema o descartar, invalidar o revertir sus resultados; e intervenir en su funcionamiento o interrumpirlo pulsando un botón de parada o mediante un procedimiento similar. El apartado 3 exige que las medidas de supervisión sean proporcionales a los riesgos, al nivel de autonomía y al contexto de uso. Para la identificación biométrica remota, el apartado 5 exige que al menos dos personas con la competencia necesaria verifiquen y confirmen la identificación antes de que el responsable del despliegue actúe sobre esa base.

Las etiquetas human-in-the-loop, human-on-the-loop y human-in-command proceden de las Directrices éticas para una IA fiable, publicadas en 2019 por el Grupo de Expertos de Alto Nivel sobre IA. El reglamento no las utiliza. Siguen siendo útiles para describir tres diseños: aprobación antes de que cada decisión surta efecto, vigilancia continua con capacidad de intervenir, y autoridad sobre las políticas, el muestreo y las excepciones.

En los agentes de IA, la supervisión funciona mejor a nivel de acción. El agente propone un paso; una política decide si puede continuar, si necesita aprobación o si queda bloqueado; y un revisor designado aprueba o rechaza el paso retenido con los datos que usó la política a la vista. Registre quién revisó, qué vio, qué decidió, cuándo y por qué: ese registro demuestra que la supervisión se ejerció. Ajuste la intensidad al riesgo: los pasos de bajo impacto pueden ejecutarse bajo vigilancia, y los que mueven dinero o afectan a los derechos de una persona esperan una decisión.

La supervisión también falla cuando un revisor no sabe por qué está bloqueado. En una evaluación interna en nuestro propio entorno de desarrollo, un revisor que había completado todas las comprobaciones requeridas encontró los botones de aprobar y rechazar desactivados tras una simple etiqueta «View only». El bloqueo era correcto, porque el revisor no pertenecía al grupo de aprobadores requerido, pero nada lo indicaba. El Decision Desk indica ahora por qué un revisor no puede actuar, también cuando es el autor de la solicitud.

Tras el Reglamento (UE) 2026/1744, los requisitos de alto riesgo, incluidos los artículos 14 y 26, se aplican desde el 2 de diciembre de 2027 a los sistemas del anexo III y desde el 2 de agosto de 2028 a los sistemas del anexo I. En KLA, un resultado require_approval retiene la acción del agente como Decision Request en el Decision Desk, y la decisión queda registrada con el revisor y la hora.