Interruptor de parada del agente

Un interruptor de parada del agente (agent kill switch) es el control que usa un operador para detener un agente de IA de forma rápida y completa. Una sola orden debe cancelar las ejecuciones activas del agente, rechazar cualquier otra acción que proponga, revocar las credenciales que usa y registrar qué hizo en respuesta cada parte del sistema. El término abarca una secuencia de controles, y un único conmutador rara vez los cubre todos.

El Reglamento de IA de la UE establece el requisito para los sistemas de IA de alto riesgo en el artículo 14, apartado 4, letra e): las personas encargadas de la supervisión humana deben poder "intervenir en el funcionamiento del sistema de IA de alto riesgo o interrumpir el sistema pulsando un botón de parada o mediante un procedimiento similar que permita que el sistema se detenga de forma segura". Para un agente, un estado seguro significa que no quedan efectos secundarios a medias: un pago se ha enviado o no se ha enviado, y el registro indica cuál de las dos cosas.

Un interruptor de parada tiene que actuar en varios puntos, porque un agente puede estar a mitad de una tarea cuando llega la orden. La cancelación en tiempo de ejecución detiene el flujo de trabajo antes de su siguiente paso. La denegación previa a la ejecución rechaza toda llamada a herramienta propuesta desde el ámbito afectado. La revocación de credenciales desactiva la identidad del agente y sus tokens para que no quede abierta ninguna otra vía. La evidencia registra la hora de la orden, qué controles la acusaron y el último efecto secundario que se completó antes de la parada.

Un interruptor de parada no puede deshacer una acción ya completada en un sistema externo. Un correo enviado o una transferencia liquidada necesitan su propia acción compensatoria. Pruebe el interruptor en simulacros, mida el tiempo desde la orden hasta la última acción rechazada y defina quién puede restablecer el agente y con qué condiciones. En nuestro propio entorno de desarrollo, una versión inicial de la orden de congelación falló con un error sin explicación porque el incidente que la desencadenó llevaba un identificador de ejecución sin ningún agente asociado. Ahora la orden obtiene el agente a partir de la ejecución y devuelve un error claro cuando no puede. Haga el simulacro desde cada tipo de desencadenante que podría usar un operador.

En KLA Control Plane, la API de cancelación envía una señal de parada a una ejecución del tenant en estado PENDING, RUNNING o GATED y la registra como CANCELLED. El flujo de trabajo comprueba la señal antes de iniciar su siguiente paso, y una ejecución que espera una Decision Request termina sin reanudar la acción propuesta.