Kill switch per agenti

Un kill switch per agenti è il controllo che un operatore usa per fermare un agente AI in modo rapido e completo. Un solo comando dovrebbe annullare le esecuzioni attive dell’agente, rifiutare qualsiasi ulteriore azione proposta, revocare le credenziali che usa e registrare come ha risposto ciascuna parte del sistema. Il termine indica una sequenza di controlli, e raramente un singolo interruttore li copre tutti.

L’AI Act fissa il requisito per i sistemi di IA ad alto rischio all’articolo 14, paragrafo 4, lettera e): le persone a cui è affidata la sorveglianza umana devono poter «intervenire sul funzionamento del sistema di IA ad alto rischio o interrompere il sistema mediante un pulsante di “arresto” o una procedura analoga che consenta al sistema di arrestarsi in condizioni di sicurezza». Per un agente, condizioni di sicurezza significa nessun effetto collaterale lasciato a metà: un pagamento è inviato oppure non lo è, e il record dice quale dei due.

Un kill switch deve agire in più punti, perché un agente può trovarsi a metà di un’attività quando arriva il comando. L’annullamento a runtime ferma il workflow prima del passaggio successivo. Il rifiuto prima dell’esecuzione respinge ogni chiamata a uno strumento proposta dal perimetro interessato. La revoca delle credenziali disabilita l’identità dell’agente e i suoi token, così nessun altro percorso resta aperto. Le evidenze registrano l’ora del comando, quali controlli lo hanno confermato e l’ultimo effetto collaterale completato prima dell’arresto.

Un kill switch non può annullare un’azione già completata in un sistema esterno. Un’email inviata o un bonifico regolato richiedono una propria azione compensativa. Verificate il kill switch con esercitazioni, misurate il tempo dal comando all’ultima azione rifiutata e stabilite chi può ripristinare l’agente e a quali condizioni. Nel nostro ambiente di sviluppo, una prima versione del comando di congelamento falliva con un errore non spiegato perché l’incidente che lo attivava conteneva un identificativo di esecuzione senza alcun agente associato. Oggi il comando ricava l’agente dall’esecuzione e restituisce un errore chiaro quando non ci riesce. Eseguite l’esercitazione partendo da ogni tipo di trigger che un operatore potrebbe usare.

In KLA Control Plane, l’API di annullamento invia un segnale di arresto a un’esecuzione del tenant in stato PENDING, RUNNING o GATED e la registra come CANCELLED. Il workflow controlla il segnale prima di avviare il passaggio successivo, e un’esecuzione in attesa di una Decision Request termina senza riprendere l’azione proposta.