Agenten-Kill-Switch

Ein Agenten-Kill-Switch ist die Kontrolle, mit der ein Operator einen KI-Agenten schnell und vollständig stoppt. Ein einziger Befehl sollte die laufenden Ausführungen des Agenten abbrechen, jede weitere vorgeschlagene Aktion ablehnen, die von ihm genutzten Zugangsdaten widerrufen und festhalten, wie jeder Teil des Systems reagiert hat. Der Begriff umfasst eine Abfolge von Kontrollen, und ein einzelner Schalter deckt selten alle davon ab.

Die KI-Verordnung legt die Anforderung für Hochrisiko-KI-Systeme in Artikel 14 Absatz 4 Buchstabe e fest: Die mit der menschlichen Aufsicht betrauten Personen müssen in der Lage sein, „in den Betrieb des Hochrisiko-KI-Systems einzugreifen oder den Systembetrieb mit einer ‚Stopptaste‘ oder einem ähnlichen Verfahren zu unterbrechen, was dem System ermöglicht, in einem sicheren Zustand zum Stillstand zu kommen“. Für einen Agenten bedeutet ein sicherer Zustand, dass keine Nebenwirkung halb ausgeführt bleibt: Eine Zahlung ist entweder gesendet oder nicht gesendet, und der Datensatz hält fest, was zutrifft.

Ein Kill-Switch muss an mehreren Stellen wirken, weil ein Agent mitten in einer Aufgabe sein kann, wenn der Befehl eintrifft. Der Abbruch zur Laufzeit stoppt den Workflow vor seinem nächsten Schritt. Die Ablehnung vor der Ausführung weist jeden vorgeschlagenen Tool-Aufruf aus dem betroffenen Bereich zurück. Der Widerruf der Zugangsdaten deaktiviert die Agentenidentität und ihre Token, damit kein anderer Weg offen bleibt. Die Evidenz hält den Zeitpunkt des Befehls fest, welche Kontrollen ihn bestätigt haben und welche Nebenwirkung als letzte vor dem Stopp abgeschlossen wurde.

Ein Kill-Switch kann eine Aktion, die in einem externen System bereits abgeschlossen ist, nicht rückgängig machen. Eine gesendete E-Mail oder eine ausgeführte Überweisung braucht eine eigene Ausgleichsaktion. Testen Sie den Switch in Übungen, messen Sie die Zeit vom Befehl bis zur letzten abgelehnten Aktion und legen Sie fest, wer den Agenten unter welchen Bedingungen wieder freigeben darf. In unserer eigenen Entwicklungsumgebung schlug eine frühe Version des Freeze-Befehls mit einem unerklärten Fehler fehl, weil der auslösende Vorfall eine Lauf-ID ohne zugeordneten Agenten trug. Der Befehl ermittelt den Agenten jetzt aus dem Lauf und gibt einen klaren Fehler zurück, wenn das nicht gelingt. Führen Sie die Übung mit jeder Art von Auslöser durch, die ein Operator nutzen könnte.

In KLA Control Plane sendet die Abbruch-API ein Kill-Signal an eine mandantenbezogene Ausführung im Status PENDING, RUNNING oder GATED und erfasst sie als CANCELLED. Der Workflow prüft das Signal vor dem Start seines nächsten Schritts, und ein Lauf, der auf einen Decision Request wartet, endet, ohne die vorgeschlagene Aktion fortzusetzen.