Disposition Engine

Eine Disposition Engine ist die Komponente einer Runtime-Governance-Schicht, die entscheidet, was mit jeder vorgeschlagenen Agentenaktion geschieht. Sie ruft die anwendbaren Kontrollen ab, bewertet die Aktion anhand dieser Kontrollen und gibt ein verbindliches Ergebnis zurück, bevor etwas ausgeführt wird. Das MAS-SAFR-Whitepaper (Safeguards for Agentic Finance at Runtime) beschreibt die Ausgabe als „ein definiertes, verbindliches Ergebnis für jede vorgeschlagene Aktion, kalibriert auf das konkrete Risiko, das sie darstellt“.

SAFR definiert vier Ergebnisse. Deny: Die Aktion verletzt eine harte regulatorische oder Policy-Vorgabe, oder ihr Risikoprofil liegt über den definierten Schwellenwerten; sie wird vor der Ausführung mit einem konkreten dokumentierten Grund abgelehnt. Escalate: Die Aktion liegt innerhalb des Geltungsbereichs und unterhalb harter Grenzen, aber über dem Schwellenwert für autonome Ausführung; sie wird bis zur Prüfung durch einen Menschen zurückgehalten. Auto-Execute: Die Aktion liegt innerhalb des Geltungsbereichs, unterhalb harter Grenzen und innerhalb der definierten Risikoschwellen; sie wird ohne menschlichen Eingriff ausgeführt. Observe: Die Aktion wird ausgeführt, während eine strukturierte Beobachtung zur späteren Prüfung protokolliert wird; dies wird verwendet, wenn die Institution das Muster oder Signal der Aktion als beobachtungsbedürftig konfiguriert hat.

SAFR beschreibt eine Absicherungslücke vor der Ausführung: Das Modellrisikomanagement validiert ein System vor der Bereitstellung, und ein Audit prüft im Nachhinein, was geschehen ist; die einzelne Laufzeitentscheidung bleibt dabei ungeprüft. Die Disposition Engine bewertet diese Entscheidung in dem Moment, in dem die Aktion vorgeschlagen wird. Die Engine bewertet jede Aktion innerhalb des Geltungsbereichs deterministisch anhand der abgerufenen Kontrollen, und jedes Ergebnis wird mit den konkret angewandten Regeln und der Grundlage des Ergebnisses aufgezeichnet. Allgemeine Kontrollen wie Autorisierungsprüfungen und Expositionslimits sind deterministisch; KI-spezifische Kontrollen wie die Qualität von Nachweisen können eine probabilistische oder semantische Bewertung umfassen.

Die Ergebniszuweisung wird zur Entwurfszeit anhand von fünf Faktoren kalibriert: Reversibilität der Aktion, finanzielle Wesentlichkeit, Schwere der Auswirkungen auf Kunden, regulatorische Sensitivität und Neuartigkeit im Verhältnis zu etablierten Mustern innerhalb des Mandats. Höhere Risikoprofile verschieben die Ergebnisse in Richtung Deny oder Escalate.

In SAFR ist die Disposition Engine eine von vier Laufzeitkomponenten. Sie arbeitet mit dem Controls Repository, bewertet jedes Governance Envelope und schreibt jedes Ergebnis in das Audit Log. In KLA übernimmt die KLA Policy Engine diese Funktion in der SAFR-Implementierung.