Runtime-Governance-Schicht

Eine Runtime-Governance-Schicht ist die Kontrollschicht zwischen einem KI-Agenten und den Systemen, auf die er einwirkt. Das MAS-SAFR-Whitepaper (Safeguards for Agentic Finance at Runtime) definiert ihre Position genau: Die Schicht „liegt zwischen dem Agenten und den Systemen, auf die er einwirkt, bewertet vorgeschlagene Aktionen vor der Ausführung und arbeitet dabei mit bestehenden Zahlungswegen, Settlement-Protokollen, Compliance-Engines und Kernbankensystemen zusammen“. Ihre Garantie ist SAFRs These: „Keine agentische Aktion erreicht die Ausführung, ohne deklariert, autorisiert und bewertet worden zu sein.“

Die Schicht adressiert drei Lücken, die SAFR in der aktuellen Governance-Infrastruktur identifiziert. Absicherung vor der Ausführung: Das Modellrisikomanagement validiert vor der Bereitstellung, ein Audit ist retrospektiv, und die einzelne Laufzeitentscheidung wird von keinem der beiden geprüft. Die Governance-Schnittstelle zwischen Mensch und Agent: Eskalation ist heute oft nur eine Benachrichtigung oder ein Dashboard-Hinweis ohne Frist, einheitliches Entscheidungsformat oder Audit-Datensatz – das Whitepaper nennt dies „den Anschein menschlicher Aufsicht ohne ihre Substanz“. Fragmentierung: Pro Bereitstellung konfigurierte Leitplanken erzeugen Aufzeichnungen, die nicht konsistent auditiert werden können.

Die Schicht nimmt einen bestimmten Platz im Technologie-Stack ein. KI-Leitplanken (Inhaltsfilter, Abwehr von Prompt-Injection, Ausgabefilter) sind typischerweise probabilistisch und steuern, was ein Modell erzeugt; sie bestimmen nicht, ob eine vorgeschlagene Finanzaktion autorisiert oder ausführbar ist. Die Runtime-Governance-Schicht arbeitet nach der Inhaltsfilterung und vor der Ausführung. Die Durchsetzung auf der Settlement-Schicht, einschließlich Kartenregeln, SWIFT-Standards und ACH-Regeln, erfolgt, nachdem die Schicht bestimmt hat, ob der Agent überhaupt handeln darf. Compliance-Plattformen behalten ihre eigenen Bewertungen; die Schicht erzeugt den strukturierten Governance-Datensatz, auf den diese zurückgreifen können.

In SAFR besteht die Schicht aus vier Laufzeitkomponenten, die über das Governance Envelope zusammenwirken: Agent Identity, das Controls Repository, die Disposition Engine und das Audit Log. SAFR beschreibt zwei Bereitstellungsmuster. Bei der nativen Integration wird der Agent instrumentiert, vor jeder vorgeschlagenen Aktion ein Envelope auszugeben; dies wird für neue Bereitstellungen empfohlen. Bei der Gateway-Integration werden ausgehende API-Aufrufe auf Infrastrukturebene abgefangen, ohne Änderungen am Agentencode. Das Whitepaper positioniert dies als praktischen Ausgangspunkt für Institutionen mit vielen bestehenden Agenten; für neue Entwicklungen soll anschließend die native Instrumentierung folgen.

In KLA übernimmt die KLA Control Plane diese Funktion in der SAFR-Implementierung.