Drei Instrumente bestimmen nun, wie Finanzinstitute agierende KI-Systeme steuern: das im Juli 2026 von der BuildFin.ai-Initiative der MAS veröffentlichte SAFR-Rahmenwerk, die Verpflichtungen des EU-KI-Gesetzes für Hochrisikosysteme und die FINMA-Leitlinie 08/2024 zu Governance und Risikomanagement beim Einsatz von KI. Sie unterscheiden sich in ihrer Rechtskraft, ihrem Umfang und ihrem Wortschatz. Sie sind sich über die Richtung einig: Die Governance bewegt sich von der vor dem Einsatz überprüften Dokumentation hin zu den Beweisen, die zum Zeitpunkt der Aktion erstellt werden. In diesem Artikel wird dargestellt, was jedes Regime verlangt, der gemeinsame Kern wird isoliert und dargelegt, was eine grenzüberschreitende Institution einmal aufbauen sollte, um alle drei zu beantworten.
Laufzeitbeweise für Agentenfinanzierung
Das Modellrisikomanagement validiert ein System vor der Bereitstellung. Das Audit überprüft, was es anschließend getan hat. Das SAFR-Whitepaper bezeichnet den Raum zwischen diesen beiden Disziplinen als die erste von drei Lücken in der aktuellen Governance-Infrastruktur: Keine von beiden untersucht eine bestimmte Agentenentscheidung, bevor sie ausgeführt wird. Die zweite Lücke ist die Mensch-Agent-Governance-Schnittstelle. Heutzutage erfolgt die Eskalation ad hoc (eine Benachrichtigung, eine E-Mail-Benachrichtigung, eine Dashboard-Flagge) ohne Frist, ohne Standardentscheidungsformat und ohne Audit-Datensatz. Das Papier nennt dies „den Anschein menschlicher Aufsicht ohne deren Substanz“. Die dritte Lücke ist die Fragmentierung: Leitplanken pro Bereitstellung, die weder interoperabel noch in einem konsistenten Format überprüfbar sind.
Die Lücken sind aufgrund der heutigen Funktionsweise von KI-Systemen im Finanzwesen von Bedeutung. Agenten veranlassen Zahlungen, erteilen Handelsaufträge, genehmigen Kreditanträge, reichen behördliche Berichte ein und regeln Versicherungsansprüche, oft in hoher Häufigkeit und ohne menschliche Überprüfung jeder einzelnen Aktion. Jedes der drei unten aufgeführten Regime reagiert auf diesen Wandel mit Anforderungen, die bei laufendem System gelten.
Singapur: Das MAS SAFR-Framework legt den Kontrollpunkt fest
Safeguards for Agentic Finance at Runtime (SAFR) ist ein Whitepaper, Version 1.0, das im Juli 2026 von der BuildFin.ai-Initiative von MAS veröffentlicht und gemeinsam mit Ant International, Circle, HSBC, J.P. Morgan Chase, Manulife, Mastercard, OCBC und Visa verfasst wurde. Es beschreibt einen Referenzansatz für eine Laufzeit-Governance-Schicht, die zwischen einem KI-Agenten und den Systemen, auf denen er agiert, sitzt und vorgeschlagene Aktionen vor der Ausführung bewertet. Das Papier macht seinen Status deutlich: „Es stellt keine regulatorischen Leitlinien oder aufsichtsrechtlichen Erwartungen dar.“ Jedes Institut bleibt dafür verantwortlich, zu bestimmen, wie sein Einsatz mit den für es geltenden aufsichtsrechtlichen Erwartungen im Einklang steht.
Die Entwurfsthese: „Keine Agentenhandlung gelangt zur Ausführung, ohne dass sie deklariert, autorisiert und bewertet wurde.“ Vier Komponenten liefern es. Agent Identity bindet jede vorgeschlagene Aktion an einen registrierten Agenten, der anhand einer Registrierung überprüft wird, bevor eine andere Bewertung durchgeführt wird. Das Controls Repository enthält das konfigurierbare Regelwerk der Institution, das sich aus Organisationsrichtlinien, behördlichen Anforderungen, Produktregeln und vom Benutzer bereitgestellten Mandaten zusammensetzt. Die Disposition Engine wertet jede Aktion anhand dieser Kontrollen aus und gibt eines von vier verbindlichen Ergebnissen zurück: Verweigern, Eskalieren, Automatisch ausführen oder Beobachten. Das Audit-Protokoll zeichnet jede Governance-Entscheidung in unveränderlicher, manipulationssicherer und nur anhängbarer Form auf, in den Worten des Papiers, „der maßgeblichen Aufzeichnung, unabhängig von jeder Partei, die ein Interesse daran hat, wie Ereignisse nachträglich charakterisiert werden“.
SAFR kommt in einen breiteren Singapur-Stack. Project MindForge, ein MAS-Industriekonsortium, hat ein Executive Handbook mit 17 Überlegungen und ein Operationalization Handbook veröffentlicht, das unter anderem Tools und Datenzugriff mit den geringsten Privilegien für Agenten, Notausschalter und Zeitüberschreitungen sowie Rückverfolgbarkeit durch durchsuchbare Protokollierung behandelt. Das Model AI Governance Framework for Agentic AI (2026) von IMDA fügt ein vierteiliges Governance-Modell hinzu: Anwendungsfallbegrenzung, Zugriffsbeschränkung, menschliche Aufsicht und Verantwortlichkeit der Haupthierarchie. Eine vollständige Anleitung zum Framework finden Sie in unserem SAFR-Framework-Erklärer.
Das EU-KI-Gesetz: Laufzeitaufzeichnungen als gesetzliche Verpflichtung
Das EU-KI-Gesetz legt Laufzeitaufzeichnungspflichten für Hochrisiko-KI-Systeme gesetzlich fest. Hier zählen vier Artikel.
Das am 29. Juni 2026 verabschiedete Digital Omnibus on AI verschiebt die meisten risikoreichen Verpflichtungen auf den 2. Dezember 2027. Durch die Verschiebung ändert sich das Compliance-Datum. Die Richtung bleibt unverändert und Institutionen, die im Jahr 2026 Agentensysteme einsetzen, werden dieselben Systeme betreiben, wenn die Verpflichtungen gelten. Von Anfang an eingebaute Veranstaltungsaufzeichnungen kosten weniger als Aufzeichnungen, die in einem laufenden Kombi nachgerüstet werden.
Informationen zu den Bewertungspflichten vor der Bereitstellung finden Sie in unserem FRIA-Vorlagenleitfaden für das EU-KI-Gesetz.
- Artikel 12: Automatische Ereignisprotokollierung. KI-Systeme mit hohem Risiko müssen Ereignisse automatisch aufzeichnen.
- Artikel 26: Pflichten des Betreibers. Die Institution, die ein Hochrisikosystem betreibt, bewahrt die von ihr generierten Protokolle auf.
- Artikel 14: Menschliche Aufsicht. Hochrisikosysteme müssen so konzipiert sein, dass sie während des Gebrauchs wirksam von Menschen beaufsichtigt werden.
- Artikel 72: Überwachung nach dem Inverkehrbringen. Anbieter müssen Hochrisikosysteme nach dem Inverkehrbringen überwachen.
Schweiz: FINMA-Wegleitung 08/2024
Die FINMA-Wegleitung 08/2024 befasst sich mit Governance und Risikomanagement beim Einsatz künstlicher Intelligenz durch Finanzinstitute. Es formuliert Erwartungen auf der Ebene von Prinzipien. Vier Erwartungen kehren immer wieder zurück:
Proportionalität ist das Funktionsprinzip für Agentensysteme. Eine Dokumentation, die für ein Modell, das Zusammenfassungen zur menschlichen Überprüfung erstellt, angemessen ist, unterscheidet sich von einer Dokumentation, die für einen Agenten angemessen ist, der Zahlungen in hoher Häufigkeit initiiert. In unserer Lesart handelt es sich bei der verhältnismäßigen Dokumentation für autonome Agenten, die auf Finanzschienen agieren, um eine Aufzeichnung pro Aktion darüber, was vorgeschlagen wurde, gegen welche Behörde es geprüft wurde und warum es zugelassen wurde, fortzufahren.
- Inventare von KI-Anwendungen,
- klare Verantwortlichkeit für deren Nutzung,
- Prüfung und Überwachung,
- Dokumentation im Verhältnis zum Risiko.
Der gemeinsame Kern dreier Regime
Die drei Regime haben einen gemeinsamen Kern: ein System, dessen Identität bekannt ist, dessen Autorität begrenzt ist, dessen Handlungen während seiner Tätigkeit bewertet werden und dessen Aufzeichnungen nicht stillschweigend umgeschrieben werden können.
Die Zuordnung ist gerichtet. SAFR ist das spezifischste der drei: Es definiert einen Prüfpunkt, der für jede vorgeschlagene Aktion vor der Ausführung ein verbindliches Ergebnis zurückgibt, und es gibt die Datenstrukturen an, die der Datensatz enthalten muss. Das KI-Gesetz ist verbindliches Recht und formuliert seine Anforderungen auf Systemebene: Protokollierungsfähigkeit, Aufsichtsgestaltung, Überwachungsprozess. Die FINMA gibt Grundsätze vor und überlässt die Umsetzungstiefe dem Institut. Eine Institution, die das SAFR-Muster implementiert, erzeugt als Nebenprodukt die Ereignisdatensätze pro Aktion, die die anderen beiden Systeme lesen können. Eine Institution, die nur die Protokollierung auf Systemebene implementiert, muss noch den Prüfpunkt vor der Ausführung erstellen.
| Anforderung | SAFR (MAS BuildFin.ai, 2026) | EU-KI-Gesetz | FINMA-Meldung 08/2024 |
|---|---|---|---|
| Instrument | Branchenreferenzansatz („stellt keine regulatorische Anleitung dar“) | Verbindliche Regelung; Die meisten risikoreichen Verpflichtungen wurden auf den 2. Dezember 2027 verschoben | Aufsichtliche Anleitung |
| Verifizierte Identität | Die Agentenidentität wird vor jeder anderen Bewertung anhand einer Registrierung überprüft | Nicht bereitgestellt | Inventare von KI-Anwendungen |
| Begrenzte Autorität | Mandate: explizite, maschinenlesbare delegierte Autorität; Ein Agent kann seinen eigenen Bereich nicht erweitern | Menschliche Aufsicht während der Nutzung (Art. 14) | Klare Verantwortlichkeit |
| Bewertung im Moment des Handelns | Die Disposition Engine gibt vor der Ausführung „Deny“, „Escalate“, „Auto-Execute“ oder „Observe“ zurück | Menschliche Aufsicht während der Nutzung (Art. 14); Überwachung nach dem Inverkehrbringen (Art. 72) | Testen und Überwachen |
| Manipulationssichere Aufzeichnung | Unveränderliches, nur anhängbares Audit-Protokoll jeder Governance-Entscheidung | Automatische Ereignisprotokollierung (Art. 12); Vom Betreiber aufbewahrte Protokolle (Art. 26) | Dokumentation im Verhältnis zum Risiko |
Einmal erstellen, pro Regime konfigurieren
Ein Institut, das in mehr als einer dieser Jurisdiktionen beaufsichtigt wird, sollte den gemeinsamen Kern einmal aufbauen und Regimeunterschiede als Konfiguration ausdrücken.
- 1. Eine Agentenregistrierung. Jeder Agent ist eine registrierte, versionierte Entität mit einem benannten menschlichen Eigentümer. Ein Artefakt dient der Agentenidentitätskomponente von SAFR, den Bestandserwartungen der FINMA und dem Bedarf des Betreibers, zu wissen, mit welchen Systemen seine AI-Act-Verpflichtungen verbunden sind.
- 2. Eine Richtlinienebene, Kontrollpakete pro Regime. Kontrollen sind versioniert und maschinenlesbar. Ein Singapur-Paket kodiert die Dispositionskalibrierung anhand der SAFR-Faktoren: Handlungsumkehrbarkeit, finanzielle Wesentlichkeit, Schwere der Kundenauswirkungen, regulatorische Sensibilität und Neuheit. Ein EU-Paket kodiert die Aufsichts- und Aufbewahrungspflichten für Hochrisikosysteme. Ein Schweizer Paket kodiert Verantwortungsaufgaben und Testrhythmen. Die Laufzeit, die sie auswertet, ist dieselbe.
- 3. Ein Beweisstandard, der vom strengsten Leser festgelegt wurde. Nur anfügbar, manipulationssicher, exportierbar und von einer Partei überprüfbar, die keinen Zugriff auf das produzierende System hat. Eine nach diesem Standard erstellte Aufzeichnung kann von allen drei Regimen gelesen werden; Regimeunterschiede bestehen dann in den Kontrollen, die sie hervorbringen, sowie in den Aufbewahrungs- und Meldevereinbarungen.
- 4. Autorisierung pro Aktion bei mehrstufiger Arbeit. SAFR legt ausdrücklich fest, dass ein Auto-Execute- oder Observe-Ergebnis in einem Schritt keine Autorität auf den nächsten überträgt. Bauen Sie das einmal auf, und jeder Schritt wird zu einem Entscheidungspunkt, an dem ein Mensch beteiligt werden kann.
Wo KLA passt
Das KLA-Kontrollflugzeug implementiert das SAFR-Muster und wird heute ausgeliefert. Die Agentenregistrierung enthält versionierte Agenten mit benannten menschlichen Eigentümern. Der Policy Builder veröffentlicht über ein geregeltes Release: Linted Fail-Closed, mit Genehmigung durch zwei Personen am Decision Desk. Die KLA-Richtlinien-Engine löst jede vorgeschlagene Aktion mit maschinenlesbaren Ursachencodes in allow, warn, require_approval oder block auf, schlägt fehl, wenn der Entscheidungsdienst nicht erreichbar ist, und der Audit Trail exportiert versiegelte Beweisbündel, die ein Dritter offline überprüfen kann. Die vollständige Komponentenkarte, einschließlich der noch in der Entwicklung befindlichen Funktionen, finden Sie auf der SAFR-Implementierungsseite. Wie dieselben Laufzeitnachweise den Verpflichtungen des EU-KI-Gesetzes zugeordnet werden können, erfahren Sie auf unserer Seite Software zur Einhaltung des EU-KI-Gesetzes.
Wo man anfangen soll: Die SAFR-Reisegut-Checkliste bewertet Ihr aktuelles Vermögen in acht Abschnitten: Maklerinventar, Mandate, Kontrollen, Verwendungen, Umschlag und Abstammung, Eskalationsoperationen, Prüfung und Beweise, Einsatzmuster. Institutionen, die der EU oder der FINMA unterstehen, können die gleiche Lückenkarte verwenden; die Abschnitte verfolgen den oben genannten gemeinsamen Kern. Eine dreissigminütige Sitzung umfasst eine durchgehende, verwaltete Laufzeit: Politik, Entscheidung, Eskalation, versiegelte Beweise: buchen Sie eine 30-minütige SAFR-Lückenprüfung.
Häufig gestellte Fragen
Gilt SAFR für Institutionen außerhalb Singapurs?
SAFR wird von der BuildFin.ai-Initiative von MAS veröffentlicht und in dem Papier heißt es, dass es „keine regulatorischen Leitlinien oder aufsichtsrechtlichen Erwartungen darstellt“. Das Papier beschreibt es als Branchenreferenz für Institutionen zur Implementierung in ihrer eigenen Infrastruktur unter Verwendung ihrer eigenen Regelkonfigurationen und Governance-Vereinbarungen. Jedes Institut bleibt dafür verantwortlich, zu bestimmen, wie sein Einsatz mit den für es geltenden aufsichtsrechtlichen Erwartungen im Einklang steht.
Hat der Digital Omnibus die Protokollierungs- und Aufsichtspflichten des EU-KI-Gesetzes aufgehoben?
Nein. Der Digital Omnibus zu KI verschiebt die meisten Verpflichtungen mit hohem Risiko auf den 2. Dezember 2027. Er ändert das Compliance-Datum und lässt die Protokollierungs-, Aufsichts- und Überwachungspflichten unverändert.
Was haben SAFR, das EU-KI-Gesetz und die FINMA-Meldung 08/2024 gemeinsam?
Vier Anforderungen kehren in allen drei Fällen immer wieder zurück: Die Identität des agierenden Systems ist bekannt und registriert; seine Autorität ist definiert und begrenzt; sein Betrieb wird während der Ausführung bewertet und überwacht; und seine Aktionen erzeugen Aufzeichnungen, die auch im Nachhinein Bestand haben. SAFR spezifiziert diese als Laufzeitkomponenten, das KI-Gesetz formuliert sie als Pflichten auf Hochrisikosystemen und die FINMA nennt sie als Governance-Grundsätze.
Kann ein Prüfpfad allen drei Regimen dienen?
Ein Datensatz, der nach den strengsten Standards erstellt wurde (nur anfügbar, manipulationssicher, exportierbar und unabhängig offline überprüfbar), kann von allen dreien gelesen werden. Regimeunterschiede bestehen dann in den Kontrollen, die die Aufzeichnung erstellen, sowie in den Aufbewahrungs- und Meldevereinbarungen. Jede Institution bleibt dafür verantwortlich, zu bestätigen, dass ihre Aufzeichnungen den spezifischen Erwartungen ihrer eigenen Aufsichtsbehörden entsprechen.
Die wichtigsten Erkenntnisse
SAFR bietet die bisher genaueste Beschreibung, wie die Laufzeit-Governance für die Agentenfinanzierung aussieht. Das EU-KI-Gesetz macht Laufzeitaufzeichnungen für Hochrisikosysteme zur gesetzlichen Pflicht. Die FINMA verlangt Inventarisierung, Rechenschaftspflicht, Prüfung und Überwachung sowie eine risikogerechte Dokumentation. Die drei Instrumente unterscheiden sich in Kraft und Präzision und ähneln in ihrer Form: verifizierte Identität, begrenzte Autorität, Bewertung im Moment der Aktion, eine manipulationssichere Aufzeichnung. Eine Institution, die diesen Kern aufbaut, beantwortet alle drei Fragen mit denselben Beweisen. Bewerten Sie Ihren Bestand mit der SAFR Readiness Checklist, lesen Sie die Komponentenkarte zur Implementierung des SAFR-Frameworks oder buchen Sie eine 30-minütige SAFR-Lückenüberprüfung.
Quelle: Safeguards for Agentic Finance at Runtime, Whitepaper v1.0, MAS BuildFin.ai, Juli 2026. Zitierte Passagen © Monetary Authority of Singapore. SAFR ist eine Branchenreferenz und stellt keine regulatorischen Leitlinien oder aufsichtsrechtlichen Erwartungen dar. KLA ist unabhängig von MAS oder BuildFin.ai und weder mit diesen verbunden, noch von diesen unterstützt oder zertifiziert.