Die Laufzeit-KI-Governance ist die operative Ebene, die sich daraus ergebende KI-Aktionen während des Systembetriebs bewertet. Es bindet Agentenidentität, delegierte Autorität, Richtlinie, Aktionskontext, menschliche Entscheidung, Ausführungsergebnis und Beweise an einem Kontrollpunkt. Bei einer Zahlung, einer Datensatzänderung, einer ausgehenden Nachricht, einer Berechtigungsänderung, einer Freigabe oder einem Toolaufruf entscheidet die Laufzeitsteuerung, ob die vorgeschlagene Aktion gemäß der Richtlinie fortgesetzt werden kann, mit einer Warnung fortgesetzt werden soll, für einen verantwortlichen Menschen angehalten werden muss oder gestoppt werden muss.
Die Kategorie umfasst einen kompletten Regelkreis. Die Teams legen vor der Ausführung Mandate, Richtlinien, Eigentümer und Nachweisanforderungen fest. Ein Kontrollpunkt bewertet die vorgeschlagene Aktion zum Zeitpunkt der Entscheidung. Das System zeichnet die Entscheidung und das Ergebnis nach der Ausführung auf und verwendet diese Aufzeichnungen dann zur Sicherung, Untersuchung und Kontrollverbesserung. Dies ist das Vorher-, Bei- und Nachher-Modell.
Eine genaue Definition der Laufzeit-KI-Governance
Laufzeit-KI-Governance ist die kontinuierliche Durchsetzungs- und Beweisschicht, die entscheidet, ob eine vorgeschlagene KI-Aktion autorisiert, richtlinienkonform und in ihrem aktuellen Kontext sicher auszuführen ist. Sie wendet Kontrollen an, während das System in Betrieb ist, und bewahrt eine dauerhafte Aufzeichnung der Entscheidung und ihres Ergebnisses auf.
Die Einheit der Governance ist die Folgehandlung. Eine Modellantwort kann informativ sein, während ein Tool-Aufruf Geld bewegen, einen Kundendatensatz aktualisieren, Inhalte veröffentlichen, eine Berechtigung ändern, einen behördlichen Antrag einreichen oder ein anderes System auslösen kann. Die Aktion hat die geschäftliche Konsequenz, sodass sie die politische Entscheidung, die menschliche Autorität und die Beweisaufzeichnung erhält.
Die Laufzeit-Governance deckt auch den Betriebskontext rund um diese Aktion ab: Welcher Agent und Prinzipal hat sie initiiert, zu welchem Mandanten und welcher Umgebung sie gehört, auf welches Tool und Ziel sie abzielt, welche Richtlinie und Version gelten, welche Schwellenwerte ausgewertet wurden und welche menschliche Rolle eine Ausnahme besitzt. Dieser Kontext verwandelt eine allgemeine Regel in eine durchsetzbare Entscheidung.
Warum die Kategorie jetzt Gestalt annimmt
Agentensysteme kombinieren Modellausgabe mit Tools, Speicher, Berechtigungen und wiederholter Ausführung. Der OWASP Excessive Agency-Leitfaden identifiziert übermäßige Funktionalität, Berechtigungen und Autonomie als Hauptursachen für schädliche Agentenaktionen. Zu den Abhilfemaßnahmen gehören eingeschränkte Tools, eingeschränkte Berechtigungen und unabhängige Genehmigungen für Maßnahmen mit großer Auswirkung.
Anbieter benennen die Ausführungsschicht auch direkt. Holistic AI führte im April 2026 Runtime Agentic Enforcement für Toolaufrufe, Zugriffs- und Kostenkontrollen ein. Diese Quellen verwenden unterschiedliche Produkt- und Framework-Vokabulare. Sie weisen auf dieselbe technische Grenze hin: den Moment, in dem eine vorgeschlagene Aktion ein System erreicht, das einen echten Nebeneffekt erzeugen kann.
Umfassendere Governance-Rahmenwerke erwarten bereits eine kontinuierliche Lebenszyklusarbeit. Der NIST AI RMF Core behandelt Governance als bereichsübergreifend und fordert eine regelmäßige Überwachung und Verbesserung aller eingesetzten Systeme. Die Laufzeit-Governance stellt einen technischen Mechanismus zur Umsetzung dieser Absicht an der Aktionsgrenze bereit.
Vor der Ausführung: Autorität und Kontrollabsicht definieren
Eine Laufzeitentscheidung kann nur so eindeutig sein wie das ihr zugeführte Steuerungsmodell. Bevor ein Agent ausgeführt wird, definiert die Organisation, wem das System gehört, was der Agent tun darf, auf welche Tools und Daten er zugreifen darf, wo menschliche Autorität beginnt und welche Beweise jede Entscheidung liefern muss.
Hier leisten Governance-of-Record-Systeme und Management-Frameworks wesentliche Arbeit. ISO/IEC 42001 definiert ein KI-Managementsystem zur Festlegung von Richtlinien, Zielen, Prozessen, Risikomanagement und kontinuierlicher Verbesserung. Laufzeitkontrollen nutzen diese institutionelle Absicht als ausführbare Richtlinie und Betriebskonfiguration.
- Identität und Eigentum. Geben Sie jedem Agenten und Auftraggeber eine stabile Identität, einen verantwortlichen Eigentümer, einen Zweck und eine genehmigte Umgebung.
- Delegierte Autorität. Definieren Sie zulässige Aktionen, Ziele, Werte, Raten, Datengrenzen, Zeitfenster und Delegationstiefe.
- Richtlinien und Risikobänder. Wandeln Sie Kontrollabsichten in explizite Bedingungen, Entscheidungen, Ursachencodes, Genehmigungsgruppen und Eskalationsfristen um.
- Tool- und Datenumfang. Gewähren Sie die für den Job erforderlichen Mindestfunktionen und Datensätze mit separaten Lese- und Schreibberechtigungen.
- Entwurf menschlicher Entscheidungen. Nennen Sie die verantwortliche Rolle, die Maker-Checker-Regel, das Kontextpaket, das Antwortfenster und das Timeout-Verhalten.
- Beweisvertrag. Geben Sie die zu bewahrenden Kennungen, Richtlinienversion, Aktionseingaben, Entscheidungsbasis, menschliche Aktivität, Ausführungsergebnis, Aufbewahrung und Integritätsnachweis an.
Zum Zeitpunkt der Entscheidung: Durchsetzung der Richtlinie für die vorgeschlagene Maßnahme
Der Laufzeitprüfpunkt erhält eine vorgeschlagene Aktion, bevor seine Nebenwirkung festgeschrieben wird. Es löst die Agenten- und Prinzipalidentitäten auf, lädt die aktuelle Autorität und Richtlinie, wertet den Aktionskontext aus und gibt ein verbindliches Ergebnis zurück.
Vier Ergebnisse geben den Teams genügend Spielraum, um die Routinearbeit am Laufen zu halten und die menschliche Aufmerksamkeit für daraus resultierende Ausnahmen zu reservieren. Der Vorrang ist wichtig, wenn mehrere Regeln übereinstimmen: Eine stärkere Entscheidung muss die Aggregation überleben.
| Ergebnis | Ausführungsverhalten | Operativer Einsatz |
|---|---|---|
| allow | Die Aktion wird innerhalb ihrer aktuellen Autoritäts- und Richtliniengrenzen ausgeführt. | Routinemäßige, umkehrbare Arbeit mit geringem Risiko und vollständigem Kontext. |
| warn | Die Aktion wird ausgeführt und tritt in einen definierten Sicherungs- oder Überprüfungspfad ein. | Eine erlaubte Aktion mit einem Signal, das eine Nachverfolgung oder Probenahme verdient. |
| require_approval | Die Aktion pausiert, bis ein autorisierter Mensch sie genehmigt oder ablehnt. | Wesentliche, unumkehrbare, ungewöhnliche oder richtlinienrelevante Entscheidungen. |
| block | Die Aktion stoppt vor dem geregelten Nebeneffekt. | Verbotene, unbefugte, fehlerhafte, unsichere oder nicht überprüfbare Handlungen. |
Ein Laufzeitprüfpunkt erfordert ein Fail-Closed-Verhalten
Eine politische Entscheidung hat nur dann einen Wert, wenn der Handlungspfad ihr folgt. Der Prüfpunkt muss auf der Route zum Tool oder Downstream-System liegen und der Ausführungspfad muss anhalten, wenn die Richtlinien-Engine, der Beweisspeicher, die Identitätsquelle oder die Genehmigungsbehörde nicht verfügbar sind.
Ein hochintegriertes Design versiegelt die Entscheidungsbasis vor dem Nebeneffekt, verwendet einen Idempotenzschlüssel, sodass Wiederholungsversuche die Aktion nicht duplizieren, und bindet eine spätere Genehmigung an dieselben Aktionsargumente. Ausgabesteuerungen können ein Ergebnis auch vor der Freigabe speichern, wenn das Tool bereits ausgeführt wurde. Diese Kontrollen befassen sich mit der Umgehung von Richtlinien, der Wiederholung von Genehmigungen, der Ersetzung von Argumenten und der doppelten Ausführung.
- Ein vermittelter Pfad von der Agent-Laufzeit zu Folgetools
- Aktuelle Identität, Autorität, Richtlinie und Zielkontext bei jeder Bewertung
- Eine Ablehnung oder ein sicheres Halten, wenn erforderliche Abhängigkeiten nicht zu einer vertrauenswürdigen Entscheidung führen können
- Dauerhafter Mensch wartet mit expliziter Genehmigungsidentität und Handlungsbindung
- Idempotente Ausführung über Wiederholungsversuche und fortsetzbare Arbeitsabläufe hinweg
- Entscheidungsnachweise, die vor der Verpflichtung geschrieben wurden, und Ergebnisnachweise, die danach geschrieben wurden
Nach der Ausführung: Beweise bewahren und die Kontrollen verbessern
Die Laufzeit-Governance wird nach der Entscheidung fortgesetzt. Die Betriebsaufzeichnung sollte die vorgeschlagene Aktion, die Richtlinienbewertung, die übereinstimmenden Regeln, die menschliche Entscheidung, das nachgelagerte Ergebnis, Zeitstempel, Versionen und Integritätsnachweise unter stabilen Ausführungs- und Entscheidungskennungen verbinden.
Dieser Datensatz unterstützt mehrere Jobs. Operatoren untersuchen einen einzelnen Durchlauf durch die Hinrichtungslinie. Risikoteams messen blockierte Aktionen, Warnungen, Genehmigungslast, Überschreibungen, Latenz und Richtlinienwirksamkeit. Prüfer prüfen Entscheidungen und überprüfen Beweise. Kontrolleigentümer aktualisieren ihre Richtlinien, wenn die Ergebnisse Abweichungen, wiederkehrende Ausnahmen oder Lücken in der Abdeckung erkennen lassen.
Das EU-KI-Gesetz verleiht diesem Regelkreis regulatorische Relevanz für Hochrisikosysteme. Artikel 9 fordert ein kontinuierliches, iteratives Risikomanagementsystem. Artikel 12 erfordert technische Protokollierungsfunktionen. Artikel 14 verlangt eine wirksame menschliche Aufsicht während der Nutzung. Laufzeitnachweise können diese Aufgaben unterstützen, wenn der Systemumfang, die Rolle des Anbieters oder Bereitstellers und geltende Verpflichtungen für den spezifischen Anwendungsfall festgelegt werden.
Beobachtbarkeit, Leitplanken, Governance of Record und Laufzeit-Governance
Diese vier Schichten lösen unterschiedliche Probleme und tauschen häufig Daten aus. Teams benötigen diese Unterscheidung, da ein einzelner Anbieter möglicherweise mehrere Ebenen unter einem Produktnamen anbietet.
OpenTelemetry definiert Beobachtbarkeitssignale wie Spuren, Metriken, Protokolle und Gepäck. Diese Signale beschreiben die Aktivität und den Zustand des Systems. Die Laufzeit-Governance kann sie als Kontext nutzen und Richtlinienentscheidungen zurück in dieselbe Telemetrie-Pipeline ausgeben.
| Schicht | Primäreinheit | Wenn es handelt | Entscheidung oder Ausgabe | Charakteristische Grenze |
|---|---|---|---|---|
| Beobachtbarkeit | Anfrage, Spanne, Metrik, Protokollereignis | Während und nach der Aktivität | Telemetrie, Warnung, Ablaufverfolgung, Diagnosekontext | Eine Spur kann nach einer Nebenwirkung eintreffen und möglicherweise keine Genehmigungsentscheidung enthalten. |
| Leitplanken | Eingabeaufforderung, Modelleingabe oder -ausgabe, spezifischer Werkzeugzustand | Vor oder während der Modell- und Werkzeugtätigkeit | Filtern, umschreiben, kennzeichnen, allow oder block | Eine inhaltssichere Antwort kann dennoch eine Aktion vorschlagen, die über den Agentenauftrag hinausgeht. |
| Aufzeichnungsverwaltung | KI-System, Anwendungsfall, Risiko, Kontrolle, Eigentümer, Bewertung | Vor der Bereitstellung und in Überprüfungszyklen | Inventar, Richtlinie, Bewertung, Ausnahme, Genehmigungsverlauf | Ein aktueller Richtliniendatensatz kann nicht jede Live-Aktion einzeln erzwingen. |
| Laufzeit-Governance | Vorgeschlagene Folgemaßnahmen | Vor der Verpflichtung, zum Zeitpunkt der Entscheidung und nach dem Ergebnis | Erlauben, warn, Genehmigung erfordern, block und Nachweise | Deckungslücken, veraltete Policen oder eine Umgehung des Kontrollpunkts führen dazu, dass Maßnahmen nicht geregelt werden. |
Wo jede Schicht an ihre Grenzen stößt
Wenn ein System ausfällt, werden Schichtgrenzen deutlich. Jede Schicht hat eine charakteristische Frage, die sie beantworten kann, und eine Lücke, die eine andere Schicht schließen muss.
- Die Beobachtbarkeit stößt bei Autorität an ihre Grenzen. Es kann angezeigt werden, dass ein Agent eine Zahlungs-API aufgerufen hat, welche Route die Anfrage bearbeitet hat und wie lange es gedauert hat. In einer gesonderten Richtlinienentscheidung wird festgestellt, ob dieser Agent befugt war, diese Zahlung für diesen Auftraggeber im Rahmen der aktuellen Grenzen zu leisten.
- Schutzmaßnahmen stoßen im institutionellen Kontext an ihre Grenzen. Ein Toxizitätsfilter kann eine ausgehende Nachricht klassifizieren. Eine Laufzeitrichtlinie erfordert außerdem die Zustimmung des Kunden, die Gerichtsbarkeit, die Agentenrolle, den Kommunikationskanal, den Fallstatus und die Genehmigungsbehörde.
- Die Datenverwaltung stößt bei der Durchsetzung an ihre Grenzen. Eine Risikobewertung und Kontrollzuordnung legen die erwartete Regel fest. Der Ausführungspfad benötigt zum Zeitpunkt der Aktion eine maschinenlesbare Version dieser Regel.
- Laufzeit-Governance stößt bei Abdeckung und Kontrollqualität an ihre Grenzen. Die Ebene regelt nur die durch sie weitergeleiteten Aktionen unter Verwendung der ihr bereitgestellten Identitäten, Richtlinien und Beweisverträge. Inventarisierung, Integrationstests, Richtlinienüberprüfung und -sicherung bleiben unerlässlich.
Die Mindestarchitektur für die Laufzeit-KI-Governance
Eine Implementierung auf Kategorieebene benötigt sechs verbundene Funktionen. Die Produktverpackung kann variieren; die Kontrollverantwortung bleibt stabil.
Eine KI-Steuerungsebene bietet diese Funktionen über Agentenlaufzeiten, Tools und Workflows hinweg. Es zentralisiert Richtlinien, Genehmigungen und Beweisverträge, während jeder Durchsetzungskontrollpunkt auf dem Aktionspfad bleibt.
- Agent- und Prinzipalidentität. Lösen Sie den handelnden Agenten, den Menschen oder Dienstprinzipal dahinter, den Mandanten, die Umgebung und die aktuellen Rollen auf.
- Autorität und geringste Privilegien. Binden Sie Aktionen an explizite Tools, Ressourcen, Ziele, Werte, Raten und Zeitlimits.
- Kontextbezogene Richtlinienbewertung. Bewerten Sie die Richtlinie anhand der vorgeschlagenen Aktion und des aktuellen Geschäftsstatus mit versionierten Regeln und Ursachencodes.
- Weiterleitung menschlicher Entscheidungen. Pausieren Sie ausgewählte Aktionen, leiten Sie sie an den verantwortlichen Prüfer weiter, setzen Sie Hersteller-Prüfer-Regeln durch und binden Sie das Ergebnis an die ursprüngliche Anfrage.
- Ausführungsmediation. Platzieren Sie die Entscheidung auf der tatsächlichen Route zum Tool, bewahren Sie die Idempotenz und erzwingen Sie das zurückgegebene Ergebnis.
- Abstammung und Beweise. Erfassen Sie Entscheidungs- und Ergebnisdaten mit Integritätskontrollen, Aufbewahrung, Export und unabhängigen Verifizierungspfaden.
Wie KLA die Kategorie anwendet
Die KLA-Kontrollebene wendet dieses Modell auf geregelte Aktionen in regulierten Prozessen an. KLA Runtime ist die Ausführungsebene. Die KLA-Richtlinien-Engine auf Anwendungsebene wertet die geregelte Aktion aus und gibt allow, warn, require_approval oder block zurück. Ein require_approval-Ergebnis erstellt eine Entscheidungsanfrage für den verantwortlichen Prüfer im Decision Desk.
Das Betriebsprotokoll bleibt auch nach der Entscheidung bestehen. Lineage Explorer präsentiert die Ausführungschronologie. Im Beweisraum finden sich Rezensionsartefakte und Pakete mit versiegelten Beweisen. Die Konzeptseiten Policy-as-Code-Prüfpunkt, menschliche Aufsicht, Live-Intercept und Ausführungslinie zeigen jeden Teil des KLA-Laufzeitmodells.
Diese Architektur unterstützt die Governance-in-Place-Integration. Vorhandene Agenten-Frameworks und Workflow-Engines können geregelte Aktionen über den Prüfpunkt senden und dabei ihre Ausführungsverantwortung behalten. Die Richtlinien-, Genehmigungs- und Nachweisverträge bleiben über den gesamten integrierten Pfad hinweg stabil.
Eine praktische Checkliste zur Bewertung
Verwenden Sie diese Fragen, wenn Sie ein Laufzeit-Governance-Design, ein Produkt oder einen Kontrollanspruch bewerten.
- Welche genauen Aktionen werden vermittelt und über welche Wege können sie zu einem Folgewerkzeug außerhalb des Checkpoints gelangen?
- Wie werden Agent, Prinzipal, Mandant, Umgebung, Ziel und delegierte Autorität gelöst?
- Was sind die vollständigen Entscheidungsergebnisse, ihre Priorität und ihr Fehlerverhalten?
- Kann eine menschliche Genehmigung für verschiedene Argumente, Tools, Prinzipien oder Richtlinienversionen wiederholt werden?
- Was passiert, wenn Richtlinien-, Identitäts-, Beweis- oder Genehmigungsabhängigkeiten nicht verfügbar sind?
- Wie verhindert das System doppelte Nebenwirkungen bei Wiederholungsversuchen und Workflow-Fortsetzungen?
- Welche Entscheidungsfelder werden vor der Ausführung versiegelt und welche Ergebnisfelder werden nachträglich hinzugefügt?
- Kann ein unabhängiger Gutachter die Beweise überprüfen und sie auf politische und menschliche Autorität zurückführen?
- Wie werden Warnungen, Sperren, Überschreibungen, Genehmigungslast, Abweichung und Kontrollwirksamkeit überprüft?
- Welche Standards oder rechtlichen Pflichten gelten für dieses System, diesen Anwendungsfall, diese Gerichtsbarkeit und diese organisatorische Rolle?
Häufig gestellte Fragen
Was ist Laufzeit-KI-Governance?
Laufzeit-KI-Governance ist die kontinuierliche Durchsetzungs- und Beweisschicht, die entscheidet, ob eine vorgeschlagene KI-Aktion autorisiert, richtlinienkonform und im aktuellen Kontext sicher auszuführen ist. Es wertet die Aktion aus, während das System läuft, und speichert die Entscheidung und das Ergebnis zur Sicherung und Überprüfung.
Wie lässt sich KI-Governance mit Beobachtbarkeit vergleichen?
Observability erzeugt Spuren, Metriken, Protokolle und diagnostischen Kontext zur Systemaktivität. Die Laufzeit-Governance nutzt Identität, Autorität, Richtlinie und Aktionskontext, um eine verbindliche Ausführungsentscheidung zu treffen. Die Ebenen können Telemetriedaten gemeinsam nutzen und gleichzeitig separate Betriebsfragen bearbeiten.
Welchen Zusammenhang haben Leitplanken mit der Laufzeitgovernance?
Leitplanken bewerten Eingabeaufforderungen, Inhalte, Modellausgaben oder ausgewählte Werkzeugbedingungen. Laufzeit-Governance bindet eine Folgemaßnahme an institutionelle Autorität, aktuelle Richtlinien, verantwortliche menschliche Überprüfung, Ausführungskontrolle und Beweise. Guardrail-Ergebnisse können als Eingaben für die Laufzeitrichtlinienentscheidung dienen.
Was ist Governance of Record?
Governance of Record ist die Programmebene, die KI-Systeme und Anwendungsfälle inventarisiert, Eigentümer zuweist, Richtlinien und Bewertungen speichert, Ausnahmen aufzeichnet und den Überprüfungsverlauf verwaltet. Es stellt institutionelle Kontrollabsichten bereit, die die Laufzeit-Governance als ausführbare Richtlinie durchsetzen kann.
Welche Entscheidungen sollte eine Laufzeit-Governance-Schicht unterstützen?
Ein vollständiges Action-Gating-Modell unterstützt allow, warn, require_approval und block. Ausführungen innerhalb der Richtlinie zulassen. Warn wird ausgeführt und gibt einen definierten Überprüfungspfad ein. Erfordern Sie Genehmigungspausen für eine autorisierte Person. Block stoppt den geregelten Nebeneffekt.
Erfüllt die Laufzeit-KI-Governance das EU-KI-Gesetz?
Laufzeitkontrollen und Nachweise können Risikomanagement, Protokollierung und menschliche Aufsichtspflichten gemäß den Artikeln 9, 12 und 14 für Systeme mit hohem Risiko unterstützen. Die Einhaltung hängt von der Systemklassifizierung, der organisatorischen Rolle, dem beabsichtigten Zweck, der Gerichtsbarkeit, der vollständigen Kontrollumgebung und den Verpflichtungen ab, die für die spezifische Bereitstellung gelten.
Die wichtigsten Erkenntnisse
Die Laufzeit-KI-Governance verbindet die institutionelle Kontrollabsicht mit jeder Folgeaktion und bewahrt Beweise für das Ergebnis auf. Der KI-Governance-Engpass erklärt die dadurch freigesetzte Betriebskapazität. Rechenschaftspflichtige Autonomie deckt das Modell der menschlichen Autorität ab. Die KLA-Kontrollebene zeigt die Richtlinien-, Entscheidungs-, Abstammungs-, Sicherungs- und Beweisoberflächen als ein Laufzeitsystem an.