KI-Agenten-Register

Ein KI-Agenten-Register ist das Verzeichnis, das eine Organisation über alle KI-Agenten führt, die sie entwickelt oder betreibt. Jeder Eintrag hält fest, wer für den Agenten verantwortlich ist, welchem Geschäftsprozess er dient, welches Modell in welcher Version er nutzt, auf welche Werkzeuge und Daten er zugreifen darf, wer seine folgenreichen Aktionen freigibt und ob er sich im Test, im Produktivbetrieb, in der Sperrung oder in der Stilllegung befindet.

Das Register beantwortet die ersten Fragen jeder Prüfung und jedes Vorfalls: Welche Agenten gibt es, wer ist für jeden verantwortlich, und was darf jeder tun? Zugriffsüberprüfungen, Risikobewertungen und Incident Response setzen alle hier an. Für einen Agenten ohne aktuellen Eintrag lassen sich die Berechtigungen nicht rezertifizieren, und ein Operator kann nicht sicher sein, dass ein Kill-Switch jede Instanz erreicht hat.

Das interne Register und die EU-Datenbank sind getrennte Verzeichnisse. Nach Artikel 49 der KI-Verordnung registrieren Anbieter die in Anhang III aufgeführten Hochrisiko-KI-Systeme in der nach Artikel 71 eingerichteten EU-Datenbank, und Betreiber, die Behörden sind oder in deren Auftrag handeln, registrieren dort ihre Nutzung dieser Systeme. Das interne Register einer Bank umfasst meist viele Agenten unterhalb der Hochrisiko-Schwelle und enthält betriebliche Angaben wie Werkzeugberechtigungen und Freigabeverantwortliche.

Koppeln Sie das Register an die Systeme, in denen die Agenten laufen. Ein von Hand in einer Tabelle gepflegter Eintrag veraltet, sobald sich Versionen ändern; ein Eintrag, den der Release-Prozess aktualisiert, bleibt aktuell. In einer unserer eigenen Testumgebungen wuchs das Register auf 17 Agenten, davon etwa 14 nahezu identische Testversionen, die niemand stilllegte; der produktive Agent war dadurch schwer zu finden. Erfassen Sie jede Versionsänderung mit Datum und freigebender Person, damit ein Prüfer jede frühere Aktion der Agentenversion zuordnen kann, die sie ausgeführt hat. Schreiben Sie Identität und Version des Agenten bei der Erstellung in jeden Entscheidungsdatensatz, weil ein versiegelter Datensatz später nicht mehr geändert werden kann.

In KLA hält die Agent Registry Verantwortlichen, Versionen und Release-Status jedes Agenten fest, und der Tool Catalog hält fest, welche Werkzeuge jeder Agent aufrufen darf.