Anforderungen des EU AI Act: Was Compliance-Verantwortliche 2026 wissen müssen

Die phasenweise Einführung macht sofortiges Handeln dringlich¶

Den genauen Compliance-Kalender zu kennen, ist für Ressourcenplanung und Programmdesign entscheidend. Der EU AI Act (Verordnung 2024/1689) ist am 1. August 2024 in Kraft getreten, wirkt aber über eine gestaffelte Einführung, die in jeder Phase eine andere organisatorische Antwort verlangt.

Bereits seit dem 2. Februar 2025 sind alle acht Kategorien verbotener KI-Praktiken durchsetzbar. Dazu zählen Social-Scoring-Systeme, KI, die Schwächen aufgrund von Alter oder Behinderung ausnutzt, biometrische Kategorisierung zur Ableitung sensibler Merkmale, biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen (mit eng begrenzten Ausnahmen für die Strafverfolgung), Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, das ungezielte Auslesen von Gesichtsbildern für Datenbanken sowie manipulative oder täuschende KI-Techniken.

Mit der Frist zum 2. August 2025 traten die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) in Kraft. Anbieter von Basismodellen müssen technische Dokumentation vorhalten, Richtlinien zur Einhaltung des Urheberrechts einführen und Zusammenfassungen der Trainingsdaten veröffentlichen. Modelle mit mehr als 10^25 FLOPs Trainingsrechenleistung gelten als Modelle mit systemischem Risiko und unterliegen zusätzlichen Pflichten.

Der 2. Dezember 2027 aktiviert den vollständigen Compliance-Rahmen für Hochrisiko-KI-Systeme nach Anhang III. Der Digital Omnibus zur KI, den das Europäische Parlament am 16. Juni 2026 gebilligt und der Rat am 29. Juni 2026 angenommen hat, hat diesen Termin vom 2. August 2026 dorthin verschoben – er umfasst Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienstleistungen, Strafverfolgung, Migration und demokratische Prozesse. Organisationen müssen Konformitätsbewertungen abschließen, Qualitätsmanagementsysteme einführen, Risikomanagement-Rahmenwerke etablieren und Systeme in der EU-Datenbank registrieren, bevor sie nach diesem Datum Hochrisiko-KI in Betrieb nehmen.

• 2. Februar 2025: Verbotene KI-Praktiken durchsetzbar, mit den höchsten Bußgeldern
• 2. August 2025: GPAI-Modellpflichten in Kraft; nationale Behörden benannt
• 2. August 2026: Transparenzpflichten nach Artikel 50 gelten für Anbieter und Betreiber
• 2. Dezember 2026: Maschinenlesbare Kennzeichnung fällig für generative Systeme, die bereits auf dem Markt sind; zwei neue Verbote nach Artikel 5 gelten
• 2. August 2027: Jeder Mitgliedstaat muss mindestens ein KI-Reallabor betreiben (Artikel 57)
• 2. Dezember 2027: Vollständige Anforderungen an Hochrisiko-KI-Systeme nach Anhang III treten in Kraft, verschoben vom 2. August 2026
• 2. August 2028: Hochrisiko-KI in regulierten Produkten (Medizinprodukte, Maschinen, Fahrzeuge), verschoben vom 2. August 2027

Die Compliance-Rolle erfordert eine organisatorische Neuaufstellung¶

Der EU AI Act schreibt keine bestimmte Position eines „KI-Compliance-Beauftragten“ vor, schafft aber Verantwortlichkeitsstrukturen, die eine zentrale Führung der KI-Governance faktisch erforderlich machen. Artikel 17 Absatz 1 Buchstabe m verlangt von Anbietern „einen Rechenschaftsrahmen, in dem die Verantwortlichkeiten der Leitung und des sonstigen Personals“ für die KI-Compliance festgelegt sind – eine Formulierung, die eigens dafür vorgesehene Aufsichtsrollen nahelegt.

Führende Beratungshäuser empfehlen formale KI-Governance-Strukturen: einen Chief AI Officer oder KI-Governance-Lead auf oberer Führungsebene, ein funktionsübergreifendes KI-Beratungsgremium aus Recht, Compliance, Produkt und Technik sowie klare Berichtswege bis auf die Aufsichtsebene des Vorstands.

• Anbieter entwickeln KI-Systeme oder bringen sie in Verkehr – sie tragen die primäre Compliance-Verantwortung
• Betreiber setzen KI-Systeme in eigener Verantwortung ein – mit leichteren, aber substanziellen Pflichten
• Betreiber können durch Umfirmierung, wesentliche Änderungen oder die Zweckentfremdung von KI mit allgemeinem Verwendungszweck für Hochrisiko-Anwendungen selbst zu Anbietern werden
• Lieferantenverträge und Change-Control-Verfahren müssen das Risiko des Provider Creep aktiv steuern

Die Anforderungen an die KI-Kompetenz verlangen sofortige Investitionen in Schulungen¶

Die Pflichten zur KI-Kompetenz nach Artikel 4 gelten seit dem 2. Februar 2025. Anbieter und Betreiber müssen „ein ausreichendes Maß an KI-Kompetenz ihres Personals und anderer Personen sicherstellen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“. Die Europäische Kommission hat klargestellt, dass dies auch Auftragnehmer, Dienstleister und unter Umständen sogar Kunden erfasst, die KI-Systeme der Organisation nutzen.

Schulungsprogramme müssen allgemeines KI-Verständnis, rollenspezifische Pflichten, Risikobewusstsein für die eingesetzten Systeme und die praktische Anwendung im Arbeitsalltag abdecken. Ein Verstoß gegen die Anforderungen an die KI-Kompetenz löst keine unmittelbaren Bußgelder aus, aber unzureichende Schulung wirkt als erschwerender Umstand und erhöht die Sanktionen für andere Verstöße gegen den AI Act.

• Vorstands- und Führungsebene: Schulung zu strategischer KI-Governance und Risikoaufsicht
• Operatives Personal: Praktische Nutzungsleitlinien und Verfahren der menschlichen Aufsicht
• Risiko- und Compliance-Personal: Klassifizierungsmethodik und Dokumentationsanforderungen
• Technische Teams: Vertiefte Schulung zu Data Governance und Modellvalidierung

Die Risikoklassifizierung bestimmt den gesamten Compliance-Aufwand¶

Das vierstufige Risikoklassifizierungssystem der Verordnung – verboten, hochriskant, begrenztes Risiko und minimales Risiko – prägt die Compliance-Pflichten grundlegend. Klassifizierungsfehler sind das, was mehrere Beratungshäuser „den grundlegendsten und folgenschwersten Fehler“ der AI-Act-Compliance nennen.

Die Hochrisiko-Einstufung greift über zwei Wege. Der erste erfasst KI-Systeme, die als Sicherheitsbauteile von Produkten dienen, die unter bestehendes EU-Harmonisierungsrecht fallen, oder die selbst solche Produkte sind. Der zweite erfasst KI-Systeme in acht benannten Anwendungsfallkategorien nach Anhang III.

Die Ausnahme nach Artikel 6 Absatz 3 erlaubt es Systemen, die andernfalls als hochriskant gälten, dieser Einstufung zu entgehen, wenn sie eng begrenzte Verfahrensaufgaben ausführen, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessern, Entscheidungsmuster erkennen, ohne die menschliche Bewertung zu ersetzen, oder vorbereitende Aufgaben durchführen. Diese Ausnahme gilt jedoch nicht, wenn das System ein Profiling natürlicher Personen durchführt.

• Biometrie: Fernidentifizierung, Emotionserkennung
• Kritische Infrastruktur: Digitale Systeme, Verkehr, Versorgungswirtschaft
• Bildung: Zulassung, Bewertung, Prüfungsaufsicht
• Beschäftigung: Personalgewinnung, Leistungsüberwachung, Kündigungsentscheidungen
• Wesentliche Dienstleistungen: Kreditscoring, Risikobewertung in der Versicherung, Notrufdisposition
• Strafverfolgung: Beweiswürdigung, Risikobewertung
• Migration und Grenzkontrolle
• Rechtspflege und demokratische Prozesse

Technische Dokumentation und Qualitätsmanagementsysteme¶

Anbieter von Hochrisiko-KI-Systemen müssen eine umfassende technische Dokumentation vorhalten, die die neun in Anhang IV benannten Kategorien abdeckt: allgemeine Systembeschreibung, Entwurfs- und Entwicklungsmethodik, Datenanforderungen, Angaben zu Überwachung und Kontrolle, Dokumentation des Risikomanagements, Aufzeichnungen über Änderungen im Lebenszyklus, angewandte harmonisierte Normen, Konformitätsunterlagen und Pläne zur Beobachtung nach dem Inverkehrbringen.

Artikel 17 verlangt Qualitätsmanagementsysteme mit dokumentierten Strategien, Verfahren und Anweisungen für die Compliance-Strategie, Entwurfs- und Entwicklungsverfahren, Test- und Validierungsanforderungen, Datenmanagementsysteme, die Einbindung des Risikomanagements, die Beobachtung nach dem Inverkehrbringen, die Meldung von Vorfällen und Rechenschaftsrahmen.

Expertenanalysen zeigen, dass über 70 % der Compliance-Fehler auf Dokumentationsmängel zurückgehen und nicht auf technische Defizite. Damit ist eine systematische Dokumentationspraxis die Compliance-Investition mit der größten Hebelwirkung.

• Die Dokumentation ist 10 Jahre nach dem Inverkehrbringen des Systems aufzubewahren
• Von Hochrisiko-Systemen automatisch erzeugte Protokolle sind mindestens 6 Monate aufzubewahren
• Finanzinstitute können die QMS-Anforderungen über bestehende Governance-Regelungen erfüllen
• Die Kommission hat vereinfachte Vorlagen für KMU und Startups zugesagt

Pflichten zur menschlichen Aufsicht schaffen operative Anforderungen¶

Artikel 14 verlangt, dass Hochrisiko-KI-Systeme so gestaltet sind, dass natürliche Personen sie während der Verwendung wirksam beaufsichtigen können, mit geeigneten Werkzeugen an der Mensch-Maschine-Schnittstelle. Die Verordnung erkennt mehrere Aufsichtsmodelle an – Human-in-Command, Human-in-the-Loop, Human-on-the-Loop und Human-over-the-Loop.

Technische Vorkehrungen müssen es Betreibern ermöglichen, Fähigkeiten und Grenzen des Systems zu verstehen, den Betrieb einschließlich Anomalieerkennung zu überwachen, das Risiko einer Automatisierungsverzerrung zu erkennen, Ausgaben richtig zu interpretieren, in jeder Situation von der Verwendung einer Ausgabe abzusehen und über Stoppmechanismen einzugreifen oder den Betrieb zu unterbrechen.

Für biometrische Fernidentifizierungssysteme verlangt die Verordnung eine Bestätigung durch zwei Personen – eine Identifizierung muss von mindestens zwei qualifizierten Personen mit der nötigen Kompetenz, Ausbildung und Befugnis bestätigt werden.

• Das Aufsichtspersonal muss über die nötige Kompetenz und Befugnis verfügen
• Aufsichtsaufgaben dürfen andere operative Tätigkeiten nicht behindern
• Die Aufsichtsmaßnahmen sind in der technischen Dokumentation zu dokumentieren
• Auditfähige Protokolle der Aufsichtseingriffe sind vorzuhalten

Konformitätsbewertungsverfahren unterscheiden sich je nach Systemkategorie¶

Hochrisiko-KI-Systeme benötigen vor dem Inverkehrbringen eine Konformitätsbewertung über einen von zwei Wegen. Die interne Kontrolle als Selbstbewertung (Anhang VI) ist für Systeme nach Anhang III Nummern 2 bis 8 zulässig (Bildung, Beschäftigung, wesentliche Dienstleistungen, Strafverfolgung, Migration, demokratische Prozesse).

Eine Bewertung durch Dritte über notifizierte Stellen (Anhang VII) ist für biometrische Identifizierungssysteme nach Anhang III Nummer 1 erforderlich, ferner wenn harmonisierte Normen fehlen oder nicht vollständig angewandt werden und wenn gemeinsame Spezifikationen bestehen, aber nicht angewandt werden.

Für KI-Systeme in regulierten Produkten nach den Rechtsakten des Anhangs I (Medizinprodukte, Maschinen) folgen Anbieter dem Konformitätsbewertungsverfahren jenes Rechtsakts, in das die Anforderungen des AI Act integriert werden.

Anforderungen an die Daten-Governance erzwingen systematische Qualitätskontrollen¶

Artikel 10 legt Datenqualitätsanforderungen für Hochrisiko-KI-Systeme fest, die mit Trainingsdaten arbeiten. Zu den verlangten Daten-Governance-Praktiken zählen dokumentierte Entwurfsentscheidungen zum Nachweis der Relevanz, die Dokumentation der Datenerhebung, ausdrückliche Annahmen darüber, was die Daten messen, dokumentierte Aufbereitungsprozesse, Bewertungen der Verfügbarkeit, die Untersuchung auf Verzerrungen und das Aufdecken von Datenlücken.

Datensätze müssen relevant, hinreichend repräsentativ, so weit wie möglich fehlerfrei und für den Verwendungszweck vollständig sein und für die Zielpopulationen angemessene statistische Eigenschaften aufweisen.

Das Verhältnis zur DSGVO erzeugt Synergien und Spannungen zugleich. Der Grundsatz der Datenminimierung aus der DSGVO muss gegen die Vollständigkeitsanforderungen des AI Act abgewogen werden – eine Spannung, die eine sorgfältige Dokumentation der Erforderlichkeitsentscheidungen verlangt.

Beobachtung nach dem Inverkehrbringen und Meldung von Vorfällen¶

Artikel 72 verlangt von Anbietern Systeme zur Beobachtung nach dem Inverkehrbringen, die den Risiken des Systems angemessen sind und über die gesamte Lebensdauer des Systems aktiv relevante Leistungsdaten erheben, dokumentieren und auswerten.

Die Meldung schwerwiegender Vorfälle nach Artikel 73 sieht strenge Fristen vor: Bei Todesfällen ist innerhalb von 10 Tagen zu melden; bei weitverbreiteten Verstößen oder Störungen kritischer Infrastruktur innerhalb von 2 Tagen; bei sonstigen schwerwiegenden Vorfällen innerhalb von 15 Tagen.

• Kein One-Stop-Shop-Mechanismus – Anbieter müssen an jeden betroffenen Mitgliedstaat melden
• Betreiber müssen Anbieter unverzüglich über schwerwiegende Vorfälle informieren
• Sind Anbieter nicht erreichbar, gelten die Meldepflichten unmittelbar für den Betreiber
• Vorlagen für Pläne zur Beobachtung nach dem Inverkehrbringen werden von der Kommission bis Februar 2026 erwartet

Das Sanktionsregime schafft erhebliche finanzielle Risiken¶

Die Verordnung sieht drei Bußgeldstufen vor, die ein erhebliches finanzielles Risiko begründen. Verstöße gegen das Verbot bestimmter KI-Praktiken werden mit bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet, je nachdem, welcher Betrag höher ist. Die meisten anderen Verstöße gegen den AI Act werden mit bis zu 15 Mio. EUR oder 3 % des Umsatzes geahndet. Die Erteilung falscher oder irreführender Auskünfte an Behörden auf ein Auskunftsersuchen hin wird mit bis zu 7,5 Mio. EUR oder 1 % des Umsatzes geahndet.

Für KMU und Startups gelten dieselben Höchstprozentsätze und -beträge, maßgeblich ist jedoch der jeweils niedrigere (nicht der höhere) Wert – eine spürbare Erleichterung für kleinere Organisationen.

• In die Bemessung fließen Art, Schwere und Dauer des Verstoßes sowie die Zahl der betroffenen Personen ein
• Zusammenarbeit mit den Behörden und Abhilfemaßnahmen beeinflussen die Bemessung des Bußgelds
• Artikel 99 erlaubt es den Mitgliedstaaten, Regeln zur Haftung natürlicher Personen festzulegen
• Bußgelder für Anbieter von GPAI-Modellen greifen erst ab August 2026

Die Aufsichtslandschaft befindet sich noch im Aufbau¶

Das Europäische KI-Büro, angesiedelt in der GD CNECT und mit über 125 Beschäftigten, hat die ausschließliche Zuständigkeit für die Durchsetzung bei KI-Modellen mit allgemeinem Verwendungszweck und stimmt sich über das KI-Gremium mit den nationalen Behörden ab.

Die Benennung der nationalen Behörden ist unvollständig – Mitte 2025 hatten erst drei Mitgliedstaaten sowohl notifizierende Behörden als auch Marktüberwachungsbehörden vollständig benannt. Die Umsetzungsansätze reichen von zentralisierten Modellen mit einer einzigen Behörde bis zu verteilten Modellen über bestehende Sektoraufsichten.

Mit Stand Mitte 2026 sind keine größeren Durchsetzungsmaßnahmen oder Bußgelder öffentlich bekannt geworden. Regulatorische Signale deuten jedoch darauf hin, dass die frühen Schwerpunkte bei verbotenen Praktiken, der Transparenz von GPAI-Modellen, den Offenlegungspflichten nach Artikel 50 ab dem 2. August 2026 und – ab dem Anhang-III-Termin am 2. Dezember 2027 – bei KI in Beschäftigung und Personalgewinnung, Kreditscoring und Anwendungen im Gesundheitswesen liegen werden.

Branchenspezifische Aspekte prägen die Compliance-Strategie¶

Finanzdienstleistungen stehen vor besonderer Komplexität: Kreditscoring sowie die Risikobewertung in der Lebens- und Krankenversicherung sind ausdrücklich als hochriskant eingestuft. Die nationalen Finanzaufsichten fungieren als Marktüberwachungsbehörden. Die Verordnung erlaubt es, bestehende Rahmenwerke für das Modellrisikomanagement und die interne Governance für die QMS-Compliance zu nutzen.

KI im Gesundheitswesen und in Medizinprodukten profitiert von der verlängerten Übergangsfrist bis zum 2. August 2028 für Systeme, die in regulierte Produkte eingebettet sind. Die Betreiberpflichten stellen Krankenhäuser und Praxen vor Herausforderungen, denen häufig die technischen Ressourcen fehlen.

KI in HR und Recruiting ist ausdrücklich hochriskant und verlangt Transparenz gegenüber Bewerbenden, verzerrungsfreie Trainingsdaten, menschliche Aufsicht über Entscheidungen und laufende Überwachung. Das Verbot der Emotionserkennung am Arbeitsplatz gilt unmittelbar.

Integration in bestehende Compliance-Rahmenwerke¶

Die Integration mit der DSGVO bietet natürliche Synergien bei Transparenz, Richtigkeit, Rechenschaftspflicht, Daten-Governance und Diskriminierungsfreiheit. Das Verzeichnis von Verarbeitungstätigkeiten sollte um ein Inventar der KI-Systeme erweitert werden. Datenschutz-Folgenabschätzungen sollten mit den Grundrechte-Folgenabschätzungen verzahnt werden.

Bestehende GRC-Strukturen können die Anforderungen des AI Act über etablierte Rahmenwerke aufnehmen, darunter das NIST AI Risk Management Framework, die Norm ISO/IEC 42001 für KI-Managementsysteme und branchenspezifische Praktiken des Modellrisikomanagements.

• Eine Zertifizierung nach ISO/IEC 42001 allein begründet keine Konformitätsvermutung
• Das Modell der drei Verteidigungslinien lässt sich unmittelbar auf die KI-Governance anwenden
• Das AI-Audit-Framework der ISACA liefert Kontrollbibliotheken für Governance und Betrieb
• Die erste Linie schafft Prozesse zur Identifizierung und Behandlung von KI-Risiken