EU AI Act: Pflichten für Unternehmen

Der EU AI Act in einem Absatz

Die Verordnung (EU) 2024/1689, bekannt als EU AI Act oder KI-Verordnung, ist das erste umfassende Gesetz für künstliche Intelligenz. Sie trat am 1. August 2024 in Kraft und gilt unmittelbar in allen Mitgliedstaaten. Der AI Act regelt KI-Systeme nach ihrem Risiko: Bestimmte Praktiken sind verboten, Hochrisiko-Systeme unterliegen strengen Anforderungen, für andere gelten Transparenzpflichten, und der größte Teil alltäglicher KI-Anwendungen bleibt weitgehend unreguliert. Für fast alle Unternehmen relevant sind die Pflichten zur KI-Kompetenz und – je nach Einsatz – zur Transparenz.

Im Juli 2026 wurde der AI Act durch die Verordnung (EU) 2026/1744, den sogenannten „Digital Omnibus on AI“, geändert. Wichtigste Folge: Die Pflichten für Hochrisiko-Systeme gelten später als ursprünglich geplant. Dieser Ratgeber fasst den Stand nach dieser Änderung zusammen.

Zeitplan: Was gilt seit wann?

• 1. August 2024: Inkrafttreten der KI-Verordnung.
• 2. Februar 2025: Verbote bestimmter KI-Praktiken (Art. 5) und Pflicht zur KI-Kompetenz (Art. 4) gelten.
• 2. August 2025: Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI), Governance-Strukturen und Sanktionsregeln gelten.
• 27. Juli 2026: Der Digital Omnibus tritt in Kraft (veröffentlicht im Amtsblatt am 24. Juli 2026). Die neu gefasste Pflicht zur KI-Kompetenz gilt ab diesem Tag.
• 29. Juli 2026: In Deutschland tritt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) in Kraft; die Bundesnetzagentur wird zentrale Marktüberwachungsbehörde.
• 2. August 2026: Transparenzpflichten nach Art. 50 und die meisten übrigen Vorschriften gelten.
• 2. Dezember 2026: Ende der Übergangsfrist für die maschinenlesbare Kennzeichnung KI-generierter Inhalte (Art. 50 Abs. 2) bei Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden; neues Verbot von KI-Systemen zur Erzeugung nicht einvernehmlicher intimer Darstellungen.
• 2. August 2027: Spätestens jetzt muss jeder Mitgliedstaat mindestens ein KI-Reallabor betreiben.
• 2. Dezember 2027: Pflichten für Hochrisiko-Systeme nach Anhang III gelten (ursprünglich 2. August 2026).
• 2. August 2028: Pflichten für Hochrisiko-KI in Produkten nach Anhang I gelten, etwa in Maschinen oder Medizinprodukten (ursprünglich 2. August 2027).

Welche Rolle hat Ihr Unternehmen?

Der AI Act knüpft Pflichten an Rollen. Für den Mittelstand sind vor allem zwei relevant:

• Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr oder in Betrieb. Wer eine eigene KI-Anwendung an Kunden verkauft, ist Anbieter.
• Betreiber setzen ein KI-System in eigener Verantwortung ein. Das ist der Normalfall: Ein Unternehmen nutzt eine KI-Plattform, einen Chat-Assistenten oder ein KI-Modul in seiner Software.

Daneben gibt es Einführer und Händler. Achtung: Wer ein Hochrisiko-System wesentlich verändert, seinen Zweck ändert oder es unter eigenem Namen vertreibt, kann nach Art. 25 selbst zum Anbieter werden.

Die vier Risikoklassen

Verbotene Praktiken (Art. 5)

Verboten sind unter anderem KI-Systeme, die Menschen unterschwellig manipulieren oder Schwächen ausnutzen, Social Scoring, das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Gesichtserkennungsdatenbanken sowie Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit engen Ausnahmen aus medizinischen oder Sicherheitsgründen). Ab dem 2. Dezember 2026 kommt das Verbot von Systemen zur Erzeugung nicht einvernehmlicher intimer Darstellungen hinzu. Für typische Unternehmensanwendungen sind die Verbote selten einschlägig, die Emotionserkennung am Arbeitsplatz sollte aber jeder kennen.

Hochrisiko-Systeme (Art. 6, Anhänge I und III)

Hochrisiko ist ein System entweder als Sicherheitsbauteil eines regulierten Produkts (Anhang I) oder durch seinen Einsatzzweck in einem der Bereiche aus Anhang III. Für Unternehmen besonders relevant:

• Beschäftigung und Personal: KI zur Auswahl von Bewerbern, zur Analyse von Bewerbungen, für Entscheidungen über Beförderung oder Kündigung, zur Aufgabenzuweisung anhand persönlicher Merkmale oder zur Leistungsbewertung.
• Zugang zu wesentlichen Leistungen: etwa Kreditwürdigkeitsprüfung natürlicher Personen oder Risikobewertung in der Lebens- und Krankenversicherung.
• Bildung: Zulassung, Bewertung von Lernergebnissen, Prüfungsaufsicht.
• Kritische Infrastruktur, Biometrie, Strafverfolgung, Migration, Justiz: für die meisten Mittelständler nicht einschlägig.

Ein System aus Anhang III gilt nach Art. 6 Abs. 3 ausnahmsweise nicht als hochriskant, wenn es nur eine eng begrenzte Verfahrensaufgabe erfüllt, eine menschliche Tätigkeit lediglich verbessert oder vorbereitet und kein erhebliches Risiko birgt. Diese Einschätzung muss dokumentiert und das System registriert werden.

Transparenzpflichten (Art. 50)

Für bestimmte Systeme gelten Kennzeichnungspflichten, unabhängig vom Risiko – Details im nächsten Abschnitt.

Minimales Risiko

Die meisten Anwendungen – Wissenssuche, Texterstellung, Übersetzung, Zusammenfassungen, Spamfilter – unterliegen keinen besonderen Pflichten aus dem AI Act. Die KI-Kompetenzpflicht und die DSGVO gelten trotzdem.

Pflichten, die jetzt schon gelten

KI-Kompetenz (Art. 4)

Anbieter und Betreiber müssen Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals und anderer Personen fördern, die in ihrem Auftrag mit KI-Systemen umgehen. Mit dem Digital Omnibus wurde die Vorschrift neu gefasst: Statt ein „ausreichendes Maß“ an Kompetenz sicherzustellen, verlangt sie nun Maßnahmen, die die Entwicklung von KI-Kompetenz unterstützen – ein bestimmtes Niveau jeder einzelnen Person muss nicht garantiert werden. Die Pflicht gilt unabhängig von Unternehmensgröße und Risikoklasse.

In der Praxis bewährt sich:

• eine Schulung zu Funktionsweise, Grenzen und Risiken generativer KI, etwa Halluzinationen und Datenschutz,
• eine kurze KI-Richtlinie mit zugelassenen Werkzeugen und Regeln für sensible Daten,
• zusätzliche Einweisungen für Personen, die KI-Ergebnisse mit großer Tragweite verwenden,
• eine Dokumentation, wer wann geschult wurde.

Transparenz (Art. 50)

Seit dem 2. August 2026 gelten die Transparenzpflichten. Sie betreffen Anbieter und Betreiber unterschiedlich:

• Anbieter müssen Systeme, die direkt mit Menschen interagieren (etwa Chatbots), so gestalten, dass Nutzende erkennen, dass sie mit einer KI sprechen – sofern das nicht offensichtlich ist. Synthetische Audio-, Bild-, Video- und Textinhalte müssen maschinenlesbar als KI-generiert gekennzeichnet werden.
• Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen Betroffene informieren.
• Betreiber, die Deepfakes erzeugen oder verbreiten, müssen offenlegen, dass Inhalte künstlich erzeugt oder verändert wurden.
• Betreiber, die KI-generierte Texte veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen dies offenlegen – es sei denn, der Text wurde von einem Menschen geprüft und redaktionell verantwortet.

Für ein Unternehmen, das einen Chat-Assistenten auf der eigenen Website einsetzt, heißt das: Besucher sollten klar erkennen, dass sie mit einer KI kommunizieren.

Verbote

Prüfen Sie, dass keine verbotene Praxis eingesetzt wird – insbesondere keine Emotionserkennung von Beschäftigten.

Pflichten für Betreiber von Hochrisiko-Systemen (ab Dezember 2027)

Wer ein Hochrisiko-System nach Anhang III einsetzt, etwa eine KI-gestützte Bewerberauswahl, muss nach Art. 26 unter anderem:

1. das System gemäß der Betriebsanleitung des Anbieters verwenden,
2. die menschliche Aufsicht kompetenten, geschulten Personen mit ausreichender Befugnis übertragen,
3. sicherstellen, dass Eingabedaten, soweit er sie kontrolliert, dem Zweck entsprechen und repräsentativ sind,
4. den Betrieb überwachen und bei Risiken oder schwerwiegenden Vorfällen Anbieter und Behörden informieren,
5. automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren, soweit sie seiner Kontrolle unterliegen,
6. Arbeitnehmervertretungen und betroffene Beschäftigte vor der Inbetriebnahme am Arbeitsplatz informieren,
7. betroffene Personen informieren, wenn das System Entscheidungen über sie trifft oder unterstützt.

Bestimmte Betreiber – öffentliche Stellen und private Anbieter öffentlicher Dienste sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Risikobewertung in Lebens- und Krankenversicherungen – müssen zusätzlich eine Grundrechte-Folgenabschätzung (Art. 27) durchführen. Anbieter von Hochrisiko-Systemen tragen die umfangreicheren Pflichten: Risikomanagement, Datenqualität, technische Dokumentation, Qualitätsmanagement, Konformitätsbewertung, CE-Kennzeichnung und Registrierung.

Erleichterungen für KMU und kleine Midcaps

Der Digital Omnibus erweitert Erleichterungen für kleine und mittlere Unternehmen und führt die Kategorie der kleinen Unternehmen mittlerer Kapitalisierung (Small Mid-Caps) ein. Dazu gehören vereinfachte technische Dokumentation, verhältnismäßige Anforderungen an das Qualitätsmanagement, bevorzugter Zugang zu KI-Reallaboren und an die Unternehmensgröße angepasste Bußgeldobergrenzen. Diese Erleichterungen betreffen vor allem Anbieter; für Betreiber ändern sich die Pflichten kaum.

Aufsicht und Sanktionen

In Deutschland ist seit dem Inkrafttreten des KI-MIG am 29. Juli 2026 die Bundesnetzagentur zentrale Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle. In bestimmten Sektoren bleiben Fachaufsichten wie die BaFin zuständig. Die Bundesnetzagentur betreibt zudem einen KI-Service-Desk, der insbesondere KMU bei der Einordnung unterstützt.

Die Bußgelder nach Art. 99 sind gestaffelt: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Millionen Euro oder 3 Prozent bei Verstößen gegen andere Pflichten und bis zu 7,5 Millionen Euro oder 1 Prozent bei falschen Angaben gegenüber Behörden. Für KMU gilt jeweils der niedrigere der beiden Beträge.

Fahrplan für Ihr Unternehmen

1. Bestandsaufnahme: Listen Sie alle KI-Systeme auf – auch KI-Funktionen in bestehender Software wie HR-, CRM- oder Buchhaltungssystemen.
2. Rolle klären: Sind Sie Anbieter oder Betreiber? Bieten Sie Kunden eigene KI-Funktionen an?
3. Risikoklasse bestimmen: Prüfen Sie für jeden Einsatzzweck Art. 5, Anhang III und Art. 50. Dokumentieren Sie die Begründung.
4. KI-Kompetenz umsetzen: Schulung, Richtlinie, Dokumentation – das betrifft alle.
5. Transparenz umsetzen: Chatbots kennzeichnen, KI-generierte Veröffentlichungen prüfen.
6. Hochrisiko vorbereiten: Wenn Sie Hochrisiko-Systeme einsetzen, nutzen Sie die Zeit bis Dezember 2027 für Aufsicht, Protokollierung und Information der Beschäftigten.
7. Mit der DSGVO verzahnen: Viele Nachweise überschneiden sich mit der Datenschutzdokumentation. Der Ratgeber DSGVO-konforme KI hilft dabei.

Was AIPE zur Umsetzung beitragen kann

AIPE ist eine Plattform für typische Unternehmensanwendungen wie Wissenssuche, Texterstellung und Automatisierung, die nach Einsatzzweck meist keine Hochrisiko-Anwendungen sind. Die Einordnung hängt aber immer von Ihrem konkreten Einsatz ab. AIPE unterstützt die Umsetzung mit einem zentralen, freigegebenen Werkzeug statt verstreuter Einzeltools, mit Rollen und Rechten pro Organisation und Ressource, mit Antworten, die ihre Quellen nennen, und mit Nutzungsauswertungen nach Person und Kostenstelle. Agenten können mit Freigaben für riskante Aktionen arbeiten, sodass Menschen die Kontrolle behalten – mehr im Ratgeber KI-Agenten. Für Schulungen zur KI-Kompetenz liefern das Glossar und der Ratgeber KI für den Mittelstand eine gemeinsame Sprache.