EU AI Act: Was ändert sich für Arbeitnehmer und Unternehmen 2025/2026?

Am 1. August 2024 trat der EU AI Act in Kraft — die weltweit erste umfassende KI-Regulierung. Was zunächst abstrakt klingt, hat handfeste Konsequenzen für Unternehmen und Arbeitnehmer in Deutschland. Hier ist, was du wirklich wissen musst.

Die Zeitlinie: Was gilt wann?

Der EU AI Act wird schrittweise umgesetzt:

Februar 2025 — Verbotene KI-Praktiken müssen eingestellt sein

• Social Scoring-Systeme verboten
• Manipulative KI (die Nutzer unbewusst beeinflusst) verboten
• Echtzeit-Biometrie zur Strafverfolgung in öffentlichen Räumen (mit engen Ausnahmen) verboten

August 2025 — GPAI-Modelle unter Regulierung

• General-Purpose AI Modelle (wie GPT-4, Claude) unterliegen Transparenzpflichten
• Systeme mit “systemischem Risiko” (sehr große Modelle) haben verschärfte Auflagen

August 2026 — Hochrisiko-Pflichten vollständig in Kraft

• Alle Hochrisiko-KI-Systeme müssen konform sein
• Umfangreiche Dokumentations-, Aufsichts- und Registrierungspflichten

Was ist verboten? (Art. 5 EU AI Act)

Diese KI-Praktiken sind in der EU seit Februar 2025 verboten:

1. Manipulative KI: Systeme, die Menschen durch unbewusste Techniken manipulieren und ihnen schaden
2. Ausnutzen von Schwächen: KI, die gezielt Vulnerabilitäten von Kindern, Älteren oder Menschen mit Behinderungen ausnutzt
3. Social Scoring: Bewertung von Menschen durch staatliche Stellen aufgrund ihres sozialen Verhaltens
4. Biometrische Echtzeit-Überwachung in öffentlichen Räumen (durch Strafverfolgungsbehörden, mit engen Ausnahmen)
5. Vorhersage von Straftaten basierend auf Persönlichkeitsmerkmalen

Was bedeutet das praktisch? Die meisten Unternehmens-KI-Systeme sind davon nicht betroffen. HR-Tools und Recommendation-Engines sind keine verbotenen Systeme — sie fallen aber möglicherweise unter Hochrisiko (s.u.).

Hochrisiko-KI: Wer ist betroffen?

Das ist das Herzstück des EU AI Act. Hochrisiko-KI (Anhang III) umfasst Systeme in diesen Bereichen:

• HR und Recruiting: Algorithmen für Bewerberauswahl, -bewertung und -kategorisierung
• Bildung: Systeme zur Beurteilung von Schülern oder zur Entscheidung über Bildungszugang
• Kredite und Versicherungen: Automatisierte Kreditwürdigkeitsprüfungen
• Strafverfolgung: Risikoeinschätzung von Personen
• Kritische Infrastruktur: KI in Energie, Wasser, Verkehr
• Medizinprodukte: KI-gestützte Diagnose-Tools
• Öffentliche Verwaltung: Entscheidungen über Leistungen, Einbürgerung, Steuern

Pflichten für Hochrisiko-KI

Wenn dein Unternehmen ein Hochrisiko-System betreibt oder einsetzt:

1. Risikomanagement-System — Durchgehende Risikoidentifikation und -minderung
2. Datensatz-Governance — Trainingsdaten müssen relevant, repräsentativ und fehlerfrei sein
3. Technische Dokumentation — Vollständige Beschreibung des Systems vor Markteinführung
4. Protokollierung — Automatisches Logging für Nachvollziehbarkeit
5. Transparenz — Benutzer müssen informiert werden
6. Menschliche Aufsicht — Menschen müssen das System überwachen und eingreifen können
7. Genauigkeit und Robustheit — Technische Mindestanforderungen
8. Konformitätsbewertung — Je nach System: Selbstbewertung oder externe Prüfung
9. EU-Datenbank-Registrierung — Hochrisiko-Systeme müssen registriert werden

Was müssen Arbeitnehmer wissen?

Wenn du mit KI-Tools arbeitest

Viele Standard-Tools sind nicht betroffen. Excel mit KI-Funktionen, Copilot für Office oder ein KI-Chatbot für den Kundenservice sind in der Regel keine Hochrisiko-Systeme.

Aber: Wenn dein Unternehmen KI für Personalentscheidungen, Leistungsbewertung oder ähnliche HR-Funktionen einsetzt, hast du als Arbeitnehmer Rechte:

• Das Recht auf Information, dass eine automatisierte Entscheidung getroffen wird
• Das Recht auf menschliche Überprüfung
• Das Recht auf Erklärung der Entscheidungslogik (begrenzt)

Wenn du selbst KI entwickelst oder beschaffst

Als Entwickler oder Einkäufer trägst du Mitverantwortung. Du solltest:

• Wissen, in welche Risikokategorie das System fällt
• Die Anforderungen für die jeweilige Kategorie kennen
• Dokumentation und Compliance von Anfang an mitdenken

Bußgelder: Was droht bei Verstößen?

Die EU AI Act-Bußgelder sind erheblich:

• Verbotene Systeme: Bis zu 35 Mio. € oder 7% des weltweiten Jahresumsatzes
• Hochrisiko-Verstöße: Bis zu 15 Mio. € oder 3%
• Falsche Informationen an Behörden: Bis zu 7,5 Mio. € oder 1%

Für KMU und Startups gelten angepasste (niedrigere) Höchstgrenzen.

Was Unternehmen jetzt tun sollten

1. KI-Inventar erstellen: Welche KI-Systeme werden eingesetzt? Entwickelt oder nur genutzt?
2. Risikokategorisierung: Für jedes System prüfen: Fällt es unter Hochrisiko?
3. Gap-Analyse: Was fehlt in Bezug auf Dokumentation, Monitoring, Governance?
4. Team schulen: HR, IT, Compliance, Management — alle müssen die Basics kennen
5. Externer Support: Für komplexe Systeme rechtliche und technische Beratung einholen

Wie KOMPETAI hilft

Unser 1-tägiger EU AI Act — Compliance & Umsetzung Kurs vermittelt:

• Die vollständige Systematik des AI Act
• Hands-on: Eigene Systeme klassifizieren
• Dokumentations-Templates
• Praxisbeispiele aus verschiedenen Branchen
• Q&A mit dem Trainer

AVGS-förderfähig — für Arbeitssuchende kostenlos. Mehr erfahren