EU AI Act — Pflichten-Referenz fuer Kundenprojekte

Wann triggert der AI Act? Welche Pflichten treffen uns als Anbieter, welche den Kunden als Deployer? Wie klassifizieren wir einen Use Case sauber? Diese Datei ist die generelle Referenz — fuer kunde-spezifische Anwendung jeweils einen Run anlegen.

Ergaenzt anthropic-datenschutz.md (DSGVO-Schicht) und llm-hosting-eu-optionen.md (Hosting-Wahl). Der AI Act ist die zusaetzliche Compliance-Schicht oberhalb der DSGVO — beide gelten parallel.

Vier Risikostufen — Ueberblick

Stufe	Kriterium	Pflichten	Beispiele
Verboten	Art. 5 — Social Scoring, Emotionserkennung am Arbeitsplatz, ungezielte Gesichtserkennung, Manipulation Schutzbeduerftiger	Komplettverbot. Bussgeld bis 35 Mio EUR / 7% Welt-Jahresumsatz.	Trifft uns nicht — wir bauen B2B-Productivity, nicht Massueberwachung.
Hochrisiko	Art. 6 + Annex III (acht Bereiche) oder eingebettet in regulierte Produkte	Konformitaetsbewertung, CE-Kennzeichnung, EU-Datenbank, Risk-Management-System, Logging Pflicht, FRIA fuer bestimmte Deployer	HR-Recruiting-Tools, Bonitaetsbewertung Privatpersonen, KRITIS-Steuerung
Begrenztes Risiko	Art. 50 — direkte Interaktion mit natuerlichen Personen, Generierung synthetischer Inhalte	Transparenzpflichten (Hinweis “Sie sprechen mit KI”), Markierung KI-erzeugter Inhalte	Customer-Chatbots, Marketing-Texte, Antwort-Emails an Kunden
Minimales Risiko	Alles andere	Keine spezifischen Pflichten (DSGVO + Wettbewerbsrecht greifen weiter)	Spam-Filter, Empfehlungssysteme intern, Datenextraktion B2B

Daumenregel fuer unsere Mittelstands-Kunden: Die meisten Use Cases (Vertriebsautomatisierung B2B, interne Buchhaltung, Email-Triage, Bestandsaufnahme) liegen in minimal oder begrenzt. Hochrisiko ist die Ausnahme — Decision-Tree unten.

Decision-Tree: Ist mein Use Case Hochrisiko?

flowchart TD
    Start([Use Case definieren]) --> Q1{In Annex I?<br/>Sicherheitskomponente<br/>regulierter Produkte<br/>Maschinen/Medizin/Aufzug}
    Q1 -->|Ja| HR1[Hochrisiko<br/>nach Art. 6 Abs. 1]
    Q1 -->|Nein| Q2{In Annex III?<br/>Acht Bereiche:<br/>1. Biometrik<br/>2. KRITIS<br/>3. Bildung<br/>4. HR/Beschaeftigung<br/>5. Essenzielle Dienste<br/>6. Strafverfolgung<br/>7. Migration<br/>8. Justiz}
    Q2 -->|Nein| MN[Begrenzt oder minimal<br/>siehe Art. 50]
    Q2 -->|Ja| Q3{Profiling<br/>natuerlicher Personen?<br/>Bewertet Personen<br/>basierend auf<br/>persoenlichen Aspekten}
    Q3 -->|Ja| HR2[Hochrisiko<br/>Profiling triggert immer<br/>Art. 6 Abs. 3 letzter Satz]
    Q3 -->|Nein| Q4{Eine der vier<br/>Ausnahmen<br/>aus Art. 6 Abs. 3?}
    Q4 -->|"a narrow procedural task"| LO[Kein Hochrisiko<br/>Dokumentation Pflicht]
    Q4 -->|"b improve human result"| LO
    Q4 -->|"c pattern detection"| LO
    Q4 -->|"d preparatory task"| LO
    Q4 -->|Nein| HR3[Hochrisiko nach<br/>Art. 6 Abs. 2]

Erlaeuterungen zu den drei Knotenpunkten:

Knoten 1 — Annex I (eingebettete KI in regulierten Produkten)

Trifft uns sehr selten. Annex I listet EU-Harmonisierungsrechtsakte (Maschinenrichtlinie, Medizinprodukte, Aufzuege, Spielzeug, Funkanlagen, etc.). Wenn der KI-Agent eine Sicherheitskomponente eines solchen Produkts ist (z.B. Maschinensteuerung), greift Hochrisiko nach Art. 6 Abs. 1. Im Mittelstands-Beratungsgeschaeft (Vertriebs-/Buchhaltungs-/Email-Agenten) praktisch nie einschlaegig.

Knoten 2 — Annex III (die acht Bereiche)

Die acht Bereiche im Volltext (vereinfacht):

#	Bereich	Was genau
1	Biometrik	Fern-Biometrie-Identifikation, Kategorisierung anhand sensibler Merkmale, Emotionserkennung
2	KRITIS	KI als Sicherheitskomponente in Verkehr, Wasser, Gas, Strom, Heizung, Kommunikationsnetzen
3	Bildung	Zulassung, Lerngruppen-Zuweisung, Bewertung von Lernergebnissen, Pruefungs-Monitoring
4	Beschaeftigung	Recruiting-Filter, Bewertung im Vorstellungsgespraech, Befoerderung, Kuendigung, Aufgabenzuweisung mit Personen-Bewertung
5a	Oeffentliche Leistungen	Berechtigungspruefung fuer Sozialleistungen, Gesundheitsversorgung
5b	Kreditwuerdigkeit natuerlicher Personen	Bonitaetsbewertung Privatpersonen (Ausnahme: Betrugserkennung)
5c	Lebens-/Krankenversicherung	Risikobewertung + Preisbildung
5d	Notrufdienste	Priorisierung, Triage
6	Strafverfolgung	Personen-Risiko-Profile, Beweismittel-Auswertung, Predictive Policing
7	Migration	Polygraph-Aequivalent, Asyl-Pruefung, Visumantraege
8	Justiz / demokratische Prozesse	Richterliche Entscheidungsunterstuetzung, Wahleinflussnahme

Wichtige Beobachtung fuer B2B: Punkt 5b und 5c betreffen ausdruecklich natuerliche Personen. B2B-Bonitaetspruefung von juristischen Personen ist nicht erfasst.

Knoten 3 — Profiling-Falle

Profiling ist nach Art. 3 Nr. 52 AI Act definiert wie in Art. 4 Nr. 4 DSGVO: automatisierte Verarbeitung personenbezogener Daten zur Bewertung persoenlicher Aspekte natuerlicher Personen (Verhalten, Praeferenzen, Leistung, wirtschaftliche Lage, etc.).

Wenn ein an sich nicht-Hochrisiko-Use-Case Profiling natuerlicher Personen einschliesst, kippt er automatisch in Hochrisiko (Art. 6 Abs. 3 letzter Satz) — die vier Ausnahmen helfen dann nicht.

Praktisch:

• Geschaeftskunden-Anfrage extrahieren = kein Profiling (juristische Person).
• Mitarbeiter-Performance bewerten = Profiling = Hochrisiko.
• Email-Triage anhand Absender-Person = potentiell Profiling, vorsichtig.

Knoten 4 — Vier Ausnahmen Art. 6 Abs. 3

Selbst wenn Annex III einschlaegig ist, kann der Use Case ueber Art. 6 Abs. 3 lit. a–d aus dem Hochrisiko-Status fallen, wenn keine signifikante Gefaehrdung von Gesundheit, Sicherheit, Grundrechten droht und eine der vier Bedingungen erfuellt ist:

lit.	Bedingung	Beispiel
a	”narrow procedural task” — schmale prozedurale Aufgabe	Dokumente nach Dateityp sortieren
b	”improve the result of a previously completed human activity” — menschliche Vorarbeit verbessern	Stil/Ton eines Texts anpassen
c	”detect decision-making patterns ohne menschliches Urteil zu ersetzen”	Lehrer auf abweichende Noten hinweisen
d	”preparatory task to an assessment” — vorbereitende Taetigkeit	Smart-File-Management, Uebersetzung, Angebot vorbereiten zur menschlichen Pruefung

Wichtig: Anbieter muss die Klassifizierung dokumentieren (welche Ausnahme, warum).

Anbieter (Provider) vs. Nutzer (Deployer)

Wir sind in fast allen Kundenprojekten Provider (wir bauen + integrieren das System). Der Kunde ist Deployer (er setzt es produktiv ein). Beide haben unterschiedliche Pflichten.

Pflichten-Matrix

Pflicht	Provider (wir)	Deployer (Kunde)	Gilt ab
Art. 4 KI-Kompetenz	Eigene Mitarbeiter qualifizieren	Eigene Mitarbeiter qualifizieren — wir liefern Schulung	2. Feb 2025 anwendbar, Enforcement 2. Aug 2026
Art. 50 Abs. 1 Transparenz (“Sie sprechen mit KI”)	System so bauen, dass Hinweis moeglich ist	Hinweis in der Praxis aktiv halten	2. Aug 2026
Art. 50 Abs. 2 KI-Output-Markierung	Bei eigener GPAI-Entwicklung. Wir nutzen Drittanbieter — trifft uns indirekt	n/a	2. Aug 2026
Art. 50 Abs. 4 Transparenz oeffentlicher Inhalt	n/a	Pflicht wenn KI-Text fuer “oeffentliches Interesse” — bei B2B-Privatkommunikation nicht einschlaegig	2. Aug 2026
Hochrisiko-Pflichten	Konformitaetsbewertung, technische Dokumentation, Quality-Management-System, Logging, Registrierung	Anweisungs-Konformitaet, Eingabedaten-Pruefung, Logging, FRIA, menschliche Aufsicht	2. Dez 2027 (geplant, nach Digital Omnibus)
GPAI-Anbieter-Pflichten	n/a (wir sind nicht GPAI-Anbieter) — Mistral/Anthropic/etc. erfuellen	n/a	2. Aug 2025 anwendbar
DSGVO-Schicht (parallel)	AVV mit Kunde + Sub-Processors	AVV mit uns, VVT, ggf. DSFA	seit 2018

Was wir typischerweise im Angebot mitliefern (Provider-Seite)

1. Risikoklassifizierung dokumentiert — schriftliche Begruendung, warum kein Hochrisiko (oder wenn doch: welche Pflichten erfuellt sind)
2. Schulungs-Modul KI-Kompetenz — 5 Bausteine (Grundverstaendnis, Use-Case-Spezifik, Prompt-Hygiene, Compliance-Awareness, Quartals-Refresher) plus Vorlagen (Policy, Trainings-Log, Update-Log)
3. Transparenz-Mechanismen — Footer in Mails, Fussnoten in PDFs, ggf. UI-Banner
4. Audit-Logging — Eingabe/Ausgabe/Modell-Version mit Zeitstempel, 6 Monate Default-Retention
5. Mensch-im-Loop-UI — kein automatisches Versenden ohne Freigabe, Eskalations-Pfad
6. Vorlagen-Set fuer Kunde — AVV, AI-Literacy-Policy, VVT-Eintrag, Datenschutzerklaerungs-Textbaustein
7. Compliance-Refresher quartalsweise — proaktive Information bei rechtlichen Aenderungen

Was der Kunde als Deployer selbst leisten muss

1. AVV unterzeichnen, AI-Literacy-Policy verteilen, Mitarbeiter zur Schulung freistellen
2. VVT-Eintrag (DSGVO) ergaenzen, Datenschutzerklaerung erweitern
3. Verantwortlichen fuer den KI-Einsatz benennen (oft der DSB oder GF)
4. Sub-Processor-Liste ggf. an Endkunden weitergeben (sofern vertraglich)
5. Eskalations-Verantwortung definieren (wer entscheidet bei Fehler/Streit)

KI-Kompetenz nach Art. 4 — Schulungs-Modul

Wichtigste Pflicht fuer Mittelstands-Deployer. Anwendbar seit 2. Februar 2025, Enforcement (Bussgelder) ab 2. August 2026.

Was Art. 4 verlangt

• “Ausreichendes Mass an KI-Kompetenz” der Mitarbeiter und Personen die in deren Auftrag mit KI arbeiten
• Angemessen zu Vorbildung, Erfahrung, Kontext
• Kein Zertifikat Pflicht, keine spezifische Governance-Struktur, keine Wissens-Messung

Was Best Practice ist

• Schriftliche AI-Literacy-Policy mit benannter Verantwortung (1–2 Seiten reichen)
• Bedarfsanalyse: welche Rolle braucht welches Wissen?
• Trainings-Aufzeichnungen: wer wurde wann zu was geschult
• Update-Log: wie entwickelt sich das Programm

Wer geschult werden muss (Kommissions-FAQ)

• Mitarbeiter die KI-Tools im Alltag nutzen
• Manager die auf Basis von KI-Outputs entscheiden
• Procurement / Compliance / Legal die KI-Tools auswaehlen
• C-Suite mit strategischer KI-Verantwortung
• Externe Dienstleister die im Auftrag KI betreiben

Unsere Standard-Module

Modul	Inhalt	Zielgruppe	Aufwand
1	KI-Grundverstaendnis (LLM, Halluzination, Bias, Datenfluss)	Alle Anwender	60–90 min
2	Use-Case-Spezifik (was kann der Agent, was nicht, wo nicht autonom entscheiden)	Anwender + Linie	60 min
3	Prompt-Hygiene + Eskalation (was nicht eingeben, wann auf Mensch-im-Loop)	Anwender	45 min
4	Compliance-Awareness (DSGVO + AI-Act kompakt, Logging-Verstaendnis)	Linie + GF	30 min
5	Quartals-Refresher (System-Updates, Recht-Updates)	Alle	30 min/Quartal

Plus Vorlagen: AI-Literacy-Policy (1–2 Seiten), Trainings-Log (Excel), Update-Log.

Zeitachse — was gilt wann

Datum	Was wird anwendbar	Praxis-Implikation
2. Feb 2025	Verbote (Art. 5) + KI-Kompetenz (Art. 4)	Beides aktuell. Schulungs-Modul muss aktiv sein.
2. Aug 2025	GPAI-Anbieter-Pflichten + Governance-Struktur (AI Office, Codes of Practice)	Trifft Modell-Provider. Wir muessen GPAI-Provider in Doku ausweisen.
2. Aug 2026	Transparenzpflichten (Art. 50) + Enforcement-Start fuer Art. 4 + Sanktionen	Footer/Hinweise muessen live sein.
2. Dez 2027 (geplant)	Hochrisiko-Pflichten fuer stand-alone-Systeme — verschoben durch Digital Omnibus von urspruenglich 2. Aug 2026	Fuer Mittelstands-Use-Cases meist irrelevant.
2. Aug 2028 (geplant)	Hochrisiko-Pflichten fuer eingebettete Systeme in regulierten Produkten	n/a fuer uns.

Digital Omnibus on AI — Kontext

Am 19. November 2025 hat die Kommission ein Digital-Omnibus-Paket vorgeschlagen, das Hochrisiko-Pflichten verschiebt. Begruendung: harmonisierte Standards (CEN/CENELEC) sind verspaetet, Konformitaetsbewertungsstellen teilweise nicht benannt.

Stand April 2026:

• 5. Februar 2026: Berichterstatter im EU-Parlament Entwurfsbericht
• 18. Maerz 2026: IMCO + LIBE haben gemeinsamen Bericht angenommen
• Trilog laeuft

Fuer unsere Praxis: erwaehnen, aber nicht zentral — die Klassifizierungs-Logik aendert sich nicht, nur die zeitliche Anwendung der Hochrisiko-Pflichten. Bei Mittelstandskunden ohne Hochrisiko-Use-Case egal.

Bussgelder (Art. 99)

Verstoss	Maximal-Bussgeld
Verbotene Praktiken (Art. 5)	35 Mio EUR oder 7% Welt-Jahresumsatz
Hochrisiko / Transparenz / KI-Kompetenz	15 Mio EUR oder 3%
Falsche/unvollstaendige Auskunft an Behoerden	7,5 Mio EUR oder 1%

Fuer Mittelstandskunden ist auch der mittlere Topf nicht trivial. Aber: ohne Hochrisiko-Klassifizierung ist die Angriffsflaeche minimal — Art. 4 + Art. 50 sind durch Schulung + Footer-Hinweise trivial erfuellt.

Pflicht-Checkliste fuer neue Kundenprojekte

Bei jedem neuen Use Case durchgehen:

• Risikoklassifizierung dokumentieren (Annex I? Annex III? Profiling? Ausnahme nach Art. 6 Abs. 3?)
• Provider/Deployer-Rolle klaeren (wir = Provider, Kunde = Deployer in 95% der Faelle)
• GPAI-Modell-Auswahl dokumentieren (Mistral als Default, Mistral/Anthropic sind GPAI-Code-Signatare)
• Schulungs-Modul im Sprint-Plan einplanen
• Transparenz-Mechanismen technisch einbauen (Footer, Fussnoten)
• Audit-Logging mit 6-Monate-Retention bauen
• Vorlagen-Set an Kunde liefern (AVV, AI-Literacy-Policy, VVT-Eintrag, Datenschutzerklaerung)
• Eskalations-Verantwortlichen beim Kunden benennen lassen
• DSGVO-Schicht parallel pruefen (siehe anthropic-datenschutz.md)
• Quartals-Refresher-Termin im Vertrag festhalten

Lessons Learned + Stolperer

2026-04-27 — Becker

Erste systematische AI-Act-Einordnung fuer ein Kundenprojekt. Schluesselerkenntnisse:

• B2B-Vertrieb an juristische Personen ist strukturell nicht Hochrisiko, weil Profiling sich auf natuerliche Personen bezieht.
• Selbst hilfsweise greift Art. 6 Abs. 3 lit. d) — vorbereitende Taetigkeit + Mensch-im-Loop.
• Digital Omnibus hat die Hochrisiko-Pflichten von 2026 auf 2027 verschoben — fuer Becker irrelevant, aber fuer Branche allgemein wichtig.
• KI-Kompetenz-Schulung ist die zentralste Pflicht — bauen wir ohnehin als Modul ein.

Profiling-Falle vermeiden

Ist es ein Pattern fuer mehrere Kunden: jede neue Use-Case-Erweiterung pruefen ob sie Profiling natuerlicher Personen einschliesst. Klassische Triggerphrasen aus Kundengespraechen die alarmieren sollten:

• “Wir wollen wissen welcher Vertriebler welche Anfrage am besten beantwortet”
• “Wir wollen Kunden segmentieren nach Verhalten”
• “Wir wollen interne Mitarbeiter-Performance trackenen”
• “Wir wollen einzelne Endkunden-Ansprechpartner bewerten” Diese Use Cases triggern Profiling und kippen automatisch in Hochrisiko — selbst wenn der Hauptzweck B2B ist.

Annex III ist eng

Mittelstands-Use-Cases (Vertrieb, Buchhaltung, Email-Triage, Bestandsmanagement, Kundenanfrage-Bearbeitung) sind fast nie Annex III. Hochrisiko-Falle praktisch immer ueber HR-Bewertung oder Bonitaetspruefung Privatpersonen — beides selten in unseren Projekten.

Quellen

Volltext + offizielle EU-Kommissions-Quellen

• EU AI Act Verordnung 2024/1689 (eur-lex DE)
• AI Act Service Desk — European Commission
• Navigating the AI Act — EC FAQ
• AI Literacy Q&A — EC
• GPAI Code of Practice

Artikel-Volltexte

• Art. 4 AI Literacy
• Art. 6 High-Risk Classification Rules
• Art. 50 Transparency Obligations
• Annex III High-Risk Systems
• Implementation Timeline

Digital Omnibus / Aktueller Trilog-Stand

• Digital Omnibus on AI — Legislative Train
• Morrison Foerster Analysis Dezember 2025
• Jones Day — How EU Rules Will Shift

KMU-Sicht + Deutschland

• Sage DE — EU AI Act 2026 fuer Mittelstand
• IHK Schleswig-Holstein — AI-Act + KI-Schulungspflicht
• KI-Service-Desk Bundesnetzagentur — KMU-Beratungsangebot

Related

• anthropic-datenschutz.md — DSGVO-Schicht parallel zum AI Act, AVV-Links
• llm-hosting-eu-optionen.md — Mistral als Default-GPAI-Anbieter
• claude-dsgvo-setup.md — technischer Setup-Guide Bedrock-EU
• zugriffsmodell.md — Datenfluss-Architektur Kunden
• ../../../runs/2026-04-27-research-eu-ai-act-becker/ — Erst-Anwendung dieser Referenz auf Becker-Projekt