Die EU hat sich hier an der DSGVO orientiert, aber teils noch schärfer angesetzt. Entscheidend ist: Die Strafe hängt von der Art des Verstoßes ab.
Aber bevor wir zu den Zahlen kommen — ein Satz zur Realität da draußen:
Jede Applikation hat gerade eine KI. Jede. Der Hersteller wirbt damit, der Einkauf nickt, und drei Monate später läuft irgendwo ein System, das Entscheidungen vorbereitet — und niemand hat gefragt, was für eine KI das eigentlich ist, was sie anfasst, und ob sie damit unter den AI Act fällt. Nicht aus böser Absicht. Aus Unwissenheit. Und aus dem Reflex: „KI ist gut, also kaufen wir KI.“
Genau das ist das Problem, das der AI Act adressiert. Nicht die bewusste Manipulation — die offensichtliche Blindheit.
Und die hat einen Preis:
- Verbotene KI (z. B. Social Scoring, manipulative Systeme)
→ bis zu 35 Mio. € oder 7% des weltweiten Jahresumsatzes - Verstöße gegen Pflichten bei Hochrisiko-KI (z. B. keine Risikoanalyse, keine Dokumentation, keine menschliche Aufsicht)
→ bis zu 15 Mio. € oder 3% Umsatz - Falsche Angaben gegenüber Behörden
→ bis zu 7,5 Mio. € oder 1% Umsatz - KMU/Startups
→ können reduzierte Obergrenzen haben, aber nicht „straffrei“
Wichtig: Es gilt immer der höhere Wert (fixe Summe vs. Prozent).
Was praktisch passiert (wichtiger als die Zahl)
Die Geldstrafe ist nur die sichtbare Spitze. In der Praxis oft kritischer:
- Nutzungsverbote: Systeme dürfen nicht weiter betrieben werden
- Marktzugang weg: Produkte verlieren CE-/Konformitätsstatus
- Reputationsschaden: besonders bei HR-, Finance- oder MedTech-Systemen
- Haftungsrisiken: zivilrechtliche Folgen bei Schäden durch KI-Entscheidungen
- Audits & Eingriffe: Behörden können aktiv prüfen und Maßnahmen erzwingen
Ein Beispiel:
Ein Unternehmen nutzt ein KI-Tool zur Bewerber-Vorselektion, ohne es als Hochrisiko-System zu klassifizieren oder zu dokumentieren. Ergebnis kann sein: sofortige Abschaltung + Audit + Bußgeld + potenzielle Diskriminierungsklagen.
Nicht weil jemand Böses wollte. Weil niemand wusste, was er da eigentlich eingekauft hat.
Das ist der Grund, warum KI-Readiness keine akademische Übung ist. Und warum Es gibt nicht die KI der erste Artikel ist, den jeder lesen sollte, bevor er dem nächsten Vertriebsgespräch über „unsere neue KI-Funktion“ zuhört.