EU-KI-Verordnung: Compliance für personenbezogene Daten in KI-Systemen
Verbotene KI-Praktiken sind seit dem 2. Februar 2025 untersagt. Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Pflichten für Hochrisiko-KI folgen am 2. Dezember 2027 (Anhang III) und am 2. August 2028 (Anhang I). Bei verbotenen Praktiken drohen Geldbußen bis zu 35 Mio. €, bei Verstößen gegen Hochrisiko-Pflichten bis zu 15 Mio. €. Hier erfahren Sie, was Sie bei Trainingsdaten, Dokumentation und der Verarbeitung von KI-Eingaben beachten müssen.
Wer die Pflichten erfüllen muss
Die EU-KI-Verordnung gilt für jede Organisation, die KI-Systeme in der EU in Verkehr bringt oder dort in Betrieb nimmt. Der Unternehmenssitz spielt dabei keine Rolle. Auch Unternehmen aus den USA, dem Vereinigten Königreich und Asien unterliegen den Anforderungen vollständig, wenn sie KI für europäische Nutzer bereitstellen.
Hochrisiko-KI-Systeme
- Biometrische Identifizierung und Kategorisierung
- Steuerung sicherheitskritischer Infrastruktur
- Bewertung in der allgemeinen und beruflichen Bildung
- Personalauswahl und Bewerberprüfung
- Bonitäts-, Versicherungs- und Finanzbewertungen
- Strafverfolgung und vorausschauende Polizeiarbeit
- Bearbeitung von Migrations- und Asylverfahren
- Rechtspflege
Systeme mit begrenztem Risiko
- Chatbots und dialogbasierte KI
- Erzeugung von Deepfake-Inhalten
Es gelten Transparenzpflichten: Nutzer müssen erfahren, dass sie mit KI interagieren.
Systeme mit minimalem Risiko
- Spamfilter
- KI-gestützte Spiele
- Bestandsverwaltung
- Einfache Prozessautomatisierung
Die EU-KI-Verordnung sieht dafür keine besonderen Pflichten vor. Freiwillige Verhaltenskodizes werden jedoch empfohlen.
Höhe der Geldbußen
Die EU-KI-Verordnung staffelt Geldbußen nach Schwere des Verstoßes. Maßgeblich ist der höhere Betrag aus festem Höchstbetrag und Prozentsatz des weltweiten Jahresumsatzes. Bei einem Unternehmen mit 1 Mrd. € Umsatz könnte ein Verstoß gegen das Verbot bestimmter KI-Praktiken mit bis zu 70 Mio. € geahndet werden.
| Art des Verstoßes | Fester Höchstbetrag | % des weltweiten Umsatzes | Beispiel (Unternehmen mit 1 Mrd. € Umsatz) |
|---|---|---|---|
| Verbotene KI-Praktiken | 35.000.000 € | 7 % | Bis zu 70.000.000 € |
| Verstöße gegen Hochrisiko-Pflichten | 15.000.000 € | 3 % | Bis zu 30.000.000 € |
| Falsche oder irreführende Angaben gegenüber Behörden | 7.500.000 € | 1 % | Bis zu 10.000.000 € |
Hinweis: Grundsätzlich gilt der höhere Betrag aus festem Höchstbetrag und Prozentsatz. Für kleine und mittlere Unternehmen sowie Start-ups gilt umgekehrt der niedrigere der beiden Beträge als Obergrenze der jeweiligen Geldbuße (Artikel 99 Absatz 6).
Artikel 10 — Anforderungen an die Daten-Governance
Für Trainingsdaten von Hochrisiko-KI-Systemen müssen Verfahren zur Daten-Governance gelten. Dazu gehört die Prüfung möglicher Verzerrungen. Artikel 10 verlangt keine Datensätze ohne personenbezogene Daten. Artikel 4a (zuvor Artikel 10 Absatz 5, geändert durch die Verordnung (EU) 2026/1744) erlaubt unter strengen Schutzvorkehrungen sogar die begrenzte Verarbeitung besonderer Kategorien personenbezogener Daten, um Verzerrungen zu korrigieren.
„Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein.“
— EU-KI-Verordnung, Artikel 10 Absatz 3
Trainingsdatensätze auf offengelegte personenbezogene Daten prüfen
Prüfen Sie alle Ablagen für Trainingsdaten auf offengelegte personenbezogene Daten. Nutzen Sie piisafe.eu für Dokumentation im Web oder die REST-API für die stapelweise Prüfung von Dateien. Erstellen und bewahren Sie Prüfberichte als Nachweis auf.
Personenbezogene Daten anonymisieren oder pseudonymisieren
Pseudonymisieren Sie personenbezogene Daten in Trainingskorpora, zum Beispiel mit der API von anonym.legal. Beim Training zur Verarbeitung natürlicher Sprache sollte derselbe echte Name im gesamten Korpus demselben Pseudonym zugeordnet sein. So bleibt der Bedeutungszusammenhang erhalten. Pseudonymisierte Daten bleiben nach der Datenschutz-Grundverordnung (DSGVO) personenbezogene Daten.
Anonymisierungsmethode dokumentieren
Halten Sie die genaue Methode fest: Version der Erkennungssoftware, berücksichtigte Arten personenbezogener Daten, Verarbeitungsart (Ersetzen/Maskieren/Hashwert bilden/Verschlüsseln) und Angaben zur Infrastruktur. Ersetzen, Entfernen, Maskieren und das Bilden eines Hashwerts liefern wiederholbare Ergebnisse. Dadurch lässt sich die Methode nachvollziehbar dokumentieren.
Datenverarbeitung fortlaufend überwachen
Binden Sie die Prüfung personenbezogener Daten in die Übernahme neuer Daten ein. Jeder neue Stapel von Trainingsdaten sollte automatisch geprüft werden, bevor er die Trainingsumgebung erreicht. Mit der REST-API und einer CI/CD-Anbindung können Sie diese Prüfung automatisiert durchsetzen.
Risiko einer erneuten Identifizierung bewerten
Dokumentieren Sie, wie Sie das Risiko einer erneuten Identifizierung bewerten. Halten Sie für jeden anonymisierten Datensatz die angewandte Methode, das verbleibende Risiko, die Analyse indirekt identifizierender Merkmale und die fachlich begründete Feststellung fest, dass das Risiko nach Erwägungsgrund 26 der DSGVO und den Maßstäben des Artikels 10 der EU-KI-Verordnung hinreichend gering ist.
Artikel 11 — Checkliste für die technische Dokumentation
Anbieter von Hochrisiko-KI müssen die technische Dokumentation erstellen, bevor sie das System in Verkehr bringen. Sie müssen sie über den gesamten Lebenszyklus des Systems aktuell halten.
- Allgemeine Beschreibung des KI-Systems und seiner Zweckbestimmung
- Beschreibung von Entwurf, Entwicklungsmethode und Architektur des Systems
- Verfahren zur Daten-Governance bei Trainingsdaten (Artikel 10), einschließlich der Anonymisierungsmethode für personenbezogene Daten
- Validierungs- und Testverfahren mit Leistungskennzahlen
- Risikomanagementsystem und Maßnahmen zur Risikominderung (Artikel 9)
- Plan zur Beobachtung nach dem Inverkehrbringen und Verfahren zur Meldung von Vorfällen
Wie anonymize.solutions unterstützt
Vier Bausteine setzen unmittelbar an den Anforderungen aus Artikel 10 und 11 der EU-KI-Verordnung an. Sie liefern sowohl die Anonymisierung als auch die Dokumentation der Prüfungen, die Aufsichtsbehörden anfordern werden.
REST-API für Trainingsdaten
Binden Sie die Anonymisierung personenbezogener Daten direkt in die Übernahme neuer Daten ein. Verarbeiten Sie Trainingsdatensätze stapelweise über die API, erstellen Sie Prüfprotokolle und erzeugen Sie für die Compliance aufbereitete Berichte für die Dokumentation nach Artikel 11.
piisafe.eu zur Prüfung von Dokumentation
Prüfen Sie öffentlich zugängliche KI-Dokumentation, Modellbeschreibungen, README-Dateien und Datenblätter auf offengelegte personenbezogene Daten. Die Oberfläche ist kostenlos; für die Erkennung benötigen Sie einen anonym.legal-API-Schlüssel (ab 3 € pro Monat). Exportieren Sie die Ergebnisse als Anlagen zur Datenschutz-Folgenabschätzung und zur Dokumentation nach Artikel 11.
Wiederholbares Prüfprotokoll
Ersetzen, Entfernen, Maskieren und das Bilden eines Hashwerts sind deterministisch: Bei gleicher Eingabe und gleichen Einstellungen entsteht dasselbe Ergebnis. Beim Verschlüsseln wird ein zufälliger Initialisierungsvektor verwendet. Deshalb unterscheidet sich der verschlüsselte Text bei jedem Durchlauf. So können Sie Ihre Anonymisierungsmethode nachvollziehbar dokumentieren.
Ein Baustein für DSGVO und EU-KI-Verordnung
Artikel 25 der DSGVO (Datenschutz durch Technikgestaltung) und Artikel 10 der EU-KI-Verordnung verfolgen gemeinsame Ziele bei der Datenminimierung. Anonymisierung unterstützt die Anforderungen beider Regelwerke an die Daten-Governance. Dieser technische Baustein allein gewährleistet jedoch keine Compliance mit einem der beiden Regelwerke.
Fragen zur EU-KI-Verordnung
Antworten auf häufige Fragen zu Compliance, Geldbußen und personenbezogenen Daten nach der EU-KI-Verordnung.
Die Pflichten gelten schrittweise. Verbotene KI-Praktiken sind seit dem 2. Februar 2025 untersagt. Anforderungen an KI-Modelle mit allgemeinem Verwendungszweck (GPAI) gelten seit dem 2. August 2025. Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Nach der Änderung durch den Digital Omnibus von 2026 gelten die Anforderungen an Hochrisiko-KI-Systeme ab dem 2. Dezember 2027 (Anhang III) beziehungsweise dem 2. August 2028 (Anhang I).
Dazu gehören biometrische Identifizierung und Kategorisierung, die Steuerung sicherheitskritischer Infrastruktur, Bewertungen in der allgemeinen und beruflichen Bildung, Personalauswahl und Bewerberprüfung, Bonitäts- und Versicherungsbewertungen, Risikobewertungen in der Strafverfolgung, Migrations- und Asylverfahren sowie die Rechtspflege. Die vollständige Liste steht in Anhang III der EU-KI-Verordnung.
Es gibt drei Stufen: Für verbotene KI-Praktiken drohen bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes; der höhere Betrag gilt. Bei Verstößen gegen Hochrisiko-Pflichten sind es bis zu 15 Mio. € oder 3 %. Bei falschen oder irreführenden Angaben gegenüber Behörden sind es bis zu 7,5 Mio. € oder 1 %. Für kleine und mittlere Unternehmen sowie Start-ups gilt jeweils der niedrigere Betrag aus festem Höchstbetrag und Prozentsatz (Artikel 99 Absatz 6).
Artikel 10 verlangt Verfahren zur Daten-Governance für Trainings-, Validierungs- und Testdaten. Dazu gehören die Prüfung auf Verzerrungen sowie Datensätze, die relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sind. Datensätze ohne personenbezogene Daten verlangt er nicht. Für personenbezogene Daten in diesen Datensätzen gilt weiterhin die DSGVO; hier hilft die Anonymisierung. Fehlen angemessene Verfahren zur Daten-Governance, liegt ein unmittelbarer Verstoß gegen Artikel 10 vor.
Ja. Die Verordnung gilt auch über die EU hinaus: Jedes Unternehmen, das KI-Systeme in der EU in Verkehr bringt oder dort in Betrieb nimmt, muss sie einhalten. Der Unternehmenssitz spielt keine Rolle. Unternehmen aus den USA, dem Vereinigten Königreich, Asien und anderen Staaten außerhalb der EU unterliegen ihr vollständig, wenn Menschen oder Organisationen in der EU ihre KI-Systeme nutzen.
Teilweise. Artikel 25 der DSGVO (Datenschutz durch Technikgestaltung) und Artikel 5 (Datenminimierung) unterstützen die Erfüllung von Artikel 10 der EU-KI-Verordnung. Diese stellt jedoch weitere Anforderungen: technische Dokumentation (Artikel 11), Konformitätsbewertung (Artikel 43) und Beobachtung nach dem Inverkehrbringen (Artikel 72). Eine Anonymisierung nach den Maßstäben der DSGVO unterstützt die Daten-Governance beider Regelwerke. Sie allein stellt die Einhaltung keines der beiden Regelwerke sicher.
Prüfen Sie mit piisafe.eu Dokumentationsablagen und webbasierte Trainingsdaten. Die Oberfläche ist kostenlos; für die Erkennung personenbezogener Daten benötigen Sie einen anonym.legal-API-Schlüssel. Mit der REST-API von anonym.legal können Sie Dateistapel programmgesteuert prüfen. Beide erzeugen Exporte der Prüfprotokolle als HTML, JSON und CSV für die technische Dokumentation nach Artikel 11.
Daten, bei denen keine Mittel zur erneuten Identifizierung nach allgemeinem Ermessen wahrscheinlich genutzt werden, gelten nach Erwägungsgrund 26 der DSGVO nicht als personenbezogene Daten. Damit fallen sie weder unter die DSGVO noch unter die Beschränkungen der EU-KI-Verordnung für personenbezogene Daten. Die Anforderungen aus Artikel 10 an Daten-Governance, darunter Relevanz, Repräsentativität und die Prüfung auf Verzerrungen, gelten weiterhin für anonymisierte Trainingsdaten. Dokumentieren Sie Ihre Anonymisierungsmethode, um die Einhaltung nachzuweisen.
Ja. Systeme mit RAG (Retrieval-Augmented Generation, also Antwortgenerierung mit abgerufenen Informationen), die bei der Erzeugung von Antworten personenbezogene Daten abrufen und verarbeiten, können Schutzmaßnahmen benötigen. Das gilt besonders bei Hochrisiko-KI. Für den Abruf und die Verarbeitung personenbezogener Daten gelten die Pflichten der DSGVO. Die EU-KI-Verordnung ergänzt Anforderungen an das Risikomanagement.
Die EU-KI-Verordnung trat am 1. August 2024 in Kraft. Die Pflichten gelten gestaffelt: Verbotene KI-Praktiken seit dem 2. Februar 2025, Pflichten für GPAI-Modelle seit dem 2. August 2025 und Transparenzpflichten aus Artikel 50 seit dem 2. August 2026. Nach der Änderung durch den Digital Omnibus von 2026 gelten die Anforderungen an Hochrisiko-KI-Systeme nach Anhang III ab dem 2. Dezember 2027. Für Hochrisiko-KI nach Anhang I (Produktsicherheitsrecht) gelten sie ab dem 2. August 2028.
Ja. Für KI-Modelle mit allgemeinem Verwendungszweck (GPAI), darunter große Sprachmodelle (LLMs), gelten seit August 2025 Transparenzpflichten. Dazu gehören die Veröffentlichung von Zusammenfassungen der Trainingsdaten, einer Strategie zur Einhaltung des Urheberrechts und von Angaben zum Energieverbrauch. Für Modelle mit systemischem Risiko, definiert durch ein Training mit mehr als 10²⁵ Gleitkommaoperationen (FLOPs), gelten zusätzliche Pflichten zu Angriffstests (adversarial testing) und zur Meldung von Vorfällen. Entwickler, die GPAI in Hochrisiko-Anwendungen einsetzen, müssen die Hochrisiko-Vorschriften einhalten.
Ersetzen, Entfernen, Maskieren und das Bilden eines Hashwerts sind deterministisch: Gleiche Eingaben und Einstellungen liefern dasselbe Ergebnis. Beim Verschlüsseln wird ein zufälliger Initialisierungsvektor verwendet, sodass der verschlüsselte Text bei jedem Durchlauf anders ist. Damit sind genaue Angaben zur Methode möglich, zum Beispiel: „Trainingsdaten mit anonym.legal anonymisiert (kombinierte Verarbeitung natürlicher Sprache und Mustererkennung, 267 Arten personenbezogener Daten in 48 Sprachen); Betrieb auf ISO-27001-zertifizierter Infrastruktur von Hetzner in Falkenstein, Deutschland.“
Ja. piisafe.eu bietet eine Website-Prüfung mit kostenloser Oberfläche. Sie prüft öffentlich zugängliche Dokumentation, README-Dateien, Modellbeschreibungen und Datenblätter auf offengelegte personenbezogene Daten. Für die Erkennung benötigen Sie einen anonym.legal-API-Schlüssel (ab 3 € pro Monat). Wählen Sie die voreingestellten Erkennungsregeln „EU AI Act Article 10“, um gezielt im Hinblick auf die Anforderungen des Artikels 10 an die Daten-Governance zu prüfen.
Gilt das für Ihre Organisation?
Dieser Leitfaden ist allgemein; Ihre Pflichten sind es nicht. Nennen Sie uns Ihre Branche und sagen Sie uns, wohin Ihre Daten gelangen dürfen. Wir sagen Ihnen, was für Sie gilt.