Die Verbreitung von Schatten-KI
Schatten-KI bezeichnet die Nutzung von KI-Werkzeugen durch Beschäftigte ohne Freigabe der IT oder Sicherheitsprüfung. Sie ist das KI-Gegenstück zur Schatten-IT, bei der Beschäftigte nicht genehmigte Software installieren. Ein Unterschied ist entscheidend: KI-Werkzeuge sind für Privatpersonen gemacht, ständig verfügbar und vollständig über den Browser zugänglich. Dadurch bleiben sie für die meisten Sicherheitssysteme von Unternehmen unsichtbar.
Wie Schatten-KI personenbezogene Daten preisgibt (5 Wege)
Weg 1: Kopieren aus internen Systemen
Das ist der häufigste Weg. Eine beschäftigte Person bearbeitet eine Kundenanfrage. Sie kopiert Angaben zur Kundin oder zum Kunden – Name, E-Mail-Adresse, Kontonummer und bisherige Beschwerden – in ChatGPT, um „eine professionelle Antwort zu formulieren“. Die personenbezogenen Daten befinden sich nun im System von OpenAI. Die Person wollte keinen Schaden anrichten. Sie wollte effizient arbeiten.
Weg 2: Hochladen und Zusammenfassen von Dokumenten
Viele KI-Werkzeuge nehmen inzwischen Dateien entgegen. Beschäftigte laden Verträge, Personalakten, Finanzberichte und Exporte von Kundendaten hoch, um Zusammenfassungen, Übersetzungen oder Analysen zu erhalten. Diese Dokumente enthalten häufig umfangreiche personenbezogene Daten. Nach dem Hochladen zu einem KI-Dienst in der Cloud liegen die Daten außerhalb Ihrer Kontrolle, unabhängig von dessen Datenschutzerklärung.
Weg 3: Codegenerierung mit echten Daten
Entwicklerinnen und Entwickler fügen häufig echte Datenbankschemata, API-Antworten mit aktuellen Nutzerdaten oder Protokolldateien mit personenbezogenen Daten in KI-Programmierhilfen ein. Damit wollen sie Fehler beheben oder Code erzeugen. Etwa: „Hier ist die JSON-Antwort unserer Nutzer-API. Wie lese ich das verschachtelte Adressfeld aus?“ Die echten Nutzerdaten gehen dabei mit.
Weg 4: Entwürfe für E-Mails und andere Mitteilungen
Vertriebsteams fügen Kundeneinträge aus ihren Systemen zur Pflege von Kundenbeziehungen in KI-Werkzeuge ein, um persönliche E-Mails zu entwerfen. Personalteams nutzen Gesprächsnotizen für Rückmeldungen an Bewerbende. Rechtsteams verwenden Falldetails für Schreiben. In jedem Fall verlassen personenbezogene Daten Ihre Organisation ohne Sicherheitsprüfung.
Weg 5: Browser-Erweiterungen mit KI
Dutzende Browser-Erweiterungen nutzen KI, um Texte zu verbessern, Seiten zusammenzufassen oder beim Ausfüllen von Formularen zu helfen. Viele übertragen Seiteninhalte an die APIs externer KI-Anbieter. Dazu können personenbezogene Daten gehören, die auf dem Bildschirm sichtbar sind. Wer eine „hilfreiche Schreibhilfe“ installiert, bemerkt möglicherweise nicht, dass die Erweiterung jede besuchte Seite an einen externen Server sendet.
Die verborgenen Kosten offengelegter Daten durch KI
Vorfälle mit Schatten-KI sind schwer zu erkennen und nach ihrer Entdeckung kostspielig. Herkömmliche Datenpannen lassen sich meist einem Ereignis zuordnen und zurückverfolgen. Bei Schatten-KI entstehen Risiken dagegen fortlaufend und häufen sich an. Hunderte Beschäftigte treffen Tausende einzelne Entscheidungen. Jede birgt ein kleines rechtliches Risiko. Zusammen ergeben sie ein massives Compliance-Risiko.
Bei der Berechnung der Kosten müssen Sie Folgendes berücksichtigen:
- Meldepflichten nach der DSGVO: Werden personenbezogene Daten ohne angemessene Schutzmaßnahmen an nicht befugte Dritte übermittelt, liegt eine Verletzung des Schutzes personenbezogener Daten vor. Sie muss geprüft und gegebenenfalls innerhalb von 72 Stunden der Datenschutzaufsichtsbehörde gemeldet werden.
- Behördliche Geldbußen: Bei schweren Verstößen gegen die DSGVO sind bis zu 20 Mio. € oder 4 % des weltweiten Jahresumsatzes möglich.
- Haftungsrisiken: Betroffene Personen, deren Daten offengelegt wurden, haben nach Artikel 82 DSGVO Anspruch auf Schadenersatz.
- Rufschäden: Unternehmenskunden prüfen im Rahmen ihres Risikomanagements für Anbieter zunehmend deren Regeln zur KI-Nutzung.
- Pflichten nach der EU-KI-Verordnung: Wenn Ihre Organisation KI-Systeme entwickelt, kann die Verarbeitung personenbezogener Daten durch Schatten-KI Pflichten nach der EU-KI-Verordnung auslösen, die Ihrer Rechtsabteilung nicht bekannt sind.
Was Ihre Leitung der Informationssicherheit (CISO) durchsetzen muss
Technische Maßnahmen wirken besser als Regeln allein. Forschung zeigt wiederholt, dass Beschäftigte Sicherheitsregeln umgehen, wenn sie diese als Hindernis für ihre Arbeit empfinden. Die Lösung ist nicht, KI zu verbieten – ein Verbot ist weder durchsetzbar noch zielführend, es bewirkt eher das Gegenteil. Die Lösung ist ein sicherer Weg zur KI-Nutzung, der zugleich der einfachste ist.
Für die Leitung der Informationssicherheit sollte der Umgang mit Schatten-KI drei Bestandteile haben:
- Überblick: Ermitteln Sie, welche KI-Werkzeuge genutzt werden. Ein Verzeichnis der Browser-Erweiterungen, die Überwachung von DNS-Anfragen und die Anbindung eines Cloud Access Security Broker (CASB) können Nutzungsmuster von Schatten-KI sichtbar machen, ohne Inhalte der Beschäftigten zu lesen.
- Regeln: Veröffentlichen Sie Regeln für die zulässige KI-Nutzung. Legen Sie darin fest, welche Werkzeuge freigegeben sind, welche Datenarten geteilt werden dürfen und wann personenbezogene Daten anonymisiert werden müssen.
- Technische Durchsetzung: Stellen Sie die anonym.legal Chrome-Erweiterung, die in kostenpflichtigen Tarifen verfügbar ist, im gesamten Unternehmen bereit. Sie fängt personenbezogene Daten ab und anonymisiert sie, bevor sie eine KI-Plattform erreichen. So wird aus dem unsicheren Weg ein sicherer, ohne die KI-Nutzung zu blockieren.
Die technische Lösung: Daten abfangen, bevor sie das Sprachmodell erreichen
Eine Lösung gegen den Abfluss personenbezogener Daten durch Schatten-KI setzt beim Absenden an: Sie fängt die Daten ab, bevor sie die KI-Plattform erreichen. Dieser Ansatz:
- verlangt von Beschäftigten keine Änderung ihres Verhaltens
- blockiert die produktive Nutzung von KI nicht
- funktioniert mit den großen KI-Chatplattformen (ChatGPT, Claude, Gemini, Copilot, Perplexity, DeepSeek, Abacus ChatLLM)
- erstellt ein Prüfprotokoll, ohne Inhalte der Beschäftigten zu lesen
- macht aus einem Risiko für die Einhaltung von Vorschriften einen Ablauf, der die Vorgaben einhält
So funktioniert die Chrome-Erweiterung
Die anonym.legal Chrome-Erweiterung arbeitet im Browser und prüft Texteingaben in KI-Chatoberflächen. Beginnt jemand, Text mit erkannten personenbezogenen Daten zu tippen oder einzufügen, führt die Erweiterung folgende Schritte aus:
- Sie erkennt Datenarten während der Eingabe — 267 Arten personenbezogener Daten in 48 Sprachen; die Erkennung läuft über die anonym.legal-API.
- Sie anonymisiert vor dem Absenden — Personenbezogene Daten werden ersetzt, bevor der Text an die KI-Plattform gesendet wird.
- Sie macht die Pseudonymisierung auf Wunsch rückgängig — Wenn die KI-Antwort echte Namen enthalten soll, etwa beim Entwurf einer persönlichen E-Mail, entschlüsselt die Erweiterung die Antwort auf dem Gerät der berechtigten Person.
Vorlage für Unternehmensregeln
Die folgende Vorlage können Sie in Ihre Regeln für die zulässige KI-Nutzung aufnehmen und anpassen:
Nutzung von KI-Werkzeugen — Anforderungen zum Umgang mit personenbezogenen Daten
Jede Nutzung von KI-Werkzeugen, ob freigegeben oder nicht, muss die folgenden Anforderungen an den Umgang mit Daten erfüllen: (1) Personenbezogene Daten von Kundinnen und Kunden, Beschäftigten oder Dritten dürfen ohne vorherige Anonymisierung nicht an externe KI-Dienste gesendet werden. (2) Die anonymize.solutions Chrome-Erweiterung ist auf allen Unternehmensgeräten bereitgestellt und muss während der Nutzung von KI-Plattformen aktiv bleiben. (3) Beschäftigte, die KI für Aufgaben mit personenbezogenen Daten nutzen, müssen den im Leitfaden zur sicheren KI-Nutzung beschriebenen Ablauf „erst anonymisieren, dann anfragen“ verwenden. (4) KI-gestützte Ergebnisse, die extern geteilt werden, müssen vor dem Versand auf von der KI erzeugte personenbezogene Daten geprüft werden, die fiktiv, aber realistisch sind. Verstöße unterliegen Disziplinarmaßnahmen nach der Datenschutzrichtlinie.
Regeln und Zuständigkeiten für Schatten-KI aufbauen
Ein vollständiger Rahmen für den Umgang mit Schatten-KI hat vier Ebenen:
- Ermittlung: Überwachen Sie fortlaufend, welche KI-Werkzeuge in der Organisation genutzt werden (CASB, DNS, Verzeichnis der Erweiterungen).
- Regeln: Legen Sie klare Regeln für die zulässige KI-Nutzung fest, einschließlich Anforderungen zur Einordnung von Daten und einer Liste freigegebener Werkzeuge.
- Technische Durchsetzung: Stellen Sie die Chrome-Erweiterung bereit, um personenbezogene Daten während der Eingabe abzufangen; nutzen Sie den MCP-Server für Arbeitsabläufe in der Entwicklung und die REST-API für Kontrollen in Anwendungen.
- Überwachung und Reaktion: Legen Sie ein Verfahren fest, um auf KI-bezogene Datenpannen zu reagieren.
Fazit: KI ermöglichen, personenbezogene Daten kontrollieren
Schatten-KI ist kein Verhaltensproblem. Es fehlen geeignete Werkzeuge. Beschäftigte nutzen nicht genehmigte KI-Werkzeuge, weil freigegebene Alternativen weniger leisten, schwerer zugänglich oder noch nicht verfügbar sind. Was tatsächlich wirkt: den sicheren Weg zum einfachen Weg machen. Stellen Sie die Chrome-Erweiterung im gesamten Unternehmen bereit. Nutzen Sie den MCP-Server für KI-Abläufe in der Entwicklung. Geben Sie Beschäftigten eine produktive KI-Nutzung, bei der die Einhaltung der Vorgaben bereits im Ablauf berücksichtigt ist.
Bereitstellung im Unternehmen: Die Chrome-Erweiterung unterstützt die unternehmensweite Bereitstellung über die Verwaltung von Google Workspace, Microsoft Intune oder übliche Richtlinien zur Browserverwaltung. Sprechen Sie mit unserem Team über Lizenzen für Unternehmen. Vorführung für Unternehmen anfragen →