Blog
DSGVO und KI-Tools: welche Unternehmensdaten darfst du eingeben?
· 5 Min. Lesezeit
Es ist Dienstagmorgen. Eine Mitarbeiterin aus deinem Kundenservice hat eine lange, verärgerte E-Mail eines Kunden vor sich. Sie kopiert die ganze Mail, inklusive Name, Adresse und Bestellhistorie, in einen kostenlosen KI-Chatbot und bittet um eine ordentliche Antwort. Das Ergebnis ist prima. Sie hat zwanzig Minuten gespart.
Hast du damit ein Problem? Das hängt davon ab, welches Tool es war, was in der Mail stand und was du vorab vereinbart hast. In den meisten KMU ist dazu nichts vereinbart, und genau das ist das eigentliche Risiko. Nicht die KI selbst, sondern das Fehlen einer klaren Linie.
Im Folgenden eine Einteilung, mit der du deinen Mitarbeitern sagen kannst, was erlaubt ist und was nicht. Das ist eine praktische Einordnung, keine Rechtsberatung. Bist du dir bei einer bestimmten Situation unsicher, frag deinen Datenschutzberater oder Juristen.
Zuerst: Was zählt als personenbezogenes Datum?
Mehr, als die meisten denken. Die DSGVO (auf Englisch GDPR) beschreibt in Artikel 4 personenbezogene Daten als „any information relating to an identified or identifiable natural person". Auch eine Person, die du indirekt erkennen kannst, etwa über eine Kennnummer, Standortdaten oder eine Online-Kennung, fällt darunter.
Das hat eine praktische Folge. Einen Kundennamen durch „Kunde A" zu ersetzen, macht den Text nicht automatisch anonym. Stehen noch eine Kundennummer, eine besondere Bestellung, eine Adresse oder eine Funktion in einem kleinen Unternehmen darin, kann die Person immer noch identifizierbar sein. Anonymisieren ist schwieriger, als Namen zu entfernen.
Auch eine E-Mail eines Kollegen, ein Bewerbungsschreiben oder eine Notiz zu einem Gespräch über Fehlzeiten enthält personenbezogene Daten. Es geht also nicht nur um deine Kundendatenbank.
Was passiert, wenn du etwas in ein KI-Tool kopierst
Ein KI-Tool eines externen Anbieters ist in den meisten Fällen ein Auftragsverarbeiter: eine Partei, die personenbezogene Daten in deinem Auftrag verarbeitet. Die DSGVO definiert das in Artikel 4 als eine Partei, die „processes personal data on behalf of the controller". Du bist dann der Verantwortliche.
Was folgt daraus? In Artikel 28 steht, dass du nur Auftragsverarbeiter einsetzen darfst, die hinreichende Garantien bieten, und dass die Verarbeitung in einem Vertrag geregelt wird, der unter anderem Zweck, Dauer und Art der Daten festlegt. Kurz gesagt: ein Auftragsverarbeitungsvertrag.
Bei einem kostenlosen, persönlichen Account eines Mitarbeiters gibt es diesen Vertrag meistens nicht. Du hast dann keine Vereinbarungen darüber, was der Anbieter mit den Daten macht, wie lange sie gespeichert werden oder wo sie liegen. Auch die Frage, ob Daten außerhalb der EU landen, spielt eine Rolle: Artikel 44 besagt, dass eine Übermittlung in ein Land außerhalb der EU nur erlaubt ist, wenn die Bedingungen aus diesem Kapitel erfüllt sind.
Zwei weitere Grundsätze aus Artikel 5 helfen beim Nachdenken. Daten müssen „adequate, relevant and limited to what is necessary" sein (Datenminimierung), und sie dürfen nicht in einer Weise verwendet werden, die mit dem Zweck unvereinbar ist, für den du sie erhoben hast. Ein Kunde, der seine Adresse für eine Lieferung angegeben hat, rechnet nicht damit, dass sie in einem externen KI-Tool landet.
Grün, Orange, Rot
Für ein KMU funktioniert eine einfache Einteilung am besten. Häng sie auf, besprich sie in einer Teambesprechung und pass sie an eure Situation an.
Grün: Das darf in fast jedes Tool.
- Öffentliche Informationen, etwa deine eigene Website, Broschüren und Pressemitteilungen.
- Allgemeine Fragen und Brainstormings ohne Daten über eine erkennbare Person oder einen Kunden.
- Texte, die du selbst geschrieben hast und die keine personenbezogenen Daten oder vertraulichen Vereinbarungen enthalten.
- Synthetische Beispiele: erfundene Kunden mit erfundenen Daten, um einen Prozess auszuprobieren.
Orange: Nur in einer geschäftlichen Umgebung, die du geprüft hast.
- Kunden-E-Mails, Angebote und Verträge. Denk an Vereinbarungen, in denen du Vertraulichkeit zugesagt hast, auch unabhängig von der DSGVO.
- Namen und Kontaktdaten von Kunden, Lieferanten oder Kollegen.
- Interne Unterlagen wie Protokolle oder Berichte mit identifizierbaren Details.
Orange bedeutet: nur mit einem Geschäftskonto, für das ein Auftragsverarbeitungsvertrag abgeschlossen wurde, bei dem du geprüft hast, was mit den Daten passiert, und bei dem du entschieden hast, dass es zum Zweck passt. Ein solches Tool wählst du als Unternehmen, nicht als einzelner Mitarbeiter.
Rot: Nicht machen, es sei denn, du hast es vorher gründlich geprüft.
- Gesundheitsdaten, etwa Krankmeldungen mit Begründung oder medizinische Informationen eines Kunden oder Patienten.
- Andere besondere Kategorien aus Artikel 9. Dazu gehören unter anderem Daten über die rassische oder ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen, Gewerkschaftszugehörigkeit, genetische und biometrische Daten sowie Daten zum Sexualleben oder zur sexuellen Orientierung. Ihre Verarbeitung ist grundsätzlich verboten, mit Ausnahmen in Absatz 2 dieses Artikels.
- Personalakten, Mitarbeitergespräche und alles rund um Kündigungen oder Konflikte.
- Passwörter, API-Schlüssel und Zugangsdaten. Das ist keine DSGVO-Frage, sondern eine Sicherheitsfrage, und es geht öfter schief, als du denkst.
Was du vorab regeln solltest
Ein Verbot allein funktioniert nicht. Mitarbeiter nutzen KI, weil es ihnen Arbeit abnimmt. Ist der genehmigte Weg umständlich, wählen sie den kostenlosen. Gib ihnen also eine geschäftliche Alternative und eine kurze, klare Regel.
Denk auch daran, was passiert, wenn es schiefgeht. Kopiert jemand doch sensible Kundendaten in das falsche Tool, kann das eine Datenpanne sein. Nach Artikel 33 muss der Verantwortliche eine Datenpanne „without undue delay and, where feasible, not later than 72 hours" nach Bekanntwerden der Aufsichtsbehörde melden, es sei denn, sie führt voraussichtlich nicht zu einem Risiko für die betroffenen Personen. Das bedeutet: Mitarbeiter müssen wissen, dass sie einen Fehltritt sofort melden dürfen, ohne an den Pranger gestellt zu werden. Eine Kultur, in der Menschen schweigen, kostet dich Zeit, die du nicht hast.
Baust du selbst eine KI-Anwendung mit personenbezogenen Daten, zum Beispiel einen Agenten, der Kunden-E-Mails verarbeitet? Dann sieh dir auch Artikel 35 an: Bei einer Verarbeitung mit neuen Technologien, die voraussichtlich ein hohes Risiko für Menschen mit sich bringt, musst du vorab eine Datenschutz-Folgenabschätzung durchführen. Ob das für deinen Fall gilt, hängt von den Details ab.
Bei unserer eigenen Entwicklungsarbeit folgen wir derselben Linie. Bevor wir anfangen, legen wir fest, was niemals mit der Produktion geteilt wird und ob wir mit synthetischen oder echten Daten testen. Das verhindert spätere Diskussionen und macht die grüne Kategorie zum Standardweg. Über die Regeln für KI-Systeme selbst haben wir bereits in Der EU AI Act für KMU geschrieben, und über den Unterschied zwischen einem Chatbot und einem Agenten in Chatbot oder KI-Agent.
Was bedeutet das für dein Unternehmen?
- Frag dein Team, welche KI-Tools es jetzt schon nutzt. Tu das ohne Wertung. Du musst wissen, was läuft, bevor du etwas regeln kannst.
- Wähle ein oder zwei geschäftliche Tools und schließe einen Auftragsverarbeitungsvertrag ab. Lies auch, was der Anbieter über Speicherung und Weiterverwendung der Daten sagt und wo die Daten liegen.
- Erstelle die Grün-Orange-Rot-Liste und besprich sie. Eine Seite reicht. Lass Mitarbeiter Beispiele aus ihrer eigenen Arbeit einordnen, dann bleibt es hängen.
- Vereinbare, was bei einem Fehltritt passiert. Wer meldet es wem, und wie schnell? Mit der Meldefrist aus der DSGVO im Hinterkopf ist schon ein Tag Schweigen zu viel.
Möchtest du wissen, welche KI-Anwendung zu deinem Unternehmen passt und wie du sie verantwortungsvoll einrichtest? Nimm Kontakt mit uns auf. Wir schauen gerne mit drauf, mit echten Beispielen aus deinen Prozessen.