Welche Daten dürfen in eine KI?

Die Frage kommt in fast jedem Erstgespräch, meist im selben Wortlaut. Ein Mitarbeiter hat einen Kundenvertrag in ein KI-Werkzeug kopiert, um ihn zusammenfassen zu lassen. War das erlaubt?

Die Antwort lautet: Das hängt davon ab, welches Werkzeug er benutzt hat. Und genau dort liegt das eigentliche Problem. In den meisten Unternehmen weiß niemand, welche KI-Werkzeuge im Einsatz sind.

Erst das Werkzeug klären, dann die Daten

Datenschutzrechtlich entscheidet nicht in erster Linie, welche Daten eingegeben werden. Entscheidend ist, was mit ihnen danach geschieht. Drei Fälle sind zu unterscheiden.

Der private Zugang. Ein Beschäftigter nutzt einen frei zugänglichen KI-Dienst mit einem privaten Konto. Hier besteht kein Vertrag zwischen dem Unternehmen und dem Anbieter. Es gibt keine Auftragsverarbeitung, keine Weisungsbindung und keine Zusicherung darüber, was mit den Eingaben passiert. In diesen Fall gehören keine Unternehmensdaten. Auch keine, welche harmlos wirken.

Der geschäftliche Zugang mit Vertrag. Das Unternehmen hat einen Vertrag mit dem Anbieter, einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO abgeschlossen und die Nutzung der Eingaben zum Training ausgeschlossen. Damit verändert sich die Lage grundlegend. Jetzt ist zu prüfen, welche Daten für welchen Zweck verarbeitet werden dürfen.

Der Betrieb im eigenen Haus. Das Modell läuft in der eigenen Umgebung. Die Daten verlassen das Unternehmen nicht. Datenschutzrechtlich ist das der einfachste Fall, technisch der aufwendigste.

Welche Daten unabhängig vom Werkzeug problematisch sind

Einige Kategorien verdienen besondere Vorsicht. Bei ihnen ist der Schaden im Fehlerfall am größten.

Beschäftigtendaten

Bewerbungsunterlagen, Beurteilungen, Krankmeldungen, Abmahnungen. Die Verarbeitung richtet sich nach § 26 BDSG und ist eng an den Zweck des Beschäftigungsverhältnisses gebunden. Hinzu kommt die Mitbestimmung. Wird ein KI-Werkzeug so eingesetzt, dass es Leistung oder Verhalten von Beschäftigten bewerten kann, ist der Betriebsrat zu beteiligen.

Besondere Kategorien nach Art. 9 DSGVO

Gesundheitsdaten, Gewerkschaftszugehörigkeit, religiöse Überzeugung und weitere. Für diese gilt ein grundsätzliches Verarbeitungsverbot mit engen Ausnahmen. In eine allgemeine Wissensbasis gehören sie ausdrücklich nicht. Zu beachten ist dabei, dass solche Daten oft unbemerkt mitlaufen, etwa in einem Schriftwechsel zum Betrieblichen Eingliederungsmanagement.

Berufsgeheimnisse

Mandanten-, Patienten- und Klientendaten unterliegen zusätzlich § 203 StGB. Hier genügt ein Auftragsverarbeitungsvertrag allein nicht. Erforderlich ist außerdem eine Verpflichtung des Dienstleisters nach § 203 Abs. 4 StGB. Kanzleien, Praxen und Steuerberatungen haben deshalb einen engeren Rahmen als ein Industriebetrieb.

Fremde Geschäftsgeheimnisse

Dieser Punkt betrifft keinen Datenschutz, wiegt praktisch aber schwer. Verträge und Unterlagen Ihrer Kunden enthalten regelmäßig Vertraulichkeitsklauseln. Eine Eingabe in ein Werkzeug ohne Vertrag kann diese verletzen, auch wenn keine personenbezogenen Daten betroffen sind.

Die Regel, die im Alltag funktioniert

Betriebliche Regelungen zu KI scheitern häufig an ihrer eigenen Länge. Ein zwölfseitiges Papier liest niemand. Bewährt hat sich eine kurze Regel mit einer klaren Zuordnung.

Freigegeben wird nicht nach Datenart, sondern nach Werkzeug. Es gibt eine Liste erlaubter Werkzeuge. Für jedes steht dabei, was hinein darf. Alles, was nicht auf der Liste steht, ist nicht freigegeben. Neue Werkzeuge werden vor der Nutzung geprüft, nicht danach.

Diese Form hat zwei Vorteile. Sie ist in einer Seite darstellbar. Und sie verlagert die schwierige Entscheidung weg vom einzelnen Beschäftigten, welcher sie fachlich gar nicht treffen kann.

Drei Irrtümer, die regelmäßig vorkommen

„Wir haben die Namen entfernt, damit ist es anonym"

Das Entfernen von Namen ist Pseudonymisierung, nicht Anonymisierung. Pseudonymisierte Daten bleiben personenbezogen und damit vollständig der DSGVO unterworfen. Anonym ist ein Datensatz erst, wenn ein Personenbezug auch mit Zusatzwissen nicht mehr herstellbar ist. Bei einem Schriftwechsel mit Datum, Vorgangsnummer und Sachverhalt ist das praktisch nie der Fall. In kleinen Betrieben genügt oft schon die Kombination aus Abteilung und Zeitraum.

„Das bleibt doch alles intern"

Bei einem Cloud-Dienst verlässt die Eingabe das Unternehmen in dem Moment, in dem die Eingabetaste gedrückt wird. Intern ist daran nichts. Die Frage lautet nicht, ob Daten übermittelt werden, sondern an wen, auf welcher Grundlage und mit welchen Zusicherungen.

„Der Anbieter sitzt in der EU, also passt das"

Der Sitz des Anbieters ist ein Indiz, mehr nicht. Entscheidend ist, wo verarbeitet wird und ob Unterauftragsverarbeiter in Drittländern beteiligt sind. Diese Angaben stehen im Auftragsverarbeitungsvertrag und in der Liste der Unterauftragnehmer. Beides ist zu lesen, bevor unterschrieben wird. Zudem ändert sich diese Liste, weshalb eine einmalige Prüfung nicht genügt.

Was Sie im Vertrag tatsächlich nachsehen sollten

Ein Auftragsverarbeitungsvertrag liegt bei den meisten Anbietern vor. Damit ist die Sache jedoch nicht erledigt. Vier Punkte lohnen den Blick.

Training mit Ihren Eingaben. Ist es ausgeschlossen, oder ist es nur abschaltbar? Ein abschaltbarer Standard bedeutet, dass es im Zweifel läuft, weil niemand die Einstellung vorgenommen hat.

Speicherdauer der Eingaben. Viele Anbieter speichern Eingaben für einen begrenzten Zeitraum zur Missbrauchserkennung. Das ist nicht per se unzulässig. Es gehört jedoch in Ihr Verarbeitungsverzeichnis und in die Information an die Beschäftigten.

Einsicht durch Menschen. Manche Anbieter behalten sich eine Sichtung von Eingaben zur Qualitätssicherung vor. Bei Berufsgeheimnisträgern ist das ein Ausschlusskriterium.

Unterauftragsverarbeiter. Wer steht auf der Liste, und wie werden Sie über Änderungen informiert? Ein Widerspruchsrecht nützt nichts, wenn die Mitteilung in einem Portal erscheint, welches niemand aufruft.

Und wenn schon etwas passiert ist?

Der eingangs beschriebene Fall ist der Regelfall, nicht die Ausnahme. Beschäftigte nutzen KI-Werkzeuge längst, meist in guter Absicht und ohne Regelung. Wichtig ist die Reaktion darauf.

Zuerst ist zu klären, was tatsächlich eingegeben wurde und in welches Werkzeug. Danach folgt die Bewertung, ob daraus ein meldepflichtiger Vorfall nach Art. 33 DSGVO geworden ist. Nicht jede unbedachte Eingabe erfüllt diese Schwelle. Eine pauschale Meldung ist ebenso falsch wie das Verschweigen.

Falsch wäre außerdem eine Reaktion, welche nur verbietet. Ein Verbot ohne Alternative führt dazu, dass die Nutzung in den privaten Bereich abwandert. Dort ist sie weder steuerbar noch nachvollziehbar. Wer KI-Nutzung im Unternehmen regeln will, muss einen erlaubten Weg anbieten.

Der Weg, der die Frage weitgehend erübrigt

Die bisherige Betrachtung geht davon aus, dass Beschäftigte Daten in ein KI-Werkzeug eingeben. Es gibt einen anderen Aufbau.

Bei einem RAG-System greift die KI auf eine vorbereitete Wissensbasis zu. Die Beschäftigten geben keine Dokumente ein, sondern stellen Fragen. Welche Unterlagen erschlossen sind, wurde vorher entschieden. Die bestehenden Zugriffsrechte bleiben dabei erhalten.

Damit verschiebt sich die Frage von der täglichen Entscheidung vieler Einzelner hin zu einer einmaligen, sorgfältigen Entscheidung. Genau das ist datenschutzrechtlich der belastbarere Weg. Zudem ist er im Alltag schlicht bequemer.

Was bleibt

Eine pauschale Antwort auf die Ausgangsfrage gibt es nicht. Wer sie verspricht, vereinfacht unzulässig. Belastbar sind jedoch drei Sätze.

Ohne Vertrag mit dem Anbieter gehören keine Unternehmensdaten in ein KI-Werkzeug. Mit Vertrag entscheidet der Zweck, nicht das Bauchgefühl des Einzelnen. Und wer eine Wissensbasis aufbaut, verlagert die Entscheidung dorthin, wo sie sachkundig getroffen werden kann.