Datenschutz-Folgenabschätzung für KI-Systeme

Kaum ein Instrument der DSGVO wird so oft umgangen wie die Datenschutz-Folgenabschätzung. Das liegt selten an bösem Willen. Es liegt daran, dass niemand genau weiß, wann sie verpflichtend ist, und dass der Aufwand überschätzt wird.

Bei KI-Systemen hat das Folgen. Sie fallen häufiger unter die Pflicht als andere Verfahren, und die Aufsichtsbehörden schauen genauer hin.

Wann eine DSFA verpflichtend ist

Artikel 35 DSGVO verlangt eine Folgenabschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Ausdrücklich genannt wird dabei der Einsatz neuer Technologien.

Ob dieses hohe Risiko vorliegt, klärt eine vorgelagerte Schwellwertanalyse. Diese ist selbst keine DSFA. Sie ist eine kurze, dokumentierte Prüfung mit dem Ergebnis, ob eine DSFA nötig ist oder nicht.

Zwei Wege führen zur Pflicht. Erstens die Regelbeispiele des Artikel 35 Absatz 3, insbesondere die systematische und umfassende Bewertung persönlicher Aspekte, die umfangreiche Verarbeitung besonderer Datenkategorien und die systematische umfangreiche Überwachung öffentlich zugänglicher Bereiche. Zweitens die Muss-Listen der Aufsichtsbehörden nach Artikel 35 Absatz 4. Diese Listen sind nicht abschließend und unterscheiden sich zwischen den Bundesländern.

Warum KI-Systeme besonders betroffen sind

Bei KI-Anwendungen treffen mehrere Risikofaktoren zusammen. Neue Technologie ist bereits ein ausdrückliches Kriterium. Hinzu kommen regelmäßig weitere.

Undurchsichtigkeit der Verarbeitung. Betroffene können häufig nicht nachvollziehen, wie eine Bewertung zustande kam. Das erschwert die Wahrnehmung ihrer Rechte.

Umfang und Verknüpfung. KI-Systeme greifen typischerweise auf Datenbestände zu, welche vorher getrennt waren. Genau diese Zusammenführung erhöht das Risiko, unabhängig von der Technik.

Bewertung von Personen. Wo ein System Bewerbungen vorsortiert, Leistungen einschätzt oder Auffälligkeiten meldet, liegt eine Bewertung persönlicher Aspekte vor. Dann greift das Regelbeispiel unmittelbar.

Beschäftigtenkontext. Beschäftigte befinden sich in einem Abhängigkeitsverhältnis. Eine Einwilligung ist hier selten die tragfähige Rechtsgrundlage. Aufsichtsbehörden sehen Verarbeitungen im Beschäftigungsverhältnis deshalb grundsätzlich kritischer.

Nicht jede KI-Anwendung löst damit eine DSFA aus. Ein Werkzeug, welches ausschließlich auf Maschinendaten zugreift, in der Regel nicht. Ein System, welches Wartungsberichte mit namentlich zuordenbaren Einträgen auswertet, sehr wohl.

Was in eine DSFA hineingehört

Artikel 35 Absatz 7 nennt vier Mindestinhalte. Diese Struktur ist verbindlich und zugleich hilfreich, weil sie den Aufwand begrenzt.

Erstens: systematische Beschreibung der Verarbeitung

Was geschieht genau, mit welchen Daten, zu welchem Zweck und auf welcher Rechtsgrundlage. Bei KI-Systemen gehören hierher außerdem das eingesetzte Modell, der Betriebsort und die Frage, ob Eingaben zum Training verwendet werden.

Zweitens: Notwendigkeit und Verhältnismäßigkeit

Ist das Ziel auch mit weniger Daten erreichbar? Diese Frage wird in der Praxis am häufigsten übersprungen. Sie ist zugleich diejenige, welche die meisten Projekte verbessert. Häufig stellt sich heraus, dass ein Teil der geplanten Datenbasis für den Zweck gar nicht benötigt wird.

Drittens: Bewertung der Risiken und Abhilfemaßnahmen

Welche Risiken bestehen für die betroffenen Personen, wie wahrscheinlich sind sie und wie schwer wögen sie? Dazu die geplanten Maßnahmen. Bei KI-Systemen gehören hierher Rechte- und Rollenkonzepte, die Nachvollziehbarkeit der Antworten und die Frage, wie mit fehlerhaften Ausgaben umgegangen wird.

Viertens: verbleibendes Restrisiko

Was bleibt trotz aller Maßnahmen übrig, und wie wird damit umgegangen? Bleibt trotz der Maßnahmen ein hohes Risiko bestehen, ist nach Artikel 36 DSGVO die Aufsichtsbehörde vorab zu konsultieren. Dieser Fall ist selten, aber er kommt vor.

Wer sie durchführt und wer sie verantwortet

Die Verantwortung liegt beim Verantwortlichen, also bei der Geschäftsleitung. Der Datenschutzbeauftragte wirkt beratend mit und prüft das Ergebnis. Diese Trennung wird häufig verwischt. Eine DSFA, welche der Datenschutzbeauftragte allein erstellt und freigibt, erfüllt die Anforderung formal nicht.

Praktisch bedeutet das eine Zusammenarbeit. Die Fachabteilung liefert die Beschreibung des Verfahrens, die IT die technischen Angaben, der Datenschutzbeauftragte die rechtliche Bewertung. Die Freigabe erfolgt durch die Geschäftsleitung. Zudem ist nach Artikel 35 Absatz 9 gegebenenfalls der Standpunkt der betroffenen Personen einzuholen, im Beschäftigungskontext also über den Betriebsrat.

Die Schwellwertanalyse in der Praxis

Sie ist der Teil, welchen jedes Unternehmen leisten kann, und derjenige, welcher am häufigsten fehlt. Ein knapper Ablauf genügt.

Schritt eins: das Verfahren benennen. Welche KI-Anwendung, für welchen Zweck, mit welchen Daten. Zwei Absätze reichen.

Schritt zwei: die Regelbeispiele abgleichen. Liegt eine systematische Bewertung persönlicher Aspekte vor? Werden besondere Kategorien nach Art. 9 DSGVO umfangreich verarbeitet? Findet eine systematische Überwachung statt? Ein Ja genügt für die Pflicht.

Schritt drei: die Muss-Liste der zuständigen Behörde prüfen. Zuständig ist die Behörde am Sitz der Hauptniederlassung. Für Baden-Württemberg ist das der Landesbeauftragte für den Datenschutz und die Informationsfreiheit.

Schritt vier: das Ergebnis festhalten. Mit Datum, Beteiligten und Begründung. Dieser Schritt ist der wichtigste, weil er den Nachweis erzeugt.

Kommen Sie zu einem Nein, ist die Sache vorerst erledigt. Kommen Sie zu einem Ja, beginnt die eigentliche Arbeit. In beiden Fällen haben Sie etwas vorzuweisen.

Das Verhältnis zum EU AI Act

Beide Regelwerke gelten nebeneinander. Sie ersetzen einander nicht.

Die DSGVO schützt personenbezogene Daten. Der EU AI Act regelt KI-Systeme nach ihrem Risiko, unabhängig davon, ob personenbezogene Daten betroffen sind. Ein System kann damit unter den AI Act fallen, ohne eine DSFA auszulösen. Der umgekehrte Fall kommt ebenfalls vor.

Praktisch lohnt es, beide Prüfungen zusammen zu führen. Die Bestandsaufnahme ist dieselbe. Erhoben wird einmal, welche KI-Anwendungen im Einsatz sind, mit welchen Daten sie arbeiten und welche Entscheidungen sie beeinflussen. Aus dieser einen Erhebung lassen sich die Risikoeinstufung nach dem AI Act und die Schwellwertanalyse nach Art. 35 DSGVO gleichermaßen ableiten. Zwei getrennte Projekte dafür anzusetzen, verdoppelt den Aufwand ohne Gewinn.

Was eine DSFA nebenbei leistet

Sie gilt als lästige Pflicht. In der Sache ist sie das beste verfügbare Instrument, um ein KI-Vorhaben vor dem Start zu durchdenken.

Die Frage nach der Verhältnismäßigkeit zwingt dazu, den Datenumfang zu begrenzen. Das senkt nicht nur das Risiko, sondern verbessert auch die Ergebnisse, weil weniger irrelevantes Material im System liegt. Die Frage nach den Risiken zwingt dazu, den Fehlerfall zu bedenken. Genau dieser Fall wird in Projektplänen sonst nicht behandelt.

Zudem entsteht ein Dokument, welches der Geschäftsleitung eine belastbare Entscheidungsgrundlage gibt. Wer ein KI-Vorhaben freigibt, trägt Verantwortung dafür. Eine dokumentierte Abwägung ist in diesem Fall mehr wert als eine Zusicherung des Anbieters.

Der Aufwand in der Praxis

Eine DSFA ist kein Gutachten über hundert Seiten. Für eine überschaubare KI-Anwendung ist sie in wenigen Arbeitstagen zu erstellen, sofern die Grundlagen vorliegen.

Genau dort liegt der eigentliche Aufwand. Wer kein aktuelles Verarbeitungsverzeichnis führt und keine Übersicht der eingesetzten Systeme hat, beginnt bei der DSFA mit Arbeit, welche eigentlich vorher fällig gewesen wäre. Deshalb erheben wir zuerst die eingesetzten KI-Anwendungen. Diese Übersicht verlangt ohnehin auch der EU AI Act.

Ein Punkt, der übersehen wird

Eine DSFA ist keine einmalige Übung. Ändert sich das Risiko, ist sie zu überprüfen. Bei KI-Systemen ändert sich regelmäßig etwas, etwa das Modell des Anbieters, der Umfang der erschlossenen Daten oder der Kreis der Nutzer.

Empfehlenswert ist deshalb ein fester Überprüfungszeitpunkt, verbunden mit einer klaren Regel, welche Änderungen eine Überprüfung auslösen. Ohne diese Regel liegt die DSFA nach zwei Jahren im Ordner und beschreibt ein System, welches es so nicht mehr gibt.