KI-Entwicklung
DSGVO-konforme KI-App-Entwicklung: Eine Checkliste für die Praxis
Eine DSGVO-konforme KI-App ist eine, bei der jeder Fluss personenbezogener Daten, einschließlich der Daten an Sprachmodelle, eine Rechtsgrundlage hat, minimiert ist, durch Verträge mit Auftragsverarbeitern abgedeckt ist und sich Nutzern erklären lässt. Die gute Nachricht: Wenn Sie von Anfang an darauf auslegen, läuft Compliance vor allem auf solide Architekturentscheidungen und Dokumentation hinaus, nicht auf den Verzicht auf KI-Funktionen.
Zuerst die Datenflüsse erfassen
Sie können nichts einhalten, was Sie nicht erfasst haben. Starten Sie daher mit einem Datenflussdiagramm, das die KI-Bestandteile einschließt.
Listen Sie auf, welche personenbezogenen Daten die App erhebt, wo sie gespeichert werden, welche Dienste sie verarbeiten und insbesondere, welche Daten an einen LLM-Anbieter, einen Embedding-Dienst, eine Vektordatenbank oder ein Analytics-Tool gehen. Viele KI-Apps senden unbemerkt komplette Nutzerdatensätze oder Freitexteingaben mit Gesundheits- oder Finanzangaben an ein Modell. Die Übersicht zeigt, wo Sie minimieren, pseudonymisieren oder Daten lokal halten sollten.
Rechtsgrundlage und Transparenz
Jeder Verarbeitungszweck braucht eine Rechtsgrundlage nach Art. 6 DSGVO, und Nutzer müssen klar darüber informiert werden.
Für Kernfunktionen ist oft die Vertragserfüllung die Grundlage, für optionale KI-Funktionen je nach Fall eine Einwilligung oder berechtigtes Interesse. Besondere Kategorien personenbezogener Daten wie Gesundheitsdaten brauchen zusätzlich eine Bedingung nach Art. 9. Beschreiben Sie die KI-Verarbeitung in Ihrer Datenschutzerklärung in verständlicher Sprache: was analysiert wird, von wem, zu welchem Zweck und wie lange es gespeichert bleibt. Werden Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung vollautomatisiert getroffen, gelten nach Art. 22 strengere Anforderungen.
KI-Anbieter auswählen und vertraglich einbinden
Jeder externe KI-Dienst, der in Ihrem Auftrag personenbezogene Daten verarbeitet, ist Auftragsverarbeiter und braucht einen Auftragsverarbeitungsvertrag (AVV).
Prüfen Sie, wo Daten verarbeitet und gespeichert werden, ob der Anbieter EU-Datenresidenz bietet, ob API-Daten vom Modelltraining ausgeschlossen sind, wie lange Logs aufbewahrt werden und welche Unterauftragsverarbeiter beteiligt sind. Bei Übermittlungen in die USA prüfen Sie, ob der Anbieter nach dem EU-US Data Privacy Framework zertifiziert ist oder ob Standardvertragsklauseln und ein Transfer Impact Assessment nötig sind. Bei sehr sensiblen Daten können in der EU gehostete oder selbst betriebene Modelle der einfachere Weg sein.
- AVV unterzeichnet.
- Verarbeitungsregion und Datenresidenz dokumentiert.
- Kein Training mit Ihren Daten, vertraglich bestätigt.
- Aufbewahrungsdauer der Logs bekannt und akzeptabel.
- Übermittlungsmechanismus für Verarbeitung außerhalb der EU dokumentiert.
Privacy by Design in der Architektur
Privacy by Design (Art. 25 DSGVO) bedeutet, dass schon die Standardarchitektur Daten schützt, und KI-Apps bieten dafür viele konkrete Ansatzpunkte.
Senden Sie nur die Felder, die ein Modell braucht, nicht ganze Datensätze. Ersetzen Sie Namen und Kennungen nach Möglichkeit durch Platzhalter, bevor Sie ein Modell aufrufen. Gestalten Sie das Retrieval in RAG-Systemen berechtigungsbewusst, damit Nutzer nur Antworten aus Daten erhalten, die sie sehen dürfen. Speichern Sie Prompts und Antworten nicht länger als nötig und trennen Sie Logs mit personenbezogenen Daten von allgemeinen Anwendungslogs. Verschlüsseln Sie Daten bei der Übertragung und im Ruhezustand und beschränken Sie, wer in Ihrem Team auf Produktivdaten zugreifen kann.
Betroffenenrechte und KI-Daten
Nutzer behalten ihre Rechte auf Auskunft, Berichtigung und Löschung, auch wenn ihre Daten KI-Komponenten durchlaufen haben.
Stellen Sie sicher, dass ein Löschantrag Daten nicht nur aus der Hauptdatenbank entfernt, sondern auch aus Vektorindizes, Caches, Logs und etwaigen Fine-Tuning-Datensätzen. Legen Sie Datenspeicher so an, dass das technisch möglich ist, was am ersten Tag deutlich einfacher ist als später. Eine Datenschutz-Folgenabschätzung (DSFA, Art. 35) ist erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko birgt. Das ist bei umfangreichem Profiling oder sensiblen Daten häufig der Fall und sollte früh mit Ihrem Datenschutzbeauftragten geklärt werden.
Eine Compliance-Checkliste für Ihr KI-App-Projekt
Übernehmen Sie diese Abfolge in Ihren Projektplan, damit Compliance-Arbeit parallel zur Entwicklung passiert und nicht erst am Ende.
- Datenflussübersicht inklusive aller KI-Dienste erstellen.
- Zwecke und Rechtsgrundlagen pro Datenfluss festlegen.
- Anbieter auswählen und AVVs abschließen.
- Minimierung, Pseudonymisierung und berechtigungsbewusstes Retrieval umsetzen.
- Lösch- und Exportfunktionen bauen, die alle Speicherorte abdecken.
- Datenschutzerklärung und Verzeichnis von Verarbeitungstätigkeiten aktualisieren.
- Prüfen, ob eine DSFA nötig ist und ob Transparenzpflichten des EU AI Act greifen.
- Vor jedem größeren Feature-Release erneut prüfen.
Zusammenarbeit mit einem Entwicklungspartner
Ihr Entwicklungspartner sollte diese Anforderungen kennen und standardmäßig datenschutzkonforme Architekturen vorschlagen, während Ihr Datenschutzbeauftragter oder Ihre Rechtsberatung die abschließende rechtliche Bewertung vornimmt.
neooutput entwickelt KI-Apps in Freiburg nach dem ISO-27001-zertifizierten Informationssicherheits-Managementsystem der jocapps GmbH und schließt Auftragsverarbeitungsverträge ab, wo wir personenbezogene Daten für Sie verarbeiten. Wir leisten keine Rechtsberatung, sorgen aber dafür, dass die technische Seite Ihren Juristen gute Antworten liefert.
Häufige Fragen
Darf ich LLM-Anbieter aus den USA unter der DSGVO nutzen?
Oft ja, mit AVV, einem gültigen Übermittlungsmechanismus und angemessenen Garantien. Viele Anbieter bieten EU-Datenresidenz an. Die Bewertung hängt von den betroffenen Daten ab.
Brauche ich eine Einwilligung, um KI-Funktionen zu nutzen?
Nicht unbedingt. Die Rechtsgrundlage hängt von Zweck und Kontext ab, die Einwilligung ist nur eine von mehreren Möglichkeiten. Ihr Datenschutzbeauftragter sollte die Grundlage für jeden Verarbeitungszweck bestätigen.
Sind pseudonymisierte Daten noch personenbezogen?
Ja, pseudonymisierte Daten bleiben nach der DSGVO personenbezogene Daten. Pseudonymisierung senkt aber das Risiko und ist eine anerkannte Schutzmaßnahme.
