DSFA für KI-Wissenssysteme: Wann sie Pflicht ist und wie sie steht
Ein KI-Wissenssystem liest Mails, Tickets und Wartungsberichte, und in fast jedem dieser Dokumente stehen Namen. Damit stellt sich vor dem ersten Dokument eine Frage, die IT-Leitung und Datenschutzbeauftragte oft aufschieben: Braucht das eine Datenschutz-Folgenabschätzung? Meist ja, und sie ist kein Hindernis, wenn man weiß, was hineingehört. Drei Prüfschritte, die Maßnahmen, die zählen, und die Grenze, an der die DSFA aufhört.
Ein KI-Wissenssystem braucht in den meisten Betrieben eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, weil es Daten aus mehreren Quellen zusammenführt und ein Sprachmodell auf Dokumente mit Personenbezug anwendet; die DSK-Liste von 2018 nennt beides. Drei Prüfschritte genügen: Personenbezug je Quelle mit Zweck, Risiken (Rechteverletzung, Datenabfluss, ungewollte Leistungsprofile) und Maßnahmen (Berechtigungen zur Abfragezeit, EU-Hosting oder eigene Hardware, Löschkonzept, AVV nach Art. 28). Mit vorbereiteter Quellenliste steht die DSFA in drei Tagen.
Wann verlangt die DSGVO eine Folgenabschätzung?
Artikel 35 der DSGVO verlangt eine Datenschutz-Folgenabschätzung, kurz DSFA, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere beim Einsatz neuer Technologien. Die deutschen Aufsichtsbehörden haben in der Datenschutzkonferenz 2018 eine Liste von Verarbeitungen veröffentlicht, bei denen eine DSFA verpflichtend ist. Darauf steht unter anderem der Einsatz künstlicher Intelligenz zur Verarbeitung personenbezogener Daten, wenn damit persönliche Aspekte bewertet oder die Interaktion mit Betroffenen gesteuert wird, sowie das Zusammenführen von Daten aus verschiedenen Quellen.
Ein Wissenssystem, das Postfächer, Tickets und Schichtbücher liest, führt Daten aus mehreren Quellen zusammen und setzt ein Sprachmodell ein. Ob es persönliche Aspekte bewertet, hängt vom Zweck ab: Ein System, das Servicefragen zur Anlage beantwortet, tut das nicht; eines, das aus Ticketverläufen auf die Leistung einzelner Mitarbeiter schließt, sehr wohl. Die ehrliche Antwort für die meisten Betriebe lautet: Die DSFA ist entweder Pflicht oder so nah an der Pflicht, dass man sie ohnehin macht. Sie kostet bei sauberer Vorbereitung zwei bis drei Arbeitstage und ist danach das Dokument, das jeder Auditor zuerst sehen will.
Welche drei Prüfschritte genügen?
Schritt eins, Personenbezug. Welche Quellen enthalten Namen, Adressen, Verhalten? Postfächer immer, Tickets fast immer, Schichtbücher meist, Zeichnungen und Handbücher selten. Die Liste der angebundenen Quellen ist damit zugleich die Liste der betroffenen Datenkategorien. Wichtig ist der Zweck je Quelle: Das Postfach des Service wird gelesen, um Zusagen an Kunden zu finden, nicht um Mitarbeiter zu bewerten. Dieser Satz gehört in die DSFA, und er gehört in die Betriebsvereinbarung.
Schritt zwei, Risiko. Was könnte schiefgehen, und für wen? Die typischen Risiken eines Wissenssystems sind konkret: Ein Mitarbeiter sieht über die KI-Antwort einen Vorgang, den er im Quellsystem nicht öffnen dürfte. Personendaten verlassen den europäischen Rechtsraum über einen Modell-Aufruf. Aus Ticketverläufen entsteht ein Leistungsprofil, das niemand beabsichtigt hat. Jedes dieser Risiken bekommt eine Einschätzung von Eintrittswahrscheinlichkeit und Schwere, und jedes bekommt eine Maßnahme.
Schritt drei, Maßnahmen. Hier entscheidet sich, ob die DSFA ein Papier ist oder ein Betriebskonzept. Die vier Maßnahmen, die in der Praxis tragen: Berechtigungen werden aus den Quellsystemen gespiegelt und bei jeder Anfrage geprüft, nicht einmal beim Import. Die Verarbeitung läuft in der EU oder auf eigener Hardware, auch die Modell-Aufrufe. Ein Löschkonzept legt fest, dass gelöschte Quelldokumente auch aus Index und Graph verschwinden. Und ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO regelt das Verhältnis zum Anbieter. Wie Berechtigungen zur Systemgrenze werden, steht in Berechtigungen als Systemgrenze.
Was der Auditor sehen will
- Die Quellenliste mit Zweck je Quelle. Zwölf benannte Systeme mit je einem Satz, warum, statt „alle Daten des Unternehmens".
- Das Berechtigungskonzept in einem Satz: Wer eine Akte im Quellsystem nicht öffnen darf, bekommt aus ihr keine Antwort. Dazu der Nachweis, dass es zur Abfragezeit geprüft wird.
- Den Datenfluss: Wo laufen Index, Graph und Sprachmodell, und welche Daten verlassen diesen Ort? Bei EU-Hosting oder eigener Hardware ist die Antwort kurz.
- Das Löschkonzept und den AVV. Beides als Dokument, nicht als Zusage.
- Die Beteiligung: Datenschutzbeauftragter und Betriebsrat haben die DSFA gesehen, bevor das erste Dokument gelesen wurde.
Der letzte Punkt entscheidet über die Einführung mehr als jeder technische. Wie der Betriebsrat früh und ehrlich eingebunden wird, beschreibt KI und Betriebsrat im Mittelstand; welche vier Betriebsformen es für Hosting und Datenhoheit gibt, edda: Berechtigungen, Datenschutz, EU-Hosting.
Wie die DSFA in drei Tagen steht
Tag eins: Quellenliste mit Zweck, Datenkategorien und Betroffenen, gemeinsam mit den Fachbereichen, die die Systeme kennen. Tag zwei: Risikobewertung entlang der drei typischen Risiken, dazu die vier Maßnahmen als Betriebskonzept, mit dem Anbieter, der die technischen Nachweise liefert. Tag drei: Prüfung durch den Datenschutzbeauftragten, Vorlage beim Betriebsrat, Freigabe. Was dabei regelmäßig fehlt und Wochen kostet, ist der Zweck je Quelle; wer ihn vorher aufschreibt, ist in drei Tagen fertig.
Was die DSFA nicht regelt
Sie ersetzt keine Betriebsvereinbarung: Ob und wie das System zur Leistungskontrolle genutzt werden darf, regelt die Mitbestimmung, nicht die DSFA. Sie prüft nicht die Richtigkeit der Antworten; dafür sorgt die Quellenangabe an jeder Antwort. Und sie ist kein Dokument für die Schublade: Kommt eine neue Quelle hinzu, etwa das Ticketsystem nach dem Postfach, wird sie fortgeschrieben. Dass Datenschutz dabei ein Rahmen ist und kein Verbot, zeigt Datenschutz ist kein Showstopper.
Häufige Fragen
Braucht ein KI-Wissenssystem eine Datenschutz-Folgenabschätzung?
In den meisten Fällen ja. Es führt Daten aus mehreren Quellen zusammen und setzt KI auf Dokumente mit Personenbezug an; beides steht auf der Liste der Datenschutzkonferenz von 2018 für verpflichtende DSFAs. Wo Zweifel bleiben, ist die DSFA der sichere Weg.
Wie lange dauert eine DSFA für ein KI-System?
Zwei bis drei Arbeitstage, wenn die Quellenliste mit Zweck je Quelle vorbereitet ist und der Anbieter die technischen Nachweise zu Berechtigungen, Hosting und Löschung liefert.
Welche Maßnahmen muss die DSFA enthalten?
Berechtigungen aus den Quellsystemen mit Prüfung bei jeder Anfrage, Verarbeitung in der EU oder auf eigener Hardware inklusive Modell-Aufrufe, ein Löschkonzept für Index und Graph sowie einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO.
Ersetzt die DSFA die Betriebsvereinbarung?
Nein. Die DSFA bewertet Risiken und Maßnahmen für Betroffene. Ob das System zur Leistungskontrolle genutzt werden darf, regelt die Mitbestimmung in einer Betriebsvereinbarung.
Wollen Sie die Quellenliste mit uns durchgehen?
Im Erstgespräch klären wir, welche Quellen Personenbezug tragen und welche Nachweise Ihr Datenschutzbeauftragter braucht.
Gespräch vereinbaren →Vom Pilot in den Regelbetrieb: Hosting, Berechtigungen und Rollout je Abteilung stehen auf der Seite KI-Implementierung.
