Berechtigungen und Datenschutz beim KI-Assistenten: So bleibt es sauber
Die spannendste Frage an jeden Wissensassistenten stellt nicht der Vertrieb, sondern der Datenschutzbeauftragte: Wer sieht was, wo laufen die Daten, und wer kann das prüfen?
Ein KI-Wissensassistent darf einem Nutzer nur beantworten, was dieser auch im Quellsystem öffnen dürfte; Berechtigungen werden beim Indexieren mitgeführt und bei jeder Antwort geprüft. Zu klären sind außerdem EU-Hosting, Auftragsverarbeitung nach Art. 28 DSGVO mit Löschkonzept, kein Training fremder Modelle, ein Audit-Trail sowie SSO und Rollenkonzept. Prüfen lässt sich das im Pilot, indem zwei Nutzer mit unterschiedlichen Rechten dieselben Fragen stellen.
Berechtigungen: Die Quelle bestimmt
Die belastbare Regel ist einfach: Der Assistent darf einem Nutzer nur beantworten, was dieser Nutzer auch im Quellsystem öffnen dürfte. Berechtigungen werden beim Indexieren mitgeführt und bei jeder Antwort geprüft. Der Werkstudent bekommt andere Antworten als die Geschäftsführung, automatisch.
Datenschutz: Die Architekturfragen
- Wo laufen Hosting und Modellaufrufe? EU-Region, vertraglich zugesichert
- Auftragsverarbeitung nach Art. 28 DSGVO mit Löschkonzept
- Kein Training fremder Modelle mit Ihren Daten
- Audit-Trail: Wer hat wann was gefragt und welche Quellen wurden genutzt
- SSO und Rollenkonzept statt geteilter Zugänge
Der Praxis-Test
Lassen Sie im Pilot zwei Nutzer mit unterschiedlichen Rechten dieselben Fragen stellen und vergleichen Sie die Antworten. Eben dieser Test gehört bei edda zur Abnahme, zusammen mit dem Audit-Blick in die Quellenprotokolle. Datenschutz ist damit kein Bremsklotz, sondern ein Abnahmekriterium wie jedes andere.
So wird aus dem Bedenkenträger-Thema ein Punkt, der in zwei Wochen bewiesen ist.
Häufige Fragen
Wie stellt man sicher, dass ein KI-Assistent nur berechtigte Informationen herausgibt?
Es gilt eine einfache Regel: Der Assistent darf einem Nutzer nur beantworten, was dieser Nutzer auch im Quellsystem öffnen dürfte. Dafür werden Berechtigungen beim Indexieren mitgeführt und bei jeder Antwort geprüft. Wer ein Dokument nicht sehen darf, sieht auch kein Zitat daraus.
Welche Datenschutzfragen sollten vor der Einführung eines KI-Assistenten geklärt sein?
Zu klären sind der Ort von Hosting und Modellaufrufen mit vertraglich zugesicherter EU-Region, eine Auftragsverarbeitung nach Art. 28 DSGVO samt Löschkonzept sowie die Zusage, dass keine fremden Modelle mit Ihren Daten trainiert werden. Dazu kommen ein Audit-Trail darüber, wer wann was gefragt hat und welche Quellen genutzt wurden, sowie SSO und ein Rollenkonzept statt geteilter Zugänge.
Wie prüft man im Pilotprojekt, ob die Berechtigungen wirklich greifen?
Lassen Sie zwei Nutzer mit unterschiedlichen Rechten dieselben Fragen stellen und vergleichen Sie die Antworten. Ergänzend gehört der Audit-Blick in die Quellenprotokolle dazu. Bei edda ist genau dieser Test Teil der Abnahme.
Bremst Datenschutz ein KI-Projekt aus?
Nicht, wenn er als Abnahmekriterium behandelt wird statt als Nacharbeit. Sicherheit ist kein Feature-Häkchen, sondern Architektur aus Quelle, Rechten, Region und Protokoll. Damit ist das Thema in zwei Wochen bewiesen statt dauerhaft strittig.
Die Sicherheitsfragen, beantwortet
Im Gespräch gehen wir Ihre Anforderungen durch, von AVV bis Audit-Trail.
Gespräch buchen · 30 Min →
