Betrieb auf AWS in Frankfurt oder auf Ihrer eigenen Hardware. Auftragsverarbeitung geregelt, keine Trainingsnutzung Ihrer Daten, Monitoring und Modellwechsel inklusive.
AWS Frankfurt oder On-PremAuftragsverarbeitung geregeltKein Training mit Ihren DatenDSGVO · NIS2-tauglich dokumentiert
Im Einsatz bei Industrie und Mittelstand
Das Problem
Die KI läuft im Pilot. Der Betrieb entscheidet.
Datenabfluss
Ohne Datengrenze wandern Servicedaten in fremde Trainingsläufe. Mit Auftragsverarbeitung und EU-Betrieb bleibt jeder Vorgang bei Ihnen.
Blinde Flecken
Ohne Monitoring merkt niemand, wenn Antworten schlechter werden. Wir messen Quelle, Trefferquote, Laufzeit und Kosten je Anfrage.
Modellwechsel
Neues Modell ohne Umbau: die Schnittstelle bleibt, die Antworten werden vor dem Wechsel an denselben Fragen geprüft.
Wartung mit Messwerten
Updates und Modellwechsel laufen in Wartungsfenstern, geprüft an denselben Fragen wie beim Start. Der Betrieb merkt nur, dass es weiterläuft.
Betrieb, der Datenschutzund Kosten im Griff hat.
EU-Hosting oder On-Prem
Rechenzentrum in der EU mit Auftragsverarbeitung, oder eigene Hardware in Ihrem Serverraum. Beide Wege sind DSGVO-konform, sie unterscheiden sich in Kosten, Aufwand und Kontrolle.
Datenschutz, schriftlich geregelt
Auftragsverarbeitung, Datenschutz-Folgenabschätzung, Ausschluss der Trainingsnutzung, Löschfristen für Protokolle. Alles liegt unterschrieben vor, bevor die erste Anfrage läuft.
Betrieb mit Messwerten
Antwortqualität, Antwortzeit und Kosten je Anfrage werden laufend gemessen. Updates und Modellwechsel laufen in Wartungsfenstern, geprüft an denselben Fragen wie beim Start.
FÜR DATENSCHUTZ UND IT AM TISCH · WO IHRE DATEN LIEGEN
Eine Datengrenze, die man zeichnen kann.
Die Skizze zeigt, was Ihr Haus verlässt und was nicht. Quellsysteme und Berechtigungen bleiben bei Ihnen, Index und Modell laufen im EU-Rechenzentrum oder On-Prem, und rechts der Grenze liegt nichts von Ihnen. Wie edda das umsetzt: edda: Berechtigungen, Datenschutz, EU-Hosting.
DATENFLUSS · DSGVO-KONFORME KI · EU-HOSTING ODER ON-PREM · KEIN TRAINING MIT IHREN DATEN
01 · MODELLSCHICHT
Modellwechsel ohne Umbau
Das Sprachmodell sitzt hinter einer Abstraktionsschicht. Offene Modelle, EU-Anbieter oder US-Modelle in EU-Region lassen sich gegen dieselben Prüffragen testen und im Wartungsfenster tauschen.
02 · MONITORING
Antwortqualität als Zahl
Prüffragen mit bekannter Antwort laufen regelmäßig durch. Dazu Quellenquote, Antwortzeit und Kosten je Anfrage, mit Schwellen und Alarm an beide Seiten.
03 · PROTOKOLLE
Löschfristen, vereinbart
Jede Anfrage wird mit Zeitpunkt, Kanal, Quelle und Antwortzeit protokolliert. Der Fragetext wird nach der mit Datenschutz und Betriebsrat vereinbarten Frist gelöscht.
04 · WARTUNGSFENSTER
Updates mit Rückweg
Ein monatliches Fenster für Updates von Modell, Konnektoren und Oberfläche. Jeder Stand ist versioniert, der Rückweg zum Vortag ist Teil des Fensters.
05 · KOSTEN
Je Anfrage oder je Instanz
Bei EU-Hosting zahlen Sie je Anfrage oder je Instanz, bei On-Prem Abschreibung, Strom und Personal. Der LLM-Kostenrechner rechnet beide Wege vor.
06 · VERANTWORTUNG
Namen statt Zuständigkeiten
Ansprechpartner auf beiden Seiten, Eskalationsweg, Reaktionszeit laut Vereinbarung.
EU-HOSTING ODER ON-PREMAUFTRAGSVERARBEITUNG NACH ART. 28KEIN TRAINING MIT IHREN DATENMODELL AUSTAUSCHBARMONATLICHES WARTUNGSFENSTERPROTOKOLLE MIT LÖSCHFRIST
Aus der Praxis TROESTER GmbH & Co. KG · Maschinenbau
Von 6 Stunden auf 76 Minuten.
TROESTERs Serviceassistent läuft seit dem Pilot im Betrieb: Rechte aus den Quellsystemen, Antworten mit Quelle, Messung gegen die Vorher-Zahl. Aus sechs Stunden Lösungszeit wurden 76 Minuten, und die Zahl wird weiter gemessen.
Der Geschäftsführer ist Iron Man. edda ist sein Jarvis.
Masiar erklärt in drei Minuten, warum wir edda gebaut haben: ein Unternehmensgedächtnis, das CRM, ERP, Ticketsystem und SharePoint liest, als Wissensgraph verbindet und mit Quelle antwortet. Und was beim ersten Kunden zwei Wochen nach dem Start passiert ist.
6 h → 76 minLösungszeit für einen Störungsfall, zwei Wochen nach dem Start
12 SystemeCRM, ERP, Tickets, SharePoint: angebunden, lesend, Rechte je Anfrage
30 JahreErfahrung der Kollegen, die bald gehen, per Interview ins Gedächtnis
Die Zahl stammt aus dem laufenden Betrieb, sechs Monate nach dem Pilot erneut gemessen und bestätigt.
Welche KI-Lösungen sind DSGVO-konform?
EU-HOSTING · ON-PREM · AUFTRAGSVERARBEITUNG · KEIN TRAINING MIT IHREN DATEN
DSGVO-konform ist eine KI-Lösung, wenn vier Bedingungen erfüllt sind: Verarbeitung in der EU oder auf eigener Hardware, ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO mit jedem Dienstleister, keine Nutzung Ihrer Eingaben zum Training, und Berechtigungen, die aus den Quellsystemen kommen. Fehlt eine Bedingung, muss der Datenschutzbeauftragte nachverhandeln.
Der Maschinenbau hat dabei eine Besonderheit: In Wartungsberichten und Servicetickets stehen Namen von Monteuren und Kundenkontakten, in Zeichnungen steckt Konstruktionswissen. Beides braucht Schutz, die Personendaten nach DSGVO, das Konstruktionswissen in Ihrem eigenen Interesse. Welche Anbieter das erfüllen, steht im Beitrag Datenschutzkonforme KI-Lösungen nach DSGVO.
Wie hoste ich KI-Systeme rechtskonform?
Rechtskonform hosten Sie ein KI-System in drei Schritten: Betriebsort mit Rechtsgrundlage wählen (EU-Rechenzentrum mit Auftragsverarbeitung oder eigener Serverraum), Datenschutz-Folgenabschätzung durchführen, wenn personenbezogene Daten in größerem Umfang verarbeitet werden, und Löschfristen für Protokolle festlegen. Die DSFA für einen Wissensassistenten füllt in der Regel wenige Arbeitstage.
Jede Anfrage wird protokolliert: Zeitpunkt, Kanal, Quelle der Antwort, Antwortzeit. Der Fragetext selbst wird nach einer mit Datenschutz und Betriebsrat vereinbarten Frist gelöscht. So bleibt das Monitoring möglich, und eine Leistungskontrolle einzelner Mitarbeitender ist ausgeschlossen, das ist die Bedingung, unter der die Mitbestimmung mitgeht.
01
Betriebsmodell wählen
EU-Cloud oder On-Prem, entschieden nach Anfragen pro Monat, Modellgröße, Geheimhaltung und IT-Kapazität. Der LLM-Kostenrechner liefert die Zahl dazu.
02
Verträge und Folgenabschätzung
Auftragsverarbeitung mit jedem Dienstleister, Datenschutz-Folgenabschätzung, Löschfristen für Protokolle. Betriebsrat und Datenschutzbeauftragter zeichnen vor der ersten Anfrage.
03
Modellschicht einziehen
Das Sprachmodell sitzt hinter einer Abstraktionsschicht, ein fester Satz Prüffragen dient als Referenz. So lässt sich das Modell später ohne Umbau tauschen.
04
Monitoring einrichten
Antwortqualität per Prüffragen, Quellenquote, Antwortzeit und Kosten je Anfrage, mit Schwellen und Alarm an beide Seiten.
05
Wartungsfenster und Verantwortliche
Ein monatliches Fenster für Updates, Ansprechpartner mit Namen auf beiden Seiten, Eskalationsweg bei Störungen.
06
Monatliche Betriebsrunde
Kennzahlen lesen, Modellkandidaten testen, neue Quellen anbinden, Löschläufe prüfen. Ergebnis ist ein Protokoll, das Geschäftsführung und Datenschutz lesen können.
Nach Schritt 06Eine Zahl, eine Entscheidung.
Am Ende steht dieselbe Messung wie am Anfang. Trägt die Zahl, geht es in den geregelten Betrieb. Trägt sie nicht, endet es nach dem Pilot, und Sie wissen, warum.
DSGVO-konform ist eine KI-Lösung, wenn vier Bedingungen erfüllt sind: Verarbeitung in der EU oder auf eigener Hardware, ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO mit jedem Dienstleister, keine Nutzung Ihrer Eingaben zum Training, und Berechtigungen, die aus den Quellsystemen kommen. Fehlt eine Bedingung, muss der Datenschutzbeauftragte nachverhandeln.
In drei Schritten: Betriebsort mit Rechtsgrundlage wählen (EU-Rechenzentrum mit Auftragsverarbeitung oder eigener Serverraum), Datenschutz-Folgenabschätzung durchführen, wenn personenbezogene Daten in größerem Umfang verarbeitet werden, und Löschfristen für Protokolle festlegen. Der Betriebsrat sieht das Konzept vor der ersten Anfrage.
EU-Hosting passt, wenn die IT klein ist und die Anfragen schwanken: Betrieb durch skillbyte, Kosten je Anfrage, Auftragsverarbeitung geregelt. On-Prem passt bei Geheimhaltungsauflagen, eigener IT-Kapazität und hoher, gleichmäßiger Last. Beide Wege sind DSGVO-konform, die Rechnung entscheidet.
Bei uns nicht, und das steht im Vertrag. Bei EU-Hosting schließt die Auftragsverarbeitung die Trainingsnutzung aus, bei On-Prem verlässt kein Datensatz Ihr Haus. Bei US-Anbietern muss der Ausschluss ausdrücklich vereinbart sein; Verbraucherverträge reichen dafür nicht.
Das hängt von Anfragen pro Monat, Modellgröße und Betriebsort ab. Bei EU-Hosting zahlen Sie je Anfrage oder je Instanz plus Betreuung, bei On-Prem Abschreibung, Strom und Personal. Der LLM-Kostenrechner unter /rechner/llm-kosten rechnet beide Wege mit aktuellen Preisen, ohne Anmeldung.
Am Monitoring: Ein fester Satz Prüffragen mit bekannter Antwort läuft regelmäßig durch, dazu Quellenquote, Antwortzeit und Kosten je Anfrage. Sinkt ein Wert unter die vereinbarte Schwelle, gibt es einen Alarm an beide Seiten, bevor die Nutzer es merken.
Das Modell sitzt hinter einer Abstraktionsschicht. Ein Kandidat läuft gegen dieselben Prüffragen wie das aktuelle Modell; schneidet er besser ab, wird er im Wartungsfenster umgeschaltet. Index, Berechtigungen und Kanäle bleiben unverändert, ein Umbau entfällt.
Ja, unter Bedingungen: EU-Region des Anbieters, Auftragsverarbeitung mit ausgeschlossener Trainingsnutzung, und eine Rechtsgrundlage für die Drittlandübermittlung (Angemessenheitsbeschluss oder Standardvertragsklauseln). Für Konstruktionswissen und Personaldaten empfehlen wir EU-Anbieter oder On-Prem.
Sie schreiben zwei Sätze: welche Daten im Spiel sind und ob ein eigener Serverraum in Frage kommt. Sie bekommen binnen 24 Stunden Ihr Betriebskonzept: EU-Hosting oder On-Prem mit Kostenschätzung, die nötigen Verträge, Monitoring und Wartungsfenster, Verantwortliche. Trägt der Fall nicht, sagen wir das ebenso, bevor Geld fließt.
6 h → 76 minLösungszeit je Störung, gemessen im Zwei-Wochen-Pilot auf echten Servicefällen. Fallstudie lesen
Rozalia Karbowniczek antwortet persönlichmeist am selben Tag, kein Verteiler
TROESTER GmbH & Co. KG · Maschinenbau
