KI-Transparenz im Maschinenbau: Welche Anforderungen gelten?
KI-Transparenz im Maschinenbau umfasst sechs Anforderungen: Herkunft jeder Aussage mit Fundstelle, Stand der Quelle mit Änderungsindex, Rechte des Fragenden je Anfrage, benannte Lücken, ein Protokoll je Antwort und den Modellstand. Gestellt werden sie vom Kunden bei der Abnahme, vom Auditor nach ISO 9001, vom Betriebsrat und vom EU AI Act. Wer sie ins Lastenheft schreibt, spart die Beweisführung.
KI-Transparenz im Maschinenbau besteht aus sechs Anforderungen: Herkunft jeder Aussage mit Fundstelle, Stand der Quelle mit Revision, Rechte des Fragenden je Anfrage, benannte Lücken, Protokoll je Antwort und Modellstand. Kunde, Auditor nach ISO 9001, Betriebsrat und EU AI Act verlangen jeweils andere Teile davon. Ins Lastenheft gehören die sechs als Prüfsätze mit Handlung, erwartetem Ergebnis und Folge bei Abweichung, abnehmbar in einer Stunde am Testsystem. Bei TROESTER war die Belegpflicht der Grund für die Annahme durch die Techniker; die Lösungszeit sank von rund sechs Stunden auf 76 Minuten.
Kurz beantwortetTransparenz bei KI im Maschinenbau bedeutet, dass ein Prüfer zu jeder Antwort in einem Klick sehen kann, woher sie stammt, welchen Stand die Quelle hat, ob der Fragende alles sehen durfte und was das System nicht wusste. Die sechs Anforderungen dafür lassen sich als Prüfsätze ins Lastenheft schreiben und in einer Stunde am Testsystem abnehmen. Kunde, Auditor, Betriebsrat und der EU AI Act verlangen jeweils andere Teile davon; wer alle sechs erfüllt, hat für jede der vier Gruppen den Nachweis fertig.
Was heißt KI-Transparenz im Maschinenbau konkret?
Konkret heißt es, dass jede Antwort eines KI-Systems sechs Fragen beantworten kann, ohne dass jemand nachforschen muss: Woher stammt die Aussage? Welchen Stand hat die Quelle? Durfte der Fragende alles sehen, was das System gelesen hat? Was hat das System nicht gefunden? Wer hat wann was gefragt und welche Antwort bekommen? Und welches Modell in welcher Version hat formuliert? Im Maschinenbau kommen diese Fragen von außen und mit Frist: vom Kunden bei der Abnahme, vom Auditor, vom Betriebsrat, im Garantiefall vom Anwalt.
Die ersten vier Anforderungen betreffen die einzelne Antwort, die letzten beiden das System dahinter. Herkunft und Stand entscheiden, ob ein Techniker nach der Antwort handeln darf; Rechte und Lücke, ob das System im Betrieb erlaubt ist; Protokoll und Modellstand, ob sich nach einem halben Jahr noch rekonstruieren lässt, was damals warum geantwortet wurde. Bei TROESTER waren zwölf Systeme angebunden, und die Belegpflicht an jeder Antwort war der Grund, warum Servicetechniker das System annahmen; gemessen wurde die Lösungszeit je Störung, von rund sechs Stunden auf 76 Minuten.
Wer stellt die Anforderungen an KI-Transparenz, und was verlangt jede Gruppe?
Vier Gruppen stellen sie, mit unterschiedlichem Gewicht: der Kunde bei der Abnahme einer Anlage oder eines Serviceeinsatzes, der Auditor im Zertifizierungsaudit, der Betriebsrat in der Mitbestimmung und der Gesetzgeber über den EU AI Act. Der Kunde will Herkunft und Stand, der Auditor will Protokoll und Rechte, der Betriebsrat will die Auswertungsregel, und der AI Act will Dokumentation und Kennzeichnung. Die Matrix zeigt, welche Anforderung für welche Gruppe im Vordergrund steht.
Gruppe Anlass Verlangt vor allem Nachweis, der genügt Kunde Abnahme, Reklamation, Garantiefall Herkunft und Stand jeder Aussage, die in einem Bericht oder einer Zusage steht Antwort mit Verweis auf freigegebenes Dokument samt Revision; der Klick öffnet das Original Auditor nach ISO 9001 Zertifizierungs- und Überwachungsaudit, Abschnitt 7.5 dokumentierte Information Dass Aussagen auf gelenkten Dokumenten beruhen, Rechte eingehalten werden und Antworten rekonstruierbar sind Protokoll je Antwort mit geprüften Rechten; Stichprobe von Antworten mit Fundstelle im gelenkten Dokument Betriebsrat Einführung, Betriebsvereinbarung Dass das Protokoll keine Leistungskontrolle ermöglicht und Rechte je Anfrage gelten Auswertungsregel: nur Fragearten, Quellen, Lücken; Personenbezug nur für Rechteprüfung und Auditfälle mit Vier-Augen-Prinzip EU AI Act Betrieb eines KI-Systems im Unternehmen Kennzeichnung der KI-Interaktion, Kompetenz der Nutzer (Art. 4), Dokumentation des Systems Systembeschreibung mit Quellenliste, Modellstand und Rechtekonzept; Schulungsnachweis der Nutzer
Ein Wissensassistent, der Dokumente liest und Antworten mit Fundstelle liefert, ist nach dem AI Act in aller Regel kein Hochrisikosystem. Die Pflichten, die trotzdem gelten, sind die Kompetenz der Nutzer nach Artikel 4 und die Kennzeichnung, dass ein KI-System antwortet. Was für Produktionsbetriebe im Einzelnen folgt, steht in EU AI Act: Pflichten für Produktionsbetriebe, die Kompetenzpflicht in KI-Kompetenz nach Artikel 4.
Warum brauchen KI-Antworten in der Industrie Quellenangaben, wenn das Handbuch doch daneben liegt?
Weil das Handbuch den Auslieferungszustand beschreibt und die Antwort den heutigen Zustand beschreiben muss: nach dem Umbau, nach dem Servicebericht, nach der geänderten Freigabe. Die Quellenangabe verbindet beides, indem sie den Stand nennt. Die vollständige Begründung mit fünf Gründen aus Handlung, Änderungsstand, Widerspruch, Lücke und Verfasser steht in Warum KI-Antworten in der Industrie Quellenangaben brauchen; dieser Artikel bleibt bei den Anforderungen, die sich daraus für das Lastenheft ergeben.
Wie kommen die sechs Anforderungen ins Lastenheft?
Als Prüfsätze, die ein Abnehmer am Testsystem in einer Stunde nachvollziehen kann. Ein Prüfsatz nennt die Handlung, das erwartete Ergebnis und die Folge bei Abweichung; er ersetzt Formulierungen wie „das System muss transparent sein", die niemand abnehmen kann.
- Herkunft als Prüfsatz. „Zu zehn Fragen aus dem Prüfsatz des Betriebs nennt jede Antwort je Aussage ein Dokument und einen Abschnitt; der Klick öffnet die Stelle." Abweichung: Trefferliste statt Stelle gilt als nicht erfüllt.
- Stand als Prüfsatz. „Zu jeder Fundstelle zeigt die Antwort Datum und Version oder Änderungsindex." Prüfung an einem Dokument, das in zwei Revisionen vorliegt: Die Antwort nennt beide und markiert die gültige.
- Rechte als Prüfsatz. „Ein Nutzer ohne Zugriff auf Ordner X erhält aus Dokumenten in X weder Zitat noch Zusammenfassung." Prüfung mit zwei Testkonten und derselben Frage. Wie diese Grenze technisch hält, steht in Berechtigungen als Systemgrenze.
- Lücke als Prüfsatz. „Zu fünf Fragen, deren Antwort im Bestand nicht vorliegt, antwortet das System, dass nichts gefunden wurde, und nennt das Nächstliegende." Ein System, das hier eine Antwort formuliert, fällt durch.
- Protokoll als Prüfsatz. „Zu jeder Antwort ist nachträglich abrufbar: Nutzer, Zeit, Frage, gefundene und gezeigte Quellen, Antwort, Modellstand." Dazu die Auswertungsregel aus der Betriebsvereinbarung.
- Modellstand als Prüfsatz. „Jede Antwort trägt die Kennung des Sprachmodells und seiner Version; ein Modellwechsel wird im Protokoll vermerkt." Prüfung: dieselbe Frage vor und nach einem Modellwechsel vergleichen.
Wer Lastenhefte aus Altprojekten hat, findet diese Sätze dort selten; die Anforderungen an ein KI-System unterscheiden sich von denen an eine Datenbank. Wie ein Lastenheft aus bestehenden Anforderungen mit KI-Unterstützung entsteht, zeigt Lastenheft-Anforderungen automatisch extrahieren.
KI-Antworten mit Quellen: reicht das für die Transparenz?
Es ist die erste von sechs Anforderungen und die sichtbarste, und es reicht allein nicht. Eine Antwort mit Quelle ohne Stand verleitet zum Handeln nach einem überholten Dokument, eine mit Quelle ohne Rechteprüfung zeigt dem Falschen das Richtige, und eine ohne Protokoll lässt sich nach einem halben Jahr im Garantiefall nicht mehr rekonstruieren. Wie der Verweis technisch entsteht, vom Anker im Dokument bis zum Klick, steht in KI-Antworten mit Quellen: So funktioniert es. Was eine Quelle im Betrieb wert ist, zeigt sich erst mit den anderen fünf.
Wie sieht eine Abnahme beim Kunden aus? Eine Fallskizze mit Rechnung
Ein Maschinenbauer liefert eine Anlage mit Serviceassistent aus. Bei der Abnahme fragt der Prüfer des Kunden nach dem Anzugsmoment einer sicherheitsrelevanten Verschraubung. Der Assistent nennt den Wert mit Verweis auf das Handbuch in Revision C, Seite 44, und auf den Servicebericht vom März, der den Wert nach dem Umbau bestätigt; der Klick öffnet beide Stellen. Der Prüfer sieht, dass Revision C freigegeben ist, prüft mit einem zweiten Konto ohne Servicerechte, dass die Berichte dort verborgen bleiben, und stellt eine Frage zu einer Baugruppe, die der Bestand nicht enthält. Die Antwort lautet, dass nichts gefunden wurde. Die Abnahme dauert zwanzig Minuten.
Beispielrechnung, Annahmen gekennzeichnet. Annahme: Ein Betrieb erhält im Jahr 40 Nachweisanfragen von Kunden, Auditoren und aus Garantiefällen, bei denen eine Aussage bis zur Quelle zurückverfolgt werden muss. Annahme ohne die sechs Anforderungen: zwei Stunden Suche je Anfrage in Postfächern, Berichten und Ablagen, also 80 Stunden im Jahr, bei 60 Euro Vollkosten 4.800 Euro; dazu die Fälle, in denen die Quelle nie gefunden wird. Annahme mit Protokoll und Fundstelle: zehn Minuten je Anfrage, also rund 7 Stunden und 400 Euro. Der Unterschied von rund 4.400 Euro im Jahr ist klein gegen den einen Garantiefall, in dem die Herkunft einer Zusage entscheidet. Die Zahlen sind Annahmen zum Nachrechnen; die Zahl der Nachweisanfragen aus dem eigenen Betrieb ersetzt sie.
Nachvollziehbare KI in der Industrie: Was prüft der Auditor in zehn Minuten?
Er prüft drei Dinge: eine Stichprobe von Antworten gegen die gelenkten Dokumente, das Protokoll zu einer zurückliegenden Antwort und die Rechte an einem gesperrten Ordner. Dafür braucht er die sechs Anforderungen als Prüfsätze und einen Prüfkatalog mit Prüfhandlung je Kriterium; der Katalog mit zehn Kriterien in vier Gruppen steht in Nachvollziehbare KI in der Industrie: Prüfkriterien. Wie der Betrieb die Überprüfbarkeit danach im Alltag hält, mit vier Prüfstufen und monatlicher Stichprobe, beschreibt KI-Antworten im Betrieb überprüfbar machen; wie ein Audit mit einem Wissenssystem vorbereitet wird, ISO-Audit vorbereiten mit Wissens-Hub.
Was Transparenz nicht leistet
Sie macht ein falsches Dokument nicht richtig; sie zeigt immerhin, wer es geschrieben hat und wann. Sie ersetzt keine Freigabe: Ob nach einer Antwort gehandelt wird, entscheidet der Mensch, und die Freigabe wirkt nur, wenn er Quelle, Stand und Lücke wirklich sieht, wie Human in the Loop als Architektur ausführt. Und sie ersetzt keine Pflege: Ein Betrieb, der Berichte nie aktualisiert, bekommt transparente Antworten aus veralteten Berichten. Genau deshalb steht der Stand in jeder Antwort.
Begriffe kurz erklärt
- Gelenktes Dokument
- Ein Dokument mit Freigabe, Revision und Verteiler nach dem Qualitätsmanagement. Der Auditor erwartet, dass Antworten auf gelenkten Dokumenten beruhen und die Revision nennen.
- Prüfsatz
- Eine Anforderung, formuliert als Handlung, erwartetes Ergebnis und Folge bei Abweichung. Prüfsätze lassen sich am Testsystem abnehmen.
- Modellstand
- Kennung und Version des Sprachmodells, das eine Antwort formuliert hat. Nötig, um eine Antwort nach einem Modellwechsel zu rekonstruieren.
- Auswertungsregel
- Festlegung in der Betriebsvereinbarung, welche Auswertungen des Protokolls zulässig sind: Fragearten, Quellen und Lücken ja, Listen je Person nein.
Weiterführend
- Warum KI-Antworten in der Industrie Quellenangaben brauchen: die fünf Gründe hinter Anforderung eins und zwei.
- KI-Antworten mit Quellen: So funktioniert es: vom Anker im Dokument bis zum Klick.
- Nachvollziehbare KI in der Industrie: Prüfkriterien: zehn Kriterien mit Prüfhandlung.
- KI-Antworten im Betrieb überprüfbar machen und Warum KI-Antworten mit Quellenbeleg entscheidend sind.
- KI und Betriebsrat im Mittelstand und Nachweisführung gegenüber Kunden im Software-Audit.
- Themen-Hub: KI-Quellenangaben in der Industrie, die Leistungsseite Konzeption und Design und der Wissensassistent AskEdda.
Häufige Fragen
Ist ein KI-Wissensassistent im Maschinenbau ein Hochrisikosystem nach dem AI Act?
In aller Regel nicht. Ein System, das Dokumente liest und Antworten mit Fundstelle liefert, fällt unter die allgemeinen Pflichten: Kompetenz der Nutzer nach Artikel 4 und Kennzeichnung, dass ein KI-System antwortet. Die Einstufung prüft der Betrieb je Anwendungsfall.
Welche Transparenzanforderung verlangt der Auditor nach ISO 9001?
Dass Aussagen auf gelenkten Dokumenten mit Revision beruhen, Rechte eingehalten werden und eine Antwort nachträglich rekonstruierbar ist. Ein Protokoll je Antwort und eine Stichprobe mit Fundstelle im gelenkten Dokument genügen als Nachweis.
Wie formuliere ich Transparenz im Lastenheft, damit sie abnehmbar ist?
Als Prüfsatz mit Handlung, erwartetem Ergebnis und Folge bei Abweichung, je Anforderung einer. Beispiel: Zu fünf Fragen ohne Beleg im Bestand antwortet das System, dass nichts gefunden wurde. Formulierungen wie „muss transparent sein" lassen sich nicht abnehmen.
Was verlangt der Betriebsrat bei der Transparenz eines KI-Systems?
Vor allem eine Auswertungsregel für das Protokoll: Auswertungen laufen über Fragearten, Quellen und Lücken, der Personenbezug bleibt der Rechteprüfung und Auditfällen mit Vier-Augen-Prinzip vorbehalten. Dazu die Zusicherung, dass Rechte je Anfrage gelten.
Reicht eine Antwort mit Quelle als Transparenznachweis?
Sie ist eine von sechs Anforderungen. Ohne Stand, Rechteprüfung, benannte Lücke, Protokoll und Modellstand bleibt der Nachweis im Garantiefall und im Audit unvollständig.
Welche Transparenzanforderungen stehen in Ihrem nächsten Lastenheft?
Rozalia Karbowniczek klärt im Erstgespräch, welche der sechs Anforderungen Ihr Kunde, Ihr Auditor und Ihr Betriebsrat stellen und wie sie als Prüfsätze formuliert werden.
Gespräch vereinbaren →Vom Pilot in den Regelbetrieb: Hosting, Berechtigungen und Rollout je Abteilung stehen auf der Seite KI-Implementierung.
