Es war spät an einem Abend im letzten November in meinem Frankfurter Büro, als ich wieder einmal den englischen Originaltext des EU AI Act mit der deutschen Übersetzung verglich. Während die deutsche Fassung hölzern von 'KI-Kompetenz' spricht, trifft der englische Begriff 'AI Literacy' den Kern viel besser: Es geht um die Lesefähigkeit, um ein tiefes Verständnis für das Werkzeug, das wir da gerade in unsere sensibelsten Prozesse lassen.
Bevor ich Ihnen schildere, wie wir dieses abstrakte Konzept in die Realität eines Chemiewerks übersetzt haben, ein wichtiger Hinweis: Diese Seite enthält Affiliate-Links zu Anbietern, deren Programme ich für meine Mandanten persönlich geprüft und für gut befunden habe. Wenn Sie über diese Links buchen, erhalte ich eine Provision – für Sie bleibt der Preis identisch. Ich empfehle ausschließlich Lösungen, die ich bereits bei mindestens zwei Mandanten erfolgreich in die Praxis begleitet habe.
Kurz nach dieser Analyse im November lud mich ein Mandant – ein mittelständischer Spezialchemie-Hersteller – in sein Werk ein. In der Produktion lief eine neue, KI-gestützte Ertragsoptimierung, die ohne jeden formellen Compliance-Rahmen implementiert worden war. Als ich die Schleuse zum Labor passierte, schlug mir dieser scharfe, sterile Geruch der Laborluft entgegen, den ich noch aus meiner Zeit als Datenschutzkoordinator im Industrieverband kannte. Ich beobachtete einen Techniker, der zögerlich Daten in ein Tablet eingab, auf dem ein maßgeschneidertes KI-Modell lief. Niemand hatte ihn wirklich geschult; er bediente ein System, dessen Risiken er nicht einschätzen konnte.
Das Risiko der Schatten-KI zwischen Reagenzgläsern
In der Chemiebranche ist die Fehlertoleranz gleich null. Das gilt für die Stoffmischung ebenso wie für die IT-Compliance. Wir entdeckten bei der Bestandsaufnahme, dass mehrere Labormitarbeiter öffentliche, völlig ungesicherte LLMs (Large Language Models) nutzten, um komplexe REACH-Sicherheitsprotokolle zusammenzufassen. Ihr Ziel war Effizienz, das Ergebnis war ein massives Risiko für Betriebsgeheimnisse.
Der Moment, der mir einen eiskalten Schauer über den Rücken jagte, war, als ich sah, wie eine proprietäre Katalysatorformel in einen kostenlosen Web-Chat kopiert wurde, nur um sie 'für eine Präsentation schöner zu formatieren'. In diesem Augenblick wurde mir klar: Die größte Gefahr ist nicht die böswillige Absicht, sondern die fehlende KI-Kompetenz an der Basis. Wer nicht versteht, dass öffentliche KIs wie ein offenes Fenster zur Welt fungieren, gefährdet das geistige Eigentum des gesamten Unternehmens.
Art. 4 der KI-Verordnung (KI-VO) verpflichtet Anbieter und Betreiber von KI-Systemen unmissverständlich dazu, Maßnahmen zu ergreifen, um ein ausreichendes Maß an KI-Kompetenz bei ihrem Personal sicherzustellen. Das ist kein 'Nice-to-have' mehr, sondern eine gesetzliche Anforderung mit einer Übergangsfrist für die meisten Regeln von 24 Monaten. Für verbotene Praktiken gilt sogar eine noch kürzere Frist von nur 6 Monaten nach Inkrafttreten.
Warum Standard-Schulungen in der Chemie scheitern
Anfangs machte ich einen klassischen Beraterfehler: Ich verbrachte die ersten zwei Stunden eines Workshops damit, Paragrafen der KI-Verordnung zu zitieren. Der Blick des Werksleiters auf seine Uhr wurde immer häufiger. Ich merkte: Diese Experten müssen keine Juristen werden. Sie müssen wissen, welche 'roten Knöpfe' sie meiden müssen, wenn der Algorithmus halluziniert oder die Datenintegrität gefährdet ist.
Ein spezielles Problem in zertifizierten GMP-Umgebungen (Good Manufacturing Practice) ist die Validierungspflicht. Standard-KI-Trainings ignorieren oft völlig, dass Software in der Chemie strengen Validierungsprozessen unterliegt. Wer eine allgemeine KI ohne Berücksichtigung der GAMP5-Richtlinien in regulierte Prozesse integriert, verliert im schlimmsten Fall seine Zertifizierung. Deshalb ist ein strukturierter Ansatz wie der KI-Führerschein so wertvoll, weil er die Brücke zwischen Technik und Regulierung schlägt.
Im Vergleich zu einer rein internen Lösung bietet der externe Nachweis den Vorteil, dass er gegenüber Aufsichtsbehörden als objektiver Beleg für die Erfüllung der Schulungspflicht nach Art. 4 dient. Viele Unternehmen schwanken zwischen einem KI-Führerschein oder einer eigenen Plattform. In der Chemie mit ihren spezifischen Sicherheitsanforderungen empfehle ich meist den hybriden Weg: Den allgemeinen Nachweis extern einkaufen und die spezifischen Labor-SOPs (Standard Operating Procedures) intern ergänzen.
Vom Paragrafenreiter zum Praxis-Check
An einem regnerischen Nachmittag im letzten März stellten wir das Schulungskonzept komplett um. Wir hörten auf, über Gesetze zu reden, und fingen an, über 'Treiberlizenzen' für die Produktion zu sprechen. Der Fokus lag auf Hochrisiko-KI-Systemen gemäß Anhang III der KI-VO. Diese Systeme, etwa zur Steuerung kritischer Infrastrukturen oder zur Personalbewertung, erfordern laut Art. 14 eine ständige menschliche Aufsicht. In der Chemieproduktion bedeutet das: Der Mensch muss die KI-Ergebnisse validieren können, statt blind auf den 'Yield-Score' zu vertrauen.
Wir haben gelernt, dass eine gute Schulung für Laboranten drei Kernpunkte enthalten muss:
- Datenschutz und IP-Schutz: Was darf in welche KI eingegeben werden?
- Halluzinations-Check: Wie erkenne ich, wenn die KI chemische Zusammenhänge falsch darstellt?
- Protokollierung: Wie erfasse ich den KI-Einsatz im Einklang mit GLP (Good Laboratory Practice)?
Mitte August führten wir eine finale Audit-Simulation durch. Es war beeindruckend zu sehen, wie sich die Unsicherheit in Souveränität verwandelt hatte. Die Erfüllung von Art. 4 war plötzlich nicht mehr nur eine lästige Compliance-Hürde, sondern die beste Verteidigung gegen unkontrollierte Schatten-KI in der Produktion. Ich bin kein Anwalt und kein Auditor, aber ich sehe mich als Übersetzer. Und in diesem Fall war die Übersetzung des Gesetzes in den KI-Führerschein der Schlüssel zur Betriebssicherheit.
Wenn Sie für Ihr Unternehmen – sei es im Maschinenbau, in der Logistik oder eben der Chemie – einen rechtssicheren Weg suchen, die Anforderungen des EU AI Act umzusetzen, ohne den Betrieb lahmzulegen, ist ein strukturierter Kurs ein exzellenter Startpunkt. Es geht darum, die Mitarbeiter zu befähigen, die 'Stopp-Taste' zu drücken, wenn das System unplausible Ergebnisse liefert. Für die Dokumentation gegenüber den Behörden empfehle ich zudem, rechtssichere Nachweise der KI-Schulung zentral zu archivieren. Der Aufwand heute ist minimal im Vergleich zu den Bußgeldern, die bei mangelnder KI-Kompetenz drohen könnten.