Achtzig Seiten Gebrauchsanweisung – so umfangreich war die Art.-13-Dokumentation, die ein Maschinenbau-Betrieb aus dem Rhein-Main-Gebiet kürzlich für ein einziges Qualitätskontrollsystem vom Hersteller erhielt. Genau an diesem Stapel entscheidet sich, ob eine KI-Act-Schulung für Deployer im Mittelstand tatsächlich etwas taugt oder nur ein Zertifikat produziert, das anschließend in der Schublade verschwindet. Wer als Betreiber im Sinne von Art. 3 (4) KI-VO ein Hochrisiko-System einsetzt, muss mit solchen Unterlagen arbeiten können – nicht nur wissen, was ein Sprachmodell ist. Ein Standardkurs, der ausschließlich allgemeines KI-Wissen vermittelt, hilft an dieser Stelle nicht weiter.
In Erstgesprächen mit Geschäftsführung und IT-Leitung tauchen fast immer dieselben vier, fünf Fragen auf. Deshalb sammle ich sie hier, statt sie jedem Mandanten einzeln zu beantworten. Sie betreffen die AI-Literacy-Pflicht aus Art. 4 KI-VO, aber auch ganz praktische Dinge: welches Schulungsformat zur eigenen Betriebsgröße passt, wer im Haus die Verantwortung trägt, und woran man einen brauchbaren Anbieter von einem oberflächlichen unterscheidet.
Betreiber oder Anbieter: Zwei Rollen, die ständig verwechselt werden
Der deutsche Begriff „Betreiber" sorgt in fast jedem Gespräch für Verwirrung, weil viele Geschäftsführer dabei zuerst an die IT-Abteilung oder den Cloud-Anbieter denken. Rechtlich ist das etwas anderes: Anbieter (Provider) ist, wer ein KI-System entwickelt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber (Deployer) ist dagegen das Unternehmen, das ein fertiges System in eigener Verantwortung für seine Zwecke nutzt, etwa eine Software zur automatisierten Bewerbervorauswahl in der Personalabteilung oder ein System zur Routenoptimierung in der Logistik. Die mittelständischen Betriebe, die ich berate, sind fast ausnahmslos reine Betreiber – sie kaufen oder lizenzieren ein System, statt es selbst zu entwickeln. Das ist wichtig, weil die Pflichten unterschiedlich verteilt sind: Der Anbieter liefert die technische Dokumentation und die Gebrauchsanweisung, der Betreiber muss sie verstehen, umsetzen und sein Personal entsprechend schulen. Wer diese Rollenverteilung nicht kennt, bucht häufig die falsche Art von Schulung – einen Kurs, der Anbieterpflichten erklärt, obwohl im eigenen Betrieb ausschließlich Betreiberpflichten anfallen.
Ob das eingesetzte System überhaupt in die Hochrisiko-Kategorie nach Anhang III fällt, ist dabei eine eigene Vorprüfung, die hier bewusst nicht vertieft wird – sie entscheidet aber maßgeblich, wie streng die Betreiberpflichten am Ende ausfallen.
Die Grenzen eines generischen KI-Führerscheins für Deployer-Pflichten
Die Pflicht zur Schulung ergibt sich aus Art. 4 KI-VO, der von Betreibern ein angemessenes Maß an KI-Kompetenz im Personal verlangt – was im Einzelfall genau darunter fällt, ist eine eigene Diskussion, die den Rahmen hier sprengen würde. Ein Standardkurs von der Stange, wie ihn große Anbieter für rund 400 bis 600 Euro pro Kopf verkaufen, deckt in der Regel nur diese allgemeine Grundlage ab; was ein Kopf am Ende wirklich kostet, wenn man alle verfügbaren Schulungsformate gegeneinander rechnet, ist wieder eine andere Rechnung.
Ein solcher Kurs erklärt selten, wie man die herstellerspezifischen Anweisungen umsetzt, die für Hochrisiko-Systeme zwingend vorgeschrieben sind. Bei einem SaaS-Anbieter aus dem Rhein-Main-Gebiet lag genau dieses Dokument monatelang ungenutzt im Intranet, weil niemand geschult war, es überhaupt zu lesen. Eine sinnvolle Schulung für Deployer muss an dieser Schnittstelle ansetzen: Wie liest man die Art.-13-Unterlagen des Herstellers, und wie übersetzt man die Überwachungspflichten aus Art. 26 KI-VO in tägliche Checklisten? Die Schwerpunkte unterscheiden sich dabei deutlich je nach Branche – ein KI-Führerschein für Logistikunternehmen muss andere Akzente setzen als eine Schulung für Verwaltung oder Vertrieb. Wie man diese Nachweise am Ende so ablegt, dass sie im Audit auch etwas taugen, ist noch einmal ein eigenes Thema für sich.
Am Anfang habe ich Mandanten öfter geraten, erst einmal auf offizielle Leitfäden der zuständigen Behörden zu warten, bevor sie eigene Schulungsinhalte festlegen. Das hat sich nicht bewährt: Es dauerte Monate, bis überhaupt etwas veröffentlicht wurde, und als die Hinweise kamen, ließen sie sich im betrieblichen Alltag kaum umsetzen. Seitdem rate ich dazu, mit dem zu arbeiten, was jetzt vorliegt, und nachzuschärfen, sobald verlässlichere Orientierung kommt.
Das eigentliche Risiko sitzt nicht im Zertifikat, sondern in der Dateneingabe
Ein Punkt, den viele Kursanbieter übersehen: Die technische Zertifizierung der Systembetreuer ist oft zweitrangig gegenüber der Schulung der Fachabteilungen im Umgang mit den Eingabedaten. Die größten Risiken entstehen selten, weil die Software falsch konfiguriert ist – sie entstehen, weil Mitarbeitende sie mit Daten füttern, die für den jeweiligen Zweck nicht zulässig sind oder bestehende Verzerrungen verstärken.
Wenn eine Personalabteilung ein Bewerber-Analyse-System nutzt, das der Hersteller ursprünglich für einen ganz anderen Markt validiert hat, hilft kein technisches Zertifikat – die Fachabteilung muss verstehen, wie ihre Eingaben das Ergebnis beeinflussen. Eine gute Schulung für Betreiber im Mittelstand sollte deshalb gestuft aufgebaut sein: eine rechtliche Grundlage für alle Mitarbeitenden, spezifische Aufzeichnungs- und Überwachungspflichten nach Art. 26 KI-VO für die operativ Verantwortlichen, und eine vertiefte Einheit zur Art.-13-Dokumentation für diejenigen, die das System täglich anwenden. Diese Abstufung wirkt deutlich zuverlässiger, als das gesamte Unternehmen mit derselben Grundlagenpräsentation zu versorgen.
Wer am Ende persönlich haftet, wenn genau das schiefgeht, ist übrigens selten allein die IT-Abteilung. Die Verantwortung der Geschäftsführung bei Schulungsversäumnissen ist ein Thema, das eigene Aufmerksamkeit verdient und hier nur angerissen sei.
Wie man erkennt, ob eine Schulung wirklich wirkt
Viele Anbieter werben mit „zertifizierten" Kursen, dabei gibt es bislang keine offizielle Prüfstelle, die solche Schulungen für den Mittelstand abnimmt. Was zählt, ist die Nachweisbarkeit im Ernstfall – etwa wenn eine Aufsichtsbehörde nachfragt. Ich rate Mandanten inzwischen zu einem internen Kompetenznachweis statt zu einem gekauften Badge: Er dokumentiert nicht, dass jemand ein Video angesehen hat, sondern dass jemand die konkreten Risiken des im eigenen Betrieb eingesetzten Systems benennen kann.
In einem Webinar haben die Teilnehmenden einmal ein Hochrisiko-System untereinander korrekt eingeordnet und erklärt, ohne dass ich als Moderator überhaupt eingreifen musste – das ist für mich bis heute das eigentliche Kriterium, ob eine Schulung trägt oder nur Folien durchgeklickt wurden. Wenn ich danach über die Konstablerwache zurück Richtung Büro laufe, denke ich oft daran, wie wenig von dieser Tiefe in den ersten Beratungsgesprächen überhaupt sichtbar war.
Besonders in regulierten Bereichen entscheidet genau diese Tiefe über Compliance oder Theater: Wer sich mit einem KI-Führerschein für Medizintechnik befasst, weiß, dass die Fehlertoleranz dort gegen null geht – ein ähnliches Maß an Präzision sollte auch im Maschinenbau oder in der Versicherungswirtschaft gelten.
Stellen Sie diese vier Fragen, bevor Sie eine Schulung buchen
Wann welche dieser Pflichten für Sie konkret scharf wird, hängt vom gestaffelten Zeitplan der Verordnung ab, den ich an dieser Stelle bewusst nicht im Detail aufschlüssele – das ist eine eigene Rechnung für sich.
Fragen Sie den Anbieter zuerst, wie die Umsetzung der herstellerspezifischen Instruktionen nach Art. 13 im Kurs behandelt wird – bleibt die Antwort vage, suchen Sie weiter. Fragen Sie außerdem, ob ein Präsenz-Workshop oder ein E-Learning-Format besser zu Ihrer Belegschaft passt, denn diese Entscheidung hängt stärker von der Struktur Ihres Betriebs ab, als die meisten Anbieter zugeben. Ob Sie das nötige Wissen intern aufbauen oder extern einkaufen, ist eine dritte Weichenstellung, die ich in jedem Mandat neu bewerte – pauschale Antworten helfen hier selten.
Bei Zulieferbetrieben kommt eine vierte Ebene dazu: Auftraggeber reichen ihre eigenen Compliance-Anforderungen zunehmend vertraglich an Zulieferer weiter, und das betrifft auch die Schulungsnachweise. Ich lese die Verordnungstexte grundsätzlich im englischen Original, weil die deutsche Übersetzung an manchen Stellen Nuancen verliert – ein Punkt, der besonders für Maschinenbau-Betriebe mit internationalen Zulieferketten relevant wird. Wo ein Betriebsrat existiert, hat er bei der Auswahl von Schulungsinhalten und -anbietern häufig ein Mitspracherecht, das gerne übersehen wird. Kommen KI-Systeme im Marketing oder Vertrieb zum Einsatz, treten zusätzliche Transparenzpflichten gegenüber Kunden hinzu, die in einer reinen Deployer-Schulung leicht untergehen. Und schließlich überschneidet sich die Schulungspflicht an mehreren Stellen mit datenschutzrechtlichen Vorgaben, etwa wenn Trainingsdaten personenbezogen sind – auch das ist ein eigenes Kapitel, das eine reine KI-Act-Schulung nicht abdeckt.
Ein Punkt bleibt auch für Berater schwierig: die genaue Abgrenzung, wann ein im Unternehmen angepasstes GPAI-Modell noch als reines Werkzeug des ursprünglichen Anbieters gilt und wann der Mittelstandsbetrieb selbst in eine Anbieterrolle rutscht. Verlassen Sie sich in solchen Grenzfällen nicht allein auf eine Schulungsfolie, sondern lassen Sie die konkrete Konstellation im Zweifel fachlich prüfen. Compliance im Mittelstand funktioniert nur, wenn sie nah am tatsächlich eingesetzten System bleibt – alles andere ist teures Theater, das spätestens beim ersten Audit in sich zusammenfällt.