Ein IT-Leiter, der vor der Softwarefreigabe die richtige Frage stellt, braucht für die Prüfung zehn Minuten. Einer, der sich auf das Wort 'KI' im Verkaufsprospekt verlässt, braucht hinterher Wochen, um die Risikoklassifizierung nachzuholen, und manchmal reicht die Zeit dafür gar nicht mehr. Genau zwischen diesen beiden Polen bewegen sich die IT-Abteilungen im Mittelstand, die ich begleite: Kaum ein Einkaufsprozess kommt heute noch ohne KI-Compliance-Frage aus, aber im IT-Management fehlt oft die Methode, um zu prüfen, ob ein neues Tool zum Hochrisiko-Fall wird. Genau dafür brauchen IT-Leiter etwas, das ich den KI-Führerschein nenne – kein Zertifikat zum Aufhängen, sondern eine EU-AI-Act-Schulung, die bei der nächsten Software-Einführung wirklich greift, wenn die Mittelstand-Digitalisierung nicht am Bußgeldbescheid enden soll.
Anbieter oder Betreiber – wer trägt bei der neuen Software die Pflicht?
Die meisten Mittelständler, die ich berate, sind rechtlich Betreiber (Deployer) und nicht Anbieter (Provider) – sie entwickeln die KI nicht selbst, sie setzen sie nur ein. Diese Unterscheidung ist kein juristisches Detail für den Anhang, sondern der erste Prüfschritt bei jeder Softwareeinführung: Sobald der IT-Leiter ein KI-gestütztes Tool auswählt, entscheidet er faktisch mit, welche Rolle das eigene Haus im Sinne der Verordnung einnimmt – und damit, welche Pflichten am Ende hängen bleiben. Wie weit sich diese Pflichten sogar auf Zulieferer in der Lieferkette weiterreichen, ist ein eigenes Thema, das ich hier nur streife. Genauso wenig vertiefe ich an dieser Stelle, wie persönlich die Haftung für die Geschäftsführung am Ende wird – nur so viel: Sie bleibt nicht abstrakt.
Otto Wesselers Routenoptimierung ohne Risikoklassifizierung
Otto Wesseler, Geschäftsführer eines Logistikunternehmens im Rhein-Ruhr-Korridor, rief mich an, nachdem eine interne Revision aufgedeckt hatte, dass seine Disponenten ein KI-System zur Routenoptimierung nutzten, das nie formal eingestuft worden war. Bei unserem ersten Gespräch auf der Berger Straße in Frankfurt-Bornheim – ich saß gerade zwischen zwei Terminen in einem Café – wurde schnell klar, dass er Zahlen braucht, keine Paragraphen: Wesseler versteht Compliance am besten über ein konkretes Bußgeldszenario, nicht über die Verordnung selbst. Also rechnete ich ihm zuerst vor, was ein unklassifiziertes Hochrisiko-System im schlechtesten Fall kostet, und erst danach sprachen wir über die Kategorien aus Anhang III – eine Detailtiefe, die an anderer Stelle eigene Artikel bekommt und hier nur als Hinweis dient.
Beim Schulungskonzept für seine Disponenten habe ich zuerst einen Fehler gemacht, den ich seitdem nicht wiederhole: Ich reichte die englischen Originaltexte der Verordnung direkt an die Mitarbeiter weiter, weil ich selbst aus Gewohnheit im Original lese – die deutschen Übersetzungen verlieren an mancher Stelle die feine Nuance. Für die Disponenten war das wertlos. Ohne Einordnung in ihren Arbeitsalltag konnten sie mit den Artikelnummern schlicht nichts anfangen, und das Training musste komplett neu aufgezogen werden, diesmal mit Fallbeispielen aus der eigenen Flotte statt mit Verordnungstext. Wie unterschiedlich sich deutsche und englische Fassungen überhaupt lesen, ist ein Thema, das an anderer Stelle ausführlicher behandelt wird – hier reicht die Lehre: Der Originaltext gehört auf meinen Schreibtisch, nicht ungefiltert auf den der Belegschaft.
Nach sieben Wochen fragen die Mitarbeiter anders
Sieben Wochen nach dem Neustart mit Fallbeispielen hatte sich der Ton in den Schulungen verschoben. Die Fragen der Disponenten drehten sich nicht mehr um KI-Grundlagen, sondern konkret um die Dokumentation nach Art. 16 KI-VO – wer im Haus welchen Nachweis pflegt und wo er im Ernstfall abrufbar ist. Das ist ein gutes Zeichen: Es bedeutet, dass die Grundlagen sitzen und die eigentliche Arbeit beginnen kann. Wie sich diese Dokumentationspflicht effizient statt bürokratisch organisieren lässt, würde hier zu weit führen; nur so viel: Ein Ordner mit ausgedruckten Checklisten reicht selten aus.
Wenn ich unsicher bin, was ein Prüfer später als Nachweis akzeptiert, frage ich Ludwig Sachse – einen früheren Kollegen, der heute als Projektleiter bei einem Prüf- und Zertifizierungsdienstleister arbeitet. Er hat mir bei Wesselers Fall keine einzige Schulungsbescheinigung durchgehen lassen, der keine überprüfbare Dokumentationsausgabe beilag – ein Zertifikat allein war ihm nie genug. Diese Rückmeldung aus der Auditorenperspektive ist der Grund, warum ich Schulungspläne inzwischen von hinten aufziehe: erst die Frage, was ein Prüfer sehen will, dann die Inhalte.
Schulungspläne statt Paragraphenreiterei schreiben
Für die IT-Leitung heißt das in der Praxis: einen Freigabeprozess etablieren, der jede Software-Anfrage automatisch nach Risikoklasse einsortiert, den Einkauf schulen, damit er dem Anbieter die richtigen Fragen zur Konformität stellt, und die KI-Kompetenz nach Art. 4 KI-VO nicht als einmalige Pflichtübung, sondern als laufenden Prozess behandeln. Ob dafür ein Webinar oder ein Präsenz-Workshop die passendere Form ist, hängt von der Unternehmensgröße ab – eine Abwägung, die ich an anderer Stelle ausführlicher führe; nur so viel: Fünf Minuten bevor ein Webinar startet, meldet sich im Kalender ein kurzer Ton, und genau in dieser kurzen Spanne entscheidet sich oft, ob die vorbereiteten Fallbeispiele noch zur Branche des jeweiligen Teilnehmerkreises passen.
Genauso wenig gehe ich hier auf die Frage ein, ob sich das nötige Wissen besser intern aufbauen oder extern einkaufen lässt, oder wie Sie einen Anbieter anhand einer Checkliste seriös von einem unseriösen unterscheiden. Was für die Software-Einführung zählt: Der Betriebsrat hat bei der Auswahl von Schulungsformaten häufig ein Mitbestimmungsrecht, das IT-Leiter zu spät einplanen, die Transparenzpflicht nach Art. 52 greift auch bei simplen Chatbots ohne Hochrisiko-Einstufung, und an der Schnittstelle zum Datenschutz überschneiden sich AI-Act- und DSGVO-Anforderungen öfter, als den meisten Einkaufsabteilungen lieb ist. Was das pro Kopf am Ende kostet oder bis wann welche Frist steht, sind eigene Rechnungen, die ich bewusst nicht in diesem Artikel aufmache.
Oft werde ich gefragt, ob ein Standard KI-Führerschein oder Individualschulung für ein KMU die bessere Wahl ist. Meine Erfahrung: Die Belegschaft kommt oft mit soliden Basics aus, während der IT-Leiter das tiefere Verständnis braucht, um zu erkennen, wenn ein Tool gegen das Verbot von Social Scoring verstößt oder in eine der Kategorien aus Anhang III fällt.
KI-Compliance-Schulung und Mittelstand-Digitalisierung: Was beim Softwarekauf wirklich zählt
Wo selbst ich als Berater ins Stocken komme, ist die Abgrenzung zwischen einem einfachen Automatisierungsfeature und einem eigenständigen KI-System im Sinne der Verordnung – die Übergänge in modernen SaaS-Produkten sind oft fließend, und zwei Fachanwälte kommen hier durchaus zu unterschiedlichen Einschätzungen. Für IT-Leiter bedeutet das: Im Zweifel lieber einmal zu viel als einmal zu wenig klassifizieren, denn eine übersehene Hochrisiko-Anwendung wiegt schwerer als ein Prüfschritt zu viel im Einkaufsprozess.
In einem Projekt mit einem SaaS-Anbieter haben wir außerdem besprochen, wie sich Compliance in agilen Teams in den Sprint-Rhythmus einbauen lässt, ohne dass jede Iteration am Ende wie eine nachträgliche TÜV-Abnahme wirkt. Die Prüfung gehört in den Entwicklungsprozess hinein, nicht dahinter.
Eine Prüffrage schützt mehr als ein Zertifikat
Was aus den ersten Wochen mit Wesseler und aus dem Umweg über die englischen Originaltexte bei mir hängen geblieben ist, lässt sich auf eine einzige Prüffrage herunterbrechen, die vor jeder Software-Einführung steht: Anbieter oder Betreiber – und was folgt daraus für dieses eine Haus? Wer diese Frage vor dem Kauf beantwortet, statt sie dem nächsten Audit zu überlassen, spart sich nicht nur die 35 Millionen Euro Bußgeld aus Art. 99 Absatz 3 als abstrakte Drohung im Hinterkopf, sondern vor allem die Wochen, die eine nachträgliche Risikoklassifizierung kostet. Das ist der eigentliche Kern des KI-Führerscheins: keine Prüfungsplakette, sondern eine Gewohnheit, die bei jedem neuen Tool automatisch mitläuft.
Ich bin kein Rechtsanwalt, und nichts davon ersetzt die Prüfung durch einen spezialisierten Juristen oder Ihren Datenschutzbeauftragten im Einzelfall. Aber die Übersetzung der Verordnung in einen Arbeitsalltag, der auch im Tagesgeschäft noch funktioniert, ist der Teil, den Sie nicht outsourcen sollten.