Viele Unternehmen überprüfen ihr Risikomanagement nach Artikel 9 der EU-KI-Verordnung, nachdem ein System einmal produktiv läuft, nur einmal beim Rollout, nicht als wiederkehrenden Termin im Kalender. Bei den meisten Mittelstandsunternehmen, die ich als Compliance-Beauftragte oder Geschäftsführung treffe, lautet die ehrliche Antwort: gar nicht mehr.
Die meisten Risikoklassifizierungen werden einmal erledigt, abgeheftet und nie wieder angefasst. Wie man ein System überhaupt korrekt als hochriskant einstuft, ist ein eigenes, sehr detailliertes Thema für sich — hier geht es um das, was danach passiert, denn genau dort bricht das KI-Risikomanagement im Mittelstand in der Praxis am häufigsten ab.
Das Risikomanagement nach Artikel 9 in der Praxis beginnt mit Artikel 5
Bevor Sie überhaupt in die laufende Risikobewertung nach Artikel 9 einsteigen, lohnt sich ein kurzer Blick auf Artikel 5. Die dort genannten unzulässigen Praktiken — Social-Scoring durch Behörden, manipulative Systeme sowie die biometrische Echtzeit-Identifizierung im öffentlichen Raum zu Strafverfolgungszwecken — sind seit dem 2. Februar 2025 schlicht verboten, unabhängig davon, wie gering Sie das Risiko sonst einschätzen würden. Das ist der einzige Schritt in diesem Prozess, bei dem es keine Abwägung gibt.
Ein Beispiel aus dem Maschinenbau zeigt, wie schnell danach wieder Bewegung in die Sache kommt: Tauschen Entwickler eine Bibliothek aus, um die Performance eines vorausschauenden Wartungssystems zu verbessern, kann das die Nachvollziehbarkeit der Entscheidungen spürbar verändern. Meine Faustregel für Mandanten lautet deshalb: Sobald sich am Modell, an den Trainingsdaten oder an der Zweckbestimmung etwas ändert, beginnt der Risikomanagement-Zyklus von vorn, nicht erst beim nächsten Audit. Bei Zulieferern kommt dazu oft noch eine ganz eigene Frage: Wie weit reichen die Pflichten eigentlich die Lieferkette hinunter, wenn ein Bauteil-Hersteller ein System nur zuliefert, aber nicht selbst betreibt?
Der Unterschied zwischen einmaliger Klassifizierung und laufendem Monitoring
Otto Wesseler, Geschäftsführer eines Logistikunternehmens im Rhein-Ruhr-Korridor, kam genau über diese Lücke zu mir: Eine interne Revision hatte aufgedeckt, dass sein Routenoptimierungssystem seit Monaten im Einsatz war, ohne dass jemand dafür eine formale Risikoklassifizierung erstellt hatte. Ihn interessierten dabei keine juristischen Feinheiten, sondern die Kernpflichten: was er konkret tun musste, damit seine Disponenten das System weiter nutzen durften. Ein Teil der Antwort hing davon ab, ob sein Unternehmen bei diesem System als Anbieter oder als Betreiber auftritt, eine Unterscheidung, die in der Praxis erstaunlich oft durcheinandergerät. Ob man das laufende Monitoring intern aufbaut oder punktuell eine externe Fachkraft hinzuzieht, ist am Ende eine Ressourcenfrage: Für manche Mittelständler reicht ein geschulter IT-Leiter, andere brauchen an einzelnen Stellen externes Wissen dazu.
Für die Geschäftsführung geht es an dieser Stelle vor allem um die eigene Haftung. Eine fundierte Haftung der Geschäftsführung vermeiden: Pflicht zur KI Schulung der Mitarbeiter ist deshalb kein Luxus, sondern eine notwendige Absicherung — gerade weil ein lückenhaftes Monitoring im Ernstfall genauso schwer wiegt wie eine fehlende Klassifizierung.
Warum reine Textübersetzung an Mitarbeitern scheitert
In den ersten Projekten habe ich Mitarbeitern öfter direkt die englischen Originaltexte der Verordnung in die Hand gedrückt, weil die Formulierungen dort oft präziser sind als in mancher deutschen Übersetzung. Das Ergebnis war ernüchternd: Ohne Einordnung konnten die meisten damit schlicht nichts anfangen, und die Schulung verpuffte, bevor sie überhaupt wirken konnte. Ob man für die interne Aufbereitung eher die englische oder die deutsche Fassung als Grundlage nimmt, ist nochmal eine eigene Debatte für sich.
Ludwig Sachse, ein früherer Kollege, der heute als Projektleiter bei einem Prüf- und Zertifizierungsdienstleister arbeitet, bringt es aus der anderen Perspektive auf den Punkt: Er fragt als Erstes nach dem Nachweisdokument, nicht nach der Argumentation dahinter. Wie diese Nachweise im Detail aussehen müssen, ist ein eigenes Kapitel für sich, aber die Grundregel merkt man sich leicht — was nicht dokumentiert ist, ist im Zweifel nicht passiert. Wo genau die Grenze zwischen Anbieter- und Betreiberpflichten verläuft, ist, das gebe ich offen zu, auch für erfahrene Berater nicht immer sofort trennscharf, gerade wenn ein Unternehmen ein eingekauftes System deutlich anpasst.
Genauso wichtig wie das Dokument selbst ist, wer im Haus damit umgehen können muss. Eine AI Literacy Anforderungen für Mitarbeiter im Mittelstand nach Artikel 4 betrifft eben nicht nur die IT-Abteilung, sondern jeden, der mit dem System arbeitet oder dessen Ergebnisse weiterverwendet.
Schulung als Nachweis: Was in der Praxis wirklich zählt
Auch außerhalb der IT-Abteilung entstehen Risiken, die in Ihre Bewertung gehören. Wenn ein Sachbearbeiter in einer Versicherung die Risikoprüfung der KI blind übernimmt, ohne die Grenzen des Systems zu kennen, ist das genauso ein Risiko wie ein technischer Fehler im Modell selbst. Dass sich an solchen Stellen auch Datenschutzfragen mit der KI-Verordnung überschneiden, ist noch ein weiteres Thema, das eine eigene Betrachtung verdient.
Kritisch sehe ich Angebote von Massen-Anbietern wie der oft zitierten 'KI-Compliance-Akademie', die Standardkurse verkaufen, in denen Artikelnummern abgefragt, aber nicht erklärt wird, wie im Ernstfall eine Abweichung tatsächlich dokumentiert werden muss. Woran Sie einen seriösen Anbieter stattdessen erkennen, ist eine andere, aber genauso wichtige Frage.
Wie gut eine Schulung wirkt, sieht man selten im Seminarraum, sondern im Arbeitsalltag danach. Bei einem Mandanten in Darmstadt hat der Betriebsrat die gemeinsam erarbeiteten Schulungsunterlagen irgendwann von sich aus in die interne Mitarbeiter-App hochgeladen, ohne dass Geschäftsführung oder ich danach gefragt hätten. Für mich war das das verlässlichste Zeichen, dass eine Schulung tatsächlich angekommen ist und nicht nur abgesessen wurde. Dass der Betriebsrat bei der Auswahl von Schulungsformaten überhaupt ein Wörtchen mitzureden hat, wird in der Praxis oft vergessen.
Was Schulung am Ende pro Kopf kostet, ist eine der ersten Fragen, die Geschäftsführer stellen, und die Antwort hängt stark vom gewählten Format ab. Ob ein KI Compliance Schulung Vergleich: E-Learning oder Live Workshop für Teams? für Ihr Unternehmen die passendere Wahl ist, hängt weniger von der Unternehmensgröße ab als davon, wie unterschiedlich die Rollen Ihrer Mitarbeiter mit dem KI-System in Berührung kommen. Bis wann welche Pflicht überhaupt greift, ist ohnehin eine eigene Zeitplanung wert, bevor Sie das nächste Budget dafür freigeben. Ein sauberes Risikomanagement nach Artikel 9 ist am Ende kein Stapel Papier, sondern das Ergebnis eines Prozesses, der in Ihrem Unternehmen tatsächlich gelebt wird.