'Moment — das ist schon ein Hochrisiko-System.' Diesen Satz sage ich in Erstgesprächen mit Geschäftsführern aus dem Mittelstand öfter, als mir lieb ist — meistens genau dann, wenn jemand eine neue Software als 'ganz normales Tool' abtut. Zuletzt bei einer Mandantin aus dem Sondermaschinenbau, die eine KI-gestützte Auswertung von Mitarbeitergesprächen fürs jährliche Bonus-Ranking einführen wollte und völlig überrascht war, mit diesem einen Vorhaben schon mitten in den Hochrisiko-Kategorien des EU AI Act gelandet zu sein. Genau das ist der Kern meiner Compliance-Arbeit: nicht die großen Schlagzeilen-Fälle, sondern die unauffälligen Anschaffungen, die im Mittelstand plötzlich zur Hochrisiko-KI werden.
Bevor es weitergeht, ein Hinweis in eigener Sache: Diese Seite enthält Affiliate-Links zu Schulungsanbietern, die ich für Mandanten persönlich geprüft habe. Buchen Sie über einen dieser Links, erhalte ich eine Provision — am Preis für Sie ändert das nichts. Verlinkt wird nur, was ich mindestens zwei Mandanten in echten Projekten empfohlen habe. Und damit das klar ist: Ich bin weder Anwalt noch zertifizierter Auditor, sondern Compliance-Berater. Meine Einschätzungen ersetzen keine Rechtsberatung durch eine spezialisierte Kanzlei.
Der teuerste Irrtum: 'Hochrisiko' heißt nicht 'verboten'
Der teuerste Irrtum, dem ich in Beratungsgesprächen begegne: Hochrisiko-KI sei etwas für autonome Fahrzeuge, Kraftwerkssteuerungen oder Konzerne mit eigener Rechtsabteilung. Die Einstufung nach Art. 6 KI-VO greift in Wahrheit viel näher am Alltag — vor allem in den Bereichen Personalwesen, kritische Infrastruktur und Kreditwürdigkeitsprüfung, die in Anhang III der Verordnung ausdrücklich aufgeführt sind.
Direkt daneben sitzt der zweite Irrtum: Hochrisiko bedeutet nicht verboten. Es bedeutet mehr Aufwand — ein Risikomanagementsystem nach Art. 9, belastbare Anforderungen an die Datenqualität nach Art. 10 und eine technische Dokumentation nach Art. 11, die im Zweifel auch Jahre später noch nachvollziehbar sein muss. Für ein IT-Team mit zwei oder drei Leuten, die nebenbei noch das Tagesgeschäft stemmen, ist das ohne klare Struktur kaum zu schaffen. Übrigens hat das nichts mit der allgemeinen KI-Kompetenz-Pflicht aus Art. 4 KI-VO zu tun, die unabhängig von der Risikoklasse für jedes Unternehmen gilt, das KI-Systeme einsetzt — dazu an anderer Stelle mehr.
Auch kleinere Unternehmen sind betroffen
Nicht nur große Konzerne mit tausend Mitarbeitern sind betroffen — schon ab etwa hundert Beschäftigten taucht der Klassiker regelmäßig auf: Software, die Bewerbungen filtert, Kandidaten rankt oder die Leistung von Mitarbeitern bewertet, fällt unter Anhang III Nr. 4 der KI-VO. Ob die KI die finale Entscheidung trifft oder nur eine Vorauswahl liefert, spielt dabei keine Rolle.
Ein Mandant aus der Logistikbranche wollte eine KI einführen, die Schichtpläne anhand der bisherigen Leistung der Mitarbeiter optimiert. Klingt nach reiner Effizienzsteigerung. Weil das System aber indirekt zur Leistungsbewertung genutzt wurde und damit Arbeitsverhältnisse beeinflusste, fiel es in die Hochrisiko-Kategorie. Die menschliche Aufsicht nach Art. 14 musste also mehr sein als eine Unterschrift unter einem Freigabeformular — die Schichtleiter mussten tatsächlich nachvollziehen können, wie die KI zu ihren Vorschlägen kommt. Ohne eine gezielte KI-Führerschein-Schulung für die betroffenen Führungskräfte wäre das Projekt an genau dieser Dokumentationspflicht gescheitert.
Maschinenbau im Mittelstand: Wenn die KI zum Sicherheitsbauteil wird
Im Maschinenbau verschränkt sich der AI Act mit bestehenden Vorschriften wie der Maschinenverordnung. Fungiert eine KI als Sicherheitsbauteil oder ist sie Teil eines Produkts, das ohnehin einer Konformitätsbewertung durch Dritte unterliegt, landet man automatisch im Hochrisiko-Bereich nach Art. 6 Abs. 1.
Ein Hersteller von Verpackungsmaschinen integrierte eine KI zur vorausschauenden Wartung, die bei drohenden Fehlfunktionen die Maschine automatisch drosselt. Weil das direkt die Sicherheit des Bedienpersonals betrifft, griffen die vollen Dokumentationspflichten. Wenn ich in solchen Fällen den englischen Originaltext neben die deutsche Fassung lege, wird oft erst klar, dass es auf den 'intended purpose' — den Verwendungszweck — ankommt, während die deutsche Übersetzung das an dieser Stelle spürbar unschärfer formuliert. Auf meinem Schreibtisch liegt von so einem Fall noch ein ausgedrucktes Exemplar, dessen Leuchtstift-Markierungen inzwischen zu einem blassen Orange verblichen sind — ein stiller Beleg dafür, wie lange diese eine Klassifizierung gebraucht hat, bis sie stand. Wie Sie solche Dokumentationspflichten handhabbar machen, ohne dass jede Änderung eine neue Akte auslöst, beschreibe ich in meinem Artikel zu Dokumentationspflichten nach dem EU AI Act.
Unternehmensgröße schützt nicht vor der Regulierung
Unternehmensgröße schützt nicht vor der Regulierung — die KI-VO unterscheidet nach Risiko für Grundrechte, nicht nach Bilanzsumme. SaaS-Anbieter aus dem Mittelstand, die Tools zur Kreditwürdigkeitsprüfung oder zur Risikobewertung bei Versicherungen anbieten, stehen unter besonderer Beobachtung nach Anhang III Nr. 5. Auch als reiner Anbieter (Provider) müssen Sie Ihrem Kunden, dem Deployer, alle Informationen liefern, die dieser für seine eigenen Pflichten braucht — diese Rollenverteilung ist ein eigenes Thema für sich.
In einem Workshop stellte sich heraus, dass ein kleinerer SaaS-Anbieter gar nicht wusste, dass seine 'Smart Scoring'-Engine für Kleinkredite voll unter die Regulierung fällt. Die Haltung war: Wir sind doch kein Weltkonzern. Genau das ist der Denkfehler — entscheidend ist das Risiko für die betroffenen Personen, nicht die Unternehmensgröße. Wer hier zu spät reagiert, riskiert nicht nur ein Bußgeld, sondern den Ausschluss vom Markt, weil die Zertifizierung fehlt. Welche Fristen des EU AI Act dafür konkret gelten, sollten Sie früh im Blick behalten.
Die Grenzen des Hochrisikos
Ein Chatbot, der auf Ihrer Website nur FAQs beantwortet, ist kein Hochrisiko-System. Hier greifen lediglich Transparenzpflichten nach Art. 50 — der Nutzer muss wissen, dass er mit einer KI spricht, was übrigens auch für den Einsatz im Marketing und Vertrieb gilt, sobald KI-generierte Inhalte im Spiel sind. Auch interne Tools zur Textzusammenfassung oder Übersetzung fallen meist nicht in die kritischen Kategorien aus Anhang III, solange sie nicht in sensiblen Entscheidungsprozessen wie der HR-Vorauswahl landen.
Oft werde ich gefragt, ob eine interne Suchmaschine, die Dokumente indiziert, reguliert ist. Meist lautet die Antwort: nein. Sobald diese Suchmaschine aber genutzt wird, um die Vertrauenswürdigkeit von Geschäftspartnern zu bewerten, sind wir plötzlich wieder im Bereich der Risikobewertung. Diese Grenze ist so schmal, dass ich als Berater manchmal selbst zweimal nachlesen muss, bevor ich einem Mandanten eine klare Antwort gebe — und das nach dreizehn Jahren, in denen ich mich mit Datenschutz- und inzwischen KI-Compliance-Fragen beschäftige. Selbst wenn ich mich abends nur mit einem Bekannten zum Schach im Schachclub Frankfurt 1921 verabrede, kommt am Nebentisch noch die Frage auf, ob der neue Chatbot eines befreundeten Betriebs schon unter die Transparenzpflicht fällt.
Schatten-KI und der Faktor Mensch
Die größte Gefahr für den Mittelstand ist nicht die Verordnung selbst, sondern das Schatten-KI-Phänomen: Mitarbeiter nutzen ChatGPT oder spezialisierte Tools für Aufgaben, von denen die IT-Leitung nichts weiß. Fließen dabei personenbezogene Daten in ein System, das eigentlich als Hochrisiko gelten müsste, steht die Geschäftsführung mit einem Bein im Bußgeldbereich — und sobald personenbezogene Daten im Spiel sind, sitzt ohnehin die Datenschutzbeauftragte mit am Tisch, was diese Schnittstelle nochmal komplizierter macht.
Neulich, auf dem Weg über die Konstablerwache, rief mich eine Geschäftsführerin an, weil ein Mitarbeiter aus der Qualitätssicherung eigenständig ein neues Analyse-Tool ausprobiert hatte — ohne jede Rücksprache. Solche Anrufe häufen sich. Wenn mich heute Mitarbeiter aus genau solchen Abteilungen nicht mehr fragen, was ein Sprachmodell überhaupt ist, sondern direkt wissen wollen, welche Angaben in die technische Dokumentation nach Art. 16 KI-VO gehören, zeigt das, wie weit sich das Grundverständnis in manchen Betrieben inzwischen verschoben hat.
Compliance beginnt deshalb nicht beim Anwalt, sondern bei der Ausbildung. Ein strukturierter KI-Führerschein für Mitarbeiter sorgt dafür, dass das Team ein Gespür dafür entwickelt, wann ein Tool kritisch wird — es geht nicht darum, jeden Mitarbeiter zum Compliance-Experten zu machen, sondern eine gedankliche rote Flagge einzubauen: Moment, hier bewerten wir Menschen oder Sicherheit, da müssen wir nachfragen. Ist ein Betriebsrat im Haus, redet der bei der Auswahl einer solchen Schulung ohnehin mit, und das zu Recht — auch das ist ein eigenes Kapitel für sich.
Der Fehler vieler Schulungsanbieter: GPAI und Hochrisiko in einen Topf werfen
Was mir in Anbieter-Gesprächen immer wieder begegnet: Viele Schulungen, die als 'AI-Act-Training' verkauft werden, behandeln fast ausschließlich den Umgang mit GPAI-Modellen wie ChatGPT — Prompting, Textgenerierung, Grundlagenwissen. Für Marketing-Teams mag das nützlich sein. Für eine Geschäftsführung, die entscheiden muss, ob ihr neues HR-Tool unter Anhang III fällt, ist das am eigentlichen Bedarf vorbei geschult. Ich habe selbst eine Weile darauf gewartet, dass die zuständigen Behörden praxistaugliche Leitfäden zur Anhang-III-Klassifizierung veröffentlichen. Als sie kamen, waren sie handwerklich sauber, aber im Alltag kaum zu gebrauchen — zu abstrakt, zu wenig an konkreten Branchenfällen entlang gedacht, sodass ich am Ende doch wieder jeden Fall einzeln durchgehen musste.
Wie Sie einen Anbieter seriös prüfen — jenseits von Hochglanz-Broschüren und Bewertungssternen — verdient einen eigenen Artikel für sich. Genauso wie die Frage, ob ein Onlinekurs oder ein Workshop mit fester Gruppe für Ihr Unternehmen die bessere Wahl ist: Beides hat unterschiedliche Stärken, je nachdem, wie heterogen Ihr Team ist.
So klassifizieren Sie Ihre Systeme in der Praxis
Identifizieren Sie Ihre KI-Systeme heute, nicht erst in einem halben Jahr. Eine Bestandsaufnahme dauert meist kürzer als befürchtet — oft reicht ein kompakter Workshop, um die Spreu vom Weizen zu trennen. Von zehn KI-Anwendungen im Mittelstand sind in meiner Erfahrung meist nur zwei oder drei tatsächlich Hochrisiko. Aber genau diese zwei müssen sauber dokumentiert sein, und dafür brauchen Sie eine klare Kriterienliste statt eines Bauchgefühls.
Fragen Sie bei jedem System: Werden damit Menschen bewertet — bei Bewerbung, Beförderung, Bonität? Übernimmt die KI eine Sicherheitsfunktion oder ist sie Teil eines Produkts mit Konformitätsbewertungspflicht? Fließen die Ergebnisse in eine Entscheidung, die für jemanden spürbare Folgen hat? Sobald eine dieser Fragen mit Ja beantwortet wird, ist Handlungsbedarf da — unabhängig davon, ob Sie das System selbst entwickelt oder eingekauft haben. Ob Sie dieses Wissen intern aufbauen oder sich dafür externe Expertise holen, ist danach eine Abwägungsfrage für sich, keine Glaubensfrage. Was so eine Schulung am Ende pro Kopf kostet, rechne ich in einem separaten Beitrag vor. Konkrete Praxistipps zum Umgang mit den gefundenen Hochrisiko-Systemen habe ich außerdem in meinem Artikel zum KI-Risikomanagement nach EU AI Act gesammelt.
Fazit: Handeln Sie vor der nächsten Software-Anschaffung
Compliance ist im B2B-Geschäft längst ein Wettbewerbsvorteil. Wer als Zulieferer im Maschinenbau oder als SaaS-Dienstleister nachweisen kann, dass seine Systeme AI-Act-konform sind, hat ein Verkaufsargument, das Vertrauen schafft. Bei Zulieferern verschieben sich manche dieser Pflichten vertraglich weiter oben in der Kette zum Hersteller — auch das ist ein eigenes Thema, das eine genauere Betrachtung verdient.
Investieren Sie in die Ausbildung Ihrer Projektleiter und Ihres Qualitätsmanagements, bevor die nächste Software-Anschaffung ansteht. Ein guter Ausgangspunkt ist der Vergleich zwischen einem Standard-KI-Führerschein und einer Individualschulung. Und denken Sie an die Geschäftsführung selbst: Bei einer fehlenden oder mangelhaften Klassifizierung haftet am Ende nicht die IT-Abteilung, sondern die Unternehmensleitung — ein Aspekt, den ich in einem separaten Beitrag ausführlicher behandle.
Wenn Sie unsicher sind, ob eine aktuelle oder geplante Software unter Anhang III fällt: Schauen Sie sich den Verwendungszweck genau an. Werden Menschen bewertet? Werden Sicherheitsfunktionen übernommen? Wenn ja, ist Handlungsbedarf da. Sprechen Sie mit Ihrer IT-Leitung und, falls nötig, mit einem spezialisierten Berater oder Ihrer Rechtsabteilung, um die Haftungsrisiken frühzeitig zu begrenzen.