An einem verregneten Vormittag letzte Woche saß ich in einem Frankfurter Gewerbepark im Büro einer Personalleiterin eines mittelständischen Maschinenbauers. Sie zeigte mir stolz ihr neues 'Smart Screening Tool', das die Flut an Bewerbungen für die Montage-Teams automatisch vorsortieren sollte. Während sie die Effizienzsteigerung lobte, unterstrich ich mit dem Textmarker eine Passage im englischen Originaltext der KI-Verordnung. Ich denke mir: 'Sie glauben, es ist nur ein Plugin, dabei sitzen sie auf einem regulatorischen Pulverfass'.
Das Problem ist nicht das Tool an sich, sondern die Einordnung. In der Welt des EU AI Act sind Systeme, die zur Rekrutierung oder Auswahl von Bewerbern eingesetzt werden, fast ausnahmslos als Hochrisiko-KI-Systeme eingestuft (Annex III Point 4). Das bedeutet: Wer sie nutzt, ist ein 'Deployer' (Betreiber) und unterliegt strengen Pflichten nach Artikel 26. Eine allgemeine Einführung in ChatGPT reicht hier nicht aus. HR-Teams benötigen eine spezifische Qualifikation, die weit über das bloße Prompting hinausgeht.
Das regulatorische Risiko im Recruiting
Die Begeisterung über die Zeitersparnis verdeckt oft die rechtliche Realität. Wenn ein Algorithmus entscheidet, wer zum Vorstellungsgespräch eingeladen wird, greift die Verordnung mit voller Härte. Verstöße gegen die Vorgaben für verbotene Praktiken können laut Artikel 99 zu Bußgeldern von bis zu 35.000.000 EUR führen. Auch wenn Mittelständler selten das Maximum ausschöpfen müssen, sind die Haftungsrisiken für die Geschäftsführung real.
Während der ersten warmen Tage im April begleitete ich ein SaaS-Unternehmen, das eine KI-gestützte Videoanalyse für Vorstellungsgespräche testen wollte. Die IT-Abteilung war Feuer und Flamme, doch die Personalabteilung hatte keine Ahnung von den Dokumentationspflichten. Hier zeigt sich die Diskrepanz: Die Technik ist schnell implementiert, aber die Compliance-Strukturen hinken Monate hinterher. Ein Standard-Kurs von der Stange, wie man ihn oft auf Online-Plattformen findet, ist hier oft zu oberflächlich und zu teuer für den geringen Nutzwert, den er in Sachen Rechtssicherheit bietet.
AI Literacy: Mehr als nur ein Buzzword
Artikel 4 der KI-Verordnung verpflichtet Betreiber dazu, Maßnahmen zu ergreifen, um die AI Literacy Anforderungen für Mitarbeiter im Mittelstand sicherzustellen. Das bedeutet konkret: Das Personal, das die Systeme anwendet, muss verstehen, wie die Ergebnisse zustande kommen und wo die Grenzen liegen. Im Recruiting ist das besonders kritisch.
In einem Workshop kurz vor der letzten Jahreswende verglich ich mit einem HR-Team die deutsche Übersetzung der Verordnung mit dem englischen Original. Das leise Summen des Klimageräts im Konferenzraum war das einzige Geräusch, während ich die Passage zu 'Bias' und 'Discrimination' erläuterte. Im Englischen werden Nuancen von Algorithmic Bias oft klarer adressiert. Der Moment, in dem das Team verstand, dass Compliance hier keine Formsache, sondern aktiver Diskriminierungsschutz gegen unbewusste Voreingenommenheit der KI ist, war der eigentliche Wendepunkt des Projekts.
Ein HR-spezifischer KI-Führerschein muss daher folgende Punkte abdecken:
- Verständnis der Hochrisiko-Klassifizierung nach Annex III.
- Überwachungspflichten durch Menschen (Human Oversight) gemäß Artikel 14.
- Erkennung von Diskriminierungsmustern in Trainingsdaten.
- Dokumentation der Nutzung und der Ergebnisse für Audits.
Wann Sie die KI bewusst abschalten sollten
Mein Ansatz in der Beratung unterscheidet sich von vielen Marketing-Agenturen. Ich sage meinen Mandanten oft: Die wichtigste Lektion einer Schulung ist zu lernen, wann man den Prozess wieder manuell durchführt. Statt KI-Tools blind für Effizienz zu nutzen, muss die Schulung im Mittelstand primär lehren, wann Recruiting-Prozesse bewusst wieder manuell statt KI-gestützt ablaufen sollten, um unbewusste Diskriminierung zu verhindern. Wenn Sie beispielsweise eine Stelle besetzen, für die es nur sehr wenige historische Daten gibt, kann die KI keine fairen Muster erkennen.
Nach etwa drei Monaten intensiver Begleitung eines Logistik-Dienstleisters stellte sich heraus, dass die manuelle Sichtung für Führungspositionen trotz KI-Tool beibehalten wurde – eine bewusste Entscheidung zur Risikominimierung. Das Team wusste nun genau, für welche Standard-Profile die KI sicher war und wo die menschliche Expertise unverzichtbar blieb. Ich bin kein Anwalt und kein Auditor, aber ich sehe in meiner täglichen Praxis, dass dieses Urteilsvermögen der wertvollste Teil jeder Compliance-Strategie ist. Bevor Sie also in teure Software investieren, sollten Sie klären, was eine KI Schulung für Unternehmen kosten darf, um Ihre Mitarbeiter auf diesen Standard zu heben.
Fazit aus der Praxis
HR braucht kein Tool-Training für Fortgeschrittene, sondern eine spezifische Zertifizierung, die Risiko-Assessment und Dokumentationspflichten vereint. Wer heute im Recruiting KI einsetzt, ohne das Team rechtlich und methodisch zu schulen, handelt fahrlässig. Es geht nicht darum, die Technik zu verhindern, sondern sie so zu steuern, dass sie vor dem Gesetz und dem Arbeitsgericht standhält. Sprechen Sie mit Ihren Fachleuten oder ziehen Sie einen Berater hinzu, um sicherzustellen, dass Ihre HR-Prozesse nicht zum Einfallstor für regulatorische Sanktionen werden.