Es war spät an einem Abend im letzten November, als ich das Support-Ticket-Log eines Mandanten durchging und hängen blieb. Ein mittelständischer SaaS-Anbieter aus dem Rhein-Main-Gebiet hatte einen neuen Chatbot implementiert, um die erste Welle an Anfragen abzufangen. Der Bot war eloquent, höflich und erschreckend kreativ — leider auch dort, wo er es nicht sein durfte. Er gab verbindliche Zusagen über Rabattstaffeln, die es gar nicht gab, und das alles ohne den geringsten Hinweis darauf, dass hier gerade eine Maschine und kein Mensch schrieb. Mir wurde in diesem Moment schlagartig klar: Während das Management noch über Hochrisiko-Systeme nach Anhang III debattiert, schafft die Frontline im Kundenservice bereits Fakten, die uns compliance-technisch das Genick brechen können.
In den darauffolgenden Wochen im frühen Frühjahr vertiefte ich mich in die Analyse der Schulungsbedarfe. Das Problem in vielen Unternehmen ist nicht, dass die Mitarbeiter keine KI nutzen wollen. Im Gegenteil: Wir erleben eine Welle von 'Shadow AI', bei der Support-Mitarbeiter heimlich ChatGPT nutzen, um mühsame E-Mail-Entwürfe zu formulieren. Das geschieht oft ohne jede 'KI-Kompetenz' im Sinne des Art. 4 KI-VO. Die Verordnung fordert von Betreibern von KI-Systemen — und dazu gehört ein Unternehmen, das solche Tools im Kundenservice einsetzt —, dass sie Maßnahmen ergreifen, um ein angemessenes Maß an KI-Literacy bei ihrem Personal sicherzustellen. Das ist keine bloße Empfehlung, sondern eine gesetzliche Vorgabe, die den Grundstein für einen rechtssicheren Betrieb legt.
Warum ein Standard-Prompting-Kurs für den Support nicht ausreicht
Bei meiner Recherche nach geeigneten Programmen stieß ich auf eine Flut von Angeboten für den sogenannten 'KI-Führerschein'. Viele dieser Kurse sind jedoch für den Kundenservice im Mittelstand schlichtweg zu oberflächlich. Sie konzentrieren sich zu 90 Prozent auf das Prompt Engineering — also wie man der KI schmeichelt, damit sie bessere Texte ausspuckt. Das ist zwar nett für die Effizienz, geht aber an der regulatorischen Realität des EU AI Act völlig vorbei. Ein Support-Mitarbeiter muss nicht nur wissen, wie er die KI bedient, sondern er muss verstehen, wann er laut Art. 50 KI-VO zur Transparenz verpflichtet ist.
Diese Transparenzpflichten besagen unter anderem, dass KI-Systeme, die direkt mit Menschen interagieren, so konzipiert und betrieben werden müssen, dass die betroffenen Personen wissen, dass sie mit einer KI kommunizieren. Es gibt Ausnahmen, wenn dies aus dem Kontext offensichtlich ist, aber wer will sich im Ernstfall auf diese vage Formulierung verlassen? In der Praxis bedeutet das: Ihr Support-Team braucht eine Schulung, die ihnen beibringt, wie man diese Hinweise diskret, aber rechtssicher in den Workflow integriert, ohne die Customer Journey zu zerstören. Ein Kurs, der nur zeigt, wie man E-Mails schneller schreibt, erfüllt diese Anforderungen nicht.
Die Krux mit der KI-Kompetenz: Zwischen Theorie und Espresso
Ich erinnere mich noch gut an den trockenen, papierartigen Geruch des 144 Seiten starken EU-Amtsblatts, das an einem ruhigen Samstagmorgen auf meinem Schreibtisch ausgebreitet lag. Während ich die Nuancen zwischen der englischen Fassung und der deutschen Übersetzung verglich, wurde mir die Diskrepanz zwischen Gesetzestext und operativem Alltag bewusst. Der Begriff 'AI Literacy' wird im Deutschen oft als 'KI-Kompetenz' wiedergegeben, aber das greift zu kurz. Es geht um ein systemisches Verständnis. Ich dachte damals bei mir: Wenn ich noch einmal den Unterschied zwischen einem Betreiber (Deployer) und einem bloßen Nutzer erklären muss, brauche ich einen stärkeren Espresso. Aber genau hier liegt der Hund begraben.
Die meisten Support-Mitarbeiter im Mittelstand sind rechtlich gesehen 'Nutzer' im Auftrag eines 'Betreibers' (ihres Arbeitgebers). Wenn sie Tools nutzen, müssen sie die Grenzen dieser Tools kennen. Ein guter KI-Führerschein für den Kundenservice muss daher zwingend die Risiken von Halluzinationen und die Haftungsfragen thematisieren. Was passiert, wenn der Support-Mitarbeiter die KI-Antwort ungeprüft übernimmt und dadurch ein Schaden beim Kunden entsteht? Die Verordnung sieht vor, dass die menschliche Aufsicht gewahrt bleiben muss. Das Personal muss also befähigt werden, die Ausgaben der KI kritisch zu hinterfragen, anstatt sie als gottgegeben hinzunehmen.
Ein neuer Ansatz: Validierung durch gezielte Nachfrage
Hier kommt mein contrarian approach ins Spiel, den ich auch in meinen Webinaren vertrete: Anstatt Support-Teams mit der grauen Theorie der KI-Verordnung zu langweilen — was meistens dazu führt, dass die Hälfte der Belegschaft geistig abschaltet —, sollten wir sie in der Kunst der aktiven Validierung schulen. Ein effektives Training bringt den Mitarbeitern bei, wie sie KI-Ausgaben ohne tiefes juristisches Wissen prüfen können, indem sie die KI selbst 'verhören'.
In einem Workshop mit einem SaaS-Support-Lead kurz vor der Sommerpause haben wir das durchexerziert. Die Mitarbeiter lernten, die KI nach Quellen zu fragen oder sie aufzufordern, Gegenargumente zu ihrem eigenen Entwurf zu liefern. Dieser Prozess der aktiven Inquiry macht aus einem passiven Nutzer einen kompetenten Aufseher. Das ist genau die menschliche Aufsicht, die der EU AI Act fordert, ohne dass der Mitarbeiter dafür ein Jura-Studium braucht. Es geht darum, die Verantwortung für das Endergebnis beim Menschen zu belassen und das Tool nur als Zuarbeiter zu sehen. Das nimmt auch die Angst vor dem Kontrollverlust, die gerade in Support-Teams oft mitschwingt.
Was ein guter KI-Führerschein für den Support kosten darf
Wenn Sie im Mittelstand nach einer Schulung suchen, werden Sie mit Preisen konfrontiert, die von 150 Euro für ein Videotutorial bis zu 1.500 Euro für ein zweitägiges Präsenzseminar reichen. Für ein Support-Team von 10 bis 20 Personen empfehle ich meistens einen hybriden Ansatz. Ein reiner Videokurs ist oft zu generisch und geht nicht auf die spezifischen Tools ein, die Sie vielleicht schon in Ihrer Logistik-Software oder Ihrem CRM integriert haben. Ein reines Präsenzseminar hingegen bindet zu viel Kapazität auf einmal.
Ein solides Programm sollte Module zu folgenden Themen enthalten: Grundlagen der Künstlichen Intelligenz, rechtliche Leitplanken nach Art. 4 und Art. 50 KI-VO, Datenschutz (DSGVO-Schnittstellen) und praktische Übungen zur Qualitätssicherung. Achten Sie darauf, dass der Anbieter nicht nur 'KI-Hype' verkauft. Ich habe Programme gesehen, die für 800 Euro pro Kopf verkauft wurden und bei denen die Teilnehmer am Ende nur wussten, wie man ein Bild von einem Hund im Weltraum generiert — für einen Kundenservice im Maschinenbau ist das absolut wertlos. Ein guter Kurs sollte im Bereich von 300 bis 600 Euro pro Mitarbeiter liegen, wenn er spezifische Compliance-Inhalte bietet.
Die Angst vor dem Verlust des 'Human Touch'
Ein interessanter Aspekt, der mir vor wenigen Wochen in einer Beratung bei einem Versicherungsmakler auffiel: Das Team hatte gar keine Angst vor der Komplexität des Gesetzes. Sie hatten Angst, dass die KI ihre Empathie ersetzt und sie zu bloßen 'Korrekturlesern' degradiert. Der EU AI Act versucht aber eigentlich genau das Gegenteil: Er will durch die Transparenzpflichten den Schutz des Menschen sicherstellen. Wenn ein Kunde weiß, dass er mit einer KI schreibt, ist die Erwartungshaltung eine andere. Das entlastet den Support-Mitarbeiter sogar.
Die Compliance-Schulung ist also auch ein Stück weit Change Management. Wir müssen den Mitarbeitern vermitteln, dass die Verordnung sie schützt, indem sie klare Leitplanken für den Einsatz dieser Werkzeuge setzt. Wenn Sie unsicher sind, ob ein fertiger Kurs oder eine interne Lösung besser ist, habe ich vor einiger Zeit einen Vergleich zwischen KI-Führerschein oder eigener Plattform geschrieben, der genau diese Abwägung für mittelständische Strukturen beleuchtet. Oft ist eine kleine, angepasste interne Ergänzung zu einem Standardkurs der effizienteste Weg.
Fazit für Geschäftsführer und IT-Leiter
Die Umsetzung der KI-Verordnung im Kundenservice ist kein Projekt, das man einmal abhakt. Die 24 Monate Übergangsfrist für die meisten Bestimmungen fühlen sich lang an, aber der Aufbau von echter KI-Kompetenz braucht Zeit. Beginnen Sie damit, Ihre aktuellen Prozesse zu auditieren: Wo wird bereits KI genutzt? Werden die Transparenzpflichten nach Art. 50 KI-VO eingehalten? Und vor allem: Ist Ihr Team in der Lage, die KI-Ergebnisse kritisch zu validieren?
Ich bin kein Anwalt und kein Auditor — meine Aufgabe ist es, diese sperrigen Anforderungen in einen Plan zu gießen, der Ihre Mitarbeiter nicht überfordert, aber Ihr Unternehmen rechtlich absichert. Eine gute Schulung ist keine Last, sondern eine Versicherung gegen teure Fehler und Reputationsschäden. Suchen Sie sich Partner, die den Unterschied zwischen einem 'Betreiber' und einem 'Anbieter' kennen und die verstehen, dass ein Support-Team im Mittelstand handfeste Regeln braucht, keine abstrakten Philosophie-Vorträge. Sprechen Sie auch frühzeitig mit Ihrem Datenschutzbeauftragten, um die Schulungsinhalte mit Ihren internen Richtlinien zu harmonisieren. Am Ende geht es darum, dass Ihre Mitarbeiter die KI sicher steuern, anstatt von ihr gesteuert zu werden.