EU AI Act und Recruiting: Hochrisiko-KI im Personalbereich

KI-Tools versprechen im Recruiting genau dort Entlastung, wo es in KMU am meisten klemmt: Bewerbungen sichten, Kandidat:innen vorsortieren, Kommunikation beschleunigen. Gleichzeitig hat der europäische Gesetzgeber den Personalbereich in der KI-Verordnung (EU) 2024/1689 ausdrücklich als sensiblen Bereich markiert: Beschäftigungsbezogene KI-Systeme stehen in Anhang III – der Liste der Hochrisiko-Anwendungen. Wer als Arbeitgeber solche Systeme einsetzt, ist rechtlich „Betreiber” und bekommt eigene Pflichten, auch ohne eine einzige Zeile Code geschrieben zu haben.

Dieser Leitfaden richtet sich an Geschäftsführung, HR, Operations und IT in kleinen und mittleren Unternehmen, die KI im Personalbereich einsetzen oder das planen. Er ordnet ein, welche Anwendungen betroffen sind, welche Fristen gelten, wer was tun muss – und wo risikoarme Alternativen liegen. Er ist Teil unseres Themen-Clusters KI in HR und Recruiting.

Zwei Dinge vorweg. Erstens: Stand ist Juli 2026. Der Zeitplan der KI-Verordnung wurde 2026 an entscheidender Stelle geändert; ältere Artikel, die den 2. August 2026 als Stichtag für Hochrisiko-Pflichten nennen, sind überholt. Zweitens: Dieser Artikel ist eine praxisorientierte Einordnung, keine Rechtsberatung. Für verbindliche Aussagen zu deinem Einzelfall gehören Anwält:innen an den Tisch – der verbindliche Rechtstext steht auf EUR-Lex.

Begriffe und Abgrenzung: Anbieter, Betreiber, Hochrisiko

Die KI-Verordnung sortiert KI-Systeme nach Risiko in vier Stufen: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und Systeme mit minimalem Risiko. Für den Personalbereich sind vor allem die ersten beiden Stufen relevant.

Drei Rollenbegriffe musst du auseinanderhalten, weil an ihnen die Pflichten hängen:

• Anbieter (Provider) ist, wer ein KI-System entwickelt und unter eigenem Namen auf den Markt bringt – typischerweise der Software-Hersteller deines Recruiting-Tools.
• Betreiber (Deployer) ist, wer ein KI-System in eigener Verantwortung beruflich einsetzt – also du als Arbeitgeber, wenn dein Unternehmen ein KI-gestütztes HR-Tool nutzt.
• Hochrisiko-System ist ein System, das in einem der in Anhang III gelisteten Bereiche eingesetzt wird und dort ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt. Beschäftigung ist einer dieser Bereiche (Anhang III Nr. 4).

Eine Abgrenzung, die in der Praxis oft untergeht: Die Einstufung hängt am Verwendungszweck, nicht am Etikett des Tools. Dasselbe Sprachmodell kann unkritisch sein, wenn es Stellenanzeigen formuliert – und Hochrisiko, wenn es Bewerbungen bewertet. Wichtig ist auch: Ein Betreiber kann rechtlich zum Anbieter werden, etwa wenn er ein System unter eigenem Namen wesentlich verändert oder für einen Hochrisiko-Zweck umwidmet. Wer also intern „mal eben” einen Bewerbungs-Scorer auf Basis eines API-Zugangs baut, sollte sich dieser Rollenverschiebung bewusst sein.

Welche Anwendungen sind betroffen?

Anhang III Nr. 4 der KI-Verordnung erfasst KI-Systeme im Bereich Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit. Nach der offiziellen Lesart der EU-Kommission fallen darunter insbesondere Systeme für:

• gezielte Stellenanzeigen – also KI, die entscheidet, wem eine Anzeige ausgespielt wird;
• Analyse und Filterung von Bewerbungen – das klassische CV-Screening und -Ranking;
• Bewertung von Kandidat:innen – etwa KI-gestützte Interview-Auswertung oder Assessment-Scoring;
• Entscheidungen im Arbeitsverhältnis – Beförderung, Kündigung, Aufgabenzuweisung auf Basis von Verhalten oder persönlichen Merkmalen sowie Leistungs- und Verhaltensüberwachung.

Eine Stufe darüber liegt das, was gar nicht mehr erlaubt ist: Emotionserkennung am Arbeitsplatz ist eine verbotene Praktik – außer aus medizinischen oder Sicherheitsgründen. Ein Tool, das im Video-Interview „Nervosität” oder „Begeisterung” aus Mimik und Stimme ablesen will, ist in der EU seit dem 2. Februar 2025 nicht mehr zulässig. Das gilt bereits heute, unabhängig von allen Hochrisiko-Fristen.

Genauso wichtig ist die Gegenrichtung: Nicht jede KI im HR-Umfeld ist Hochrisiko. Ein System, das Stellenanzeigen textet, Interviewfragen vorschlägt oder Terminvorschläge koordiniert, bewertet keine Personen und trifft keine beschäftigungsbezogenen Entscheidungen. Solche Anwendungen bleiben in der Regel in der Stufe mit minimalem Risiko oder unterliegen lediglich Transparenzpflichten – etwa der Kennzeichnung, dass ein Chatbot kein Mensch ist.

Risikomatrix: HR-Anwendungen und Gegenmaßnahmen

Die folgende Matrix ist mein Arbeitsmodell aus Beratungsprojekten – sie ersetzt keine juristische Einzelfallprüfung, hilft aber, das eigene Tool-Portfolio in einer Stunde grob zu sortieren:

HR-Anwendung	Einstufung (Regelfall)	Hauptrisiko	Gegenmaßnahme
Emotionserkennung im Interview	Verboten	Bußgeld bis 35 Mio. € / 7 % Umsatz	Sofort abschalten bzw. Feature deaktivieren lassen
CV-Screening / Bewerber-Ranking	Hochrisiko	Diskriminierung, Pflichtenkatalog ab 12/2027	Anbieter auf AI-Act-Fahrplan prüfen; menschliche Letztentscheidung dokumentieren
KI-Auswertung von Video-Interviews	Hochrisiko	Intransparente Bewertung, Grundrechte	Einsatz kritisch hinterfragen; wenn überhaupt, nur als eine Quelle unter mehreren
Gezielte Ausspielung von Stellenanzeigen	Hochrisiko	Unbemerkter Ausschluss von Gruppen	Zielgruppenkriterien dokumentieren, Reichweite über Gruppen hinweg prüfen
Leistungs-/Verhaltensüberwachung	Hochrisiko	Mitbestimmung, Datenschutz	Vor Einführung Betriebsrat/Beschäftigte einbinden, Zweck eng begrenzen
HR-Chatbot für Bewerberfragen	Transparenzpflicht	Falschauskünfte	Als KI kennzeichnen, Eskalation zu Menschen anbieten
KI als Schreibhilfe (Stellenanzeigen, Mails)	Minimales Risiko	Qualität, Tonalität	Freigabeprozess, KI-Kompetenz im Team aufbauen
Terminkoordination, Dokumenten-Workflows	Minimales Risiko	Prozessfehler	Normale Prozess- und Datenschutzsorgfalt

Eigene Einordnung Philogic Labs auf Basis von Anhang III und den Kommissions-FAQ; „Regelfall” heißt: die konkrete Ausgestaltung kann die Einstufung ändern.

Wenn du deine Tools sortierst, wirst du vermutlich feststellen, was ich in den meisten KMU sehe: Der Großteil des tatsächlichen Nutzens liegt in den unteren beiden Zeilen – und der Großteil der rechtlichen Komplexität in den oberen.

Welche Termine gelten?

Der Zeitplan der KI-Verordnung ist gestaffelt – und wurde 2026 nachträglich geändert. Die Kommission hatte im November 2025 mit dem „Digital Omnibus” vorgeschlagen, die Hochrisiko-Fristen zu verschieben, weil harmonisierte Normen und nationale Aufsichtsstrukturen nicht rechtzeitig fertig wurden. Diese Verschiebung ist inzwischen beschlossen; die offizielle AI-Act-Seite der Kommission nennt mit Stand Juli 2026 die neuen Daten:

Datum	Was gilt
1. August 2024	KI-Verordnung in Kraft getreten
2. Februar 2025	Verbotene Praktiken (u. a. Emotionserkennung am Arbeitsplatz) und KI-Kompetenzpflicht (Art. 4) gelten
2. August 2025	Governance-Regeln und Pflichten für Allzweck-KI-Modelle (GPAI) gelten
2. August 2026	Weitere Teile der Verordnung anwendbar, u. a. Transparenzpflichten; Beginn der Aufsicht zur KI-Kompetenzpflicht
2. Dezember 2027	Hochrisiko-Pflichten für eigenständige Anhang-III-Systeme – darunter Recruiting- und HR-KI
2. August 2028	Hochrisiko-Pflichten für KI in regulierten Produkten (Anhang I)

Für den Personalbereich heißt das konkret: Die beiden wichtigsten Pflichten gelten jetzt schon – das Verbot der Emotionserkennung und die KI-Kompetenzpflicht für alle, die KI beruflich einsetzen. Der große Hochrisiko-Pflichtenkatalog für CV-Screening und Co. greift ab dem 2. Dezember 2027.

Die Verschiebung ist aus meiner Sicht kein Grund, das Thema auf 2027 zu vertagen. Wer heute einen mehrjährigen Vertrag über ein Screening-Tool abschließt, kauft die Compliance-Frage mit ein – und Anbieter, die jetzt keinen belastbaren AI-Act-Fahrplan vorlegen können, werden es 2027 vermutlich auch nicht.

Welche Pflichten treffen Anbieter und Betreiber?

Der Pflichtenkatalog für Hochrisiko-Systeme verteilt sich auf beide Rollen – die Last liegt beim Anbieter, aber der Betreiber ist nicht aus dem Spiel.

Anbieter von Hochrisiko-HR-Systemen müssen nach den Kommissions-FAQ unter anderem:

• ein Risikomanagementsystem über den gesamten Lebenszyklus betreiben,
• hochwertige Trainings- und Testdaten verwenden, um Diskriminierungsrisiken zu minimieren,
• Vorgänge protokollieren (Nachvollziehbarkeit) und technische Dokumentation vorhalten,
• eine Konformitätsbewertung durchführen, bevor das System auf den Markt kommt,
• das System in der öffentlichen EU-Datenbank registrieren,
• schwerwiegende Vorfälle melden und ein Qualitätsmanagementsystem betreiben.

Betreiber – also Arbeitgeber, die ein solches System einsetzen – müssen unter anderem:

• das System gemäß der Betriebsanleitung des Anbieters verwenden (wer davon abweicht, riskiert die eigene Haftung und im Extremfall die Anbieterrolle),
• menschliche Aufsicht durch benannte, geschulte Personen sicherstellen – im Recruiting heißt das: Menschen treffen die Entscheidung, nicht das Ranking,
• den Betrieb überwachen und bei Risiken oder Vorfällen reagieren,
• Beschäftigte und ihre Vertretung informieren, bevor ein Hochrisiko-System am Arbeitsplatz eingesetzt wird – in Deutschland läuft das praktisch ohnehin auf die Mitbestimmung des Betriebsrats zu,
• bei bestimmten Betreibern (v. a. öffentliche Stellen) zusätzlich eine Grundrechte-Folgenabschätzung durchführen.

Quer über beiden Rollen liegt die KI-Kompetenzpflicht aus Artikel 4: Seit dem 2. Februar 2025 müssen Anbieter wie Betreiber sicherstellen, dass ihr Personal ausreichend KI-kompetent ist – risikobasiert, abgestimmt auf Vorwissen und Einsatzkontext, ohne vorgeschriebenes Format. Für ein HR-Team, das KI-Tools nutzt, ist eine dokumentierte Schulung damit keine Kür, sondern die naheliegendste Form der Pflichterfüllung. Wenn du das strukturiert angehen willst: Genau dafür bieten wir praxisnahe KI-Schulungen an.

Nicht vergessen: Die KI-Verordnung ersetzt weder die DSGVO noch das AGG. Automatisierte Einzelentscheidungen über Bewerber:innen, Datenminimierung und Diskriminierungsverbote gelten parallel – der AI Act kommt on top, er löst die bestehenden Pflichten nicht ab.

Was bedeutet Aufsicht?

Die Durchsetzung ist zweistufig organisiert. National benennen die Mitgliedstaaten Marktüberwachungsbehörden, die KI-Systeme – auch HR-Tools – kontrollieren und Verstöße sanktionieren. Auf EU-Ebene beaufsichtigt das AI Office der Kommission die Anbieter von Allzweck-KI-Modellen; das European AI Board koordiniert die einheitliche Anwendung zwischen den Staaten.

Der Bußgeldrahmen hat es in sich: bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes für verbotene Praktiken, bis zu 15 Mio. Euro oder 3 % für Verstöße gegen andere Pflichten und bis zu 7,5 Mio. Euro oder 1,5 % für falsche Auskünfte an Behörden – jeweils der höhere Betrag. Für KMU sind Erleichterungen vorgesehen, aber die Größenordnung zeigt, wie ernst der Gesetzgeber den Bereich nimmt.

Für die Praxis in KMU bedeutet Aufsicht vor allem dreierlei: Es wird eine Behörde geben, bei der sich abgelehnte Bewerber:innen beschweren können. Es wird Auskunftsersuchen geben, auf die du antworten können musst – deshalb ist Dokumentation („welches Tool, wofür, wer entscheidet”) keine Bürokratie, sondern deine Verteidigungslinie. Und die Aufsicht zur KI-Kompetenzpflicht beginnt laut Kommission bereits im August 2026, also deutlich vor den Hochrisiko-Fristen.

Welche Alternativen gibt es?

Die für mich wichtigste Botschaft dieses Artikels: Du musst kein Hochrisiko-System betreiben, um im HR-Bereich spürbar zu automatisieren. Die Hochrisiko-Einstufung hängt daran, dass KI Personen bewertet oder über sie entscheidet. Alles, was davor und daneben liegt, ist regulatorisch deutlich entspannter:

• KI als Assistenz statt als Entscheider. Stellenanzeigen entwerfen, Anforderungsprofile strukturieren, Interviewleitfäden erstellen, Absage- und Einladungstexte vorbereiten – die Entscheidung, wer eingeladen wird, bleibt vollständig beim Menschen.
• Administrative Workflows automatisieren. Terminkoordination, Dokumentenerstellung, Onboarding-Checklisten, Statuskommunikation: hoher Zeitgewinn, keine Personenbewertung. In vielen KMU liegt hier mehr Einsparpotenzial als im Screening – die Bewerbungssichtung ist selten der eigentliche Engpass, die liegen gebliebene Rückmeldung schon.
• Strukturieren statt scoren. Ein Workflow, der eingehende Bewerbungen einheitlich ablegt, Unterlagen auf Vollständigkeit prüft und dem Menschen sauber aufbereitet vorlegt, ist etwas anderes als ein System, das Kandidat:innen rankt. Die Grenze verläuft dort, wo aus Aufbereitung eine Bewertung wird – und genau diese Grenze solltest du bewusst ziehen und schriftlich festhalten.

Ehrlicherweise gehört dazu: Wer ein hohes Bewerbungsvolumen hat, für den kann ein konformes Hochrisiko-Screening ab Ende 2027 die richtige Antwort sein – dann aber mit einem Anbieter, der die Konformität nachweislich trägt, und mit sauber organisierter menschlicher Aufsicht. Für die Mehrheit der KMU, mit denen ich arbeite, ist das Volumen dafür schlicht zu klein; der Aufwand-Nutzen-Vergleich spricht für die risikoarme Route. Welche Route für deinen Prozess passt, klären wir in einer KI-Beratung am konkreten Ablauf, nicht am Toolkatalog.

Umsetzung: So gehst du in fünf Schritten vor

1. Inventur machen. Liste alle Tools mit KI-Funktionen im HR-Umfeld auf – auch die Features, die dein Bewerbermanagement-System still per Update bekommen hat, und die inoffizielle ChatGPT-Nutzung im Team. Ohne Inventur keine Einstufung.
2. Einstufen. Sortiere jede Anwendung mit der Risikomatrix oben: verboten, Hochrisiko, Transparenzpflicht, minimal. Bei „verboten” (Emotionserkennung) sofort handeln; bei „Hochrisiko” den Anbieter schriftlich nach seinem AI-Act-Fahrplan fragen.
3. Entscheidungshoheit dokumentieren. Halte pro Prozess fest, wer die personenbezogene Entscheidung trifft und welche Rolle KI dabei spielt. Dieser eine Absatz pro Prozess ist die Grundlage für alles Weitere – von der Betriebsratskommunikation bis zur Behördenanfrage.
4. KI-Kompetenz aufbauen. Schule die Menschen, die mit den Tools arbeiten, risikoangemessen und dokumentiere das. Die Pflicht gilt seit Februar 2025 – das ist der Punkt mit dem schlechtesten Verhältnis aus Handlungsdruck und tatsächlicher Umsetzung, den ich derzeit sehe.
5. Beschaffung anpassen. Nimm AI-Act-Klauseln in neue HR-Tool-Verträge auf: Zusicherung der Einstufung, Konformitätsfahrplan bis Dezember 2027, Informationspflichten bei Änderungen. Ein Vertrag, der bis 2028 läuft, ohne das Thema zu erwähnen, ist ein vermeidbares Risiko.

Zum Aufwand nur eine grobe Bandbreite mit klaren Annahmen: In einem KMU mit einer Handvoll HR-Tools und ohne eigenes Hochrisiko-System ist die Inventur samt Ersteinstufung erfahrungsgemäß eher ein Projekt von Tagen als von Monaten. Teuer wird es dort, wo Hochrisiko-Systeme im Einsatz sind, deren Anbieter keine Konformität liefern – dann reden wir über Tool-Wechsel, nicht über Dokumentation. Belastbare Kostenzahlen dafür gibt es nicht seriös pauschal; sie hängen an Toolzahl, Vertragslage und Prozessreife.

Risiken und Grenzen

• Die Einstufung ist nicht immer trivial. Zwischen „Aufbereitung” und „Bewertung” gibt es Graubereiche, und die harmonisierten Normen, die Details klären sollen, waren gerade der Grund für die Fristverschiebung. Bei unklaren Fällen: eng auslegen und juristisch prüfen lassen – dieser Artikel ist keine Rechtsberatung.
• Der Zeitplan kann sich weiter bewegen. Die Verschiebung auf Dezember 2027 zeigt, dass der Rechtsrahmen in Bewegung ist. Verlass dich nicht auf Sekundärquellen mit altem Stand; die Kommissionsseiten und EUR-Lex sind der Maßstab.
• AI Act ist nicht die einzige Baustelle. DSGVO, AGG und Mitbestimmung gelten unabhängig davon weiter. Ein AI-Act-konformes Tool kann trotzdem ein Datenschutzproblem sein.
• Anbieterversprechen ersetzen keine Prüfung. „AI-Act-ready” auf der Website eines Tool-Herstellers ist ein Marketingbegriff, kein Konformitätsnachweis. Frag nach Konformitätsbewertung, Registrierung und Dokumentation – und lass dir Zusagen schriftlich geben.
• Auch dieser Leitfaden hat Grenzen. Er bildet den Stand Juli 2026 ab und ersetzt weder anwaltliche Beratung noch die Lektüre der Originalquellen für deinen konkreten Fall.

Checkliste: EU AI Act im Recruiting

• Alle HR-Tools mit KI-Funktionen inventarisiert (inkl. Schatten-KI und stiller Feature-Updates)
• Keine Emotionserkennung am Arbeitsplatz im Einsatz (verboten seit 02/2025)
• Jede Anwendung eingestuft: verboten / Hochrisiko / Transparenzpflicht / minimal
• Für Hochrisiko-Tools: Anbieter schriftlich nach AI-Act-Fahrplan bis 12/2027 gefragt
• Pro Prozess dokumentiert, wer die personenbezogene Entscheidung trifft
• Menschliche Letztentscheidung im Recruiting organisatorisch verankert (nicht nur behauptet)
• Beschäftigte und ggf. Betriebsrat vor Einsatz beschäftigungsbezogener KI informiert
• KI-Schulung für alle KI-nutzenden Mitarbeitenden durchgeführt und dokumentiert (Pflicht seit 02/2025)
• AI-Act-Klauseln in neuen HR-Tool-Verträgen (Einstufung, Konformität, Änderungsinfo)
• Zuständigkeit benannt: Wer beobachtet Fristen und Änderungen am Rechtsrahmen?
• Wiedervorlage gesetzt: Einstufungen und Anbieterzusagen spätestens Mitte 2027 erneut prüfen

Wenn du deinen Bewerbungs- oder HR-Prozess einmal nüchtern durchgehen willst – was ist automatisierbar, was ist Hochrisiko, was lässt du besser beim Menschen –, dann melde dich für ein unverbindliches Erstgespräch. Wir schauen auf den Prozess, nicht auf den Toolkatalog.