KI-Tools im HR und Recruiting: EU AI Act Hochrisiko-Anforderungen

Anhang III Nr. 4 EU AI Act listet explizit als Hochrisiko: KI für Stellenausschreibungen und Kandidatenvorauswahl, KI für Beurteilung und Überwachung von Beschäftigten, KI für Beförderungsentscheidungen und Personalverwaltung, KI für Kündigung und Vertragsgestaltung. Konkrete Beispiele: CV-Screening-Software (wie frühere Amazon-Recruiting-KI), Video-Interview-Analyse (Mimik, Stimme), Mitarbeiterproduktivitäts-Scoring, Abwesenheitsvorhersage-Algorithmen, automatische Gehaltsempfehlungen.

Für alle HR-KI-Systeme in Anhang III gelten umfangreiche Pflichten: Vollständige technische Dokumentation (Art. 11) inklusive Beschreibung des Algorithmus und Trainingsdaten, Risikomanagementsystem (Art. 9) mit regelmäßiger Neubewertung, Protokollierung aller Entscheidungen (Art. 12) für Audit-Zwecke, Menschliche Aufsicht (Art. 14) – jede KI-gestützte HR-Entscheidung muss von einem qualifizierten Menschen überprüft werden können, Konformitätsbewertung vor dem Inbetriebsetzen, EU-Datenbankregistrierung.

HR-KI-Systeme sind besonders anfällig für Diskriminierung. Der EU AI Act schreibt in Art. 10 vor, dass Trainingsdaten frei von erheblichen Mängeln sein müssen, die zu Diskriminierung führen könnten. Führen Sie regelmäßige Bias-Tests durch: Werden Bewerber bestimmter Geschlechter, Altersgruppen oder ethnischer Hintergründe systematisch benachteiligt? Dokumentieren Sie alle Tests und Ergebnisse. Wenn Bias-Testing Probleme aufzeigt, darf das System nicht eingesetzt werden, bis das Problem behoben ist. Das AGG (Allgemeines Gleichbehandlungsgesetz) und das österreichische Gleichbehandlungsgesetz gelten zusätzlich zum EU AI Act.

Bewerber müssen über den KI-Einsatz im Recruiting-Prozess informiert werden. Art. 50 EU AI Act und Art. 13/14 DSGVO verpflichten zur Offenlegung. Konkret: Informieren Sie in der Stellenausschreibung oder spätestens beim ersten Kontakt über KI-gestütztes Screening. Erklären Sie, welche Daten verarbeitet werden und wie die KI-Entscheidung erfolgt. Gewähren Sie Bewerbern das Recht auf menschliche Überprüfung von KI-Vorentscheidungen. Legen Sie auf Anfrage die wesentlichen Faktoren einer ablehnenden Entscheidung offen.

Handlungsschritte für HR-Verantwortliche: (1) Bestandsaufnahme aller HR-KI-Tools (auch als Modul in größeren HR-Systemen), (2) Risikoklassifikation und Bestätigung Hochrisiko-Status, (3) Anbieter-Due-Diligence: Technische Dokumentation und DPA anfordern, (4) Menschlichen Überprüfungsprozess für alle KI-Entscheidungen implementieren, (5) Bias-Testing-Protokoll einrichten, (6) Transparenztexte für Bewerber-Kommunikation erstellen, (7) HR-Mitarbeitende schulen, (8) Betriebsrat/Personalvertretung informieren (in Deutschland mitbestimmungspflichtig). Lassen Sie HR-KI von einem Fachanwalt für Arbeitsrecht und Datenschutz prüfen.