KI-gestütztes Bewerber-Screening: Chancen und Grenzen

Was „automatisiertes Screening“ konkret meint

Unter dem Label landen sehr verschiedene Systeme: regelbasiertes Keyword-Matching, CV-Parsing, semantisches Matching gegen ein Kompetenzprofil, gamifizierte Tests, Video-Analyse. Nur die ersten drei sind für die meisten KMU relevant. Hunkenschroer und Luetge (2022) ordnen KI-Recruiting entlang der Prozesskette und machen klar: je näher das System an einer Ablehnung sitzt, desto höher die ethische und rechtliche Schwelle [1].

• Vorsortierung: Ranking gegen festgelegte Kompetenzen – Recruiter:innen entscheiden, wer in die nächste Runde geht
• Knock-out-Regeln: harte Filter (z. B. Pflichtqualifikation) – nur, wenn die Regel jobrelevant und dokumentiert ist
• Nicht dasselbe: automatische Absage ohne menschliche Prüfung – das ist der Art.-22-Fall

Vendor-Claims vs. belegte Praxis

Raghavan, Barocas, Kleinberg und Levy (2020) haben öffentlich verfügbare Angaben von Anbietern algorithmischer Pre-Employment-Assessments ausgewertet [2]. Das Bild: viele versprechen Bias-Reduktion, wenige legen offen, worauf das Modell trainiert, welches Kriterium es vorhersagt (historische Performance? Tenure? „Culture fit“?) und welche Fairness-Metrik sie überhaupt testen. Ohne diese Angaben ist „unsere KI ist fair“ Marketing, kein Nachweis.

• Vorhersageziel prüfen: Wer aus vergangenen Hires lernt, lernt auch deren Bias
• Protected Class nicht „herausrechnen“ und gleichzeitig Proxies (PLZ, Schulname, Lücke im CV) unkontrolliert lassen
• Fragen Sie nach Validierungsstudien am Kriterium Jobleistung – nicht nur nach „Accuracy“ auf einem Vendor-Datensatz
• De-Biasing-Techniken können mit Antidiskriminierungsrecht kollidieren, wenn sie Gruppen unterschiedlich behandeln [2]

Diskriminierung durch Algorithmen ist kein Randthema

Köchling und Wehner (2020) haben 36 Studien zu algorithmischer Entscheidung in HR-Recruiting und -Entwicklung systematisch ausgewertet [3]. Zwei Ebenen treten getrennt auf: objektive Fairness (differentielle Validität und Vorhersage zwischen Gruppen) und wahrgenommene Fairness (wie Bewerber:innen den Prozess erleben). Beides kann die Candidate Experience und die rechtliche Lage kippen – unabhängig davon, ob das Modell „technisch“ gut performt. Barocas und Selbst (2016) zeigen zudem, dass Disparate Impact oft über scheinbar neutrale Merkmale entsteht, nicht über explizite Diskriminierung [4].

• Historische Labels sind keine Ground Truth für „gute Einstellung“
• Ein Modell, das Abschlussort oder Arbeitgeberprestige gewichtet, kann Herkunft und Klasse proxyen
• Wahrgenommene Intransparenz senkt die Akzeptanz auch dann, wenn die Rankings intern konsistent sind [3]

Validierung: dieselben Maßstäbe wie bei Tests

KI-Screening ist ein Personalauswahlverfahren. Die SIOP Principles (2018) gelten unabhängig davon, ob der Score von einem Menschen oder einem Modell kommt: Konstrukt, Kriterium, lokale Validierung, Dokumentation, laufende Überwachung [5]. Ein Tool, das „nur rankt“, braucht trotzdem eine Begründung, warum der Score jobrelevant ist.

Rechtliche Grenze in der EU: unterstützen, nicht entscheiden

Art. 22 DSGVO verbietet Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und die Person erheblich beeinträchtigen – eine Absage im Bewerbungsverfahren fällt darunter. Der EU AI Act stuft KI in Beschäftigung und Personalauswahl als Hochrisiko ein. Praktisch: Scores dürfen priorisieren, Menschen müssen die Entscheidung tragen und nachvollziehen können. Das ist kein Schönheitsfehler der Regulierung, sondern deckt sich mit der Forschung: unbeaufsichtigte Modelle skalieren Fehler [2][3].

• Keine vollautomatische Absage aus dem Ranking
• Transparenz in der Datenschutzerklärung: dass KI eingesetzt wird, wofür, auf welcher Rechtsgrundlage
• Auskunftsfähigkeit: welche Merkmale den Score beeinflusst haben, in verständlicher Form
• Human-in-the-loop muss echt sein – Abnicken eines Rankings zählt nicht als Prüfung

Wann KI-Screening trotzdem sinnvoll ist

Die Alternative zu einem schlechten Modell ist selten „kein Werkzeug“, sondern ein überlastetes Team, das CVs in der Reihenfolge des Posteingangs liest – ebenfalls biased. Sinnvoll ist Screening, wenn das Anforderungsprofil vor dem Modell steht, nicht umgekehrt.

• Kompetenzen und Knock-outs zuerst schriftlich definieren (siehe Structured-Interview-Leitfaden)
• Matching gegen dieses Profil, nicht gegen „ähnliche frühere Einstellungen“
• Recruiter:innen sehen die Begründung (welche Skills getroffen wurden), nicht nur eine Zahl
• Stichproben: regelmäßig Rankings gegen menschliche Kurzlisten legen und Abweichungen erklären
• Override dokumentieren – das ist Ihr Audit-Trail, kein Makel

Fazit

KI-Screening ist ein Beschleuniger, kein Richter. Die Literatur zu Vendor-Claims, algorithmischer Diskriminierung und Validierung sagt dasselbe wie DSGVO und AI Act: Kriterien offenlegen, Menschen entscheiden lassen, Fairness messen statt behaupten. Wer so arbeitet, holt den Zeitgewinn – ohne die Haftung einer Blackbox.