KI im Recruiting: Wenn der Algorithmus unfair entscheidet

25. Juni 20265 Min. Lesezeit

KI-Tools sortieren Bewerbungen vor, bewerten Kandidaten und empfehlen Absagen. Das spart Zeit. Es entstehen dabei aber auch strukturelle Risiken, die Arbeitgeber direkt haften lassen können. Was aktuelle Studien aus 2025 und 2026 zeigen, sollte uns aufhorchen lassen.

Was Studien gerade belegen

Im Mai 2026 veröffentlichte die Stanford University die bisher größte Feldstudie zu KI-Einstellungsalgorithmen. Analysiert wurden 4 Millionen Bewerbungen auf 1.700 Positionen bei 150 US-Unternehmen. Das Ergebnis ist eindeutig: KI-Systeme benachteiligen systematisch bestimmte Gruppen. 25,87 % aller Bewerbungen Schwarzer Kandidaten entfielen auf Positionen, bei denen der Algorithmus nach Bundesrichtlinien diskriminierend wirkte, wie Fortune über die Stanford-Studie berichtet.

Parallel dazu belegt eine MIT-Studie vom März 2026, dass Sprachmodelle Frauen zwar häufiger einstellen würden als Männer, ihnen aber trotzdem systematisch niedrigere Gehälter empfehlen. Der Algorithmus zieht dabei den real existierenden Gender-Pay-Gap als statistischen Richtwert heran und verfestigt die Benachteiligung damit weiter.

Und in einer Studie der University of Washington übernahmen 528 Testpersonen den Bias der KI, sobald das System rassistische Verzerrungen in seine Empfehlungen einbrachte. Wer also auf KI vertraut, übernimmt auch deren blinde Flecken.

Woher kommt der Bias?

KI-Modelle lernen aus historischen Daten. Wenn in diesen Daten Männer in technischen Positionen überrepräsentiert sind, lernt das System, dass Männer für solche Rollen geeigneter sind. Das klassische Beispiel ist Amazons internes Recruiting-Tool, das Frauen systematisch schlechter bewertete, weil die Trainingsdaten aus einer Zeit stammten, in der Männer in Tech-Rollen dominierten. Amazon stellte das Tool ein.

Neuere Sprachmodelle machen es subtiler. Laut einer Analyse von David Rozado reicht ein einziger Vorname im Lebenslauf, um die Bewertung zu verschieben. Ein Profil mit dem Namen "Johannes" wird anders eingestuft als ein identisches Profil mit dem Namen "Fatima". Das nennt sich Proxy-Diskriminierung: Das System kennt kein Merkmal wie "Herkunft" explizit, erschließt es sich aber über Korrelationen.

Ein weiteres, bisher wenig diskutiertes Phänomen ist der sogenannte Self-Preference-Bias. Da inzwischen 43 % der Bewerbenden KI beim Schreiben ihrer Unterlagen einsetzen (laut der Studie "KI trifft Recruiting 2025" von Softgarden mit rund 7.000 Befragten), ergibt sich ein strukturelles Problem: KI-Systeme auf Arbeitgeberseite tendieren dazu, KI-generierte Texte als qualitativ hochwertiger einzustufen. Wer seine Bewerbung selbst formuliert, hat dadurch einen statistischen Nachteil. Verrückt oder beängstigend: KI bevorzugt KI.

Nicht nur ein US-Problem: Die Lage in Deutschland

Die Antidiskriminierungsstelle des Bundes hat ein Rechtsgutachten vorgelegt, das klare Schlüsse zieht: Wenn ein Unternehmen ein KI-System für die Bewerbungsvorauswahl nutzt und dieses diskriminiert, haftet der Arbeitgeber nach dem Allgemeinen Gleichbehandlungsgesetz (AGG). Die Begründung, eine externe Software habe die Entscheidung getroffen, zählt rechtlich nicht.

Besonders heikel: Das AGG sieht eine Beweiserleichterung für Bewerber vor. Im Streitfall müssen Arbeitgeber nachweisen, dass keine Diskriminierung stattgefunden hat. Bei einer intransparenten KI ist dieser Nachweis kaum zu erbringen. 23,9 % der rund 4.000 Befragten in einer Studie der Antidiskriminierungsstelle berichteten von Diskriminierungserfahrungen in der Bewerbungsphase.

Ferda Ataman, die Unabhängige Bundesbeauftragte für Antidiskriminierung, fordert ein Auskunftsrecht für Bewerber: Wer von einem Algorithmus aussortiert wurde, soll das erfahren dürfen. Dieser Schutz fehlt im aktuellen deutschen Recht noch.

Der EU AI Act: Ab August 2026 wird es ernst

KI in der Personalauswahl ist im EU AI Act explizit als Hochrisiko-KI eingestuft. Ab August 2026 greifen die vollständigen Pflichten. Was das konkret bedeutet:

Wer ein KI-gestütztes Screening-Tool einsetzt, braucht ein dokumentiertes Risikomanagementsystem.
Menschliche Aufsicht über automatisierte Entscheidungen ist Pflicht.
Technische Dokumentation und Transparenzpflichten sind einzuhalten.
Erste Verbote gelten bereits seit Februar 2025, darunter der Einsatz von Emotion-Recognition-Tools bei Einstellungsentscheidungen.

Die Deadline ist nah. Wer bisher keine klare Dokumentation darüber hat, welche KI-Tools im Recruiting eingesetzt werden und wie Entscheidungen zustande kommen, sollte das jetzt angehen.

Es geht nicht darum, KI im Recruiting grundsätzlich abzulehnen. Es geht darum, sie bewusst einzusetzen. Einige direkt umsetzbare Punkte (keine Rechtsberatung):

Prüfe, welche KI-Tools du einsetzt: Hast du eine Übersicht, welche Systeme an welchen Stellen im Bewerbungsprozess automatisiert entscheiden? Falls nicht, ist das der erste Schritt.
Keine Black-Box-Entscheidungen: KI kann vorschlagen, aber die finale Entscheidung braucht eine menschliche Prüfung und eine nachvollziehbare Begründung.
Namen und Geschlechtshinweise aus der Vorauswahl entfernen: Anonymisierte Lebensläufe in der ersten Runde reduzieren nachweislich Bias.
Gehaltsempfehlungen manuell prüfen: Automatisch generierte Gehaltsvorschläge können bestehende Ungleichheiten reproduzieren. Prüfe sie gegen klare interne Gehaltsstrukturen.
Dokumentiere deine Prozesse: Im Streitfall musst du nachweisen, dass der Prozess fair war. Ohne Dokumentation ist das nicht möglich.

Hinweis: Wenn du KI für Stellenanzeigen, Bewerbungsanalysen oder Dokumentenprüfung einsetzt, achte zusätzlich auf DSGVO-Konformität und europäisches Hosting.

Fazit

KI im Recruiting ist kein Zukunftsthema. Sie ist bereits im Einsatz. Die Studien aus 2025 und 2026 zeigen dabei klar: Kein einziges getestetes Modell ist frei von Bias. Größere Modelle sind nicht automatisch besser. Und Arbeitgeber tragen die volle rechtliche Verantwortung für das, was ihre Tools entscheiden.

Ab August 2026 ist das kein freiwilliges Thema mehr. Der EU AI Act macht Transparenz, Dokumentation und menschliche Aufsicht zur Pflicht. Wer jetzt anfängt, seinen Recruiting-Prozess zu durchleuchten, hat einen echten Vorteil gegenüber denen, die erst dann reagieren, wenn ein Rechtsstreit auf dem Tisch liegt.

Die wichtigste Frage lautet also: Weißt du, welche Entscheidungen in deinem Unternehmen gerade ein Algorithmus trifft?