KI-generierte Stellenanzeigen: Diese AGG-Risiken musst du kennen

06. August 20267 Min. Lesezeit

KI-Tools schreiben Stellenanzeigen schnell und günstig. Das verleitet dazu, den Output direkt zu veröffentlichen. Das Problem: Die Modelle haben Bias-Muster aus Millionen historischer Texte gelernt, und im deutschen Arbeitsrecht kann das teuer werden. Dazu kommt ab Dezember 2027 der EU AI Act mit seinen Hochrisiko-Pflichten für KI im HR-Bereich. Wer heute mit KI-Tools im Recruiting arbeitet, sollte wissen, was bereits jetzt gilt und was noch kommt.

Was der AGG mit deiner Stellenanzeige zu tun hat

Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierung aufgrund von Geschlecht, Alter, Herkunft, Religion und weiteren Merkmalen. Das gilt auch für Stellenanzeigen. Wer eine Stelle ausschreibt, haftet für den Text, unabhängig davon, ob ein Mensch oder eine KI ihn verfasst hat. Die rechtliche Verantwortung liegt beim Arbeitgeber.

Konkret heißt das: Formulierungen wie „junges, dynamisches Team" können als Altersdiskriminierung gewertet werden. Die Bezeichnung „Sekretärin" statt einer geschlechtsneutralen Formulierung verletzt § 11 AGG. Selbst der Hinweis „Vollzeitstelle" kann problematisch sein, wenn der Arbeitsplatz grundsätzlich für Teilzeit geeignet wäre, denn dann besteht nach § 7 Abs. 1 TzBfG die Pflicht, die Stelle auch als Teilzeitstelle auszuschreiben.

KI-Modelle produzieren diese Formulierungen regelmäßig, weil sie auf historischen Stellenanzeigen trainiert wurden, die genau diese Muster enthielten. Die KI optimiert für Sprache, die sie als typisch gelernt hat, nicht für Rechtssicherheit.

Wie KI-Bias in der Praxis aussieht

Ein viel zitiertes Beispiel ist Amazon: Das Unternehmen hat 2018 ein KI-Recruiting-Tool eingestellt, weil es Frauen systematisch benachteiligte. Das System hatte gelernt, dass erfolgreiche Kandidaten in der Vergangenheit überwiegend männlich waren, und reproduzierte dieses Muster in jeder neuen Bewertung.

Forscher der University of Washington untersuchten KI-gestütztes Lebenslauf-Screening über mehr als 500 Bewerbungen in neun Berufsfeldern. Das Ergebnis: In 85,1 % der Fälle bevorzugten die Systeme Bewerbungen mit weiß-assoziierten Namen. In einigen Bereichen wurden Bewerbende mit schwarzen Namen gegenüber weißen Namen in bis zu 100 % der Fälle schlechter bewertet.

Das betrifft nicht nur das Screening, sondern beginnt bereits bei der Stellenanzeige. Wer mit einer KI-generierten Anzeige bestimmte Personengruppen implizit anspricht oder ausschließt, hat das Problem schon in Schritt eins erzeugt.

Tipp für die Praxis: Nutze nach jedem KI-Draft den sogenannten "Counterfactual-Check". Lies die Anzeige durch und frage dich: Würde ich dieselbe Stelle auch einer Person beschreiben, die einen anderen Vornamen, ein anderes Alter oder einen anderen Hintergrund hat? Wenn du zögerst, ist der Text zu überarbeiten.

Was der EU AI Act für HR-Tools bedeutet und ab wann

Hier ist eine wichtige Unterscheidung nötig, die in der Praxis oft durcheinandergebracht wird:

Ab dem 2. August 2026 gelten die allgemeinen Transparenzpflichten des EU AI Act (Art. 50). Das bedeutet konkret: Wenn Bewerberinnen und Bewerber mit einem KI-System interagieren, etwa einem Chatbot im Bewerbungsprozess, muss das erkennbar sein. KI-generierte Inhalte müssen als solche gekennzeichnet werden.

Erst ab dem 2. Dezember 2027 greifen die strengen Hochrisiko-Pflichten für KI-Systeme im HR-Bereich. Anhang III der Verordnung listet unter Punkt 4 explizit KI-Systeme auf, die im Bereich Beschäftigung, Personalmanagement und Zugang zu selbstständiger Erwerbstätigkeit eingesetzt werden. Das umfasst Recruiting-Tools, die Lebensläufe vorsortieren, Matching-Systeme und HR-Plattformen, die Leistungsbewertungen aggregieren. Diese Frist wurde durch die Digital-Omnibus-Verordnung der EU verschoben.

Für betroffene Systeme gelten ab Dezember 2027 diese konkreten Pflichten:

Risikomanagementsystem: Du musst Risiken deines KI-Systems identifizieren, bewerten und minimieren.
Menschliche Aufsicht (Art. 14, 26): Personalentscheidungen dürfen nicht vollständig an KI delegiert werden. Ein Mensch muss eingreifen können.
Logging und Dokumentation (Art. 12, 26): Was das System entschieden hat und warum, muss nachvollziehbar sein.
Transparenzpflichten: Bewerberinnen und Bewerber müssen informiert werden, wenn KI in der Auswahl eingesetzt wird.
Fundamental Rights Impact Assessment (Art. 27): Bei Hochrisiko-KI in HR ist eine Grundrechtefolgenabschätzung erforderlich.

Wer diese Pflichten nicht erfüllt, riskiert Bußgelder bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Verbotene KI-Praktiken werden mit bis zu 35 Millionen Euro bestraft. Und: Das Gesetz unterscheidet nicht nach Unternehmensgröße. Ein Betrieb mit 30 Mitarbeitenden, der ein KI-Recruiting-Tool einsetzt, ist Anwender im Sinne der Verordnung und fällt unter dieselben Pflichten wie ein Konzern.

Welche Fehler KI beim Texten von Stellenanzeigen typischerweise macht

Die häufigsten AGG-relevanten Muster, die KI-generierte Stellenanzeigen zeigen:

Adjektive wie "jung", "energiegeladen" oder "fit" implizieren Altersdiskriminierung.
Gendering-Fehler: Manche Modelle verwenden generisches Maskulinum, obwohl der Kontext die Stelle für alle Geschlechter ausschreibt.
Formulierungen, die auf körperliche Eignung hinweisen, ohne dass diese für die Stelle erforderlich ist.
Fehlende Teilzeit-Option bei Stellen, die grundsätzlich in Teilzeit besetzt werden könnten.
Anforderungen wie "Muttersprachler", die mittelbare Diskriminierung aufgrund der Herkunft darstellen können.

Laut einer Analyse von Skill-Sprinters ist das Schreiben von Stellenanzeigen mit KI einer der einfachsten KI-Use-Cases im Personalbereich, gleichzeitig aber einer der heikelsten, weil jede Stellenanzeige das AGG beachten muss und die KI gerne Formulierungen produziert, die § 11 AGG verletzen, ohne dass man es bemerkt.

Der richtige Workflow: KI als Entwurfshelfer, nicht als Entscheiderin

Laut einer Auswertung aktueller Recruiting-Studien nutzen rund 90 % der befragten Unternehmen KI-Tools beim Verfassen von Stellenanzeigen. Gleichzeitig gilt: Unter den Recruitern, die echte Effizienzgewinne berichten, verschickt niemand den rohen KI-Output direkt.

Ein funktionierender Workflow für kleinere Betriebe sieht so aus:

Schritt 1: Hiring Manager listet fünf bis sieben konkrete Anforderungen und Rahmenbedingungen der Stelle auf.
Schritt 2: KI erstellt einen strukturierten Erstentwurf auf Basis dieser Stichpunkte.
Schritt 3: Mensch liest den Entwurf auf AGG-relevante Formulierungen, Tonalität und Unternehmenssprache durch.
Schritt 4: Zweite Person liest auf "Kaltbewerber-Klarheit": Versteht jemand, der nichts über das Unternehmen weiß, was die Stelle wirklich bedeutet?
Schritt 5: Veröffentlichung mit Gehaltsangabe oder -spanne, denn seit dem 7. Juni 2026 verpflichtet die EU Pay Transparency Directive alle Arbeitgeber dazu, eine Gehaltsangabe entweder in der Stellenanzeige oder vor dem ersten Gespräch zu nennen.

Hinweis zu ConRat AI: Der Job-Anzeige Generator auf ConRat AI ist speziell für den deutschsprachigen Markt ausgelegt und liefert strukturierte Entwürfe als Ausgangsbasis, nicht als Fertigprodukt. DSGVO-konform, gehostet auf deutschen Servern, 30 Tage kostenlos testbar.

Was eine gute KI-Prompt-Struktur für Stellenanzeigen enthält

Die meisten Probleme entstehen, weil der Prompt zu vage ist. Wer schreibt "Schreib eine Stellenanzeige für eine Softwareentwicklerin", bekommt einen generischen Text, der keinerlei Unternehmenskontext kennt und die Bias-Muster des Modells ungeprüft reproduziert. Laut pin.com enthält jeder gute Recruiting-Prompt vier Elemente:

Rollenkontext: Wer ist das Unternehmen, was macht es, wie ist die Unternehmenskultur?
Konkrete Einschränkungen: Maximale Wortanzahl, gewünschte Tonalität, Pflichtabschnitte (z.B. Gehaltsangabe, Teilzeitoption).
Zielgruppenklarheit: Welche Person soll sich angesprochen fühlen, welche nicht?
Ausgabeformat: Mit oder ohne Aufzählung, mit oder ohne Unterabschnitte, welche Reihenfolge sollen die Abschnitte haben?

Wer diese Struktur konsequent nutzt, bekommt deutlich weniger AGG-kritische Formulierungen. Komplett vermeiden lassen sie sich durch Prompts allein nicht. Der menschliche Review-Schritt bleibt Pflicht.

Unser Fazit

KI spart beim Verfassen von Stellenanzeigen messbar Zeit, laut Factorial HR bis zu 40 % gegenüber manuellem Schreiben. Das ist real und nützlich. Aber die rechtliche Verantwortung für das, was in der Anzeige steht, bleibt vollständig beim Unternehmen. KI-Modelle kennen kein AGG, keinen § 7 TzBfG und keine aktuelle Rechtsprechung zu mittelbarer Diskriminierung. Sie optimieren für Plausibilität, nicht für Rechtssicherheit.

Was den EU AI Act betrifft: Die allgemeinen Transparenzpflichten greifen seit diesem Monat (August 2026). Die strengen Hochrisiko-Pflichten für KI-Systeme im HR-Bereich kommen erst ab Dezember 2027, verschoben durch die Digital-Omnibus-Verordnung. Das gibt etwas mehr Zeit zur Vorbereitung. Aber wer KI-Tools im Recruiting einsetzt, sollte nicht bis zum letzten Moment warten: Dokumentation, menschliche Aufsicht und ein klares Verständnis davon, welche Entscheidungen die KI trifft und welche nicht, sind kein bürokratischer Aufwand, sondern die Grundlage für rechtssicheres Recruiting.