KI bei Bewerbungen: Ataman fordert Auskunftsrecht gegen Algorithmen

Stanford-Studie belegt systematische Benachteiligung durch Algorithmen. Ataman kritisiert fehlenden Schutz im neuen AGG-Entwurf.

Die Bundesbeauftragte für Antidiskriminierung, Ferda Ataman, fordert ein gesetzliches Auskunftsrecht über KI-Entscheidungen. Eine neue Studie belegt systematische Benachteiligung durch Algorithmen bei Bewerbungsverfahren.

Am heutigen Mittwoch hat Ataman ihre Forderung nach schärferen Regeln für den Einsatz künstlicher Intelligenz in der Personalauswahl bekräftigt. Aktuelle Gesetzesentwürfe böten keinen ausreichenden Schutz vor algorithmischer Diskriminierung – etwa bei Jobbewerbungen, Wohnungssuche oder Versicherungsabschlüssen. Die Warnung kommt nicht von ungefähr: Eine am Dienstag veröffentlichte Untersuchung der Stanford University zeigt alarmierende Ergebnisse.

Anzeige

Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. EU AI Act in 5 Schritten verstehen

Systematische Benachteiligung durch Algorithmen

Die Stanford-Studie analysierte 4 Millionen Bewerbungen auf 1.700 Positionen bei 150 US-Unternehmen. Das Ergebnis: KI-Systeme benachteiligen systematisch bestimmte Bevölkerungsgruppen. 26 Prozent der schwarzen und 15 Prozent der asiatischen Bewerber wurden durch die automatisierte Vorauswahl negativ beeinflusst. Bereits 90 Prozent der US-Arbeitgeber setzen solche Systeme ein.

Als Hauptursache identifizierten die Forscher eine „algorithmische Monokultur": Nur wenige marktbeherrschende Anbieter bestimmen die Auswahlkriterien. Bei gerechteren Empfehlungsraten wären schätzungsweise 40.000 zusätzliche Bewerber in die nächste Runde gekommen – das verdeutlicht das Ausmaß struktureller Ausgrenzung.

Deutsche Unternehmen investieren kräftig in KI

Trotz dieser Risiken steigen die Investitionen in KI-Lösungen auch in Deutschland rasant. Eine Umfrage des Dienstleisters SD Worx zeigt: 48 Prozent der deutschen HR-Verantwortlichen investieren derzeit in KI – ein Anstieg um zehn Prozentpunkte im Vergleich zum Vorjahr. Besonders Mittelständler mit 250 bis 2.499 Mitarbeitern treiben die Entwicklung voran: 57 Prozent von ihnen setzen auf automatisierte Systeme.

Allerdings belegen nur 40 Prozent der Unternehmen messbare Erfolge. Im internationalen Vergleich liegt Deutschland auf Platz 12 der KI-Reife – Spitzenreiter ist Norwegen. Der Druck wächst: Die EU-KI-Verordnung tritt am 2. August 2026 für Hochrisiko-Systeme in Kraft. Einige Wirtschaftsverbände fordern eine Verschiebung auf Dezember 2027.

Anzeige

Compliance-Experten warnen: Wer die KI-Verordnung ignoriert, riskiert empfindliche Strafen bei der Risikodokumentation und Qualitätssicherung. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

AGG-Reform: Fortschritt ohne KI-Schutz

Atamans Kritik fällt mit der Vorstellung ihres Jahresberichts 2025 zusammen. Der am Montag vorgelegte Referentenentwurf zur Reform des Allgemeinen Gleichbehandlungsgesetzes (AGG) – Drucksache 21/6178 – ziele vor allem auf bessere Durchsetzbarkeit ab: Die Klagefrist soll von zwei auf vier Monate verlängert, eine neue Schlichtungsstelle eingerichtet werden.

Doch die entscheidende Lücke bleibt bestehen: Keine spezifischen Offenlegungspflichten für KI-Entscheidungen. Bewerber, die vermuten, von einem Algorithmus benachteiligt worden zu sein, haben weiterhin kaum Möglichkeiten, dies zu überprüfen. Die geforderte Transparenz bleibt aus.

Gerichte ziehen erste Grenzen

Die Rechtsprechung beginnt, die Verantwortung von Unternehmen für KI klarer zu definieren. Das Oberlandesgericht Hamm entschied am Montag: Firmen haften für Fehler oder irreführende Aussagen ihrer KI-Chatbots. Die Systeme fielen in den Verantwortungsbereich des Betreibers. Technische Sicherungen wie Filter oder Eingabe-Beschränkungen seien zumutbar.

Eine andere Entscheidung des Berliner Arbeitsgerichts sorgt für Diskussionen: Am 28. Mai wies es eine Entschädigungsklage einer nicht-binären Person ab. Der Kläger hatte eine Absage mit falscher Anrede erhalten. Die Richter befanden die Klage als „rechtsmissbräuchlich" – die Bewerbung sei nicht ernsthaft gewesen. Dem Kläger fehlten relevante Qualifikationen, und er verfolgte systematisch Klagen statt einer echten Jobsuche.

Produktivitätspotenzial und neue Risiken

Der wirtschaftliche Druck zur Integration von KI bleibt enorm. Eine McKinsey-Studie vom Montag schätzt, dass 59 Prozent aller Arbeitsstunden in Deutschland automatisiert werden könnten. Das Produktivitätspotenzial: umgerechnet rund 450 Milliarden Euro bis 2030. Die Nachfrage nach „KI-Kompetenz" bei Mitarbeitern hat sich seit 2023 versechsfacht.

Doch die größte Gefahr für Arbeitnehmer geht nicht von der KI selbst aus, sondern von Kollegen, die generative Werkzeuge effektiver nutzen. Eine Studie der Universität Vaasa zeigt: KI kann Arbeitsbelastung erhöhen und Konzentrationsspannen verkürzen. Entscheidend für den erfolgreichen Wandel seien eine klare Unternehmensstrategie und verbindliche ethische Richtlinien.