Voreingenommenheit im Recruiting: warum die Zukunft Menschen braucht
Solange Menschen eingestellt werden, ist Voreingenommenheit Teil des Prozesses. Manchmal ist sie offensichtlich, manchmal unsichtbar, aber sie ist immer da. Die Wörter, die wir in Stellenausschreibungen verwenden, die Schulen, die wir am meisten schätzen, die Hobbys, die wir unbewusst mit Kompetenz verbinden – diese kleinen Entscheidungen häufen sich zu Mustern auf, die bestimmen, wer eingestellt wird und wer zurückgelassen wird.
Historisch gesehen hatte Voreingenommenheit bei der Einstellung zwei Hauptformen: bewusste Voreingenommenheit (absichtliche Bevorzugung oder Vorurteil) und unbewusste Voreingenommenheit (unbewusste Annahmen über Menschen aufgrund von Stereotypen). Selbst mit den besten Absichten konnten Recruiter Kandidaten bevorzugen, die sich „richtig anfühlten". Dieses „Bauchgefühl" war oft nur Voreingenommenheit in freundlicher Verkleidung.
Als Voreingenommenheit digital wurde
Die Hoffnung mit KI war einfach: Die Maschinen sollen den Prozess objektiver machen. Keine subjektiven Vermutungen mehr – nur Daten. Aber KI entsteht nicht aus dem Nichts; sie lernt aus den Daten, mit denen sie gefüttert wird. Und wenn diese Daten eine Geschichte voreingenommener Entscheidungen widerspiegeln, lernt die KI einfach, diese zu wiederholen – schneller und in größerem Maßstab.
Die Schlagzeilen erzählen die Geschichte:
In den USA haben solche Fälle bereits zu Klagen geführt – CVS Health wegen KI-basierter Videointerviews und Workday sieht sich laufenden Klagen wegen angeblicher Diskriminierung ausgesetzt. In Europa sind bisher keine großen derartigen Fälle vor Gericht gegangen, teilweise weil das EU-Recht darauf abzielt, Voreingenommenheit zu verhindern, während das US-Recht sie typischerweise nachträglich anspricht.
Die neue Generation von KI – Kontext statt Schlüsselwörter
Die KI von 2018 war nicht gut in Nuancen. Sie suchte nach Mustern in den Daten – Schlüsselwörter, Schulen, bestimmte Berufsbezeichnungen – ohne das „Warum" zu verstehen. So konnte „Baseball" ein Stellvertreter für „Teamplayer" werden, ohne zu berücksichtigen, dass „Softball" dieselbe Eigenschaft demonstrieren könnte.
Generative KI, die 2023 an Bedeutung gewann, kann mehr Kontext verstehen. Sie kann trainiert werden, ein Hobby nach den zugrunde liegenden Fähigkeiten zu beurteilen, nicht danach, ob es mit bestehenden Mitarbeitern übereinstimmt.
Wenn gut gestaltet, kann die heutige KI irrelevante oder diskriminierende Datenpunkte ignorieren wie Geschlecht, Rasse oder Alter, während sie dennoch bedeutungsvolle Erkenntnisse gewinnt.
Das Versprechen: KI als Voreingenommenheitsreduzierer
KI kann tatsächlich dazu beitragen, Voreingenommenheit zu bekämpfen – aber nur, wenn wir sie bewusst einsetzen:
Auf diese Weise kann KI Recruitern helfen, den Zyklus „wir stellen nur Menschen ein, die uns ähneln" zu durchbrechen.
Der Vorteil: Die Bedeutung menschlicher Beteiligung
Die Gefahr besteht nicht darin, dass KI die schwächsten Kandidaten ablehnt – sondern darin, dass sie die stärksten aus den falschen Gründen herausfiltern könnte. Selbst die ausgefeilteste KI kann (noch) nicht alles interpretieren, was jemanden zu einem großartigen Teammitglied macht: Anpassungsfähigkeit, subtile Kommunikationsfähigkeiten, emotionale Intelligenz und kreatives Problemlösen.
Wie Oxford-Professorin Sandra Wachter sagt:
„Es gibt eine sehr klare Möglichkeit, KI so einzusetzen, dass sie fairere und gerechtere Entscheidungen trifft, die auf Verdienst basieren und die auch das Ergebnis eines Unternehmens verbessern. Egal wie effizient KI jedoch wird, wird es immer eine Rolle für den Menschen geben.”
Menschen bringen Intuition, Empathie und die Fähigkeit mit, Kontext zu berücksichtigen, der nicht in einem Datensatz erfasst wird. Deshalb ist es genauso wichtig, Recruiter darin zu schulen, ihre eigenen Vorurteile zu erkennen und zu hinterfragen, wie faire KI-Systeme zu bauen. Strukturierte Interviews, standardisierte Bewertungskriterien und Bewusstseinstraining helfen sicherzustellen, dass menschliche Aufsicht Wert hinzufügt.
Wie Talentium mit Voreingenommenheit umgeht
Bei Talentium bauen wir eine KI-gestützte Recruitingplattform, und das bedeutet, dass die Frage der Voreingenommenheit nicht nur theoretisch ist – es ist etwas, das wir direkt angehen müssen.
Wir glauben, dass der beste Weg nach vorne die Zusammenarbeit zwischen Menschen und KI ist. Auf der Entwicklungsseite verwenden wir modernste Modelle von Partnern wie OpenAI und Google. Wir trainieren keine eigenen Modelle und stellen sicher, dass sensible Attribute wie Name, Geschlecht, Rasse oder Alter von der Bewertung ausgeschlossen werden.
Auf der Nutzungsseite ist Talentium darauf ausgelegt, Recruitern die Kontrolle zu überlassen. Jede wichtige Aktion wird immer vom Menschen getroffen. Unsere KI liefert intelligente Vorschläge, automatisiert aber niemals das Urteil. Jede KI-Empfehlung ist erklärbar: Wir zeigen genau, warum ein Kandidat in einer Suche erscheint, damit Entscheidungen nie eine „Black Box" sind.
Talentium erweitert die Kandidatenpools durch mehrere Quellen, hebt übertragbare Fähigkeiten hervor und vermeidet die Übergewichtung einzelner Attribute. Das Ergebnis ist, dass unkonventionelle Kandidaten ebenfalls Sichtbarkeit bekommen. So wird KI zu einem Werkzeug für faireres, transparenteres und inklusiveres Einstellen.
Das nächste Kapitel: Menschliches Urteil angetrieben von KI
Voreingenommenheit bei der Einstellung hat sich von bauchgefühlgesteuerten Entscheidungen zu algorithmusgesteuerten Bewertungen verschoben, aber sie ist nicht verschwunden. Die Frage ist jetzt nicht, ob KI Menschen ersetzen wird – sondern wie beide zusammenarbeiten können, um bessere Entscheidungen zu treffen.
Lassen Sie KI das tun, was sie am besten kann: Bewerbungen sortieren, voreingenommene Muster kennzeichnen und die richtigen Kandidaten an die Oberfläche bringen. Lassen Sie Menschen das tun, was wir am besten können: Nuancen interpretieren, Annahmen hinterfragen und die endgültige Entscheidung treffen.
Denn das Ziel ist nicht nur, schnell einzustellen. Es geht darum, fair einzustellen, stärkere Teams aufzubauen und Türen für Talente zu öffnen, die sonst übersehen werden könnten.
