Chancen(un)gleichheit durch künstliche Intelligenz?
Wie KI- gestützte Bewerbungssysteme die Spielregeln ändern!
Von Julia Kleiner
Künstliche Intelligenz (KI) hat in den letzten Jahren Einzug in viele Bereiche unseres Lebens gehalten, und jetzt erobert sie auch den Bewerbungsprozess. KI-basierte Bewerbungssysteme verändern die Spielregeln und versprechen sowohl Unternehmen als auch Bewerber*innen vor allem mehr Chancengleichheit und Effizienz. Doch stimmt das auch wirklich? So geriet beispielsweise Amazon 2018 in die Schlagzeilen, als bekannt wurde, dass ihr KI-Algorithmus bei der Bewerber*innenvorauswahl Frauen eindeutig diskriminierte (Rixecker, 2018). Welche Vorteile bringt KI für Unternehmen und Bewerber*innen also tatsächlich? Und welche Herausforderungen und Risiken sind damit verbunden?
Die Entwicklung von Recruiting-Prozessen hat in einer sehr kurzen Zeit eine bemerkenswerte Transformation durchlaufen. Recruiting (auch Rekrutierung oder Personalbeschaffung genannt) bezieht sich dabei auf Prozesse der Identifizierung, Anwerbung und Auswahl von qualifizierten Kanditat*innen, um offene Stellen in einer Organisation oder einem Unternehmen zu besetzen (Lochner & Preuß, 2018, vgl. S.198, 199). War der traditionelle Rekrutierung-Prozess bis Ende der 1990er Jahre noch analog und basierte hauptsächlich auf manuellen Verfahren und menschlichen Urteilsvermögen, hat sich dieser Prozess nun zu einem hochtechnologisierten und datengetriebenen Ansatz gewandelt (ebd., 2018, vgl. S.195). Gerade mit dem Aufkommen des Internets in den späten 1990er Jahren entstanden Online-Jobbörsen und Karriereplattformen, die die Verbreitung von Stellenanzeigen und Online-Bewerbungen erleichterten. Eine zusätzlich automatisierte Bewerberverwaltung und -filterung, die Funktion, Suchmaschinen nach Anzeigen zu filtern und die gesteigerte Reichweite verursachten eine Explosion der Zahl an Bewerbungen (Wilke & Bendel, 2022, vgl. S. 649, 650). Hinzu kamen soziale Netzwerke wie LinkedIn und Facebook, die diese Entwicklung zusätzlich befeuerten. Als mögliche Lösung wurde die Verwendung von automatisierten KI- gestützten gesehen. So setzte mit dem Beginn des 21. Jahrhunderts die verstärkte Integration von KI-basierten Technologien im Recruiting-Prozess ein, der bis zum jetzigen Zeitpunkt seinen Höhepunkt erreicht hat (ebd., 2022, vgl. S.655).
Die Rolle von KI in Bewerbungssystemen – Was macht die KI mit meiner Bewerbung?
Algorithmen werden in KI- gestützten Recruiting-Prozessen genutzt, um Daten aus Bewerbungen, Lebensläufen und Online-Daten aus verschiedenen sozialen Netzwerken zu analysieren. Dies ermöglicht die Erstellung von ausführlichen Kandidat*innenprofilen, den Abgleich von Qualifikationen und die Bewertung potenzieller Mitarbeiter*innen (Wilke & Bendel, 2022, vgl. S.661). Die KI entscheidet, also ob du zum Unternehmen passt oder auch nicht!
Die technologischen Potenziale im Bereich des Recruitings sind vielfältig und reichen von vorab geführten Gesprächen mit Chatbots bis zur automatisierten Analyse schriftlicher Bewerbungsunterlagen, um deine Fachkompetenz und Berufserfahrung zu bewerten. Zudem ermöglicht KI die maschinelle Auswertung von Videobewerbungen, um sogar Softskills wie Selbstsicherheit, Begeisterungsfähigkeit und Kommunikationskompetenz der Bewerber*innen ermitteln zu können (Lochner & Preuß, 2018, vgl. S.198). Ergänzend werden Lernplattformen genutzt, sowohl zur Vorauswahl von Kandidat*innen als auch zur Überprüfung spezifischer Fähigkeiten (Wilke & Bendel, 2022, vgl. S.267, 648).
Chancengleichheit vs. Effizienz: Wo liegen die Grenzen der Automatisierung im Recruiting-Prozess?
KI-basierte Bewerbungssysteme bieten offensichtlich sowohl Vorteile als auch Nachteile. Einer der größten Vorteile ist die Zeitersparnis bei der Suche nach den vermeintlich perfekten Kandidat*innen. Durch den Einsatz von Algorithmen können unzählige Bewerbungen innerhalb kürzester Zeit analysiert und sortiert werden, was den Recruiting-Prozess erheblich beschleunigt (Adelmann & Wiedmer, 2017). Zudem können aus einem globalen Pool durch die Analyse von Daten und Verhaltensmustern potenzielle Talente identifiziert werden, die auf traditionellem Wege möglicherweise übersehen worden wären (Wilke & Bendel, 2022, vgl. S.268, 650). Auch für Bewerber*innen kann der Einsatz von KI-basierten Systemen von Vorteil sein, da sie dadurch schnelles Feedback erhalten und ihre Chancen auf eine erfolgreiche Bewerbung erhöhen können (Hagendorff, 2019, vgl. S.1).
Dennoch ergeben sich auch Herausforderungen und Bedenken beim Einsatz von KI in Recruiting-Prozessen. Zum einen besteht immer das Risiko von IT-Angriffen und Datenmissbrauch. Da es sich hauptsächlich um sensible, zum Teil private personenbezogene Daten handelt, müssen daher verschiedene Sicherheitsvorkehrungen, wie Überwachungen oder Verschlüsselungen getroffen werden (Adelmann & Wiedmann, 2017, vgl. S.6). Eine zentrale Frage betrifft auch die Transparenz und Nachvollziehbarkeit von KI-Algorithmen, da diese in der Regel komplexe Modelle darstellen, deren Entscheidungsgrundlagen nicht immer leicht zu verstehen sind. Und in vielen Fällen wissen die Bewerber*innen nicht einmal, dass sie von einer Maschine bewertet wurden (ebd., 2017, vgl. S.5).
Sogenannte Black-Boxen stellen ebenfalls ein großes Problem dar, da oftmals selbst die Entwickler*innen dieser Systeme nicht jeden Schritt in deren Funktionsweise nachvollziehen können (Adelmann & Wiedmer, 2017, vgl. S.2).
Hochentwickelten AI-Roboter fungiert als Richter in einem Recrutierungsprozess und verwendet eine Waage, um die Qualifikationen menschlicher Kandidat*innen abzuwägen.
Chanchengleichheit oder Chancenungleichheit durch KI?
Ein zentraler Kritikpunkt liegt daher vor allem in der entstehenden Unschärfe bei der Auswahl von Kandidat*innen. Aufgrund welches Kriteriums wurde die eine Bewerbung also tatsächlich abgelehnt? Liegt es am Geschlecht, der tatsächlichen Leistung oder Sonstiges ((Dastin, 2018)?
KI-Algorithmen sind teilweise bereits so kompliziert und undurchsichtig, dass die Gründe für die Ablehnung von Bewerber*innen nicht immer nachvollzogen werden können. Denn in unserer Gesellschaft herrscht zwar die Annahme, dass Algorithmen auf objektiven Kriterien basieren und somit keine Vorurteile wie Menschen haben können. Allerdings haben Studien dazu bereits gezeigt, dass algorithmische Diskriminierung stattfindet, ohne dass sie erkannt wird (Scherr et. al, 2017, vgl. S.39). Denn Technologien und die Gesellschaft stehen immer in Wechselbeziehung zueinander. Das bedeutet, dass die Gesellschaft die Entwicklung und den Einsatz von Technologien beeinflusst und Technologien soziale Werte und Normen der Gesellschaft spiegeln und verstärken können. Soziale Werte werden so in die Technologien übertragen und eingeschrieben. Wirken aber gleichzeitig auf die Gesellschaft zurück und umgekehrt (Hagendorff, 2019, vgl. S.1).
Algorithmen in Recruiting-Prozessen funktionieren also ebenfalls mithilfe von mathematischen Anweisungen. Dennoch kann Diskriminierung stattfinden, wenn sie in ihren Entscheidungsgrundlagen eben Vorurteile oder strukturellen Ungleichheiten der Gesellschaft widerspiegeln (Black & Esch, 2020, vgl. S. 9). Diese meist unbeabsichtigte Verzerrung kann beispielsweise bereits in den verwendeten Daten eingeschrieben sein (Draude et. al, 2020, vgl. S.328). Das Resultat ist Diskriminierung von KI. Daraus ergibt sich die Notwendigkeit, die Auswirkungen, die entstehen können, sorgfältig zu untersuchen. Es muss auf diese Probleme aufmerksam gemacht werden, um geeignete Gegenmaßnahmen ergreifen zu können.
Fazit: Die Zukunft des Recruiting- Zwischen Fortschritt und Verantwortung
KI-basierte Bewerbungssysteme haben zweifelsohne das Potenzial, den Recruiting-Prozess effizienter zu gestalten. Doch es gibt auch potenzielle Risiken und Gefahren, die nicht außer Acht gelassen werden dürfen. Algorithmen können voreingenommen sein und somit für eine ungleiche Behandlung der Bewerber*innen sorgen. Denn es gilt: KI-Algorithmen sind nur scheinbar objektiv und vorurteilsfrei! Aus diesem Grund ist es wichtig, ethische Richtlinien in der Implementierung von KI im Recruiting-Prozess zu berücksichtigen und sicherzustellen, dass die Algorithmen fair und transparent sind. Chancengleichheit darf nicht zugunsten von Effizienz geopfert werden. Es müssen Lösungsansätze gefunden werden, um die Vorteile von KI-basierten Bewerbungssystemen zu nutzen und gleichzeitig eine faire Auswahl der Bewerber*innen zu garantieren. Die Zukunft des Recruitings liegt also zwischen Fortschritt und Verantwortung – nur wenn wir uns dieser Verantwortung bewusst sind, können wir das volle Potenzial der Künstlichen Intelligenz im Recruiting ausschöpfen.
Was getan werden kann- siehe auch: https://media-bubble.de/wieso-muss-ki-auch-ethische-herausforderungen-meistern/
Algorithmus Fails- siehe auch: https://media-bubble.de/knapp-daneben-ist-auch-vorbei-algorithmus-fails/
Quellen:
Adelmann, L., & Wiedmer, J. (2017). Der Einsatz von Künstlicher Intelligenz in der Rekrutierung. Universität Basel.
Black, J. S., & van Esch, P. (2020). AI-enabled recruiting: What is it and how should a manager use it?. Business Horizons, 63(2), 215-226.
Dastin, J., (2018). Amazon scraps secret AI recruiting tool that showed bias against women (online). Reuters. 11.10.2018 (Zugriff am: 11.12..2023). Verfügbar unter: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazonscraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G.
Draude, C., Klumbyte, G., Lücking, P., & Treusch, P. (2020). Situated algorithms: a sociotechnical systemic approach to bias. Online Information Review, 44(2), 325-342.
Hagendorff, T. (2019). Maschinelles Lernen und Diskriminierung: Probleme und Lösungsansätze. Österreichische Zeitschrift für Soziologie, 44(1), 53-66.
Lochner, K., & Preuß, A. (2018). Digitales Recruiting. Gruppe. Interaktion. Organisation.
Zeitschrift für Angewandte Organisationspsychologie (GIO), 49(3), 193-202.
Rixecker K. (2018): Diskriminierung: Deshalb platzte Amazons Traum vom KI-gestützten
Recruiting (online) 11.10.2018. Verfügbar unter: https://t3n.de/news/diskriminierung-des-halb-platzte-amazons-traum-vom-kigestuetzten-re-cruiting-1117076/ .
Scherr, A., El-Mafaalani, A., & Yüksel, G. (Eds.). (2017). Handbuch Diskriminierung. Springer-Verlag.
Wilke, G., & Bendel, O. (2022). KI-gestütztes Recruiting–technische Grundlagen, wirtschaftliche Chancen und Risiken sowie ethische und soziale Herausforderungen. HMD-Praxis der Wirtschaftsinformatik, 59(2), 647-666.
Fabian Runkel
Pixabay