KI-Cockpit für menschliche Aufsicht - ein interaktiver Showcase für den Bereich Personalauswahl

Forschungsprojekt KI-Cockpit gefördert von der Abteilung Denkfabrik Digitale Arbeitsgesellschaft des Bundesministeriums für Arbeit und Soziales (BMAS) - Fieldlab Human Resources - CHEMISTREE GmbH

Das Fieldlab HR im KI-Cockpit

Der Einsatz von Algorithmen und KI in den Bereichen Stellenbesetzung und Aufgabenverteilung ist besonders sensibel und gemäß des europäischen AI-Acts ein Hochrisiko-Bereich.

Häufig kommt es beim Einsatz von KI zu unerwünschten Verzerrungen und Diskriminierungen. Das KI-Cockpit für den Bereich HR soll gewährleisten, dass mögliche Diskriminierungen möglichst früh entdeckt und vermieden werden.

Beim Hinweis auf diskriminierende Prozesse werden die Anwender:innen über das KI-Cockpit informiert und in die Lage versetzt, als Human in Command die erforderlichen Maßnahmen ergreifen.

Ziel dieses Fieldlabs ist es, einen Matching-Prozess zwischen Arbeitssuchenden und Arbeitgebern zu ermöglichen, der den hohen Anforderungen an Diversität und Gerechtigkeit im Bereich HR entspricht.

"Human in the loop" und "Human on the loop"

Für die verschiedenen Hochrisikobereiche von KI gibt es unterschiedliche Wünsche nach menschlicher Aufsicht.

Der Human ON the loop überwacht kumulierte Daten, die über einen Zeitraum gesammelt wurden.

Bei Human IN the loop kann der Mensch aktiv eingreifen. Er kann die Ergebnisse der KI bei Bedarf prüfen bevor eine Weiterverarbeitung erfolgt.
In den Systemen, die CHEMISTREE als Anbieter entwickelt, wird eine Kombination aus beiden Arten der menschlichen Aufsicht umgesetzt.

Die Variante des Human "in the loop" wird einerseits abgebildet, indem die einzelnen Matches von beiden Matchingpartner*innen überprüft und daraufhin bestätigt oder abgelehnt werden. Andererseits haben die Betreiber von CHEMISTREE-Plattformen die Möglichkeit, im Backend der Plattform die Matches einzusehen und ebenfalls zu überprüfen.

Der Human "on the loop" kommt im Cockpit zum Einsatz: Durch die Betrachtung von Zeiträumen kann er Biases erkennen. Wir sind der Meinung, dass dies im HR-Bereich wichtig ist, da hier nicht anhand von Einzelfällen ersichtlich ist, dass strukturelle Verzerrungen stattfinden, sondern Zeitreihen und somit kumulierte Daten benötigt werden, um diese zu erkennen.

 

Weitere Informationen zum Forschungsprojekt gibt es hier.

Das KI-Cockpit ist als Open Source Software kostenlos verfügbar und kann von Unternehmen für die eigenen Bedürfnisse angepasst werden.
Hier geht es zum GitHub Repository.

Nachfolgend gelangen Sie zu den Anschauungsbeispielen im Fieldlab "Human Resources":

Die Ergebnisse dieses Fieldlabs wurden von der CHEMISTREE GmbH erarbeitet.

CHEMISTREE bietet Matching-Plattformen als SaaS, die von Unternehmen für Recruiting, Mentoring oder die interne Stellenbesetzung verwendet werden, um "einfach die Richtigen" zusammen zu bringen. Mehr zu diesen Lösungen finden Sie hier.