ITU-forskere hjælper jobindex med at gøre jobrekruttering bedre og mindre bias
Rekrutteringsbias har længe været en hindring for større diversitet på arbejdspladsen. Indtil videre har AI-løsninger videreproduceret denne bias, men ny forskning skal gøre op med dette.
EU har for nyligt vedtaget verdens første omfattende horisontale forordning om brug af kunstig intelligens. Heri udpeges AI's brug til jobrekruttering som et højrisikoområde. Virksomheder og organisationer har derfor ansvar for at sikre, at deres platforme og værktøjer lever op til reglerne.
Om end sofistikerede AI-løsninger sparer rekrutteringskonsulenter tid ved at screene ansøgere på forskellige basisparametre, fjerner det ikke diskrimination fra rekrutteringsprocessen. Eftersom algoritmerne trænes på data produceret af mennesker, manifesterer de samme menneskelige biases sig i AI løsninger. Dette er problematisk for minoriteter der forskelsbehandles, såvel som virksomheder der går glip af fordelene ved diversitet.
Rekrutteringsbias resulterer bl.a. i at etnokulturelle minoriteter tager i mod jobs, som de er overkvalificeret til. Selv i Danmark, hvor efterspørgslen på arbejdskraft er høj, er denne tendens særlig tydelig. Det er essentielt at eliminere rekrutteringsbias, hvis vi skal komme kompetencemangel til livs i Europa.
Hvis både mennesker og AI har biases - hvordan er fair og lige repræsentation så mulig i jobrekruttering?
Det spørgsmål har Jobindex stillet ITU-lektor Toine Bogers og postdoc Mesut Kaya. Forskningsprojekt er i déts opstartsfase, og forventes at være færdigt efter 3 år. Formålet med forskningen er at gøre rekrutteringsprocessen på begge sider mere fair og øge kvaliteten af jobmatching, hvilket kræver at vi bliver endnu bedre til at udpege skævheder. Dette skal ske ved at gennemføre kvalitative undersøgelser blandt jobsøgende og rekrutteringskonsulenter og undersøge det data, den nuværende rekrutteringsproces er baseret på.
Projektets mål er at udvikle et såkaldt ”fairness-dashboard” til at overvåge relevante målestandarder og sikrer fair rekruttering, at udvikle job- og kandidatanbefalingsalgoritmer, der tager højde for forskellige lighedsparametre, og at integrere løsningerne i Jobindex-platformen, som skal være klar til udrulning i slutningen af projektet i 2027.
"Projektet har potentiale til at bidrage til forskning i 'fair AI' inden for ressource styring ved at være det første til at stille skarpt på bias og lighedsproblematikker på tværs af flere interessenter i udviklingen af job- og kandidatanbefalingsalgoritmer," siger Mesut Kaya, hvis ph.d.-afhandling omhandlede anbefalingssystemer. Forskningen og dens kommende resultater er relevante for alle der arbejder med rekruttering og fair AI.
"Vi ønsker at fremme forskningen inden for fair AI, men vi skal sikre, at vi ikke går på kompromis med nøjagtigheden, når vi fokuserer på lighed og repræsentation som parametre i teknologien. Vi skal finde en god balance, for at Jobindex kan bruge teknologien. Forhåbentlig vil vi være i stand til at øge mangfoldighed uden at gøre teknologien mindre nøjagtig,” siger Toine Bogers.
Læs den originale artikel her.
Om end sofistikerede AI-løsninger sparer rekrutteringskonsulenter tid ved at screene ansøgere på forskellige basisparametre, fjerner det ikke diskrimination fra rekrutteringsprocessen. Eftersom algoritmerne trænes på data produceret af mennesker, manifesterer de samme menneskelige biases sig i AI løsninger. Dette er problematisk for minoriteter der forskelsbehandles, såvel som virksomheder der går glip af fordelene ved diversitet.
Rekrutteringsbias resulterer bl.a. i at etnokulturelle minoriteter tager i mod jobs, som de er overkvalificeret til. Selv i Danmark, hvor efterspørgslen på arbejdskraft er høj, er denne tendens særlig tydelig. Det er essentielt at eliminere rekrutteringsbias, hvis vi skal komme kompetencemangel til livs i Europa.
Hvis både mennesker og AI har biases - hvordan er fair og lige repræsentation så mulig i jobrekruttering?
Det spørgsmål har Jobindex stillet ITU-lektor Toine Bogers og postdoc Mesut Kaya. Forskningsprojekt er i déts opstartsfase, og forventes at være færdigt efter 3 år. Formålet med forskningen er at gøre rekrutteringsprocessen på begge sider mere fair og øge kvaliteten af jobmatching, hvilket kræver at vi bliver endnu bedre til at udpege skævheder. Dette skal ske ved at gennemføre kvalitative undersøgelser blandt jobsøgende og rekrutteringskonsulenter og undersøge det data, den nuværende rekrutteringsproces er baseret på.
Projektets mål er at udvikle et såkaldt ”fairness-dashboard” til at overvåge relevante målestandarder og sikrer fair rekruttering, at udvikle job- og kandidatanbefalingsalgoritmer, der tager højde for forskellige lighedsparametre, og at integrere løsningerne i Jobindex-platformen, som skal være klar til udrulning i slutningen af projektet i 2027.
"Projektet har potentiale til at bidrage til forskning i 'fair AI' inden for ressource styring ved at være det første til at stille skarpt på bias og lighedsproblematikker på tværs af flere interessenter i udviklingen af job- og kandidatanbefalingsalgoritmer," siger Mesut Kaya, hvis ph.d.-afhandling omhandlede anbefalingssystemer. Forskningen og dens kommende resultater er relevante for alle der arbejder med rekruttering og fair AI.
"Vi ønsker at fremme forskningen inden for fair AI, men vi skal sikre, at vi ikke går på kompromis med nøjagtigheden, når vi fokuserer på lighed og repræsentation som parametre i teknologien. Vi skal finde en god balance, for at Jobindex kan bruge teknologien. Forhåbentlig vil vi være i stand til at øge mangfoldighed uden at gøre teknologien mindre nøjagtig,” siger Toine Bogers.
Læs den originale artikel her.
.ashx?h=159&iar=0&w=903&hash=536A7B5D861DD75A59E3C30E89592FA0)