Det kan därför vara lockande att ta hjälp av AI för att skapa mer objektiva rekryteringsprocesser. Men bara för att ett beslut stöds av en algoritm betyder det inte automatiskt att det är neutralt.
Så vad händer när våra mänskliga feltänk flyttar in i tekniken?
Vad kan AI användas till inom rekrytering?
AI är ett brett samlingsbegrepp för tekniker som kan utföra uppgifter som vanligtvis kräver mänskliga förmågor, exempelvis att analysera stora mängder information, identifiera mönster eller generera innehåll.
Inom rekrytering kan AI bland annat användas för att:
- analysera och strukturera information i ansökningshandlingar
- stötta screening och matchning utifrån definierade kriterier
- skapa och förbättra text och kommunikation
- stötta olika typer av tester och bedömningar.
Tekniken kan effektivisera delar av processen och hjälpa oss att hantera stora mängder information. Men för att kunna värdera resultatet behöver vi också förstå vilka data, kriterier och antaganden som ligger bakom.
Var får AI sina svar ifrån?
AI-system kan tränas och utvecklas på olika sätt. Två grundläggande begrepp inom maskininlärning är övervakad och oövervakad inlärning.
Vid övervakad inlärning tränas en modell på exempel där det redan finns information om vilket resultat som är rätt eller önskvärt. Om vi använder historiska data för att lära ett system vilka egenskaper som kännetecknar en framgångsrik medarbetare blir det därför viktigt att fundera över hur vi har definierat framgång och vilka människor som finns representerade i underlaget.
Vid oövervakad inlärning får systemet i stället identifiera mönster och strukturer i data utan motsvarande fördefinierade svar.
Det finns många fler sätt att utveckla och använda AI. Men en viktig princip består: resultatet påverkas av data, design, mål och de mänskliga val som ligger bakom systemet.
Och det får konsekvenser när tekniken används för att fatta eller stödja beslut om människor.
När historiska mönster blir framtida beslut
Rekryteringsprocesser har aldrig varit fria från bias. Vi människor kan exempelvis favorisera personer som liknar oss själva eller låta första intryck och tidigare erfarenheter påverka vår bedömning.
AI kan hjälpa till att skapa mer konsekventa processer, men tekniken kan också reproducera mönster som redan finns i historiska data.
Ett uppmärksammat exempel är Amazons tidigare rekryteringsverktyg. Systemet tränades på historiska ansökningar till tekniska roller där män var överrepresenterade. Resultatet blev att systemet lärde sig mönster som missgynnade kvinnliga kandidater.
Problemet var alltså inte att AI hade egna fördomar. Systemet lärde sig av ett underlag som speglade en redan existerande verklighet.
Det illustrerar en central utmaning med AI i rekrytering: om historiska data innehåller snedvridningar finns en risk att även tekniken återskapar dem.
Från mänskliga till maskinella feltänk
Implicit bias och omedvetna preferenser kan påverka allt från kravprofiler och annonser till intervjuer och slutligt urval.
När AI används förändras inte den utmaningen automatiskt.
Om ett system exempelvis tränas på vilka personer som historiskt har lyckats i en viss roll behöver vi fråga oss vad ”lyckats” egentligen betyder. Vilka kriterier har använts? Vilka har tidigare fått möjligheten att lyckas? Och riskerar systemet att förstärka gamla mönster när det används för att identifiera framtida kandidater?
Det är därför inte tillräckligt att fråga om ett AI-system är effektivt. Vi behöver också förstå vad det optimerar för och vilka konsekvenser användningen kan få.
Använd AI ansvarsfullt
AI kan vara ett värdefullt stöd i rekrytering, men tekniken behöver användas tillsammans med relevant kompetens, kritiskt tänkande och mänsklig bedömning.
Några perspektiv att ha med sig:
Data och representativitet: Förstå vilken data systemet bygger på och om underlaget riskerar att skapa eller förstärka snedvridningar.
Transparens och förståelse: Organisationen behöver förstå hur AI används i processen, vilka uppgifter som behandlas och vilken roll tekniken spelar i bedömningen.
Kontinuerlig utvärdering: Följ upp resultat och effekter. Undersök om olika grupper påverkas på olika sätt och om systemet faktiskt bidrar till den kvalitet ni eftersträvar.
Mänsklig kompetens: AI bör vara ett stöd, inte en ersättning för professionell bedömning. Rekryterare behöver fortfarande förstå rollen, människan, verksamheten och den kompetens som faktiskt krävs.
Kunskap och ansvar: De som använder AI-verktyg behöver förstå både möjligheterna och begränsningarna och hålla sin kunskap uppdaterad i takt med att tekniken utvecklas.
AI kan hjälpa oss att fatta bättre beslut. Men tekniken befriar oss inte från ansvaret för besluten.
När AI används i rekrytering blir därför den viktigaste frågan kanske inte om människan eller maskinen är bäst på att välja. Snarare handlar det om hur vi använder tekniken för att stärka kvaliteten i processen utan att förlora den mänskliga förståelse och expertis som rekrytering kräver.
Vidare läsning
Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters.
Sumpter, David J. T. (2019). Uträknad: sanningen om algoritmerna som styr världen. Volante.
