”Tack för visat intresse, men vi har valt att gå vidare med en annan kandidat.”

Känner du igen de orden har du säkert grubblat över vad som gick fel. Var det något du sa? Något du inte sa? Eller hade det faktum att du, trots din gedigna erfarenhet, inte fick jobbet, något att göra med din ålder, ditt namn eller ditt kön?

Att rekrytera rätt är en svår konst. Att rekrytera utan att blanda in fördomar tycks vara omöjligt:

– Det finns tydliga studier som visar att man tar mycket intryck av sådant som inte är relevant för tjänsten när man rekryterar. Rekryterarna dissar eller höjer kandidater omedvetet och kan påverka den sökandes prestation. Det ligger i vår ryggmärg att göra så, säger Åsa Edman Källströmer, vd för rekryteringsfirman TNG.

Rekryteringsroboten Tengai, som fått namn efter en halmhjälm som bars av japanska munkar i syfte att stänga ute synintryck, saknar dock ryggmärg. Tengai, som initialt har utvecklats av TNG i samarbete med ett startupföretag, ser inte könet på kandidaten som intervjuas, vet inte namnet på densamme och bryr sig inte om hur någon hälsar eller är klädd.

Den är, enligt Åsa Edman Källströmer, programmerad att självständigt genomföra en fördomsfri anställningsintervju genom att ställa kompetensbaserade frågor.

Tengais intervjumetodik och intervjuresultat är testade av en beteendepsykolog.

– Tanken är att Tengai ska användas i början av urvalsprocessen, så att våra rekryterare kan lägga fokus på de bästa kandidaterna. Vi vet att kandidater väljs bort på fel grunder, men gör man rätt i urvalet och ger alla samma förutsättningar får man fram andra slutkandidater än man brukar, säger Åsa Edman Källströmer.

Forskaren Mikael Laaksoharju, lektor i människa-datorinteraktion vid Uppsala universitet, är skeptisk till Tengais och andra AI-baserade rekryteringsverktygs påstådda objektivitet.

– Man ska inte ha en övertro på att algoritmerna löser rätt problem eller får problemen att försvinna. Algoritmer är användbara verktyg, om man använder dem rätt. Men på grund av okunskap eller av ekonomiska skäl blir det lätt en krock med vad vi människor anser vara rätt, säger Mikael Laaksoharju.

Och fel blir det, har det visat sig. Ett känt exempel är när Amazon testade en rekryteringsalgoritm som sorterade bort kvinnor systematiskt. Det är knappast så att det är missnöjda, misogyna män som skapat en algoritm i syfte att vara diskriminerande. Tvärtom hade algoritmskaparna förmodligen gjort sitt bästa för att undvika att beslut färgades av fördomar.

CV-optimering kommer att bli en nya affärsidé

Men algoritmer är enkelspåriga och reagerar på mönster. Amazonexemplet visar hur algoritmer, trots att man undviker att mata in data om till exempel kön, lik förbannat rotar fram saker som avslöjar könstillhörighet och premierar det som företaget historiskt premierat – egenskaperna hos de företrädesvis vita män som gjort karriär inom företaget.

Läs mer: AI skapar större löneskillnader

– Algoritmer imiterar det vi tyckte var bra tidigare och säger egentligen ganska mycket mer om en företagskultur. Det är farligt att tro att saker blir objektiva bara för att man har gjort en algoritm. Tar man inte hänsyn till att det finns snedvridningar, bias, så kommer algoritmerna att fortsätta upprätthålla dessa, såsom att systematiskt missgynna kvinnor, säger Mikael Laaksoharju.

German Bender, programchef för arbetsmarknad på Arena idé, forskar på Handelshögskolan i Stockholm om fackligt inflytande på algoritmer:

– Det är svårt att rensa bort allt som på något sätt kan förknippas med att till exempel vara kvinna. Algoritmen kommer att lista ut att det rör sig om en kvinna ändå, säger han.

Han anser att algoritmer kan bidra till mycket positivt, men att det blir problem just när man börjar tillskriva dem objektivitet och kvalitet, om vi ger dem mer makt än de borde ha eller om beslut fattas helt utan mänsklig inblandning.

Algoritmer är ett nytt inslag av maktutövning i arbetslivet

Teoretiskt kan till exempel rekryteringar göras bättre – i bemärkelsen mindre diskriminerande – med hjälp av algoritmer, tror German Bender. Men det kräver bättre och mer rättvisa data samt mänsklig närvaro för att korrigera fel som uppstår.

– Där har facket en roll att spela. Algoritmer förändrar arbetslivet på många sätt – de är ett nytt inslag av maktutövning i arbetslivet, så facken får fundera på hur de ska ta sig an de frågor som dyker upp. Det är viktigt att det finns parter med som inte har samma intressen som den som utvecklat algoritmen, säger German Bender.

Men åter till Tengai, roboten, som redan gjort ett antal anställningsintervjuer och fått positiv feedback av kandidaterna.

Hur vet vi att hon är fördomsfri?
– Tengai har inte tillgång till historiska data, kan inte tänka själv eller utveckla sitt lärande. Frågor och svar är validerade i en studie, det finns inga möjligheter till fördomar, hävdar Åsa Edman Källströmer.

Tengais utvärderingsalgoritm bygger på kompentensramverket Big Five-teorin (se faktaruta). Att det finns en transparens i hur besluten fattas är viktigt för att motverka diskriminering. Transparensen kan dock skapa andra problem. Mikael Laaksoharju befarar att det kommer att växa fram praktiker som utnyttjar att algoritmer är förutsägbara och enkelspåriga.

– Det innebär ju att jag kan läsa på om Big Five och räkna ut hur jag ska svara. CV-optimering kommer att bli en ny affärsidé och då faller hela grejen med AI-rekrytering, säger han.

Fram till dess kanske Tengai ändå får möjlighet att ge dem som brukar bli bortsållade en chans. Om de överhuvudtaget får nys om lediga jobb, vill säga – algoritmernas funktion kan också verka diskriminerande.

Evelina Reuterfors är medievetarstudent vid Uppsala universitet och liberal debattör. Hon anser att hon, som ung kvinna, diskrimineras i och med att sökmotorer och sociala medier använder sig av algoritmer som gör att unga kvinnor sorteras bort. Inte på grund av omedveten snedvridning, utan av krasst ekonomiska skäl.

Annonsörerna når betydligt fler män för sina pengar helt enkelt.

– De flesta unga söker i dag sina jobb via internet. Men många jobbannonser kommer aldrig upp i kvinnors flöden. Eftersom unga kvinnor är mer benägna att reagera på annonser, är algoritmerna utformade så att klick från oss kostar mer.

– Detta handlar om marknadsmekanismer som är helt okej i sig, men som skapar problem, säger hon.

Frågan är om algoritmerna kanske ger upphov till fler problem än de löser.

– Genom att försöka lösa mänskliga problem med tekniska lösningar får man andra problem och skapar dessutom en tråkigare, stelare och mer skenhelig värld, säger Mikael Laaksoharju.

Exempel på hur algoritmer missgynnar vissa grupper

➧ Kvinnliga Uberförare tjänar sju procent mindre i timmen än sina manliga kollegor eftersom algoritmerna premierar hastighet – och män kör 2,2 procent snabbare.

Källa: Ny teknik

➧ Algoritmer för villkorlig frigivning av interner i USA, där bland annat hemort och brottslighet hos släkt och vänner vägs in, får till följd att personer från fattiga och brottsdrabbade områden bedöms mer återfallsbenägna än de som bor i välbärgade stadsdelar. Betydligt fler afroamerikaner bedöms också som återfallsbenägna.

Källa: Advokaten