Hoppa till huvudinnehåll
Diskriminering

Övertro på algoritmer vid rekrytering

Slut på diskriminering och stopp för luddiga beslut som alltid gynnar vita män. Algoritmerna utlovade ett framtida arbetsliv fritt från fördomar och sunkiga värderingar. Men icke. Al var visst inte det objektiva svaret på våra böner om rättvisa.
Johanna Rovira Publicerad 14 januari 2021, kl 08:41
Algoritmer är inte så objektiva och sanningsenliga som vi tror. De upprätthåller de snedvridningar som redan finns, reagerar på mönster och premierar det som historiskt premierats – företrädesvis vita män. Illustration: Jonas Bergstrand

”Tack för visat intresse, men vi har valt att gå vidare med en annan kandidat.”

Känner du igen de orden har du säkert grubblat över vad som gick fel. Var det något du sa? Något du inte sa? Eller hade det faktum att du, trots din gedigna erfarenhet, inte fick jobbet, något att göra med din ålder, ditt namn eller ditt kön?

Att rekrytera rätt är en svår konst. Att rekrytera utan att blanda in fördomar tycks vara omöjligt:

– Det finns tydliga studier som visar att man tar mycket intryck av sådant som inte är relevant för tjänsten när man rekryterar. Rekryterarna dissar eller höjer kandidater omedvetet och kan påverka den sökandes prestation. Det ligger i vår ryggmärg att göra så, säger Åsa Edman Källströmer, vd för rekryteringsfirman TNG.

Rekryteringsroboten Tengai, som fått namn efter en halmhjälm som bars av japanska munkar i syfte att stänga ute synintryck, saknar dock ryggmärg. Tengai, som initialt har utvecklats av TNG i samarbete med ett startupföretag, ser inte könet på kandidaten som intervjuas, vet inte namnet på densamme och bryr sig inte om hur någon hälsar eller är klädd.

Den är, enligt Åsa Edman Källströmer, programmerad att självständigt genomföra en fördomsfri anställningsintervju genom att ställa kompetensbaserade frågor.

Tengais intervjumetodik och intervjuresultat är testade av en beteendepsykolog.

– Tanken är att Tengai ska användas i början av urvalsprocessen, så att våra rekryterare kan lägga fokus på de bästa kandidaterna. Vi vet att kandidater väljs bort på fel grunder, men gör man rätt i urvalet och ger alla samma förutsättningar får man fram andra slutkandidater än man brukar, säger Åsa Edman Källströmer.

Forskaren Mikael Laaksoharju, lektor i människa-datorinteraktion vid Uppsala universitet, är skeptisk till Tengais och andra AI-baserade rekryteringsverktygs påstådda objektivitet.

– Man ska inte ha en övertro på att algoritmerna löser rätt problem eller får problemen att försvinna. Algoritmer är användbara verktyg, om man använder dem rätt. Men på grund av okunskap eller av ekonomiska skäl blir det lätt en krock med vad vi människor anser vara rätt, säger Mikael Laaksoharju.

Och fel blir det, har det visat sig. Ett känt exempel är när Amazon testade en rekryteringsalgoritm som sorterade bort kvinnor systematiskt. Det är knappast så att det är missnöjda, misogyna män som skapat en algoritm i syfte att vara diskriminerande. Tvärtom hade algoritmskaparna förmodligen gjort sitt bästa för att undvika att beslut färgades av fördomar.

CV-optimering kommer att bli en nya affärsidé

Men algoritmer är enkelspåriga och reagerar på mönster. Amazonexemplet visar hur algoritmer, trots att man undviker att mata in data om till exempel kön, lik förbannat rotar fram saker som avslöjar könstillhörighet och premierar det som företaget historiskt premierat – egenskaperna hos de företrädesvis vita män som gjort karriär inom företaget.

Läs mer: AI skapar större löneskillnader

– Algoritmer imiterar det vi tyckte var bra tidigare och säger egentligen ganska mycket mer om en företagskultur. Det är farligt att tro att saker blir objektiva bara för att man har gjort en algoritm. Tar man inte hänsyn till att det finns snedvridningar, bias, så kommer algoritmerna att fortsätta upprätthålla dessa, såsom att systematiskt missgynna kvinnor, säger Mikael Laaksoharju.

German Bender, programchef för arbetsmarknad på Arena idé, forskar på Handelshögskolan i Stockholm om fackligt inflytande på algoritmer:

– Det är svårt att rensa bort allt som på något sätt kan förknippas med att till exempel vara kvinna. Algoritmen kommer att lista ut att det rör sig om en kvinna ändå, säger han.

Han anser att algoritmer kan bidra till mycket positivt, men att det blir problem just när man börjar tillskriva dem objektivitet och kvalitet, om vi ger dem mer makt än de borde ha eller om beslut fattas helt utan mänsklig inblandning.

Algoritmer är ett nytt inslag av maktutövning i arbetslivet

Teoretiskt kan till exempel rekryteringar göras bättre – i bemärkelsen mindre diskriminerande – med hjälp av algoritmer, tror German Bender. Men det kräver bättre och mer rättvisa data samt mänsklig närvaro för att korrigera fel som uppstår.

– Där har facket en roll att spela. Algoritmer förändrar arbetslivet på många sätt – de är ett nytt inslag av maktutövning i arbetslivet, så facken får fundera på hur de ska ta sig an de frågor som dyker upp. Det är viktigt att det finns parter med som inte har samma intressen som den som utvecklat algoritmen, säger German Bender.

Men åter till Tengai, roboten, som redan gjort ett antal anställningsintervjuer och fått positiv feedback av kandidaterna.

Hur vet vi att hon är fördomsfri?
– Tengai har inte tillgång till historiska data, kan inte tänka själv eller utveckla sitt lärande. Frågor och svar är validerade i en studie, det finns inga möjligheter till fördomar, hävdar Åsa Edman Källströmer.

Tengais utvärderingsalgoritm bygger på kompentensramverket Big Five-teorin (se faktaruta). Att det finns en transparens i hur besluten fattas är viktigt för att motverka diskriminering. Transparensen kan dock skapa andra problem. Mikael Laaksoharju befarar att det kommer att växa fram praktiker som utnyttjar att algoritmer är förutsägbara och enkelspåriga.

– Det innebär ju att jag kan läsa på om Big Five och räkna ut hur jag ska svara. CV-optimering kommer att bli en ny affärsidé och då faller hela grejen med AI-rekrytering, säger han.

Fram till dess kanske Tengai ändå får möjlighet att ge dem som brukar bli bortsållade en chans. Om de överhuvudtaget får nys om lediga jobb, vill säga – algoritmernas funktion kan också verka diskriminerande.

Evelina Reuterfors är medievetarstudent vid Uppsala universitet och liberal debattör. Hon anser att hon, som ung kvinna, diskrimineras i och med att sökmotorer och sociala medier använder sig av algoritmer som gör att unga kvinnor sorteras bort. Inte på grund av omedveten snedvridning, utan av krasst ekonomiska skäl.

Annonsörerna når betydligt fler män för sina pengar helt enkelt.

– De flesta unga söker i dag sina jobb via internet. Men många jobbannonser kommer aldrig upp i kvinnors flöden. Eftersom unga kvinnor är mer benägna att reagera på annonser, är algoritmerna utformade så att klick från oss kostar mer.

– Detta handlar om marknadsmekanismer som är helt okej i sig, men som skapar problem, säger hon.

Frågan är om algoritmerna kanske ger upphov till fler problem än de löser.

– Genom att försöka lösa mänskliga problem med tekniska lösningar får man andra problem och skapar dessutom en tråkigare, stelare och mer skenhelig värld, säger Mikael Laaksoharju.

Exempel på hur algoritmer missgynnar vissa grupper

➧ Kvinnliga Uberförare tjänar sju procent mindre i timmen än sina manliga kollegor eftersom algoritmerna premierar hastighet – och män kör 2,2 procent snabbare.

Källa: Ny teknik

➧ Algoritmer för villkorlig frigivning av interner i USA, där bland annat hemort och brottslighet hos släkt och vänner vägs in, får till följd att personer från fattiga och brottsdrabbade områden bedöms mer återfallsbenägna än de som bor i välbärgade stadsdelar. Betydligt fler afroamerikaner bedöms också som återfallsbenägna.

Källa: Advokaten

ALGORITMER

  • En algoritm är en uppsättning regler som används för att hantera stora mängder information, eller data.
  • Algoritmer är programmerade att bestämma hur data ska hanteras, och vad de ska leda till.
     

BIG FIVE-TEORIN

En personlighetsteori inom psykologin, även kallad femfaktorteorin, som bygger på forskning och utgår från att alla människor har personligheter som är oberoende av situationer eller kultur:

  • Öppenhet (fantasi, estetik, känslor, aktiviteter, tankar, värderingar)
  • Samvetsgrannhet (duglighet, ordningssamhet, plikttrogenhet, prestationssträvan, självdisciplin, eftertänksamhet)
  • Extraversion (tillgivenhet, sällskaplighet, självhävdelse, vitalitet, spänningssökande, gladlynthet)
  • Tillmötesgående (tillit, rättframhet, osjälviskhet, följsamhet, blygsamhet, ömsinthet)
  • Neurotisism (ångest, irritationsbenägen, nedstämdhet, självosäkerhet, impulsivitet, stresskänslighet)
Diskriminering

Rasism på Amnestys kontor – så tog de tag i det

Utrikes födda personer upplever en betydligt sämre arbetsmiljö än inrikes födda. På Amnestys svenska kontor blev situationen till slut ohållbar.
Noa Söderberg Publicerad 19 januari 2024, kl 07:39
Jämlikhetsstrategen Armina Etminan säger att hon tog jobbet på Amnesty eftersom organisationen menar allvar med sitt interna jämlikhetsarbete. Foto: Anders G Warne

Den 12 december 2020 publicerades en uppseendeväckande nyhet: Amnestys generalsekreterare i Sverige avgår efter anklagelser om rasism på föreningens kontor. En av världens mest profilerade människorättsorganisationer beskrevs i Aftonbladet som en arbetsplats präglad av rasistisk utfrysning och användning av ”n-ordet”.

För Marianne Gyllenpistol, ordförande i Unionenklubben, var det ingen överraskning. När historien blev offentlig hade hon redan företrätt flera medlemmar som upplevt rasistiska kommentarer och diskriminerande begränsningar av karriärutvecklingen – och fått sin kompetens ifrågasatt när de lyft problemet.

Liknande problem hade uppdagats på Amnestysektioner runt om i världen. På huvudkontoret i London inleddes en utredning som senare skulle visa att det fanns både aktiv rasism – okvädesord som avfärdades som skämt, vidrörande av svarta personers hår utan samtycke – och en mer subtil rasistisk struktur där chefer i London behandlade personal utanför Europa som om de hade lägre kompetens.

"Amnesty är hycklare"

Frustrationen kulminerade när organisationen tog offentlig ställning för den antirasistiska gräsrotsrörelsen Black Lives Matter. Anställda och medlemmar kom med hårda anklagelser om att Amnesty var hycklare, även i Sverige.

Marianne Gyllenpistol, ordförande i Unionenklubben på Amnesty.
Marianne Gyllenpistol, ordförande i Unionenklubben på Amnesty. Foto: Privat

– Det var kaosartat och väldigt känsligt till en början. Ett smärtsamt uppvaknande. Det blev tydligt att vi inte alls hade det systematiska arbetet för att förhindra att sådant här sker, säger Marianne Gyllenpistol.

Den bristen finns hos fler arbetsgivare. I höstas publicerade Arbetsmiljöverket en rapport som visar att utrikes födda upplever en klart sämre arbetsmiljö än inrikes födda. Av de förstnämnda svarar 12 procent att de utsatts för mobbning på jobbet. Bland inrikes födda är motsvarande siffra 6 procent.

Amnesty hade redan före krisen tagit fram en formell jämlikhetsstrategi. När stormen lade sig inleddes arbetet med att göra den till något mer än en pappersprodukt. Arbetsgivaren och facket började tillsammans ta fram planer, listor och mål.

Rekryterade jämlikhetsstrateg

En av de första åtgärderna var att rekrytera en jämlikhetsstrateg. Armina Etminan, som tidigare arbetat på stiftelsen Make Equal, fick jobbet. Hon tog plats i Amnestys svenska ledningsgrupp och fick ansvar för att jämlikhetsarbetet skulle genomsyra hela organisationen.

Konflikterna hade visat att det först och främst behövdes mer kunskap. På senare år har Amnestys anställda gått regelbundna utbildningar i bland annat minoritetsstress, ålderism och antimuslimsk rasism. Armina Etminan påpekar att sådant inte kan göras en gång och sedan bockas av.

– Kunskap är en färskvara. Det går inte att säga ”vi gick en utbildning och workshop om detta” och sedan tro att man är klar.

Problemet behöver också mätas, enligt henne. Amnesty införde regelbundna kartläggningar av arbetsmiljöproblem kopplade till ojämlikhet. Där ställs frågor om bland annat rasism, hbtqi-diskriminering och tillgänglighet för människor med funktionsnedsättning.

– Det finns en stor diskussion om hur man ställer sådana frågor på ett bra vis. Man kan till exempel integrera det i sina vanliga medarbetarundersökningar och göra det på ett sätt som bygger på anonymitet, frivillighet och självidentifikation.

Diskriminering i samhället återspeglas på jobbet

Därefter inleddes den svåraste delen – att göra jämlikhetsarbete till något som präglar varje avdelning dagligen. Exemplen på vad det innebär är många: nya upphandlingskrav på företagshälsovården, jämlika spelregler på möten, särskilda utbildningar för chefer. Varje avdelning har fått i uppdrag att använda jämlikhetschecklistor.

Armina Etminan ger några exempel på vad en sådan kan innehålla.

– Om jag ska planera en kampanj, skriva ett inlägg i sociala medier eller planera ett årsmöte, vad behöver jag då veta och kolla upp? Behöver vi göra en syntolkning av inlägget? Har vi vilrum, bönerum och rätt kost på mötet? Det handlar om att verkligen kolla i förväg.

Amnestys problem blev offentliga

Trots att ämnet är känsligt, problemet svårt att mäta och lösningarna tar tid så har Armina Etminan och Marianne Gyllenpistol ett övergripande råd till den som märker av rasism och diskriminering på jobbet: lyft på locket. Säg som det är.

Att man vågade göra det på Amnesty är enligt Marianne Gyllenpistol en av förklaringarna till att just deras situation blev offentligt uppmärksammad.

– Jag tror att om man skulle göra detta på andra arbetsplatser så skulle det uppdagas samma sak.

Armina Etminan fyller i:

– Maktstrukturer och diskriminering som finns i samhället återspeglas ju på jobbet. Det handlar om vem som har möjlighet att vara sig själv, dela med sig av sina misstag, utvecklas och göra karriär. Vilka personer som får vilka tjänster. Det är inte säkert att sådant kommer fram i medarbetarundersökningar.

Jämlikhet kräver mod

Samhällsutvecklingen i Europa, med ökad polarisering och växande högerextrema partier, gör också att frågor om jämlikhet och mänskliga rättigheter blir mer politiserade. Det kan vara ännu ett hinder för att lyfta problemen på sitt jobb. Men Armina Etminan vill vända på perspektivet. Hon tror att en arbetsgivare som inte tar jämlikhetsproblem på allvar kommer ha svårt att i framtiden hitta personer att anställa.

– Både arbetsplatser och organisationer behöver komma fram till vilka de är och vad de står för. Det kommer vara viktigare än någonsin, men också ganska utmanande. Och det kommer att kräva mycket mod.

Amnesty International

➧ Människorättsorganisation grundad i Storbritannien 1961.

➧ Har drygt två miljoner ”medlemmar och supportrar”. Uppger inte exakt medlemsantal.

➧ År 2019 hade organisationen kontor i 63 länder.

➧ I Sverige jobbar omkring 90 personer.

Diskriminering

Programmerare över 35 anses för gamla

Unga är bra på att programmera. Äldre är långsamma och har svårt att tänka nytt. Digital ålderism är ett problem för anställda i teknikbranschen – och för hela samhället.
David Österberg Publicerad 20 december 2023, kl 06:03
En person med rullator, till vänster. Till höger en datorprogrammerare vid sin skärm.
Programmerare och över 35? Ledsen - då är du "för gammal". Ålderismen inom techbranschen är också ett samhälls- och demokratiproblem. menar forskare. Foto: Claudio Bresciani/TT/Henrik Montgomery/TT.

Teknikbranschen domineras av unga, vita, heterosexuella män. Under flera år har företagen arbetat med att bredda rekryteringen och har delvis lyckats. I dag finns en ökad medvetenhet om vikten av att även inkludera kvinnor, hbtqi-personer och funktionsnedsatta. Men åldersdiskrimineringen lever i hög grad kvar, enligt den nyutkomna antologin ”Digital ageism – How it operates and approaches to tackling it”. 

En av författarna är Jakob Svensson, professor i medie- och kommunikationsvetenskap vid Malmö universitet.

Jakob Svensson, Malmö Universitet. Porträttbild, svartvit.
Jakob Svensson. Foto: Malmö Universitet.

– Ålderism är den gömda och glömda diskrimineringsformen i teknikbranschen. Det märkte jag tydligt när jag pratade med programmerare i Silicon Valley. När jag frågade folk om ålder var många helt oförstående: ”Men jag känner en programmerare i ett team som är 38, han är gammal.” Man reflekterar inte ens över att branschen är ung och tycker att frågan är konstig. Vid 35 går man från att vara ung till att vara gammal och det finns ingen medelålder, säger han.

"Ska inte hämta barn klockan fem"

Att det går så snabbt att åldras som programmerare har flera förklaringar. En är den speciella arbetskulturen i branschen. Kulturen är som starkast i just Silicon Valley, men finns över hela världen, inklusive Sverige.

– Teknikbolagen har villkor som på många sätt är fantastiska. De har cykelverkstäder där du kan få din cykel lagad, de har biosalonger, de har gym, pingisbord, restauranger. Syftet är att du ska tillbringa all din tid i närheten av arbetsplatsen. Om du känner dig trött ska du inte gå hem och du ska inte hämta barn klockan fem. Då ska du gå på bio eller till gymmet och sedan gå tillbaka till jobbet. 

För den som skaffar barn blir det en svår ekvation att få ihop. Följden blir att många programmerare i 35-årsåldern får andra roller på företagen eller går över till att frilansa.

Ett problem för demokratin

En annan förklaring är teknikbranschens vurm för det som är nytt, föränderligt, modernt och häftigt. 

– Branschen genomsyras av det som vi förknippar med det ungdomliga, inte med ålderdom, vishet eller eftertänksamhet. Där finns en entreprenöriell kultur med ett uppror mot det gamla: ”vi vill förändra världen”, ”vi ska utveckla något som förändrar hela marknaden”, ”vi ska lösa världens alla problem.”

Att programmerare över 35 betraktas som för gamla för yrket är förstås ett problem för programmerare. Men det är också ett samhälls- och demokratiproblem. 

– Unga män kommer att utveckla saker för unga män och deras problem. Inte för att programmerare är dumma eller ogillar gamla utan för att man gör det man känner till bäst och kan bäst. Vi lever i ett teknikdominerat samhälle och har stora förhoppningar om att tekniken ska vara med och lösa många av de stora utmaningar vi står inför, som klimatförändringar och ökad polarisering. Då kan det inte vara så att det bara är en liten grupp som är med och tar fram ny teknik. Jag anser att det är av största vikt att man diversifierar de här teamen, dels ur ett företagsekonomiskt perspektiv, dels ur ett demokratiskt perspektiv, säger Jakob Svensson.

Hur gör man det?

– Det finns en viss självreglering när företagen ser att det finns pengar att tjäna på äldre och genom att anställda i teknikbolagen blir äldre. Men jag tror att företagen behöver arbeta med insatser för att locka till sig fler personer i olika skeden av livet och få fler att stanna. Det handlar också om att fler behöver bli medvetna om frågan. Programmerare vill gärna ta till sig nya perspektiv.