Tänk dig en värld där jobbsökande har blivit överflödigt. Arbetsgivarna behöver inget cv eller personligt brev, för de vet redan allt om dig. Informationen du har lämnat efter dig i sociala medier, hos strömningstjänster, internetbutiker och banker berättar historien om ditt liv.
AI-tjänster använder datan för att analysera dina kompetenser och personlighetsdrag och skannar sedan vilka jobb som finns. När det uppstår en match tilldelas du jobbet. Livet som ett enda långt arbetsprov.
Det är det framtida skräckscenariot i Hilke Schellmanns bok The algorithm. Hon är journalist och forskare och har ägnat de senaste åren åt att granska framväxten av AI inom rekrytering. Ett fenomen som kan låta futuristiskt, men redan är här.
– Oftast vet vi inte ens om när AI-verktyg används på oss, säger hon.
Chefer använder AI för att läsa ditt cv
I Sverige finns i dag AI-tjänster som kan läsa ditt cv, väga dig mot andra kandidater och poängsätta hur väl du matchar en tjänst. Funktionerna finns inbyggda i den typ av digitala rekryteringsprogram, ATS, som de flesta arbetsgivare använder.
Den svenska mjukvaruutvecklaren Teamtailor säljer ett sådant AI-utrustat program som används av över 10 000 arbetsgivare globalt. Däribland den svenska gymkedjan SATS och maskinuthyraren Ramirent.
David Wennergren är medgrundare och produktchef på Teamtailor. Han berättar att omkring 40 procent av deras kunder, alltså över 4 000 arbetsgivare, har slagit på AI-funktionerna i programmet. Det vanligaste användningsområdet är att generera automatiska förslag till jobbannonser och att transkribera och sammanfatta anställningsintervjuer. Många ger också förslag på uppföljningsfrågor att ställa till kandidaten.
– Det gör att en rekryterare kan fokusera på mötet i stället för att anteckna. Och de behöver inte lägga tid på att summera efteråt, säger David Wennergren.
AI när du söker jobb hos Saab och Astra Zeneca
Arbetsgivare kan även få automatiska förslag på personer som kan passa till ett jobb, genom att AI-verktyget söker bland dem som tidigare har lämnat in sitt cv.
Det globala HR-bolaget Workday ligger också i framkant. Överst på sin webbplats presenterar de sig som en ”AI-plattform”. Sidan är fylld med exempel på hur arbetsgivare använder deras AI för att rekrytera snabbare och enklare, däribland svenska industrijättar som Saab och Astra Zeneca.
Efterfrågan är hög, enligt David Wennergren på Teamtailor.
– Företagen vill ha mycket. De driver på.
Risk för hallucinering
Men vad händer om det blir fel? Problemen med hallucinering – att AI-verktyg helt enkelt hittar på saker – har inte försvunnit. Tvärtom har de blivit värre. Open AI, företaget som uppfann Chat GPT, rapporterade under våren att deras avancerade, ”resonerande” modeller hallucinerar mer än de äldre.
En hallucinerande rekryterings-AI skulle till exempel kunna hitta på att en kandidat har jobbat i offentlig sektor, uppfatta en kontorsadress som kandidatens hemadress eller missförstå en yrkestitel i ett cv. Det skulle sedan kunna leda till att en sökande inte lyfts fram till ett visst jobb.
Teamtailor, som alltså köper sina AI-verktyg från Open AI, bekräftar att de har upptäckt hallucinering. Enligt produktchefen David Wennergren har det inte haft några större konsekvenser i praktiken. Han säger att Teamtailor har valt bort de modeller som hallucinerar mer.
David Wennergren säger också att han och hans kollegor försöker vara så specifika som möjligt när de skriver sina ”promptar” till AI-verktygen, för att undvika att de genererar falsk information.
Experten om AI inom HR: ”Kontroversiellt”
Jesper Olsson är jobbsökningsspecialist på omställningsorganisationen TRR. Han delar bilden av att svenska arbetsgivare i dag använder AI-verktyg för att sortera bland kandidater. Det slås också fast i den tidiga forskning som har gjorts på ämnet (se faktaruta).
Enligt Jesper Olsson är det otydligt var arbetsgivarnas vanliga it-system slutar och var de nya AI-teknikerna börjar. Ofta hänger de ihop och det finns en brist på insyn.
– Det är mycket gråskalor. Vad är AI och vad
är annan sortering?
Han fortsätter:
– Det kan också vara så att vissa som använder AI inte gärna pratar om det. Det är ganska kontroversiellt.
Osäkert hur AI fungerar: ”Kan bara se på hur det funkar i vår kontext”
En sak som bidrar till det är att ingen vet exakt hur AI-verktygen fungerar. Forskare befinner sig i en intensiv kapplöpning för att ta reda på vad som händer när en AI-modell spottar ur sig text. Man vet hur programmen har skapats och tränats, men inte varför de svarar som de gör. Det brukar sammanfattas som att tekniken än så länge är en ”svart låda”.
David Wennergren säger att frågor om detta ligger över Teamtailors nivå.
– Jag kan bara se på hur det funkar i vår kontext
och värdet vi kan hitta.
Men är det en bra idé att använda den här tekniken i rekrytering när den fortfarande är så ny och experimentell?
– Vår princip är att vi tittar på det faktiska värdet det levererar, utifrån kvaliteten så som det funkar i Teamtailor.
EU varnar för AI-rekrytering – hög risk
De tyngsta EU-institutionerna ser däremot faror. I en lag som röstades igenom förra året konstateras att AI-driven rekrytering är ”högriskverksamhet”. I dag kan en jobbsökare inte veta om en arbetsgivare har använt AI-verktyg för att läsa hens cv.
Teamtailor och deras konkurrenter behöver inte heller ha någon dokumentation av hur rekryterings-AI:n fungerar, någon särskild kvalitet på sin träningsdata eller några riskhanteringssystem. De kraven kommer när nya EU-regler börjar gälla nästa höst.
Diskriminering i USA
I USA har utvecklingen gått ännu längre. Där finns en uppsjö av AI-program som utlovar snabbare, bättre och mer fördomsfri rekrytering. I sin bok lyfter Hilke Schellmann flera exempel på när resultatet har blivit det motsatta.
Hon har bland annat granskat cv-skannrar som påstås räkna ut en jobbsökares lämplighet. De fungerar genom att jämföra kandidatens cv med
cv:t hos redan anställda personer som har gjort ett bra jobb. Idén är att få en statistiskt grundad bild av vad utmärker en framgångsrik medarbetare.
Resultatet visade sig bli grov diskriminering. Ett av programmen premierade kandidater som hette Tom och gillade att spela baseball. De sakerna hade stått i cv:n hos nu anställda som arbetsgivaren gillade. AI-verktyget förstärkte gammal könsdiskriminering.
– Vi har inte sett särskilt mycket bevis på att de här verktygen hittar de mest kvalificerade kandidaterna, säger Hilke Schellmann.
AI-jobbsök fortsätter växa
Hon är säker på att AI-driven rekrytering kommer fortsätta växa i Sverige – och att de problem som har funnits i USA också kan ta sig hit. Men hennes bok gavs ut för mer än ett år sedan. När hon får frågan om programmen har blivit bättre sedan dess ger hon ett kort svar, som påminner om hemlighetsmakeriet kring den nya tekniken.
– Vi vet inte.
Nytt forskningsområde
Forskningen om AI-driven rekrytering i Sverige är hittills begränsad. Två sociologer, Lambrous Rombanis vid Stockholms universitet och Moa Bursell vid Mälardalens universitet, har dock ett antal parallella forskningsprojekt hos Institutet för framtidsstudier.
Hittills har deras forskning visat att AI har börjat användas i rekrytering och att det påverkar HR-personalens beslut. De har också visat att det kan leda till minskad mångfald. Forskningen bygger på intervjuer med svensk HR-personal och data från en stor matvarukedja.
