Arbetsförmedlingen använder AI för att bedöma om en arbetslös ska anvisas till programmet Rusta och matcha. AI-systemet kallas internt ”det statistiska bedömningsstödet” och profilerar arbetslösa efter bland annat födelseland, funktionsnedsättning, kön, ålder och utbildning.
Enligt uppgifter till Aftonbladet får arbetslösa inte veta att systemet har använts för att profilera dem. Tidningen skriver också att jurister har sagt upp sig i protest, att systemet har dålig träffsäkerhet och att handläggare inte vet hur det fungerar.
Nu ska Integritetsskyddsmyndigheten (IMY) granska om användningen av AI-verktyget bryter mot dataskyddsförordningen (GDPR).
– Vi kommer att granska hur AI-systemet fungerar och hur Arbetsförmedlingen informerar arbetssökande om hur deras personuppgifter behandlas i det, säger Linn Sandmark, enhetschef på IMY, i ett pressmeddelande.
Därför granskar IMY Arbetsförmedlingens AI-system
IMY ska granska AI-systemet utifrån fem olika frågor: om det är lagligt, om det är nödvändigt, hur det fungerar, om det innebär automatiserat beslutsfattande och om inskrivna på Arbetsförmedlingen har fått veta hur deras personuppgifter används.
Granskningen inleds den 24 november. Då kommer sex personer från IMY hålla ett heldagsmöte med personal från Arbetsförmedlingen och gå igenom hur verktyget fungerar.
Tillsynen görs efter att IMY har fått tips från både allmänheten och medier. Myndigheten har tidigare begärt in handlingar om AI-systemet från Arbetsförmedlingen.