AI och algoritmiska system används mer och mer i arbetsledning. Det innebär nya risker i arbetsmiljön visar en svensk forskningsrapport.
Vad ser facket för risker med AI och algoritmer som chefsstöd?
– Att vi lärt oss att lita på datorer, att det är maskiner som räknar rätt. Men när det kommer till AI-system som beslutsstöd vet vi inte alltid exakt hur de funkar. Det är osannolikt att vi får in all data som behövs för att få ut ett korrekt svar, eller en rimlig rekommendation.
Vad vill Unionen göra när det gäller datadrivet ledarskap?
– Vårt krav är att det alltid måste finnas en människa i kontroll. Du kan automatisera vissa arbetsuppgifter men du kan aldrig automatisera en chef. Du kan aldrig utkräva ansvar ur ett datorsystem och därför kan det heller aldrig vara det som fattar besluten. Det finns system som fattar mikrobeslut men då måste en chef kunna förklara och överpröva dem.
Det här är algoritmisk arbetsledning och AI som chefsstöd
Algoritmic management, AM, är automatisering av chefsfunktioner. Digital teknik som kan förstärka eller automatisera ledningens beslutsfattande. Ibland kallas det att jobba datadrivet, eller med datainformerat ledarskap.
Det är system som kan
• Styra, övervaka eller utvärdera arbetet.
• Planera personalstyrkan, schemalägga.
• Anställa, belöna, befordra, disciplinera och avskeda.
Läs mer: Vad händer med arbetsmiljön när AI blir chef?
Unionens rapport: Total datakontroll på jobbet?
I en rapport från arbetsgivarorganisationen Almega beskrivs hur företag redan använder AI för många administrativa uppgifter.
I en studie på svenska logistikföretag såg forskare att en hög grad av digital arbetsledning via paddor och headset hade samband med ohälsa. Där fanns fler arbetsplatsolyckor, ökad stress och psykisk ohälsa.
Tror du det blir lika hård övervakning av tjänstemän framöver som för arbetare i logistikbranschen?
– Tjänstemän har så pass hög specialisering och gör så olika saker att det är svårt för ett system att arbetsleda dem så. Det blir snarare mer digital utvärdering av prestationer. Men de system för utvärdering jag tittat på är problematiska på svensk arbetsmarknad utifrån dataskyddsförordningen, GDPR. Vi vet att chefer ändå installerar programvara i smyg på vissa ställen.
Vad är problemet med att kontrollera anställdas prestationer med digitala mätningar?
– Om arbetsgivare agerar i hög utsträckning på vad som kan mätas skapar du incitament för personal att bara göra det som mäts, inte det som inte mäts, för det premieras inte. Risken är att man hamnar i en ironisk situation där man inför ett system för ökad effektivitet som minskar produktiviteten. Det kan leda till en låg grad av självständighet, men hög grad av övervakning och kontroll, vilket innebär en sämre arbetsmiljö.
Hur förberett är facket på att förhandla kring AI och datadriven arbetsledning?
– Vi har en intellektuell förståelse men det betyder inte att alla i organisationen har kunskapen. Jag tror inte vi kommer komma i mål med det på kort sikt för tekniken uppdateras hela tiden. Men vi ska och kommer göra mer. Det finns en handbok i att förhandla digital integritet och AI.
Vad kan lokala klubbar göra för att påverka arbetsvillkoren?
– Påkalla MBL-förhandling när nya system införs om inte arbetsgivaren gjort det. Som förtroendevald ska man inte bli rädd för det här. Viss oro är befogad men man ska inte känna att det gör att man inte kan ta tag i det. Precis som i andra frågor finns regelverk. Du behöver inte bli machine-learning-expert.
Vilken kunskap har chefer om hur AI och algoritmer funkar?
– Det händer att en fackklubb förklarar att en chef sagt ”det här står i systemet, nu är det så” - att chefen inte längre fattar självständiga beslut utan tittar på en skärm och tar det för sant. Chefer måste förstå att system för algoritmisk arbetsledning inte är maskiner som räknar rätt, utan de gör vad de kan med den data de får och den programmering de har.
Vad ser Unionen för möjligheter med AI och algoritmer som chefsstöd?
– Jag har inte träffat många chefer som säger att de har för lite att göra. Kan du automatisera vissa moment frigör du potentiellt sett tid. Om du får det här att fungera kan du få bättre beslutsunderlag och hantera stora data för exempelvis kompetensutveckling.
Vad ska man tänka på som chef kring datadrivet beslutsstöd?
– Här kommer jag inte få med allt. Jag kommer ändå få göra en avancerad analys och bedömning innan jag fattar något ledningsbeslut. Ett datorsystem kan bara hantera den data som skickas in och det behöver en massa datapunkter. Du kan mäta interaktioner, eller samtal man ringer, men det säger inget om kvaliteten i mötena eller samtalen. Det finns jättemycket osynligt arbete som alla på ett kontor gör som inte syns i ett system.
Fördelar med AI/algoritmer som chefsstöd
Kan ge mer konsekvent bedömning av prestationer.
Kan avlasta chefers administration.
Stora datamängder kan förenkla prognoser och kompetensutveckling.
Ökad effektivitet, kan ge minskat svinn av tid.
Risker med AI/algoritmer som chefsstöd
Ökad övervakning och ständig mätning av prestationer skapar fysisk och psykisk stress och ohälsa hos människor.
Mindre rättvis bedömning av prestationer utifrån systemets trubbighet.
Minskad personlig integritet i arbetslivet.
Risk att anställda förlorar inflytande och inte kan frångå systemet.
Risk att beslut inte går att ansvarsutkräva av mänskliga beslutsfattare.
Risk för fel och att chefer och ledning litar alla på förslag och siffror i systemet.
Risk att chefer inte förstår på vilka premisser datan skapats.
Risk för lagbrott mot GDPR, AI-förordningen och Arbetsmiljölagen.
Miljön påverkas negativt - AI kostar mycket i el och naturresurser.
Listan är sammanställd av Kollega. Källor: Forskarrapporten Vad händer med arbetsmiljön när AI blir chef, Unionens AI-expert Victor Bernhardtz och SVT/Forbes.
Läs mer: Unionen om integritet på jobbet.
