Hoppa till huvudinnehåll
Digitalisering

6 gånger när tekniken ställt till det

Teknik, it-system och AI är ofta menat att förbättra, förenkla eller effektivisera. Men ibland kan utfallet leda till att hundbajs sprids ut i hela huset – som i ett av exemplen nedan.
Oscar Broström Publicerad
Robotdammsugare
AI, teknik och IT-system kan ibland ställa till mer problem. Foto: Vidar Ruud/NTB

Anställda får sparken av misstag

Ett stort antal anställda i Region Örebro fick ett överraskande mejl i mitten av oktober med följande besked: ”Det här meddelandet skickas till dig med anledning av att din anställning upphör”.

Det rörde sig dock inte om en plötslig massuppsägning, utan om ett krånglande it-system som råkade skicka ut mejlet av misstag.

– Mejlet hann gå ut till många. Men det togs emot med jämnmod och skratt. Alla förstod nog att det inte var på riktigt, berättade Patrik Malm, it-chef på Region Örebro för Dagens Nyheter.

Nyhet om jordbävning – från 1925

2017 skakade en nyhet från Los Angeles Times om boende i södra Kalifornien: En jordbävning, med magnituden 6,8 på Richterskalan, hade drabbat området Santa Barbara. Många blev förvånade, och det med rätta, eftersom jordbävningen aldrig hade skett.

Eller jo, det hade skett en jordbävning med magnituden 6,8 i Santa Barbara – men det var 1925.

Vad som hände 2017 var att en anställd på USGS – den amerikanska myndighet som undersöker och mäter geologiska förändringar – skulle korrigera och precisera exakt var jordbävningen 1925 skedde, och råkade skicka i väg ett mejl om jordbävningen.

Quakebot, en AI-tjänst som genererar nyheter baserat på notifikationer från USGS, skrev då omedelbart en artikel som publicerades av Los Angeles Times.

Högtalare startade fest av sig själv

Klockan halv två på natten vaknade boende i en lägenhetsbyggnad i Hamburg av vad som lät som en väldigt högljudd fest.

Det var dock ingen som närvarade på festen. En röststyrd högtalare, Alexa, hade helt på egen hand satt på musik på en irriterande hög nivå. Efter en och en halv timme ringde boende polisen som slog in dörren och upptäckte en tom lägenhet med en dunkande högtalare.

När den boende i lägenheten, Oliver Haberstroh, väl kom hem hade polisen bytt ut hans lås och han fick åka till stationen för att hämta sina nya nycklar. Haberstroh skrev därefter på Amazon Tysklands Facebook-sida och dementerade att han skulle ha aktiverat Alexa på distans.

 Jag har varit helt nöjd med er tjänst och Alexa, men relationen har tagit en u-sväng sedan i fredags. Man kan säga att det är komplicerat, vi måste gå skilda vägar.

Sorterade bort kvinnor

Amazon ville förbättra och effektivisera sin rekrytering. Företaget hade därför utvecklat ett program där AI snabbt skulle gå igenom jobbansökningar och betygsätta kandidaterna mellan ett och fem.

Programmet visade sig skatta kvinnor lägre än män.

Eftersom företaget och techavdelningen var mansdominerad, tolkade AI:n det som att män var att föredra framför kvinnor. När en kandidat skrev ordet ”kvinna” i sin jobbansökan fick den automatiskt ett lägre betyg. När Amazon upptäckte felet ledde det till slut till att man avvecklade rekryteringsprogrammet

Kamera blandade ihop boll och kalt huvud

Den skotska fotbollsklubben Inverness Caledonian Thistle FC bestämde sig under pandemin, när supportrar inte fick gå till arenan och se matcherna, för att köpa in ett automatiskt kamerasystem för att livesända matcherna.

Kameran skulle automatiskt följa spelet eftersom den var programmerad att hålla fokus på bollen. Dessvärre fick kameran problem i en match när domaren saknade hår. Kameran blandade ihop bollen med domarens kala huvud och tittarna, som ville se vad som hände i matchen, fick i stället följa domarens aktivitet på planen.

Robotdammsugare orsakade ”bajsokalyps”

Det kan vara bekvämt med robotdammsugare hemma, för den som har råd. Det verkar dock finnas en baksida med AI-städaren om du samtidigt har husdjur.

Jesse Newton från USA vaknade en morgon av vad han beskriver som en ”bajsokalyps”. Robotdammsugaren hade kört över hundens avföring och fört runt bajset i hela huset. Newton beskriver synen familjen fick på morgon som ”ett hem som närmast påminner om en Jackson Pollock-bajstavla”.

Dessvärre är det här inte första gången det händer. Företaget iRobot, som gör modellen Roomba, säger i en kommentar att de ”ärligt talat ser det här ganska ofta”.

Bläddra i senaste numret av våra e-tidningar

Bläddra i senaste numret av Kollega

Till Kollegas e-tidning

Bläddra i senaste Chef & Karriär

Till Chef & Karriärs e-tidning
Digitalisering

Jonglör eller spöke – vem är du på jobbet?

Är du osynlig som ett spöke i den interna chatten och har kameran av på möten? Eller gör du hjärtan till kollegorna medan du jonglerar barn med kamera på? Vi listar fem vanliga personlighetstyper på det hybrida kontoret.
Elisabeth Brising Publicerad 18 december 2024, kl 06:04
En person utklädd till spöke står vid en dator.
Känner du dig som ett osynligt spöke på det hybrida jobbet? Eller kanske som en jonglerande bläckfisk med jour 24/7? Det digitala landskapet har även kristalliserat ut konservativa "det-var-bättre-förr-are", spralliga rookies och flexibla karriärister. Foto: Shutterstock

 Jonglören: ”Skynda, skynda – nu är det bråttom”

Dagen börjar med ett högaffektivt skrik mot vinterkläder. På något sätt kommer barnen i tid till sina institutioner. Hemma hos jonglören plingar jobbmejlen parallellt med förskolans notiser om löss och magsjuka. Jonglören tar ett djupt mindfulness-andetag och försöker jobba ikapp förra veckans vabb. 

Den här gruppen får mest gjort hemma, tycker de själva. En slipper restid, kan spara in på hunddagis och hämta telningarna nästan i tid. Distansmöjlighet och flex är ett krav på den moderna arbetsgivaren. Telefonmöten hålls med avbrott för hostattacker och begäran om ”Mer skärmtid!”. 

Jonglören dyker visserligen in på kontoret ibland, men mest för att dela varmt kaffe och överlevnadstips med andra småbarnsföräldrar. 

Spöket: ”Ingen ser vad jag gör”

Träffas är väl rätt onödigt sedan internet uppfanns, tycker Spöket. Därefter var pandemin det bästa som hänt i arbetslivet. Äntligen blev det okej att jobba hemma utan jobbig interaktion med en komplex jobbfamilj man fick på köpet med lönen. 

Bu! Likt en osalig ande kommer Spöket ibland in på kontoret vid fullmåne, eller gör en blek tumme upp i chatten för att visa att hen lever på andra sidan. 

Men meningslöst småprat, sega möten och prat om privatliv borde förbjudas på arbetstid, tycker Spöket. Hen vill bara få jobba på - i fred. Dessutom är Spöket en osynlig stjärna. Jobbet blir bra gjort, även om inget vet riktigt hur eller av vem. 

Förändringsmotståndaren: ”Allt var bättre förr”

När Förändringsmotståndaren började sin karriär fanns det knappt datorer. Alla hade ett eget rum och var på kontoret jämt – sjuka eller ej. Man skrev ut sina papper i ordentliga högar. Det togs riktig fika, två gånger per dag, och var sak i tur och ordning. 

F-motståndaren sitter ofta (ensam) på ett lugn, en kunskap och en erfarenhet som inte alltid tas till vara på kontoret. 

Nuförtiden är visst alla hemma jämt - utom Förändringsmotståndaren. På kontoret måste man i och för sig gå runt som på högstadiet med sina tillhörigheter i ett litet skåp. Ingen har tid för kaffe och kaka, i stället stressar de runt och undrar varför de är så trötta.  

Rookien: ”Tänk om jag är en bluff?”

Jobba på plats eller hemma? Allt funkar! "Det känns som jag jobbar hårdast här". Tänker rookien. Och det är ofta den yngsta, nyanställda och konsultens lott. Rookien måste bevisa sig och göra grovjobbet som andra skyr. Morgon, sen kväll, helg och natt. Allt är okej så länge rookien känner att hen utvecklas och går framåt och det kommer lite uppmuntran  och beröm. AW – underbart! 

Rookien vill komma in i gänget, synas och klättra. Hen kan verka självsäker men inunder bultar ett känsligt hjärta. Var snäll mot rookien och hen kommer leverera tillbaka. Kritisera inte för hårt - rookiens värsta mardröm är att bli avslöjad som okunnig. 

Karriäristen: ”Gör det bäst själv

Vi måste få folk tillbaka till kontoret efter pandemin, säger Karriäristen (som ofta är chef). Möten (som hen ofta ska leda) funkar trots allt bäst på plats. 

Men samtidigt gillar Karriäristen själv friheten i att vara flexibel de dagar det passar en padeltid, nätverkande lunch eller dotterns konsert.

Karriäristen skulle aldrig få för sig att sjukskriva sig eller vabba. Numer kan ju alla kontorister jobba lite närsomhelst, varsomhelst och det är inget problem, i alla fall inte för Karriäristen själv som gärna tar mötena från Mallorca på julafton. 

Men det vore nog bra om medarbetarna själva var lite mer på plats. 

Rapporten Arbetspusslet

De fem karriärtyperna är hämtade från ISS enkät och rapport  Arbetspusslet som listar fem moderna ”medarbetarpersonas”. De ska enligt rapporten tas med ”en nypa salt”. 

Digitalisering

Experten: Emotionell AI fungerar inte

Startup-företag säljer AI som påstås kunna läsa dina känslor. Men tekniken fungerar inte, enligt AI-forskaren Andrew McStay. Han får medhåll från människorättsaktivister och politiker.
Noa Söderberg Publicerad 5 december 2024, kl 06:03
Till vänster en kvinna som får sitt ansikte skannat. Till höger AI-experten Andrew McStay.
Teknikföretag marknadsför emotionell AI som kan tolka känslor, men enligt forskare är det långt ifrån verkligheten. ”Det fungerar inte särskilt bra”, menar experten Andrew McStay (bilden). Foto: Colourbox/Ben Bland.

Artikeln sammanfattad:


Startup-företag marknadsför AI som kan läsa av känslor, men forskare och aktivister är skeptiska till teknikens effektivitet.

Emotionell AI används redan i många branscher, men kritiker menar att tekniken bygger på felaktiga antaganden och generaliseringar.

Förespråkare hävdar att tekniken fungerar, men erkänner att det finns kulturella och individuella variationer i känslouttryck.

Den här sammanfattningen är gjord med hjälp av AI-verktyg och har granskats av Kollegas webbredaktör. Kollegas AI-policy hittar du här.

Datorer som läser av människors känslor kan låta som science fiction. Men som Kollega tidigare har rapporterat används sådana AI-program redan i en lång rad branscher – och har testats i de ljudisolerade kontorsbås som finns i många öppna kontorslandskap.

Så hur går det till? Först och främst behöver man låta en dator filma ens ansikte, eller mäta saker som puls, röstläge och svettningar. Andrew McStay, chef över forskningscentret Emotional AI Lab vid walesiska Bangor University, berättar vad som händer sedan.

– De flesta program lägger samman utåtriktade beteenden i ett kluster. Ansiktsuttryck, till exempel. Ett raster läggs över en människas ansikte, och på så vis mäts områden runt hakan, ögonen, munnen, näsan och andra muskler i ansiktet. 

– Då kan man mäta ansiktsuttryck, och idén är att om man kan mäta ansiktsuttryck så kan man anta vad personen känner.

Datorns kamera fångar alltså mikroskopiska förändringar i ens minspel. De kopplas sedan till 5-10 olika känslokategorier: glädje, sorg, ilska, förvåning, med flera. 

Fungerar inte särskilt bra

Andrew McStay är skeptisk till teknikens två utgångspunkter – att människors inre känsloliv kan delas in i ett fåtal kategorier, och att känslor kan avläsas genom att snabbt titta i ansiktet. Han har fått samma fråga många gånger: fungerar det verkligen?

– Gällande de flesta sådana här system och teknologier, som utvecklas av startupföretag och marknadsförs i dag, så är det breda svaret: nej, de fungerar inte särskilt bra.

Han fortsätter:

– Den övergripande idén med de här teknikerna är att om man förstår utåtriktat beteende så förstår man någonting om vad som pågår inuti en person. Ofta är det ett problematiskt antagande.

AI-programmen har byggts genom att dela in en stor mängd filmade ansikten i de känslokategorier som nämns ovan. De kategoriserade videorna har sedan använts som träningsdata till algoritmer, i en process som kallas maskininlärning (se faktaruta). Därför kan känsloavläsningen nu ske automatiskt, utan att människor är inblandade.

Emotionell AI får kritik av forskare

McStay är inte ensam i sin kritik. I förarbetena till EU:s nya AI-lag (se faktaruta) konstateras att det finns en ”allvarlig oro över den vetenskapliga grunden” för emotionell AI. Människorättsorganisationerna Access Now och European Digital Rights, dataskyddsmyndigheter i bland annat Storbritannien och profilerade psykologer har uttryckt samma sak.

Men forskarna är inte eniga. Många företag som sysslar med emotionell AI ser sig som arvtagare till Paul Ekman – en amerikansk psykolog som forskat om just mikroskopiska förändringar i ansiktsuttryck och hur de hänger ihop med våra känslor. 

En av de som hänvisar till Ekman är Graham Page. Han är chef över den största avdelningen på Affectiva, ett företag som enligt egen utsago uppfann produktkategorin emotionell AI. I dag ingår de i den svenska Smart Eye-koncernen.

– Vi upprepar i princip de saker som Ekman och andra har upptäckt, säger han när Kollega ringer upp.

Skamsen eller glad - hur kan AI veta skillnaden?

De som uttryckt kritik mot tekniken menar bland annat att människors känslouttryck varierar mellan kulturer, grupper och enskilda individer, och att de breda generaliseringar som krävs därför inte kan göras. Graham Page säger att han delvis håller med.

– Det stämmer, så till vida att man till exempel kan le för att man skäms. Eller rynka på näsan för att det kliar, snarare än att man känner sig äcklad. Men de generella dragen stämmer fortfarande.

Det händer att vi förenklar saker i marknadsföringssyfte.

Han säger att den träningsdata som Affectiva byggt sin AI på – över 17 miljoner ansiktsvideor – har hämtats från så många länder som möjligt för att minska risken för fördomsfulla algoritmer. Han säger också att en människa nästan alltid är inblandad när resultaten från Affectivas emotionella AI samlas in och analyseras.

Men trots det kan ert system läsa av mitt leende, dra slutsatsen att jag är glad och skriva ut det på en skärm. Jag testade det själv hos Smart Eye. Finns det inte risker med det?

– Jag tror att du har fått se en liten del av alla mätpunkter, säger Graham Page och fortsätter:

– Det händer att vi förenklar saker i marknadsföringssyfte. Men när vi lär upp de som ska använda produkterna är vi tydliga med hur det fungerar, så att de kan förstå på djupet. Oftast betyder ett leende glädje, men inte alltid. Vi erkänner det.

Men de som är skeptiska till att man alls kan generalisera och läsa av känslor på det här sättet, de har fel?

– Ja.

Intervjun går mot sitt slut. Graham Page säger att den blev ungefär som han förväntade sig. Han tycker att diskussionen om vetenskapligheten i emotionell AI ibland ”fastnar i teorin”.

– Menar de på allvar att man inte kan utläsa någon information om hur en människa mår genom att titta i personens ansikte? Självklart kan man det.

Det här är del tre i Kollegas serie om emotionell AI. Del ett hittar du här och del två kan du läsa här

Affectivas träningsdata

Affectivas algoritm för känsloavläsning har tränats på över 17 miljoner ansiktsvideor från mer än 90 länder, enligt egna uppgifter.

Företaget uppger att videorna har samlats in genom marknadsundersökningar och konsumentpaneler, och att alla personer som har studerats har godkänt det.

Maskininlärning

Ett av de statistiska grundverktygen inom AI. Går ut på att skapa algoritmer som läser av en stor mängd tidigare data och därigenom kan skapa generaliseringar om nya data.

På så vis kan ett datorprogram ”lära sig” hur en uppgift förmodligen ska utföras, baserat på tidigare erfarenhet.

För att det ska fungera behövs stora mängder data om uppgiften som ska utföras, rätt kategorisering av informationen och omfattande processorkraft.

EU:s nya AI-lag

EU:s övergripande lagpaket om AI är världens första i sitt slag. Det reglerar AI-verktyg utifrån risknivå – ju högre risk, desto större ansvar för den som skapar och använder verktyget. Det som anses allra mest riskfyll blir helt förbjudet. Hit hör bland annat emotionell AI som riktas mot anställda, men även mot skolelever. 

Lagen trädde i kraft i augusti 2024, men reglerna börjar gälla med olika fördröjning. Först ut är förbuden, som börjar gälla från februari 2025.