Hoppa till huvudinnehåll
Digitalisering

6 gånger när tekniken ställt till det

Teknik, it-system och AI är ofta menat att förbättra, förenkla eller effektivisera. Men ibland kan utfallet leda till att hundbajs sprids ut i hela huset – som i ett av exemplen nedan.
Oscar Broström Publicerad 25 oktober 2022, kl 07:00
Robotdammsugare
AI, teknik och IT-system kan ibland ställa till mer problem. Foto: Vidar Ruud/NTB

Anställda får sparken av misstag

Ett stort antal anställda i Region Örebro fick ett överraskande mejl i mitten av oktober med följande besked: ”Det här meddelandet skickas till dig med anledning av att din anställning upphör”.

Det rörde sig dock inte om en plötslig massuppsägning, utan om ett krånglande it-system som råkade skicka ut mejlet av misstag.

– Mejlet hann gå ut till många. Men det togs emot med jämnmod och skratt. Alla förstod nog att det inte var på riktigt, berättade Patrik Malm, it-chef på Region Örebro för Dagens Nyheter.

Nyhet om jordbävning – från 1925

2017 skakade en nyhet från Los Angeles Times om boende i södra Kalifornien: En jordbävning, med magnituden 6,8 på Richterskalan, hade drabbat området Santa Barbara. Många blev förvånade, och det med rätta, eftersom jordbävningen aldrig hade skett.

Eller jo, det hade skett en jordbävning med magnituden 6,8 i Santa Barbara – men det var 1925.

Vad som hände 2017 var att en anställd på USGS – den amerikanska myndighet som undersöker och mäter geologiska förändringar – skulle korrigera och precisera exakt var jordbävningen 1925 skedde, och råkade skicka i väg ett mejl om jordbävningen.

Quakebot, en AI-tjänst som genererar nyheter baserat på notifikationer från USGS, skrev då omedelbart en artikel som publicerades av Los Angeles Times.

Högtalare startade fest av sig själv

Klockan halv två på natten vaknade boende i en lägenhetsbyggnad i Hamburg av vad som lät som en väldigt högljudd fest.

Det var dock ingen som närvarade på festen. En röststyrd högtalare, Alexa, hade helt på egen hand satt på musik på en irriterande hög nivå. Efter en och en halv timme ringde boende polisen som slog in dörren och upptäckte en tom lägenhet med en dunkande högtalare.

När den boende i lägenheten, Oliver Haberstroh, väl kom hem hade polisen bytt ut hans lås och han fick åka till stationen för att hämta sina nya nycklar. Haberstroh skrev därefter på Amazon Tysklands Facebook-sida och dementerade att han skulle ha aktiverat Alexa på distans.

 Jag har varit helt nöjd med er tjänst och Alexa, men relationen har tagit en u-sväng sedan i fredags. Man kan säga att det är komplicerat, vi måste gå skilda vägar.

Sorterade bort kvinnor

Amazon ville förbättra och effektivisera sin rekrytering. Företaget hade därför utvecklat ett program där AI snabbt skulle gå igenom jobbansökningar och betygsätta kandidaterna mellan ett och fem.

Programmet visade sig skatta kvinnor lägre än män.

Eftersom företaget och techavdelningen var mansdominerad, tolkade AI:n det som att män var att föredra framför kvinnor. När en kandidat skrev ordet ”kvinna” i sin jobbansökan fick den automatiskt ett lägre betyg. När Amazon upptäckte felet ledde det till slut till att man avvecklade rekryteringsprogrammet

Kamera blandade ihop boll och kalt huvud

Den skotska fotbollsklubben Inverness Caledonian Thistle FC bestämde sig under pandemin, när supportrar inte fick gå till arenan och se matcherna, för att köpa in ett automatiskt kamerasystem för att livesända matcherna.

Kameran skulle automatiskt följa spelet eftersom den var programmerad att hålla fokus på bollen. Dessvärre fick kameran problem i en match när domaren saknade hår. Kameran blandade ihop bollen med domarens kala huvud och tittarna, som ville se vad som hände i matchen, fick i stället följa domarens aktivitet på planen.

Robotdammsugare orsakade ”bajsokalyps”

Det kan vara bekvämt med robotdammsugare hemma, för den som har råd. Det verkar dock finnas en baksida med AI-städaren om du samtidigt har husdjur.

Jesse Newton från USA vaknade en morgon av vad han beskriver som en ”bajsokalyps”. Robotdammsugaren hade kört över hundens avföring och fört runt bajset i hela huset. Newton beskriver synen familjen fick på morgon som ”ett hem som närmast påminner om en Jackson Pollock-bajstavla”.

Dessvärre är det här inte första gången det händer. Företaget iRobot, som gör modellen Roomba, säger i en kommentar att de ”ärligt talat ser det här ganska ofta”.

Digitalisering

Hög AI-press bland chefer

7 av 10 chefer känner sig pressade att använda mer artificiell intelligens. Många är samtidigt oroliga för vad som kan gå fel. Frågan bör lyftas till högsta ledningen, anser Unionens digitala expert.
Noa Söderberg Publicerad 29 november 2023, kl 06:05
En kvinna vid en dator håller för öronen och ser trött ut.
Ett modeord eller framtidens satsning? AI står högt på listan över trender just nu. Och för många är den nya tekniken - och dess möjligheter - stressande. Foto: Colourbox.

AI är ordet på allas läppar. Men vad är hajp och vad är sanning? Hur ska man förverkliga drömmen om en digital hjälpreda? Och vem bär ansvaret om något går fel?

Det är frågor som cirkulerar i många chefers hjärnor, enligt en undersökning från HR-företaget Workday. Tusen ledare har fått svara på frågor om sin syn på tekniken. Den främsta slutsatsen: Sju av tio känner press, ofta ovanifrån, på att öka både användandet och investeringarna i AI.

Victor Bernhardtz, AI-utredare på Unionen, är inte förvånad.

– Mycket, mycket pengar och uppmärksamhet går till det här området nu och då vill man ju vara med på tåget. Det finns en ”fear of missing out”, samtidigt vet man inte riktigt hur det ska gå till och det skapar stress.

Hur ska man hantera den känslan?

– Det handlar om ledarskap hos företagets högsta ledning. Hur man där bemöter den otrygghet som en chef kan känna. Bolagsstyrelser behöver dra upp strategier kring AI och kommunicera dem nedåt. Jag tror inte att man som chef ska tänka: ”Det här ska jag lösa själv.” Men man kan tjäna på att lära sig lite om de stora dragen – vad generativ AI är och hur det fungerar. 

Oro för säkerheten med AI

77 procent av de tillfrågade cheferna är skeptiska till pålitligheten i de data som används för att lära upp deras AI-verktyg. Nära hälften svarar också att de oroar sig för de anställdas personliga integritet i samband med datainsamlingen. Den oron är sund, menar Victor Bernhardtz.

– Det är helt rätt frågor att ställa sig. Fack och arbetsgivare behöver ha en dialog om detta på arbetsplatsen och även lära sig vad lagstiftningen säger, exempelvis dataskyddsförordningen.

På så sätt kan man också förebygga ryktesspridning och rädsla bland medarbetarna kring vad AI-utvecklingen kommer att innebära.

– Tydlighet och transparens kring hur man tänker är helt centralt. Folk kommer alltid vilja ha svar och får de inte svar så kommer de att börja hitta på dem själva.

Säkra värdekedjorna

Utmaningarna gäller inte bara den egna arbetsplatsen. Washington Post har under hösten avslöjat att människor i bland annat Filippinerna och Kenya jobbar i ”digitala sweatshops” med att tagga och kategorisera de bilder som används för att träna upp AI-modeller. Ofta under brutala arbetsförhållanden och för oskäliga löner.

– Man talar ofta om att säkra sina värdekedjor och ha rättvis handel av exempelvis gummi och bomull. Samma diskussion kommer behövas kring data och man tjänar på att inleda den redan nu, avslutar Bernhardtz.

Vilka utmaningar ni kring AI?

Christina Claeson-Jonsson, forskningschef NCC

− Vi gjorde en undersökning om detta i våras och ser att det behövs en allmän kunskapsuppbyggnad i alla led.

– Det finns både oro och förväntan hos medarbetarna. Chefer behöver förstå både vad AI kan innebära i ens ledarskap och för medarbetarna. Det är en stor utmaning, som inte enbart är direkt teknisk.

 

 

Eva Vati, vd Verify

− Det är att hänga med i utvecklingen. Det går fort nu, så man behöver kompetens och omvärldsbevakning.

– Som jag uppfattar AI är det ganska lättillgängligt, men vi behöver kompetens kopplat till it och digitalisering. Så att man kan applicera AI-lösningar i själva verksamheten. Vi gör det just nu.

 

 

 

Anders Candell, IT-chef Skanska

− Det är svårt att veta vilken teknik som ska användas och hur det ska hanteras på ett säkert sätt, så att de data och den kunskap som vi byggt upp genom åren inte försvinner ut ur bolaget.

 

– Sedan handlar det om kompetens. Att lära oss som organisation hur vi kan använda AI för att hantera våra kunskapsdatabanker. Det finns inget facit.