De första krockdockorna utvecklades av män. Dockorna var runt 180 centimeter långa och vägde knappt 80 kilo. En följd av det var att bilar byggdes på ett sätt som skyddade män bättre än kvinnor.

I början av 2020-talet presenterade trafiksäkerhetsforskaren Astrid Linder världens första kvinnliga krockdocka. Den har bröst, bredare höfter, smalare skuldror och är kortare och lättare. Tillsammans med den manliga motsvarigheten kan dockan nu användas för att göra säkrare bilar för både kvinnor och män.

Fördomar byggs in i AI-verktygen

Många AI-system dras med liknande problem som de första dockorna hade. Systemen utvecklas av vita medelklassmän – och tränas på den information som finns tillgänglig i världen. Det innebär att fördomar riskerar att byggas in i AI-verktygen, enligt Alexandra Wudel. Förra året utsågs hon till ”årets AI-person” och är vd för FemAI, en start-up med bas i Berlin. 

– FemAI är ett pilotprojekt för att AI-utvecklare ska kunna testa hur fördomsfria deras AI-verktyg är. Det finns inga helt fördomsfria system, men med vår metod ska man kunna öka medvetenheten om fördomarna, säger hon.

Vad är feministisk AI?

– När vi pratar om feministisk AI fokuserar vi på de mest marginaliserade grupperna. AI är statistisk mönsterigenkänning. Det innebär att vissa människor underskattas eller saknas helt i datamängderna.

”AI kan hjälpa oss att skapa en bättre värld”

Just medvetenheten om att AI både skapar och återskapar vår värld är central, tycker Alexandra Wudel. Därför ägnar sig hennes företag också åt att utbilda företag och andra om problemen med AI.

– Man kan jämföra med dagens debatt om rasism och sexism. I dag är vi mycket mer medvetna än vi var för tio år sedan. Nu har vi ord som "mansplaining" och "gaslighting". Vi måste skapa samma medvetenhet kring AI-system.

AI-verktygen utvecklas snabbt av företag som vill tjäna pengar. Finns det en risk att teknologin utvecklas för snabbt?

– Jag tror att AI kan hjälpa oss att skapa en bättre värld. Men för att nå dit måste vi samarbeta. Forskning, AI-startups, företag, civilsamhället, politiker – alla måste arbeta tillsammans. Det finns inget annat sätt. Det är som på en julmiddag med familjen: man älskar inte varenda släkting, men man måste få det att fungera.