Algoritmerna förstärker sexismen

Data har alltid varit otroligt viktigt.

Det handlar delvis om hur vi allokerar resurser.

Finns det datafelaktigheter allokeras resurser ensidigt för män.

Det finns två problem med algoritmer.

Programmerare är inte medvetna om att det här är ett problem.

Inte bara är datan, som de testar algoritmerna med, snedvriden–

–de gör ingenting för att korrigera det.

Det andra problemet är att maskininlärningen blir bättre.

Eftersom datan är diskriminerande, blir även maskininlärningen det.

Forskningen visar att den förstärker vinklingen.

Marknaden för bröstpumpar är värd 700 miljoner dollar–

–och växer hela tiden.

De flesta kvinnor som nån gång har använt en bröstpump tycker–

–att de är opraktiska, otympliga och obekväma.

Varför skapar ingen en bröstpump som helt enkelt inte suger?

Är det ett symptom på nåt större–

–att marknaden inte är så bra på–

–att ta fram produkter för kvinnor utifrån kvinnors verklighet.

Det ska jag prata med författaren Caroline Criado Perez om.

Hej! Tack för att vi fick komma hit.

Caroline Criado Perez–

–varför fryser kvinnor så ofta på jobbet?

Svaret är enkelt. Uppvärmningen av kontorslokaler är anpassad–

–efter normen för manlig kroppstemperatur.

På 60-talet när formeln för kontorstemperaturen utvecklades–

–utgick man ifrån basalförbränningen hos en 40-årig man.

Det har visat sig att basalförbränningen–

–hos en ung kontorsarbetande kvinna är mycket lägre.

Därför är de flesta kontor 5 grader för kalla för kvinnor.

Därför ser man ofta män i skjortärmarna på somrarna–

–medan kvinnor kurar ihop sig i filtar och tröjor.

Din bok "Invisible Women: Exposing Data Bias in a World Designed for Men"–

–är ovanlig, det är en bästsäljare, men "dataavvikelser"...?

–Och feminism! –Och feminism. Ja.

Vad är könsgapet i datan?

Merparten av den insamlade datan i världen–

–utgår från manskroppen och typiskt manliga livsstilsmönster.

Resultatet bir att allt från kontorstemperatur, till bilsäkerhet till läkemedel–

–utgår från män, vilket resulterat i att kvinnor försummats.

Det kan vara allt från att ha det obekvämt till att dö.

Men det måste gå att kommersiellt nå ut och skapa produkter–

–som faktiskt också fungerar för kvinnor.

Volvo Cars har nyligen haft en kampanj om bilsäkerhet för kvinnor–

–för det har också varit ett problem.

Ja. I årtionde har krockdockor konstruerats utifrån manlig förlaga–

–som var längre och tyngre än de flesta kvinnor.

Det har lett till att kvinnor inte kan sitta i standardpositionen.

De måste sitta längre fram för att kunna nå pedalerna.

Det ökar skaderisken vid en eventuell frontalkrock.

Det är 47 % större risk att kvinnor blir allvarligt skadade–

–och 17 % större risk att de dör i en bilolycka än att män gör det.

Man kan tro att det kommersiellt går att göra nåt.

Men det verkar svårt att få riskkapitalister, vilka är de som investerar i startup-bolag–

–att förstå behov relaterade till kvinnor.

97 % av alla riskkapitalister är män.

Det är svårare att förstå ett behov som man inte själv har.

Det är dubbelironi.

Det mer troligt att kvinnliga entreprenörer förstår vad kvinnor behöver–

–och ser ett hål i marknaden för till exempel bröstpumpar–

–vilket kvinnliga entreprenörer har försökt att rätta till.

Men de har kämpat för att få finansiering.

Manliga entreprenörer förstår inte att det är ett problem.

Särskilt kvinnliga entreprenörer är i behov av bra, könsuppdelad data.

Manliga entreprenörer har bättre tillgång till data–

–eftersom de oftast utvecklar produkter för män.

Problemet för kvinnor är att de måste bevisa att det finns ett hål i marknaden–

–vilket de inte kan för det saknas data.

Jag kan verkligen relatera till bröstpumpfrågan.

Min pappa är ute med min nyfödda bebis i barnvagnen medan vi gör intervjun–

–så att jag kan amma henne. Som så många andra kvinnor–

–vill jag inte använda bröstpump eftersom det är jäkligt obekvämt.

Och ingen verkar ha nått ut på den marknaden än–

–även om det är en 700-miljonersmaknad.

Den är enorm och den har ett hål.

Det finns en fantastiskt avsnitt i din bok om hur Viagra kom till.

Det har att göra med datahålet.

Viagra kom till av en slump.

Man höll på att forska fram en hjärtmedicin.

Det gjordes uteslutande på män–

–även om det sen 1984 varit mer troligt att kvinnor dör av hjärtattack än att män gör det.

Det har varit den främsta dödsorsaken bland kvinnor i USA sen 1989.

Konstigt. Man tänker att det är en man som får en hjärtattack på ett manligt sätt.

Fortfarande är forskningen mansdominerad även om det är fler kvinnor som dör.

Hur som helst, som med all läkemedelsforskning dominerades den här av män, alla var män.

Man upptäckte att medicinen inte botade hjärtsjukdomar–

–men den hade en utmärkt biverkning.

Kommersiella bolag blev snabbt involverade–

–inom några år fanns Viagra på marknaden och skrevs ut åt män med erektionsproblem.

Det var i slutet på 90-talet. 2013 var det en forskare–

–som kom på att den aktiva ingrediensen i Viagra faktiskt kunde användas–

–för kvinnor som led av menssmärtor.

Det är ungefär 90 % av alla kvinnor.

Han fick finansiering till ett mindre forskningsprojekt.

Huvudtesen var att det skulle ge fyra timmar total smärtlindring–

–jämfört med placebo, och helt utan biverkningar.

Tyvärr tog pengarna slut innan de kunde bevisa sin hypotes–

–men resultatet visade på det.

Två gånger försökte han få finansiering från National Institute of Health i USA.

Både gångerna fick han avslag grundat på–

–att det inte hade tillräckligt hög prioritet.

Är könsgapet i data en stor konspiration?

Oftast är det ingen konspiration.

Det är inte alls nån konspiration.

Ibland är det ren könsdiskriminering.

I det stora hela är det ett sätt att tänka.

Vi är så vana att tänka på en man när vi menar en människa.

Det gör alla.

Jag tror inte en sekund att forskare på hjärtsjukdomar–

–vill att fler kvinnor än män ska dö i hjärtattack–

–och biltillverkare vill inte att fler kvinnor ska dö i bilolyckor.

De tänker bara inte på kvinnokroppen. Det ser man i Apple Health Tracker-appen–

–vilken gör det möjligt att se hur mycket koppar man får i sig–

–men inte när man har mens. Apple vill tjäna pengar.

De går inte in för att göra produkter speciellt för kvinnor.

Det var för få kvinnor i teamet för att de skulle tänka på det.

Det är för många män i ledningen och påminns inte om kvinnors behov.

Till viss del är det nog också lathet.

Vissa ursäkter från läkemedelsforskare är helt häpnadsväckande.

En av de vanligaste ursäkterna är–

–att kvinnokroppen är för komplicerad att göra beräkningar utifrån.

Det är ju celler det handlar om...

Men, ja, kvinnor menstruerar.

Men det fungerar bara som en ursäkt–

–om man inte tänker på att kvinnor utgör 50 % av befolkningen.

Om man inte tänker på att det här "komplicerade" kropparna–

–kommer att få de sjukdomarna som man försöker bota.

Och köpa läkemedlen.

Det visar att det beror på ett sätt att tänka, snarare än illvilja.

Ingen skulle använda den ursäkten om de inte såg kvinnan som en minoritet–

–i stället för hälften av världens befolkning.

Många av exemplen i din bok verkar så självklara–

–som röstigenkänning i bilar som utprovats mot databaser med manliga röster–

–och som sen inte fungerar med kvinnliga röster.

Det borde vara lätt att rätta till.

Ja, men det visar återigen hur djupt präglat det här tankesättet är.

Det finns ett otroligt uttalande från en kille i ledningen för ett bolag–

–som sysslar med röstigenkänning för bilar.

Han föreslog att kvinnor skulle öva upp sina röster–

–som om problemet var våra röster snarare än att mjukvaran–

–inte känner igen rösterna från 50 % av befolkningen.

Vi får göra som Margret Thatcher, som gjorde sin röst djupare–

–för att bli tagen på allvar, så att vi kan köra bil.

Jag satt i en Volvo med min mamma–

–precis när jag hade skrivit det avsnittet.

Hon försökte få bilen att ringa hennes syster.

Hon svor åt maskinen för den kände inte igen henne.

Jag förslog att hon skulle sänka rösten. Då fungerade det direkt.

Ja, kvinnor kan sänka sin röst. Eller, en radikal idé–

–så kan tillverkarna av röststyrning ha med kvinnoröster i sina databaser.

Alla data i världen är baserad på män, vilket är ett problem för kvinnor.

Men data blir allt viktigare och viktigare–

–eftersom data matas in i algoritmerna som driver artificiell intelligens–

–vilken alltmer styrs av.

Det här kan bli ett allt större problem.

Absolut. Data har alltid varit väldigt viktigt.

Det handlar delvis om hur vi allokerar resurser.

Finns det datafelaktigheter allokeras resurser ensidigt för män.

När det handlar om algoritmer finns det två problem.

För det första verkar programmerare inte vara medvetna om problemet.

Inte bara är datan, som de testar sina algoritmer med, snedvriden–

–de rättar ingenting för att rätta till det i koden.

Det andra problemet är att maskininlärning blir allt bättre.

Eftersom datan är diskriminerande, blir maskininlärningen också det.

Forskning visar att den förstärker snedvridningen.

Det är kanske inte så farligt om man tänker–

–på röstigenkänning eller översättning av lexikon.

Men när man tänker på algoritmer i den medicinska världen–

–eller där man fattar rekryteringsbeslut–

–är det oroande, eftersom algoritmer styr våra liv allt mer.

De utvecklas av människor som inte verkar ha en aning om–

–vilka problem datan, som de matar algoritmerna med, kan ställa till.

Problemet är att väldigt få människor kan titta på algoritmen–

–och se vilken data den använder.

Det är skrämmande. Vi outsourcar framtiden till privata bolag utan insyn.

Som du sa, algoritmer börjar bli skyddad mjukvara.

Så de är skyddade.

Jag känner starkt att regeringar behöver vakna snabbt–

–och börja hantera det här. Vi borde inte lägga vår framtid i händerna på privata företag.

Vi borde arbeta på den tillsammans, på ett öppet sätt.

Du nämner att en orsak till det här är att så många män fattar besluten.

97 % av alla styrelseordföranden är män, exempelvis. Hur kan det förändras?

Du har en fantastisk historia i din bok om New York Philharmonic Orchestra.

Ja, jag älskar den historien. New York Philharmonic Orchestra–

–har varit extremt mansdominerad.

Och precis som dagens teknikbolag hävdade de, att de gick på meriter–

–att de anställde den bäste mannen för jobbet. Bokstavligen den bäste mannen.

För när New York Philharmonic Orchestra införde anonyma provspelningar–

–musikern spelar bakom en skärm...

–De spelade fiol bakom en skärm. –Ja, de kunde inte se av vilket kön musikern var.

Plötsligt anställdes många fler kvinnor. Väldigt snart var de lika många som männen.

Det är förstås inte nödvändigtvis så lätt att införa anonyma rekryteringar.

Men det visar att även företag som hävdar att de anställer efter meriter–

–ofta inte gör det. Min lösning är–

–att försöka hitta sätt att införa anonyma metoder.

Ju mer transparenta besluten är, och ju mer de baseras på meriter–

–att folk måste försvara sina beslut, desto troligare är det–

–att den bästa personen, i stället för den bäste mannen, blir anställd.

Generellt borde organisationer bli medvetna om–

–att mångfald inte handlar om att kryssa i rätt ruta, men om vikten–

–av att produkterna fungerar för alla.

En man vet inte allt om vad kvinnor behöver. De gör helt enkelt inte det.

Sheryl Sandbergs bok "Lean In" tar upp ett intressant exempel.

Hon blev gravid när hon jobbade på Google. Hon kämpade för att gå över hela parkeringen–

–och sa till chefen att de behövde en "mammaparkering".

"Javisst, det hade jag inte tänkt på", svarade han. Och det hade inte hon heller–

–och hon beklagar det. Det är poängen med mångfald.

Folk är inte elaka. Hur ska Googles chef veta att de behöver en "mammaparkering"?

Han har aldrig varit gravid.

Inte jag heller, men du har varit gravid och vet troligen att det behövs.

Vilka råd vill du ge företag med tanke på könsgapet i datan?

–Räcker det med att fortsätta ifrågasätta det? –Samla in könsuppdelad data.

Så enkelt är det. Och använd den.

Nåt som var frustrerande när jag skrev boken, än en gång särskilt i techsektorn–

–är att det finns gott om data som visar att meritokrati inte existerar.

Företag som tror att de går efter meriter är ofta de mest ojämställda.

Trots att de är förment stolta över att styras av data–

–och faktiskt använder mycket data, vägrar de att använda just den här.

Mitt råd är att samla in könsuppdelad data, men också använda den.

Även när den utmanar det du tror är rätt.

Tack så mycket, Caroline Criado Perez.

Författaren och journalisten Caroline Criado Perez har nyligen gett ut boken ”Invisible Women” där hon skriver om hur världen är uppbyggd av och för män. I denna intervju av Katrine Marçal berättar hon att saker som temperaturen på kontoret och säkerheten i bilen har tagits fram efter data från män. Skillnaderna kan göra det i bästa fall obekvämt och i värsta fall farligt för kvinnor.

Den partiskt insamlade datan används för att träna algoritmer till den artificiella intelligens som blir allt vanligare i samhället. I takt med att maskinlärningen blir bättre blir datan ännu mer sexistisk och programmerarna bakom algoritmerna är ovetandes om problemet.

Enligt Criado Perez handlar datainsamlingens brister inte om sexism i första hand, utan en brist på diversifiering bland beslutsfattare. Kvinnotypiska problem får mindre uppmärksamhet av de män som inte påverkas av dem.

Ursprungligen publicerat 2 maj 2019

Få mer av EFN

Missa inga nyheter, prenumerera på våra nyhetsbrev. Markera samtliga nyhetsbrev du vill prenumerera på.

Genom att prenumerera godkänner du att din e-postadress sparas för att vi ska kunna skicka nyhetsbrev till dig. Läs mer här.

Eller hitta oss i sociala medier

Börsindex

OMX Stockholm 30 1.1%
NASDAQ-100 -0.3%
NASDAQ Composite 0.2%

Vinnare & förlorare

Husqvarna 6.7%
Pandox 4.6%
Handelsbanken 4.3%
Stillfront Group -3.7%
Paradox Interactive -4.2%
Embracer -4.3%
Uppdaterad ons 10:54
Fördröjning 15 min