Algoritmerna förstärker sexismen

Data har alltid varit otroligt viktigt.

Det handlar delvis om hur vi allokerar resurser.

allokeras resurser ensidigt för män.

Det finns två problem med algoritmer.

att det här är ett problem.

som de testar algoritmerna med, snedvriden–

–de gör ingenting för att korrigera det.

att maskininlärningen blir bättre.

blir även maskininlärningen det.

att den förstärker vinklingen.

är värd 700 miljoner dollar–

–och växer hela tiden.

har använt en bröstpump tycker–

och obekväma.

som helt enkelt inte suger?

Är det ett symptom på nåt större–

–att marknaden inte är så bra på–

för kvinnor utifrån kvinnors verklighet.

med författaren Caroline Criado Perez om.

Hej! Tack för att vi fick komma hit.

Caroline Criado Perez–

–varför fryser kvinnor så ofta på jobbet?

Uppvärmningen av kontorslokaler är anpassad–

–efter normen för manlig kroppstemperatur.

för kontorstemperaturen utvecklades–

hos en 40-årig man.

Det har visat sig att basalförbränningen–

är mycket lägre.

5 grader för kalla för kvinnor.

på somrarna–

i filtar och tröjor.

in a World Designed for Men"–

men "dataavvikelser"...?

–Och feminism. Ja.

Vad är könsgapet i datan?

i världen–

och typiskt manliga livsstilsmönster.

till bilsäkerhet till läkemedel–

i att kvinnor försummats.

att ha det obekvämt till att dö.

och skapa produkter–

–som faktiskt också fungerar för kvinnor.

om bilsäkerhet för kvinnor–

–för det har också varit ett problem.

konstruerats utifrån manlig förlaga–

än de flesta kvinnor.

i standardpositionen.

för att kunna nå pedalerna.

vid en eventuell frontalkrock.

att kvinnor blir allvarligt skadade–

att de dör i en bilolycka än att män gör det.

att göra nåt.

vilka är de som investerar i startup-bolag–

–att förstå behov relaterade till kvinnor.

97 % av alla riskkapitalister är män.

som man inte själv har.

Det är dubbelironi.

förstår vad kvinnor behöver–

för till exempel bröstpumpar–

har försökt att rätta till.

Men de har kämpat för att få finansiering.

att det är ett problem.

av bra, könsuppdelad data.

har bättre tillgång till data–

utvecklar produkter för män.

att det finns ett hål i marknaden–

–vilket de inte kan för det saknas data.

till bröstpumpfrågan.

i barnvagnen medan vi gör intervjun–

Som så många andra kvinnor–

eftersom det är jäkligt obekvämt.

på den marknaden än–

–även om det är en 700-miljonersmaknad.

Den är enorm och den har ett hål.

om hur Viagra kom till.

Det har att göra med datahålet.

Viagra kom till av en slump.

Man höll på att forska fram en hjärtmedicin.

Det gjordes uteslutande på män–

att kvinnor dör av hjärtattack än att män gör det.

bland kvinnor i USA sen 1989.

som får en hjärtattack på ett manligt sätt.

även om det är fler kvinnor som dör.

dominerades den här av män, alla var män.

inte botade hjärtsjukdomar–

–men den hade en utmärkt biverkning.

Kommersiella bolag blev snabbt involverade–

och skrevs ut åt män med erektionsproblem.

2013 var det en forskare–

i Viagra faktiskt kunde användas–

–för kvinnor som led av menssmärtor.

Det är ungefär 90 % av alla kvinnor.

ett mindre forskningsprojekt.

ge fyra timmar total smärtlindring–

och helt utan biverkningar.

innan de kunde bevisa sin hypotes–

–men resultatet visade på det.

från National Institute of Health i USA.

Både gångerna fick han avslag grundat på–

–att det inte hade tillräckligt hög prioritet.

Är könsgapet i data en stor konspiration?

Oftast är det ingen konspiration.

Det är inte alls nån konspiration.

Ibland är det ren könsdiskriminering.

I det stora hela är det ett sätt att tänka.

när vi menar en människa.

Det gör alla.

att forskare på hjärtsjukdomar–

ska dö i hjärtattack–

att fler kvinnor ska dö i bilolyckor.

Det ser man i Apple Health Tracker-appen–

hur mycket koppar man får i sig–

Apple vill tjäna pengar.

speciellt för kvinnor.

för att de skulle tänka på det.

och påminns inte om kvinnors behov.

Till viss del är det nog också lathet.

är helt häpnadsväckande.

En av de vanligaste ursäkterna är–

att göra beräkningar utifrån.

Det är ju celler det handlar om...

Men, ja, kvinnor menstruerar.

Men det fungerar bara som en ursäkt–

att kvinnor utgör 50 % av befolkningen.

att det här "komplicerade" kropparna–

som man försöker bota.

Och köpa läkemedlen.

snarare än illvilja.

om de inte såg kvinnan som en minoritet–

–i stället för hälften av världens befolkning.

verkar så självklara–

mot databaser med manliga röster–

med kvinnliga röster.

Det borde vara lätt att rätta till.

det här tankesättet är.

från en kille i ledningen för ett bolag–

–som sysslar med röstigenkänning för bilar.

skulle öva upp sina röster–

snarare än att mjukvaran–

från 50 % av befolkningen.

som gjorde sin röst djupare–

så att vi kan köra bil.

Jag satt i en Volvo med min mamma–

–precis när jag hade skrivit det avsnittet.

Hon försökte få bilen att ringa hennes syster.

för den kände inte igen henne.

Då fungerade det direkt.

Eller, en radikal idé–

ha med kvinnoröster i sina databaser.

vilket är ett problem för kvinnor.

Men data blir allt viktigare och viktigare–

som driver artificiell intelligens–

–vilken alltmer styrs av.

Det här kan bli ett allt större problem.

Absolut. Data har alltid varit väldigt viktigt.

hur vi allokerar resurser.

allokeras resurser ensidigt för män.

finns det två problem.

inte vara medvetna om problemet.

sina algoritmer med, snedvriden–

för att rätta till det i koden.

att maskininlärning blir allt bättre.

blir maskininlärningen också det.

att den förstärker snedvridningen.

Det är kanske inte så farligt om man tänker–

eller översättning av lexikon.

i den medicinska världen–

–eller där man fattar rekryteringsbeslut–

eftersom algoritmer styr våra liv allt mer.

som inte verkar ha en aning om–

som de matar algoritmerna med, kan ställa till.

kan titta på algoritmen–

–och se vilken data den använder.

till privata bolag utan insyn.

algoritmer börjar bli skyddad mjukvara.

Så de är skyddade.

att regeringar behöver vakna snabbt–

lägga vår framtid i händerna på privata företag.

på ett öppet sätt.

är att så många män fattar besluten.

exempelvis. Hur kan det förändras?

om New York Philharmonic Orchestra.

New York Philharmonic Orchestra–

–har varit extremt mansdominerad.

hävdade de, att de gick på meriter–

för jobbet. Bokstavligen den bäste mannen.

införde anonyma provspelningar–

–musikern spelar bakom en skärm...

–Ja, de kunde inte se av vilket kön musikern var.

Väldigt snart var de lika många som männen.

att införa anonyma rekryteringar.

som hävdar att de anställer efter meriter–

–ofta inte gör det. Min lösning är–

att införa anonyma metoder.

och ju mer de baseras på meriter–

desto troligare är det–

för den bäste mannen, blir anställd.

Generellt borde organisationer bli medvetna om–

att kryssa i rätt ruta, men om vikten–

–av att produkterna fungerar för alla.

De gör helt enkelt inte det.

tar upp ett intressant exempel.

Hon kämpade för att gå över hela parkeringen–

att de behövde en "mammaparkering".

svarade han. Och det hade inte hon heller–

Det är poängen med mångfald.

veta att de behöver en "mammaparkering"?

Han har aldrig varit gravid.

och vet troligen att det behövs.

med tanke på könsgapet i datan?

–Samla in könsuppdelad data.

Så enkelt är det. Och använd den.

än en gång särskilt i techsektorn–

som visar att meritokrati inte existerar.

är ofta de mest ojämställda.

över att styras av data–

vägrar de att använda just den här.

könsuppdelad data, men också använda den.

Även när den utmanar det du tror är rätt.

Tack så mycket, Caroline Criado Perez.

Författaren och journalisten Caroline Criado Perez har nyligen gett ut boken ”Invisible Women” där hon skriver om hur världen är uppbyggd av och för män. I denna intervju av Katrine Marçal berättar hon att saker som temperaturen på kontoret och säkerheten i bilen har tagits fram efter data från män. Skillnaderna kan göra det i bästa fall obekvämt och i värsta fall farligt för kvinnor.

Den partiskt insamlade datan används för att träna algoritmer till den artificiella intelligens som blir allt vanligare i samhället. I takt med att maskinlärningen blir bättre blir datan ännu mer sexistisk och programmerarna bakom algoritmerna är ovetandes om problemet.

Enligt Criado Perez handlar datainsamlingens brister inte om sexism i första hand, utan en brist på diversifiering bland beslutsfattare. Kvinnotypiska problem får mindre uppmärksamhet av de män som inte påverkas av dem.

Ursprungligen publicerat 2 maj 2019

Få mer av EFN

Missa inga nyheter, prenumerera på våra nyhetsbrev. Markera samtliga nyhetsbrev du vill prenumerera på.

Genom att prenumerera godkänner du att din e-postadress sparas för att vi ska kunna skicka nyhetsbrev till dig. Läs mer här.

Eller hitta oss i sociala medier

Börsindex

OMX Stockholm 30 1.3%
NASDAQ-100 1.5%
NASDAQ Composite 1.4%

Vinnare & förlorare

Sectra 7.9%
Lundin Petroleum 5.8%
Hennes & Mauritz 3.8%
Mycronic -0.5%
Paradox Interactive -2.5%
Kindred Group -3.8%
Uppdaterad mån 17:35
Fördröjning 15 min
  • Vem vann på spelregleringen?3:48

    Vem vann på spelregleringen?

    Vid årsskiftet trädde en lagstiftning för bettingbolag i kraft i Sverige. Efter det har bland annat de stora bettingbolagens spelöverskott sjunkit.

  • 65 snart ett minne blott1:13

    65 snart ett minne blott

    Diskussionen om pensionssystemets utformning har blivit allt hetare. Nu har riksdagens pensionsgrupp tagit fram ett förslag för hur pensionsåldern ska höjas.

  • Starbreeze: Familjedrama och rock´n´roll13:30

    Starbreeze: Familjedrama och rock´n´roll

    Runt spelbolaget Starbreeze har ett börsdrama utspelats som bland annat gjort tiotusentals småsparare allt annat än glada. Journalisten Max Jedeur-Palmgren har skrivit ett reportage om bolaget.