Keymetrics

Etik och jämlikhet viktiga frågor för SAS Institute

Utöver ett mycket stort fokus på AI och analys, har SAS Institute även fokus på andra delar av den digitalisering som vi just nu upplever. Dels behöver vi jobba för att få fler kvinnor och personer från socioekonomiska utsatta grupper i tekniska yrken, och dels behöver vi har ett stort fokus på etiska aspekterna av AI-utveckling. Under SAS Global Forum fanns många tillfällen att förstå hur SAS tänker i båda dessa avseenden.

Jämlikhet i teknikvärlden

Den snabba digitaliseringen driver fram ett stort behov av utbildning och kompetenshöjning. Att det då företrädelsevis är män som söker sig till tekniska och analytiska yrken innebär stora risker för att vi inte kommer att ha tillräckligt med IT-kompetenta personer att tillgå framöver. Därför är det viktigt att även lyfta fram kvinnliga tekniker, forskare och kodare. Under andra dagens keynote på SAS Global Forum var scenen därför helt dedikerad till kvinnor, och på scen fanns bland andra raketforskaren Olympia LePoint samt grundaren av Girls Who Code: Reshma Saujani.

Olympia LePoint, raketforskare och författare

Både Olympia LePoint och Reshma Saujani pratade om hur framför allt kvinnor ofta står tillbaka från teknik- och analysjobb, och menar att vi behöver se till att hela befolkningen får möjlighet att vara med i den digitala framtid som vi nu håller på att skapa. Från egna upplevelser berättade de om vikten av att överkomma rädslan för att misslyckas, och att kvinnor har samma biologiska förutsättningar för att lära sig matematik, analys och programmering, men att uppväxt och kultur på olika sätt bidrar till att de känner sig underlägsna. För att vi ska kunna tillgodose behovet av teknisk kompetens i framtiden räcker det inte om bara halva befolkningen jobbar med detta, utan vi måste få med såväl kvinnor som personer från socioekonomiskt utsatta hem.

Reshma Saujani, grundare av Girls Who Code

Etik i AI-utvecklingen

Från SAS Sweden fanns Josefin Rosén med, som till vardags jobbar med Advanced Analytics and Artificial Intelligence. Ett av hennes huvudområden är just etik och hur man motverkar jäv och diskriminering när man använder AI. Eftersom AI är ett så kraftfullt verktyg, finns risken att eskalera och förstärka oönskade beteenden genom oaktsamhet. Ett exempel är när ett amerikanskt bolag ville träna en AI för att bedöma kandidater för ingenjörsjobb. Där diskriminerades kvinnor helt trots att de hade exakt samma kvalifikationer som männen de ställdes mot – allt på grund av obalans i träningsdata då ingenjörsyrket historiskt sett är mansdominerat och de byggde sina modeller på historiskt data. Att ta fram bra träningsdata är därför oerhört viktigt, och kommer fortsätta att vara kritiskt i många år framöver.

Josefin Rosén, Advanced Analytics and Artificial Intelligence på SAS Institute Sweden

SAS har dock byggt sin AI på full transparens, vilket ger möjligheter att analysera den data som finns tillgänglig, för att sedan kunna upptäcka diskriminerande aspekter även i den levande data som kommer in för analys. SAS visade upp ett exempel när universitetssökande från olika delstater hade olika sannolikhet att komma in, eftersom sättet som delstaterna beskrev sina mattekurser skilde sig åt. Eleverna hade läst samma mängd matte, men då kurserna bedömdes ha olika nivå i olika delstater blev resultatet att vissa sökande fick avslag utan saklig grund. Utan denna öppenhet hade den här typen av orättvisor inte kunnat upptäckas.

Oliver Schabenberger, SVP, COO och CTO på SAS

Avslutningsvis fick jag möjlighet att prata med Oliver Schabenberger, EVP, COO och CTO på SAS, om hur etiska överväganden kring användandet av AI spelar in i det sätt som SAS kommer att agera i framtiden. Just nu pågår ett flertal diskussioner världen över om hur vi ska se till att AI inte används för oetiska eller direkt livshotande ändamål såsom att ta fram vapen eller manipulera människor. I ett citat som Dagens Analys fick från Oliver framgår att SAS ”under flera år har samarbetat med affärspartners och myndigheter för att utveckla standards och regelverk för nya tekniker som skyddar människor från skada och samtidigt tillåter fördelaktig användning”. Du kan läsa hela citatet och den bifogade bakgrunden till ställningstagandet här.

För att vara ett vinstdrivande företag som ligger långt fram i utvecklingen av AI och avancerad dataanalys, är det en lättnad att veta att de ser allvarligt på de risker som finns med deras produkter. Då AI är mycket kraftfullt och snabbt kan även små felsteg på mycket kort tid få väldigt stora konsekvenser. Att SAS då är medvetna om och tydligt agerar mot oetiska eller oaktsama ageranden är av yttersta vikt.

På Dagensanalys.se skriver vi för alla som jobbar med digitala medier och digital marknadsföring. Vi plockar upp trender, skriver om nyheter och delar våra tips och idéer. Häng med genom att läsa Dagensanalys.se!

RELATERADE NYHEER
L’Oréal väljer Wavemaker till sin digitala resa