Framtiden är ljus med artificiell intelligens

Vi träffas i ett konferensrum på Boston Consulting Group (BGC) i Stockholm. Här har Anna Felländer ett av sina uppdrag, som senior rådgivare åt stora företag. Det jobbet är emellertid bara ett av många. Hon är dessutom knuten som forskare till Kungliga Tekniska Högskolan (KTH), hon är gästforskare på Handelshögskolan i Stockholm där hon jobbar med finansiell teknik (fintech), hon är rådgivare till digitaliseringsministern och hon sitter i ett antal uppstartsbolag kopplade till artificiell intelligens.

Från regeringen till näringslivets minsta beståndsdelar alltså.

Det Anna Felländer helst vill prata om är artificiell intelligens och etik. Det är detta hennes forskning på KTH handlar om och en central fråga ur både näringslivsperspektiv och samhällsperspektivet i övrigt.

– Det här är det nya. Först så såg vi att vi hade jättestora möjligheter med data. Sedan kom vi på det här att ”Jaha, vi måste ha datasäkerhet också”. Nu handlar det också om de etiska avvägandena, säger hon.

Rent konkret handlar det om att ställa kortsiktiga vinstmål mot en långsiktigt hållbar verksamhet. Artificiell intelligens är målstyrd, den strävar efter att varje beslut den fattar ska närma sig det mål du har sagt till den att sträva efter. Om det målet till exempel är ”maximera försäljningen”, kommer AI:n att göra sitt yttersta för att göra just detta – utan tanke på eventuella bieffekter. Det skulle till exempel kunna innebära att AI:n väljer att rikta marknadsföring mot personer som är sockerberoende för att maximera deras inköp av läsk eller andra sötsaker. Resultatet skulle sannolikt bli ökad försäljning – åtminstone på kort sikt.

Samtidigt skulle det kunna leda till att människor – konsumenter och medborgare – börjar misstro de företag och myndigheter som använder sig av denna typ av målstyrning, och i slutänden de som använder AI över huvud taget. Resultatet blir att människor blir mer restriktiva med att dela med sig om data om sig själva, alltså det råmaterial som krävs för att den artificiella intelligensen ska kunna hitta de mönster som gör den effektiv till att börja med.

Summa summarum: genom att agera på sätt som gör att människor förlorar tron på företag och myndigheter, undergräver man grunden för själva existensen av artificiell intelligens.
Alternativet är att inte programmera den artificiella intelligensen att maximera vinsten oavsett vad, utan att också ge den ramar för vad som är ett acceptabelt beslut. Eller med andra ord, vilka beslut som är etiska eller ej. 

– För att få ett inkluderande samhälle och lojala kunder behöver vi skapa tillit kring hur människors data hanteras och att de beslut som är kopplade till data- och AI-baserade processer är hållbara, säger Anna Felländer. 

– Därför behöver vi prata om vad som krävs för att skapa ett starkt socialt kontrakt, att människor känner tillit till myndigheter och andra aktörer i samhället. Saknas det kontraktet kan jag som medborgare välja att inte dela med mig av mina och mina barns beteendemönster i form av databaser, då har vi ett brutet socialt kontrakt och då ... då är vi inte på ett bra ställe.

”Det sociala kontraktet” är något som oftare nämns i relationen medborgare-samhället, men när det kommer till AI är det faktiskt företagen som står i första ledet.

– Regelverket släpar efter, tekniken rusar. Därför blir det företagen som får stå som ansvariga för hur medborgares och kunders data används. Vi konsumenter kommer att kräva av företagen att få både transparens och kommunikation kring vilka etiska riktlinjer de har för hur våra data används.

Artificiell intelligens har enorm potential både som affärsverktyg och för att skapa ett bättre samhälle för alla. Anna Felländer beskriver det som att ”den mänskliga intelligensen förstärks och expanderar med hjälp av artificiell intelligens”. Det innebär att om en människa kan behålla överblicken över 150 personer som max, så kan den artificiella intelligensen teoretiskt sett överblicka ett oändligt antal personer. Omsatt i verksamhet så innebär det att varje kund eller medborgare kan få ett erbjudande skräddarsytt efter de egna behoven och önskemålen.

– Med hjälp av AI får varenda medborgare och kund, i ett bra scenario, en skräddarsydd kommunikation som gynnar både samhälle och individ. Det blir en otrolig uppskalning av förfinade erbjudanden, säger Anna Felländer.

De vinster i effektivitet som görs kan innebära både stora besparingar och möjlighet till nya intäkter för företagen.

Men det finns inga gratis luncher, som bekant. Artificiell intelligens är ett kraftfullt verktyg som beter sig på sätt olika de vi har vant oss vid historiskt. Framför allt handlar det om att den skalar väldigt fort och börjar agera på sätt som inte har gått att förutse.

Ett oskyldigt exempel på detta är två chat-botar hos Facebook, som i ett experiment skulle förhandla med varandra om olika ting, som hattar och bollar. Redan tidigt i förhandlingen började de två artificiella intelligenserna emellertid att utveckla språket, och snart pratade det med varandra på en form av engelska som experimentledarna inte alls förstod. För chat-botarna var det nya språket en förbättring, men det stängde ute människorna som skulle ha koll på dem.

Chat-botarnas eget språk var i sig inte farligt, men det illustrerar hur snabbt AI kan utvecklas och hur snabbt det kan bli svårt att kontrollera och överblicka. Det ökar kraven på ägarna till den artificiella intelligensen att förbereda sin organisation på olika sätt för att kunna hantera AI i sin verksamhet.

Anna Felländer pekar ut några av de risker som finns med AI.

– För det första, artificiell intelligens är inte neutral, utan den skapas med de värderingsgrunder som sätts av den som skriver algoritmen. Dessutom baseras AI-beslut och rekommendationer på en historik med inbyggda fördomar, säger hon.

Det sistnämnda har bland annat uppmärksammats av den amerikanska nyhetskällan Pro Publica, som i ett långt reportage förra året avslöjade hur en AI som användes för att bedöma risken att människor återföll i brottslighet var fördomsfull. I bedömningen av en svart, tidigare ostraffad persons återfallsrisk och detsamma hos en vit återfallsförbrytare, bedömdes den svarta personen ha nästan fyra gånger så hög återfallsrisk. Skälet till bedömningen uppgavs vara just att de historiska data algoritmen använde för sina förutsägelser, i sig var resultatet av fördomar.

Effekten kallas ”maskinella fördomar” eller ”machine bias” och uppstår när AI:n lär sig på datasamlingar som i sig är resultatet av fördomar. I exemplet ovan handlar det om att svarta generellt sett ges sämre förutsättningar än vita i det amerikanska rättssystemet, något som ärvs av den artificiella intelligensen.

En annan risk är att du har bristande kontroll över hur dina data används. Till skillnad mot förr, när det var viktigt att stänga in sina egna data, är det idag viktigt att istället öppna upp och göra sina egna data tillgängliga för andra, enligt Anna Felländer. Detta i utbyte mot att andra gör likadant. Genom att din AI får tillgång till ett bredare urval data om en persons beteende, kan den fatta bättre beslut och skapa bättre rekommendationer för just den personen – i slutänden kanske ett personligt köperbjudande.

– Men när du börjar dela ut data mot andra, måste du också ha kontroll över vilka data som öppnas upp och hur din data används av andra aktörer.

Idag finns det stora brister hos svenska företag kring detta, menar Anna Felländer.

– Problemet är att det inte finns någon holistisk hållbar data- och AI-strategi hos många företag, för det är ingen som har tänkt på det här. Men den strategin behövs, eftersom AI skalar så snabbt och du snabbt tappar kontrollen och överskådligheten. Därför behövs andra beslutsprocesser, annan överskådlighet, andra organisationsstrukturer och andra förmågor för att kunna hantera detta. Och det behöver vi rigga företagen för.
Riggningen sker i ett antal steg.

– För det första handlar det om att identifiera vilka data jag har i min organisation, direkt och via de jag samarbetar med, och vilka beslut som drivs av data och AI i min organisation. När jag vet det behöver jag anpassa organisationsstrukturen så att jag kan skapa risk- och scenarioanalys för att förbereda detta och för att identifiera och motverka till exempel machine bias, säger Anna Felländer.

– Sedan måste man också i alla delar av organisationen skapa kompetens för att koda eller programmera för de övergripande etiska riktlinjerna. Och att i varje beslut göra avvägningen mellan att maximera vinst och nå etiska hållbara beslut och rekommendationer.

Med andra ord, du behöver kontinuerligt träna AI för att undvika fallgropar av etiskt motstridiga eller felaktiga beslut, du behöver skapa förmåga att bygga och värdera etiska värderingar i algoritmer och AI-baserade beslut, du behöver skapa kontrollpunkter i processerna för att kunna upptäcka risker och du måste lyckas få detta att genomsyra hela din organisation.

– Det finns samtidigt enorma möjligheter att vända dessa risker till möjligheter. Oftast programmeras AI mot vinst och produktivitetsmål. Men genom att inkludera till exempel mångfald och jämställdhet eller FN:s globala hållbarhetsmål, kan AI snabbare skapa ett mer jämlikt hållbart samhälle. Detta kan bli en konkurrensfördel för organisationer i en mer transparent värld, säger Anna Felländer.

Ett omfattande arbete, men faktum är att EU indirekt tvingar företag att göra mycket av arbetet redan före maj 2018. Då träder det nya allmänna datadirektivet – allmänt kallat GDPR – i kraft.

– GDPR innehåller fyra komponenter, och det här är bra för att säkerställa att EU-medborgaren känner att den har tillgång till sin egen data. De fyra komponenterna är att jag på ett enklare och mer överskådligt sätt kan ge mitt delgivande eller säga nej till att dela min data, att jag kan ha rätten att bli borttagen, att jag har rätt att flytta alla mina data från en aktör, och slutligen en komponent som handlar om transparens kring hur algoritmer utformas. Det sistnämnda skulle kunna handla om att om jag får rådgivning från en bank kring hur jag ska placera mina barns sparpengar, så kan jag kräva att få se på vilka grunder det här beslutet togs, säger Anna Felländer.

För att klara att leva upp till dessa regler krävs det att företag skaffar sig väldigt bra kontroll över vilka data de har, hur de får användas och i vilka processer de används. Även om dataskyddsförordningen inte specifikt siktar in sig på AI, gör kraven i den att de företag som anpassar sig till det regelverket, samtidigt kommer en bit på väg mot att kunna hantera AI på ett bra sätt.

Men vi är i en brytningstid. Samtidigt som tekniken rusar framåt och hela tiden erbjuder nya möjligheter, släpar regelverk och kompetens efter.  

– I en perfekt värld förstår företagen hur man ska omfamna den nya teknologin och hur man ska minska riskerna kopplat till det. Men som det ser ut nu är det svårt att bara titta på forskningen och sedan gå hem till sin egen organisation och säga ”guys, nu kör vi”, säger Anna Felländer.

För att lyckas vill hon se testbäddar där företagen kan öva och standarder för att förstå och kunna hantera AI och se hur det kan användas i den egna organisationen på ett långsiktigt hållbart sätt. Etablerade standarder skulle också göra det möjligt för mindre företag, de som saknar möjlighet att avsätta tillräckliga resurser internt, att hantera detta skifte och vad det för med sig.

En nyckel till framgång är utbildning, både av den kommande arbetskraften och den existerande.

– Kompetensförsörjningen är en huvudvärk för de flesta vd:ar idag. Vi måste jobba jättemycket med det där, med våra högskolor, via samarbeten, men också med att bygga träning internt.

Det är en angelägenhet inte bara för näringslivet, utan för samhället som helhet. De besparingar och vinster AI bidrar till uppkommer till stor del när färre kan göra mer. På senare år har det ofta lyfts fram att uppemot halva Sveriges arbetskraft kommer att bli överflödig om bara några decennier. På senare tid har prognoserna dock nyanserats – visst kommer AI att ta över mångas arbetsuppgifter, men samtidigt kommer den också att åstadkomma nya.

– När vi har självkörande bilar är det klart att taxichaufförsyrket kommer försvinna. Men vi kommer att göra något annat i våra självkörande bilar, som att till exempel ha konferenser. Och då behövs en ny typ av kompetens där, säger Anna Felländer.

Hon ritar på skrivtavlan och pratar om ”the mid-skilled squeeze” – jobb som kräver högre utbildning och jobb som kräver lite utbildning blir kvar, medan de i mitten försvinner.

– Det är jobb som är lågt reglerade och har en hög grad av förutsägbarhet, som receptionister och taxichaufförer. Men också juristassistenter, redovisningsekonomer och många jobb inom finanssektorn kan försvinna. En del tror att även psykologer kommer att kunna ersättas.

Samtidigt skapas nya jobb som handlar om att komplettera AI.

– Det är explainers, trainers och sustainers för AI. Trainers och explainers för att vi måste träna AI hela tiden och vi måste förklara för både kunder, medborgare och företagsledning och organisation hur vi använder artificiell intelligens. Sustainers handlar om att ta hand om AI och vårda och skapa överskådlighet.

När jobben i mitten automatiseras kommer efterfrågan på de jobben som kräver lägre utbildning att öka. Det har tre orsaker.
Det beror dels på att de mellanutbildade som blir av med sina jobb, inte kommer att kunna kliva uppåt och ta jobb som kräver högre utbildning: istället kliver de nedåt och tar jobb som de egentligen är för högutbildade för.

Dels skapar ett jobb inom en högutbildad, konkurrensutsatt sektor per automatik tre nya jobb i den lokala tjänstesektorn eftersom de som blir rikare tenderar att köpa fler tjänster lokalt.
Dels får vi hela tiden nya svenskar.

– I det allra bästa scenariot skulle vi kunna vidareutbilda de överflödiga i mitten och de nya svenskarna så att de hamnar i gruppen högutbildade – då skulle vi också slippa matchningsproblemen som finns idag, där det saknas viktig kompetens. Men av olika orsaker är detta inte troligt.

Anna Felländer pratar om en transformation av arbetsmarknaden, där det politiska ledarskapet är avgörande för hur bra nettoeffekten blir. Men företagen har också en viktig roll att spela.

– Det bästa vore om företag gick i bräschen för att visa på att ”vi har skapat möjligheter för snabb ”on the job-training”, det har lett till att vi slapp säga upp så här många, vi tog vara på den kompetensen och den dolda kunskapen som fanns i organisationen och det går att skola om”.

– Det vill säga några riktiga bra exempel från näringslivet på hur man skapat incitament, verktyg, och ekonomiskt utrymme för sina anställda så att det är möjligt för dem att anpassa talang till de nya kraven som ställs.