Forskarna: så kan företag få människor att lita på ny teknik

I framtiden rullar förarlösa bilar på vägarna, människolika robotar syns i vården, allt fler prylar är uppkopplade. Utvecklingen lockar många. Skrämmer andra. Hur kan företag få människor att lita på nya innovationer? Frågan gick till forskarna Alexandros Rouchitsas och Sven Ove Hansson.

Framtidens omvälvande teknologier påverkar människors liv i grunden. Men potentialen är bortkastad om vi inte vågar använda nya tjänster och produkter.

 

Så vad avgör om människor känner tillit till teknologi?

 

Enligt Alexandros Rouchitsas, doktorand i teknisk psykologi vid Luleå tekniska universitet (LTU), krävs att användaren har kunskap om teknikens vad, hur och varför – oavsett vilken teknologi det handlar om.

 

– Vi litar på teknologin när vi känner till prestationsförmågan, vet hur den fungerar, vad den har för tillförlitlighet och förutsägbarhet. Vi litar också på tekniken när vi vet vilket syfte den har, också på ett högre plan: varför utvecklades den till att börja med?

 

Men tillit till teknikanvändning är knepigt. Både för mycket och för lite är problematiskt. Det ideala scenariot är därför kalibrerad, alltså balanserad, tillit.

 

– Tillitsnivån ska matcha teknologins faktiska förmåga och tillförlitlighet. Det kan bara uppnås om användaren vet vad systemet kan göra, men också vad det inte kan göra, säger Alexandros Rouchitsas.

Det skadar inte att tekniken har människolika egenskaper i viss mån.

Fem grundläggande designriktlinjer bidrar till optimal tillitsnivå. I korthet går de ut på att användaren vet vad som händer i realtid, får information om tillförlitligheten skulle vara äventyrad och har möjlighet att ta över kontrollen manuellt. Systemen ska också vara lätta att använda och inte kännas allt för mycket som maskiner.

 

– Det skadar inte att tekniken är antropomorfiserad, alltså har människolika egenskaper, i viss mån. Det gäller också gränssnitt i bilar. Inom mitt tillämpningsområde försöker vi ersätta bristen på förare i autonoma bilar genom att exempelvis lägga till ett leende ansikte på kylargrillen.

 

Vi litar mer på självkörande fordon som kommunicerar

Alexandros Rouchitsas forskar på människors upplevelser och interaktion med självkörande bilar. Just nu jobbar han med externa människa-maskingränssnitt för främjad kommunikation.

 

– En förarlös bil kan utrustas med en LED-display och när en fotgängare dyker upp berättar systemet att bilen ska väja, stanna eller köra förbi. Vi har sett att människor litar mer på ett självkörande fordon som tydligt kommunicerar aktuell status och vad som händer näst.

Alexandros Rouchitsas Foto: Maria Valavani
Alexandros Rouchitsas Foto: Maria Valavani
Vi kan acceptera att folk är otillförlitliga, men absolut inte maskiner.

Tilliten är inte huggen i sten. Det krävs bara ett litet gränssnittsfel för att rejält sänka tron på både gränssnittet och på självkörande bilar i stort.

 

– Det är intressant att se hur dynamisk process det är att bygga tillit, den hänger på en skör tråd. Människor kan uppskatta innovationen, men det krävs bara ett misstag för att de ska säga nej, det är inget för mig.

 

Det tar tid innan omvälvande teknologi ses som normal

Inställningen är helt rimlig och bottnar i grundläggande mänsklig psykologi enligt Alexandros Rouchitsas. Det tar tid innan omvälvande, radikala teknologier ses som det nya normala.

 

– 93 procent av trafikolyckorna beror på den mänskliga faktorn, ändå har många problem med att autonoma fordon inte går att lita på till 100 procent. Jämförelsen är intressant: vi kan acceptera att folk är otillförlitliga, men absolut inte maskiner.

Hans Ove Hansson Foto: Erik Thor
Hans Ove Hansson Foto: Erik Thor

Sven Ove Hansson är professor i filosofi vid Kungliga Tekniska Högskolan (KTH). Hans erfarenhet är att tillvänjning, egen erfarenhet och nytta är avgörande för hur ny teknik tas emot. Ett historiskt exempel är motorfordon.

 

– Folk uppfattade det som farofyllt när bilar började synas på vägarna, även om farten var låg och olyckorna få. I dag är dödstalen i trafiken höga. Motståndet är ändå litet, för vi ser en klar nytta med bilar. Så tillvänjning kan vara både bra och dålig, vi kanske har vant oss lite för snabbt vid att det kan gå snett på vägen.

 

Är det viktigt att människor litar på teknik?

– Jag skulle snarare säga att det är viktigt att vi KAN lita på teknik. Att den utformas så. I dag finns exempelvis genomtänkta skydd på många handverktyg. Där har utvecklingen skapat säkrare teknik, säger Sven Ove Hansson.

 

Vilka känslor eller handlingar kan uppstå när vi inte litar på teknik?

– Först och främst kan det yttra sig i ett väldigt rationellt beteende: att vara försiktig. Det är ganska vettigt att man vill veta mer om främmande teknik. Men folk som går för långt, som vaccinmotståndare, har en felaktig uppskattning om riskerna. En viktig orsak är att vi människor tenderar att inte ta till oss fakta vi inte gillar.

 

Gäller det även när vi närmar oss ny teknik?

– Naturligtvis. Man lyssnar helst inte på negativ information om man upptäckt en ny apparat som uppfyller alla ens behov, säger Sven Ove Hansson.

Misstänksamheten får negativ effekt på systemets prestationsförmåga. Användaren står i vägen.

Enligt Alexandros Rouchitsas yttrar sig misstro till teknik i två former. Det första är övertro: användaren bedömer teknologin som mer kapabel än den faktiskt är, underskattar risken för krångel och konsekvensen av olyckor.

 

– Det kan leda till att användaren delegerar ansvar till teknologin på ett oaktsamt sätt, exempelvis förare som använder bilens assistentsystem och passar på att läsa en tidning bakom ratten. Tekniken är inte alls tänkt att användas så.

 

Systemet kan inte ge 100 procent och blomma ut i sin fulla potential

Motsatsen till övertro är misstänksamhet. Användaren ser automationen som mindre duglig än den är. Ett vanligt exempel är operatörer som kopplar förbi larm när de tycker att det ger ifrån sig väsen utan vettigt skäl.

 

– Misstänksamheten är intressant ur varje teknologiskt perspektiv, för den får negativ effekt på systemets prestationsförmåga. Användaren står i vägen. Systemet kan inte ge 100 procent och blomma ut i sin fulla potential.

 

Ny teknik vinner mark, inte bara inom industrin och i trafiken utan även i skolor, hälsovård, butiker, myndigheter och så vidare. Tilliten kan variera beroende på område.  

 

– Jag tror att människor alltid kommer att ha lättare att acceptera självkörande bilar som fattar beslut om en omväg på grund av ett vägbygge än att humanoida robotar ställer diagnoser eller bestämmer att en livsuppehållande behandling ska avslutas, säger Alexandros Rouchitsas.

 

Han tillägger att det handlar lite om teknikutveckling och mer om vad transport och vård är för människor. Hälsa handlar om liv och död, inte förflyttningar i tid och rum.

 

Acceptans så länge det finns människor som tar ansvar för maskinen

Sven Ove Hansson tror att artificiell intelligens, teknik för bedömning av röntgenbilder, diagnosverktyg och andra teknologier med stor nyttopotential har chans att bli allmänt accepterade inom vården.


– Så länge det finns människor som använder och tar ansvaret för maskinerna fungerar det sannolikt. Jag skulle tro att det går en ganska skarp gräns vid om maskinen får fatta besluten.

Bygg tillit till tekniken, till företaget och till kommunikationen.

Hur ska då företag som utvecklar framtidens teknologier få människor att lita på innovationerna?

 

Sven Ove Hanssons råd är att noga tänka igenom vad produkten eller tjänsten kan komma att användas till – alltså utöver det man själv ser som givet. Effekterna av ny teknik är svåra att förutsäga, men företagen måste ta med olika scenarion i beräkningen.

 

– Ta gärna hjälp av oberoende personer inför viktiga teknikbeslut. Det är fördelaktigt om nya innovationer skärskådas av människor som inte från början har en stark föreställning om att det kommer att bli väldigt bra.

 

Tänk längre än bara produkten eller tjänsten

Företag borde också granska värderingsfrågor mer systematiskt anser han.

 

– Jag tycker att teknikföretag ska titta närmare på metoden Value Sensitive Design, som går ut på att tänka igenom sina värderingar och hur de passar in på det man gör. Ofta påverkar det hur man sedan fattar tekniska beslut.

 

Alexandros Rouchitsas nämnde tidigare fem riktlinjer för att skapa optimal tillit, men det finns mer att tänka på. Företagen måste tänka längre än bara produkten eller tjänsten.

 

– När vi pratar om något så innovativt som självkörande bilar är det viktigt att företaget ärligt kommunicerar sin agenda, sin syn på teknik och utveckling. Så bygg tillit till tekniken, till företaget och till kommunikationen. Det är ett strategiskt beslut på högsta nivå, säger han.

Publicerad oktober 2020

Text

Minna Ulin

Illustration

Katy Kimbell