Da de første automatiske heisene dukket opp for nesten hundre år siden, nektet folk å gå inn hvis det ikke sto en heisoperatør der. Teknologien var klar, men tilliten manglet.
Det samme gjelder selvkjørende biler i dag: Sensorer og algoritmer kan være aldri så avanserte, men hvis vi ikke stoler på dem, vil vi heller ikke bruke dem.
Ingenting svekker tilliten mer enn tekniske feil som ender i tragedie. Uber ble et sviende eksempel på dette i 2018. En av deres selvkjørende testbiler kjørte ned og drepte en fotgjenger i Arizona, mens kvinnen krysset veien utenfor gangfeltet.
Etterforskningen avdekket at bilen faktisk oppdaget kvinnen, men programvaren tolket henne feil – og bremset ikke. Dette var trolig den første fotgjengeren som ble drept av et selvkjørende kjøretøy.
«Autopilot» feiltolket
.jpg)
På samme måte havnet Tesla i hardt vær i 2016, der en bil med «Autopilot» kjørte rett inn i en feiltolket lastebil. Dette var trolig den første dødsulykken der en sjåfør døde i et selvkjørende kjøretøy. Det ser ut til at systemene feiler i situasjoner der en gjennomsnittlig oppmerksom sjåfør sannsynligvis ville handlet bedre. Dette kan ryste selve grunnmuren av tillit til teknologien.
Selv om en bil er teknisk sett «nesten feilfri», sliter vi med å stole på noe vi ikke helt forstår.
Dagens selvkjørende biler tar avgjørelser som kan virke ulogiske for passasjerer og andre trafikanter – ja, til og med for sikkerhetssjåførene som sitter klar til å overstyre. Det er ikke nødvendigvis feil ved algoritmen, men når handlingene virker uforklarlige, blir det en ekstra barriere å gi fra seg kontrollen.
Mennesker er vanedyr; vi liker å vite hva som foregår, og maskiner som bråbremser eller ikke reagerer i tide, oppleves kaotiske.
Tillit til utviklerne
Så kommer spørsmålet: Er selskapene bak virkelig motivert av å gjøre teknologien tryggere, eller haster de på for å være først på markedet? Tesla kritiseres for å kalle systemet «Autopilot» og «Full Self-Driving», noe som skaper inntrykk av at bilen klarer seg helt alene.
Realiteten er mer nyansert, og bilføreren er fremdeles den ansvarlige og må fortsatt være på vakt. I Uber-saken viste det seg at selskapet over tid hadde dyttet grensene for å nå ambisiøse interne milepæler og ta markedsandeler.
De har blitt kritisert for sin manglende sikkerhetskultur. Når forretningshensyn virker viktigere enn forsvarlig testing, er det forståelig at folk vegrer seg for å slippe rattet.
Er vi klare?
Til tross for negativ publisitet er selvkjørende teknologi kommet for å bli. Biler som kan navigere selv, finnes allerede på veiene i Norge.
Mange utviklere tar sikkerhet på største alvor, og det rapporteres om forbedring i både sensorteknologi og beslutningssystemer. Men alt dette er lite verdt hvis vi ikke kan stole på at både teknologien og selskapene bak har menneskers sikkerhet i høysetet.
Automatiske heiser trengte en solid PR-kampanje og psykologisk kunnskap før de etter hvert ble akseptert. Nå stoler vi blindt på at de beveger seg trygt fra etasje til etasje uten noen menneskelig operatør ved spakene.
Forskjellen er at en heis går i en lukket sjakt, mens biler må forholde seg til hundrevis av usikre faktorer i trafikken. At det blir feil av og til, er dessverre uunngåelig. Spørsmålet er hvor små feilene må være, og hvor tydelig utviklerne jobber for å minimere dem, før vi aksepterer «automatisk kjøring» som normalt.
Det største hinderet
Det største hinderet for selvkjørende biler er ikke teknologien i seg selv, men at mennesker tviler på om den virkelig er trygg nok – og om de som lager den, gjør alt for å bevise det.
Historien har vist oss at vi gradvis kan venne oss til automatiserte løsninger. Hvis utviklerne virkelig vil at vi skal stole på selvkjørende biler, må de bevise at sikkerhet kommer først. Lykkes de med det, kan fremtidens trafikk bli like selvsagt og trygg som en heistur i dag.
Kostnadssmell: – Har satt seg fast
