Automatisering i seg selv gir ikke bedre sikkerhet. Den fører til ny sårbarhet som kan redusere evnen til å gripe inn ved uventede og kritiske hendelser.

Teknologioptimister har grunn til å være glade om dagen. I transport forskes det intenst på førerløse systemer både når det gjelder biler, tog, fly og båter. Dette kan gjøre ting lettere, billigere og frigi tid til å gjøre andre ting når vi er på reise. Har vi alle grunn til å se lyst på framtida – ikke bare teknologioptimistene?

På Forskningsrådets transportsikkerhetskonferanse nylig snakket samferdselsministeren varmt om hvordan førerløse biler i nær fremtid vil kunne revolusjonere måten vi transporteres på. Bilfabrikanter, drone- og robotprodusenter introduserer oss for teknologiske nyvinninger i rekordfart og peker mot en fremtid hvor teknologien overtar spaker, ror og ratt. Men hva når teknologiutviklingen skjer i sikkerhetskritiske sektorer som transport? Hva når sikkerheten er viktigst eller like viktig som effektivitet? Vi mener at automatisering i seg selv ikke gir bedre sikkerhet og stiller spørsmål ved hvordan automatiserte førersystemer håndterer verdimessige og etiske problemstillinger om sikkerhet.

Vi hører ofte at «det er menneskelig å feile», og at teknologi kan fjerne oss «upålitelige enkeltindivider». Altså jo mer teknologi og automatisering, jo bedre blir sikkerheten. Dette er en forenkling og galt. Det må være mennesker som bestemmer design, overvåker og godkjenner handlinger i teknologiske systemer. Automatisering medfører nye sårbarheter og kan redusere håndteringsalternativene under uventede og kritiske hendelser. Er sikkerhet et mål trenger vi operatører med systemforståelse og tilpasningsevne. Høy pålitelighet forutsetter løsninger for hvordan teknologien kan overvåkes og hvordan mennesker kan gripe inn dersom noe uønsket skjer.

Transport er en sektor som allerede tar i bruk automatisering på mange områder. Både flymaskiner, tog og båter styres ved hjelp av autopiloter. I to ulike forskningsprosjekter under Forskningsrådets TRANSIKK-program har vi studert hvordan slik teknologi kan påvirke sikkerheten.

Forskningen viser at automatisering kan føre til effektivisering, bedre regularitet og bidra til sikkerhet og pålitelighet. Det er imidlertid et MEN. Vi finner at teknologien må fungere i samspill med operatører og organisasjoner for å gi positive resultater. Suksessfull automatisering krever kontroll over rammebetingelser og at handlinger og verdier kan standardiseres. Når disse betingelsene ikke er til stede, for eksempel hvis noe en ikke har planlagt for inntreffer, eller sensorer eller andre kritiske komponenter feiler, mister automatiseringen sin ønskede funksjon. Sikkerheten er da avhengig av operatørenes forståelse av situasjonen og deres handlinger.

Et eksempel på automatikkens begrensninger er dynamiske posisjoneringssystemer om bord på forsyningsfartøy som betjener oljeinstallasjoner i Nordsjøen. Disse systemene holder skipet i en fast posisjon når det skal lastes og losses. Det har imidlertid vært flere tilfeller av systemsvikt, noe som har ført til farlige situasjoner. Et annet eksempel er knyttet til ruteflyginger innen kommersiell luftfart. Siden 1970-tallet har moderne flymaskiner i økende grad blitt utstyrt med systemer som automatiserer mange funksjoner og reduserer arbeidsbelastningen til pilotene. Disse systemene er komplekse og også utsatt for feil og mangler. Analyser av alvorlige hendelser har vist at i situasjoner hvor automatiseringen plutselig faller bort eller feiler har piloter ikke vært i stand til å forstå hva som skjer, overta funksjoner og fly manuelt. Automatiseringen kan altså ha tatt fokuset bort fra navigatørenes og pilotenes ferdigheter, med konsekvenser for sikkerheten.

Automatisering alene vil dermed medføre færre handlingsalternativer, noe vi ikke ønsker når høy pålitelighet og sikkerhet er viktig.

Teknologiutviklingen reiser også sosiale og etiske spørsmål knyttet til sikkerhet. For eksempel vet vi at førerløse biler også blir utsatt for ulykker. Selv om vi ved å fjerne sjåføren tar bort mange forhold som kan bidra til at det går galt, vil vi ved automatiserte løsninger introdusere nye. Hvem er det som skal ta ansvaret når to førerløse biler kolliderer? Er det fabrikanten, personen (-e) eller selskapet som eier bilen? Vi kan også se for oss at systemene foretar valg i kritiske situasjoner som kan skade andre trafikanter. Er det riktig å automatisere beslutninger om liv og helse?

Disse spørsmålene handler blant annet om forholdet mellom sikkerhet og tillit. Vi har tillit til automatiserte systemer så lenge de fungerer i tråd med våre mentale modeller og forestillinger.

Gjør de ikke det vil tilliten raskt forsvinne. I møte med det uforutsette, sårbarheter, feil og mangler er tillit og sikkerhet knyttet til andre forhold. Her er prioriteringen av sikkerhet og den verdibasert tilliten i relasjonene mellom enkeltpersoner og organisasjoner og mellom organisasjoner og samfunn viktige faktorer.

«The future’s so bright, I gotta wear shades» sang Timbuk3 på åttitallet. Underteksten var frykt for en kjernekraftindustri som kunne komme ut av kontroll. Det er mulig vi foreløpig kan la solbrillene ligge når det gjelder førerløse systemer – teknologien har potensielt en betydelig oppside, også knyttet til sikkerhet. Det er imidlertid viktige avklaringer vi som samfunn og brukere må ta. Og folk med god kompetanse og ferdigheter må alltid ha en plass i transportsystemer.