- Jeg skjønner ikke at folk ikke er bekymret, svarte Microsoft-grunnlegger Bill Gates da han nylig fikk spørsmål om hvordan han stilte seg til utviklingen innen kunstig intelligens, såkalt KI eller AI (Artifical Intelligence).

Den verdensberømte fysikeren Stephen Hawking mener utvikling av mer avansert kunstig intelligens kan innebære slutten for menneskeheten, og får støtte av Tesla-gründer Elon Musk som tror KI kan bli problematisk allerede innen fem år.

Ved University of Cambridge har man etablert et eget senter hvor det forskes på potensielle teknologitrusler mot menneskeheten, det såkalte Centre for the Study of Existential Risk (CSER).

Anders Kofod-Petersen har doktorgrad i kunstig intelligens og er professor ved NTNU og seniorforsker i Telenor Research. Han skjønner godt at kunstig intelligens kan virke skremmende.

- Hvis vi blir utryddet vil teknologi naturligvis spille en rolle, men skal jeg være ærlig så er det nok mennesket som kommer til at utrydde mennesket. Det har vi en lang historie for. At et «Skynet» som i filmen Terminator eller The Matrix skulle gjøre det, er nok mindre sannsynlig enn at vi ødelegger planeten med forurensing, overbefolkning eller et eller annet supervåpen.

Selv synes han det mest skremmende med AI spesielt og den teknologiske utviklingen generelt, er hvordan automatiseringen av «kunnskapsarbeid», slik vi tidligere automatiserte manuelt arbeid, vil gjøre store grupper av mennesker overflødige på arbeidsmarkedet.

- Dagens samfunnsmodell hvor vi er hva vi gjør og lever av å arbeide, passer ikke inn i fremtiden. En fremtid hvor vi ikke trenger å arbeide og må kunne leve uten, sier Kofoed-Petersen.

- Lett å skape både optimisme og frykt

- Det er lett å skape både stor optimisme og frykt rundt kunstig intelligens, men fremskrittene har så langt gått i små steg og vært langsommere enn det mange hadde forventet, sier Jim Tørresen, professor i informatikk ved Universitetet i Oslo.

Ifølge Tørrisen dreier kunstig intelligens seg om datasystemer som har evne til å oppfatte og sanse, og tilpasse seg til oss som bruker systemene fremfor det motsatt som har vært det normale.

- Bruk av smarttelefoner og hvordan informasjon blir sortert for deg er noen eksempler på tilpasning til brukeren. Når vi søker etter informasjon og bruker sosiale medier blir treffene bedre og informasjonen vi presenteres for blir tilpasset det vi tidligere har foretrukket om det gjelder nyheter eller reklame. Den største utfordringen er å lage systemer som er generelt gode.

Han mener misbruk er den største potensielle faren med kunstig intelligens, som at uvedkommende hacker seg inn på KI-systemer.

- Det kan like gjerne gå på at personlige data kan komme på avveie som at systemet i seg selv gjør skade. Smarttelefonen har allerede mange opplysninger om oss og roboter vil i fremtiden se og høre mye både på jobben og hjemme som vi ikke ønsker skal havne åpent på Internett.

På spørsmål om vi kan være sikre på at KI kan kontrolleres, svarer Tørresen at det vil være oss mennesker som vil overlate kontrollen til KI for at den skal ta sine avgjørelser på egen hånd.

- Det er langt mer problematisk å vite hvordan KI vil oppføre seg under ulike omstendigheter enn at KI selv «bestemmer seg» for å gjøre noe vi ikke ønsker, sier Tørresen.

- Vi må gjøre jobben skikkelig

Torgeir Waterhouse, direktør internett og nye medier i IKT Norge, mener det er et betydelig misbruks- og risikopotensial.

- Vi må gjøre jobben skikkelig og sikre oppfølging og riktige rammer rundet både utvikling og bruk.