Når robotene selv begynner å utvikle roboter, så er det viktig at de begynner å tenke moral. Et nytt forskningsprosjekt ved Universitetet i Agder skal finne ut hvordan kunstig intelligens kan ta moralske valg.
Prosjektet er helt i oppstarten og har fått arbeidstittelen «De gode robotene - kan robotene gå foran med et godt eksempel?». En av forskerne i prosjektet er professor Ole-Christoffer Granmo som er en av Norges fremste eksperter på kunstig intelligens og som også har hatt stort gjennomslag på feltet internasjonalt. Han har med seg både to professorer i filosofi og teologi og en annen professor i kunstig intelligens.
– De fire forskerne skal undersøke og utvikle helt nye konsepter for såkalt «maskinmoral»,forteller han.
Kunstig intelligens-spesialisten forklarer at maskiner stadig blir bedre enn oss mennesker på flere områder. Jo mer maskinene tar over, jo viktigere blir det derfor også at de ikke gjør noe moralsk galt.
Nøyaktig hvordan man skal gå fram for å gi roboter moralsk bevissthet, er han ennå ikke helt sikker på, men han ser flere mulige innfallsvinkler.
– Man kan forsøke å programmere inn moralske regler direkte i maskinene, en metode som kalles top-down tilnærming, eller man kan forsøke å la maskinene selv lære seg å oppføre seg moralsk, som kalles en bottom-up tilnærming. Eller man kan forsøke seg på en kombinasjon, med forskjellig fokus avhengig av formålet med maskinen, forklarer han.
- Helserobotene som skal redde Japans eldreomsorg: – Yuriko Tanaka (90): –Det høres dumt ut, men jeg har faktisk lært meg å sette pris på selskapet
Konsekvenser for næringslivet
_edited.jpg)
Granmo forteller at de har et samarbeid med Sørlandet Sykehus HF og sykehuset er også en samarbeidspartner i det pågående prosjektet med å gi roboter muligheten til å ta moralske beslutninger.
– Det er korrekt, men i det pågående prosjektet med sykehuset har vi unngått problemet ved å la legene ta den endelige beslutningen basert på input fra kunstig intelligens, forteller Granmo.
Granmo tror dette prosjektet på sikt vil kunne få konkrete ringvirkninger for norsk næringsliv.
– Vi ønsker å utvikle nye konsepter hvor moral blir en integrert del av den kunstige intelligensen. Resultater her vil kunne åpne for større bruk av kunstig intelligens, spesielt i tilfeller hvor det moralske perspektivet har en kritisk betydning for beslutningene som skal tas, forklarer han.
_edited.jpg)
Det er spesielt aktuelt med anvendelser av kunstig intelligens i helsesammenheng, men han tror det innenfor de fleste bransjer foretas beslutninger hvor det moralske aspektet spiller en rolle.
– Etter hvert som teknikkene for kunstig intelligens stadig blir kraftigere og flere oppgaver skal automatiseres, vil det være av økende betydning at teknikkene innarbeider de moralske sidene ved beslutninger, mener han.
- Robotforsker Minoru Asada: – I 2050 har vi et lag av humanoider som kan slå vinnerne av fotball-VM
Fra science fiction til science
En annen viktig deltaker i dette prosjektet er professor i filosofi, Einar Duenger Bøhn, ved Universitetet i Agder. Han forklarer at dagens roboter ikke har noe behov for moralsk bevissthet, men spørsmålet blir mer og mer aktuelt ettersom roboter tar over flere og flere av våre arbeidsoppgaver og blir smartere enn oss.
– Når robotene selv begynner å utvikle roboter, så er det viktig at de begynner å tenke moral, påpeker han.
Filosofiprofessoren omtaler dette som singularitet. Det dreier seg om et punkt som stadig kommer nærmere, der robotene overtar stadig mer av våre funksjoner og vi begynner å miste kontrollen.
Når vi nærmer oss det punktet, kommer utviklingen til å gå veldig fort, nærmest eksponentielt, og da er det viktig at de har fått en eller annen form for moralsk bevissthet og er i stand til å ta moralske valg. Bøhn tror det er på høy tid å begynne å tenke på dette.
– Dette har jo lenge vært science fiction, men nå er det like før det bare blir science, advarer han.
– Moralske regler er situasjonsavhengige
Filosofiprofessoren fra Agder tror likevel ikke dette er en veldig enkel sak og ser problemer med begge de to skisserte hovedmetodene.
Top-down-metoden tror han ikke kommer til å fungere fordi det ikke finnes moralske regler som er gyldige i alle kontekster. Alle kjente moralske regler er i stor grad situasjonsavhengige. Selv regler som at man ikke skal skade biologisk materiale eller at man ikke skal drepe uskyldige vil ikke være gyldige i alle tenkelige situasjoner.
Den andre hovedmetoden som nevnes, den såkalte bottom-up-metoden, innebærer at robotene selv skal lære seg moralske regler ved å prøve og feile og dermed finne ut hvilke valg som er riktige å ta i gitte situasjoner.
– Begge disse metodene har prinsipielle problemer, mener han.
Dermed er det ikke mulig for ham på det nåværende tidspunkt å si hvordan dette problemet kan løses.
Prosjektet har nettopp startet og han forteller at de i tillegg til de store og abstrakte problemstillingene skal arbeide med mindre og mer konkrete problemstillinger rundt kunstig intelligens, knyttet til for eksempel sykehuset. Der kommer moralske problemstillinger snart til å bli veldig aktuelle.
Samtidig minner han om at også selvkjørende biler kan komme opp i situasjoner som innebærer moralske dilemmaer.
– Dette kommer på alle nivåer etter hvert, tror han.
- Studentene får sin egen «menneskelige» R2D2: Forskere ved NTNU utvikler en robot som skal styres av levende hjerneceller
Forskningssenter for kunstig intelligens
Det nye prosjektet er et av flere forskningsprosjekter ved det nyåpnede forskningssenteret for kunstig intelligens ved Universitetet i Agder, CAIR.
Forskningssenteret Centre for Artificial Intelligence Research åpnet 2.mars i år og ledes av professor Ole-Christoffer Granmo. Han forklarer at det var naturlig å opprette et senter av denne typen i Agder, ettersom universitetet i snart 15 år har bygd opp mye kompetanse på kunstig intelligens.
– Senterets mål er å samle UiAs eksisterende kompetanse, samt å styrke denne kompetansen ytterligere. CAIR samler 15 forskere innen kunstig intelligens med fokus på maskinlæring, medisin, industri og filosofi, forteller han.
Samlokaliseringen gjør at forskerne nå kan jobbe sammen for å utvikle helt nye konsepter innen kunstig intelligens. Målet er å lage algoritmer som løser intellektuelle oppgaver bedre enn mennesker – såkalt superintelligens.
Skal lære av egne feil
Senteret har tre hovedsatsningsområder innenfor kunstig intelligenss.
Et av dem er maskinlæring der datamaskinene selv kan eksperimentere, utforske og lære av feilene sine, noe som kan være nyttig for eksempel for å maksimere inntektene i kraftproduksjon.
Et annet satsingsområde kaller han for resonnering. Det innebærer at datamaskinen tar til seg store mengder informasjon, og trekker ut kunnskap eller vitenskapelige modeller fra dataene. Bruksområder her kan være informasjon om helse eller vær.
Det tredje området dreier seg om bruk av naturlig språk
– Ved oppstart har vi flere store forskningsprosjekter i gang som alle er finansiert av Forskningsrådets programmer, forteller Granmo.
- Diagnostiserer og klatrer i trapper: Denne roboten skal gi færre folk i oljeindustrien
Skal være banebrytende
CAIR-lederen forteller at senteret er et eksempel på bottom-up fremvekst av solide forskningsmiljøer.
– Som forskere ved Universitetet i Agder opplever vi stor grad av frihet til å bygge opp og forme langsiktig forskning. Samtidig har vi en satsingsvillig ledelse og en rektor som tenker modig og fremtidsrettet, røper han.
Det betyr at senteret er solid forankret i fagmiljøet, samtidig som de har 100 prosent støtte fra ledelsen.
Ifølge ham er det enkelt å satse stort og modig på Sørlandet.
– Her er vi vant til å tenke nyskaping, og næringsliv og offentlig sektor har allerede gitt solid støtte til senteret. Viktige samarbeidspartnere inkluderer Sørlandet Sykehus Helseforetak og Agder Energi, forteller han
I deres nyopprettede AI-sirkel samarbeider CAIR-forskerne med sentrale nasjonale aktører i offentlig og privat sektor. Totalt har de nå flere enn 80 medlemmer.
– Vi sikter mot banebrytende grunnforskning på høyt nivå. Samtidig vil vi at gjennombruddene våre raskt skal skape verdi. Derfor er AI-sirkelen viktig for oss, legger han til.
Senteret har støttespillere både i Norge og internasjonalt. Granmo forteller at deres forskning på kunstig intelligens først og fremst er internasjonal.
– Vårt mål er å plassere Norge i tet i den internasjonale forskningen. Vi har i lang tid samarbeidet tett med internasjonale toppmiljøer innenfor kunstig intelligens, for eksempel er en av våre professorer fra Canada verdensledende innenfor såkalte lærende automater. Vi samarbeider også med andre universiteter internasjonalt. Akkurat nå har vi prosjekter sammen med University of Pittsburg, Boston, Virgina og Oxford, forteller han.
Automatisk strukturering av helsedokumenter
_edited.jpg)
Et av satsingsområdene til det nye senteret er bruk av naturlig språk. Granmo har allerede utviklet det språklige analyseverktøyet Anzyz CCL som er i stand til å lese, forstå og analysere store mengder tekst på forskjellige språk.
Verktøyet har evnen til å lære seg ethvert språk etter å ha blitt foret med store mengder tekst.
Granmo forteller at det er inngått en samarbeidsavtale mellom det nye senteret, CAIR og Sørlandet sykehus HF. Det dreier seg om et prosjekt som går ut på å hente ut relevant informasjon fra store mengder helsedokumenter i løpet av sekunder.
Datamaskiner er raskere enn leger og ved hjelp av kunstig intelligens skal systemet kunne gå gjennom store mengder med data ved hjelp av avanserte maskinlæringsalgoritmer. På den måten er det mulig å få en rask oversikt over innholdet i tusenvis av journaldokumenter.
– Drukner i informasjon
Doktorgradskandidat Geir Thore Berge arbeider ved sykehuset, og har med utgangspunkt i Granmos algoritmer utviklet et avansert søkeverktøy, for å søke etter klinisk informasjon i den elektroniske pasientjournalen. Systemet er i stand til å søke gjennom alle typer dokumenter, inkludert skannet dokumentasjon.
Han forteller at det dreier seg om store mengder medisinske data som er pakket inn i mange ulike formater, som skannede journaldokumenter, blanketter, skjemaer og pdf-dokumenter som ikke kan prosesseres eller søkes gjennom på samme måte som strukturerte data.
Slik dokumentasjon kan ifølge ham i en del tilfeller inneholde informasjon som kan ha stor betydning for fremtidig pasientbehandling.
– I verste fall kan slik informasjon drukne i en stor mengde annen informasjon, og dermed ikke nå frem til helsepersonell som skal behandle pasienter, påpeker han.
- Automatiseres: Nå overtar robotene alle operasjoner på boredekket
Henter ut kritisk informasjon
Et av målene med prosjektet har vært å finne ut hvorvidt teknologien kan benyttes i sammenheng med utviklingen av et klinisk beslutningsstøttesystem for helsepersonell, hvor man skal kunne søke etter medisinske data av betydning for pasientbehandlingen.
Dette er nå fullført, og i månedene fremover skal systemet testet ut på alle pasientene som skal opereres. Helsepersonell vil da bruke det til å hente ut kritisk informasjon om pasientene fra pasientjournalene som ledd i planlegging og forberedelse av pasienter til operasjon.
Systemet har i forskningsforsøk allerede vist at det er i stand til å finne ni av ti allergier. Informasjon om allergier kan i visse situasjoner være kritisk.
Et eksempel er når legen har å gjøre med en bevisstløs pasient som skal opereres og i løpet av få minutter skal sjekke pasientjournalen for mulige allergier når journalen kanskje er på 500 sider. I praksis er dette helt umulig, og i verste fall kan pasienten dø eller få alvorlige komplikasjoner.
Dette automatiserte systemet kan da hjelpe med å gjøre en relativt presis søkejobb for legen i løpet av sekunder.
Automatisk chattetjeneste
Et annet prosjekt som det også arbeides med, i samarbeid både med Sintef, Oslo universitetssykehus og flere andre, er en automatisk chattetjeneste for ungdom, der unge kan stille spørsmål om helse og få råd og veiledning av dataprogramme basert på kunstig intelligens.
Chattetjenesten skal rettes inn mot ungdommer og unge voksne mellom 16 og 26 år som ønsker råd om psykisk helse, og det er ikke meningen at datamaskinen skal gi noen ferdiglagede standardsvar, men skal programmeres slik at rådene tilpasses hver enkelt.
Systemet skal ikke erstatte fagpersoner, men skal være et supplement som kan bidra til å motivere flere til å søke faglig hjelp.
Systemet skal hente data fra ung.no og kan hente inn alt ungdom har spurt om pluss alle verifiserte svar fra fagpersoner.
Systemet skal kunne kjenne igjen rutinespørsmål og bistå med relevant informasjon. Som en tjeneste som er tilgjengelig døgnet rundt, håper forskerne bak prosjektet å lage en lavterskeltjeneste som bidra til at flere ungdommer som sliter tar kontakt med helsetjenesten.
