Autonome våpen kan bli den tredje revolusjonen innen krigføring etter kruttet og atombomben. Nå skal Trump avgjøre om USA skal overlate beslutninger om militære kamphandlinger til roboter.
Den 145 tonn tunge ubåtjageren glir gjennom vannet og skanner havet under seg uten et eneste besetningsmedlem om bord. Finner den et mål, kan Sea Hunter – som det amerikanske forsvarets hemmelige utviklingsenhet Darpa slapp løs i fjor – selv peke ut fiendens mest sårbare punkter og innlede et angrep.
Men det får den ikke gjøre uten grønt lys fra et menneske. I hvert fall ikke ennå.
USAs politikk for autonome våpen er formulert i direktiv 3000.09 som krever at dødelig maktbruk er underlagt «passende nivåer av menneskelig vurdering». Det innebærer i praksis at det amerikanske forsvaret ikke lar autonome våpen angripe uten at et menneske er med i beslutningsprosessen. Det har vært en sentral politikk like lenge som høyteknologiske droner, missilforsvarssystemer og kanontårn har vært utstyrt med kunstig intelligens (AI).
– Uungåelig
Men direktiv 3000.09 utløper i år. USAs regjering under president Donald Trump skal i neste måned ta stilling til hvordan reglene for bruk av kamproboter i det amerikanske forsvaret skal se ut framover.
Og uansett hvordan det neste femårige direktivet blir, er det bare et spørsmål om tid før mennesker overlater kontrollen over avtrekkeren til maskinene, mener visedirektør Richard Aboulafia, i analysebedriften Teal Group. Han er også rådgiver innen militær luftfart.
– Helt konkret tror jeg at det er uunngåelig at AI-ånden slipper ut av flaska. Men forhåpentlig skjer det under begrensede forhold og omstendigheter, sier han til det danske nettstedet Ingeniøren.
Artikkelen fortsetter under bildet.
– I løpet av de neste 30 år vil utviklingen innen autonomi og kunstig intelligens gradvis gjøre våpensystemer mer dødelige. Det kan gjøre verden til et mer usikkert sted. Heldigvis tar teknologiske gjennombrudd som AI alltid lengre tid å utvikle enn man forventer. Så kanskje vil menneskeheten rekke å utvikle de nødvendige betingelsene, retningslinjene og til og med spredningskontroll for å forhindre de verste scenariene, sier Richard Aboulafia.
- Forsvarets siste bestilling: En milepæl i overgangen til mer autonom krigføring
Pentagons 2036-plan
Flere offentlig tilgjengelige dokumenter viser en konkret forventning hos det amerikanske forsvarsdepartementet om å bruke autonome våpen uten menneskelig innblanding innenfor en tidsramme på 20 år.
Pentagon skriver i sin 25-årsplan Unmanned Systems Integrated Roadmap 2011-2036 at man «forventer at ubemannede systemer vil operere problemfritt side om side med bemannede systemer, med en gradvis reduksjon av menneskelig kontroll i den ubemannede delen av forsvaret.
Spesielt det amerikanske flyvåpenet har ambisjoner på dette området. US Air Force forventer ifølge sin egen Unmanned Aircraft Systems Flight Plan 2009-2047 at kunstig intelligens vil gjøre det mulig for autonome systemer å «bestemme og utføre kamphandlinger» uten input fra mennesker. Og her forventer professor Michael Byers ved University of British Columbia, og forfatter av en rekke bøker om forsvarspolitikk, at droner vil gjøre bemannede kampfly overflødige innenfor levetiden til femte generasjons kampfly som F-35. Blant de siste eksemplene er amerikanske Northrop Grummans X-47B, som selv kan ta av og lande på hangarskip, og kan modifiseres til å foreta autonome angrep.
– Luftkamp vil nesten helt sikkert bli autonom, og kontrollert av en form for kunstig intelligens, og dette reiser noen vanskelige spørsmål om kontroll og juridisk ansvar, sier Michael Byers til Ingeniøren.
Derfor blir utviklingen også møtt med stor bekymring fra mange sider, blant annet fra spesialister på roboter og kunstig intelligens. Det skapte overskrifter verden over da 3100 forskere og fagfolk i et åpent brev til FN i 2015 advarte mot å bevæpne kunstig intelligens – ikke minst på grunn av de prominente underskriverne som Stephen Hawking, Elon Musk, Apples Steve Wozniak og professor Noam Chomsky.
Artikkelen fortsetter under bildet.
– Det avgjørende spørsmålet for menneskeheten er i dag hvorvidt man skal innlede eller forhindre et globalt AI-våpenkappløp. Hvis en gitt stor militærmakt framskyter utviklingen av våpen med kunstig intelligens, er et globalt våpenkappløp stort sett uunngåelig, og sluttmålet for den teknologiske kursen er innlysende: Autonome våpen blir morgendagens Kalashnikov. (…) Det vil bare være et spørsmål om tid før våpnene dukker opp på svartebørsen og i hendene til terrorister, diktatorer som ønsker bedre kontroll over befolkningen, eller krigsherrer som ønsker etnisk utrenskning. Autonome våpen er ideelle til oppgaver som mord, destabilisering av stater, undertrykking av borgere og drap på en bestemt etnisk gruppe,» skriver de bekymrede fagfolkene, mens Røde Kors og Human Rights Watch oppfordrer til et totalforbud av all utvikling og bruk av helt autonome våpen.
- Selvkjørende Odin: Oppdager hinderet og styrer unna
Skrøpelig amerikansk føring
– Hvis USA og andre vestlige land i de kommende årene holder seg til en restriktiv politikk for autonome våpen, kan land som Russland og Kina utmerket godt ta over lederposisjonen på området, sier seniorforsker og instituttleder Peter Roberts ved det anerkjente Royal United Services Institute for Defence and Security Studies i London.
– Den amerikanskledede vestlige doktrinen forutser foreløpig ikke at mennesket tas ut av prosessen. Her ligger fokus på et samarbeid mellom mennesker og maskiner på slagmarken. Dette bygger på overvåkning, kontroll og styring av alle handlinger utført av autonome systemer. Den største styrken blir dermed å kombinere maskinenes kapasitet med den menneskelige evnen til å tenke utenfor binære, reaksjonsbaserte beslutninger, og dermed tilføre list og uforutsigbarhet, sier han og peker på dronesvermer som et eksempel på dette.
– I motsetning til dette har vi den østlige doktrinen – de russiske, iranske og kinesiske militære skolene – som ikke stiller krav om menneskelig kontroll over autonome systemer, og der fokuset er på hastighet, antall og forprogrammerte handlinger. Det vil sannsynligvis føre til en raskere prosess med å få dronesvermer i kamp enn hos land som jobber under den vestlige doktrinen, sier Peter Roberts.
Ifølge folkerettsforskere som Michael N. Schmitt og Jeffrey S. Thurnher, som i fjor offentliggjorde en artikkel om kunstig intelligens i Harvard National Security Journal, kan utviklingen i andre land ganske enkelt tvinge Pentagon til å foreta et frislipp av kamproboter.
Med den forventede utviklingen i Kina og Russland, kan tempoet på slagmarken bli så høyt at verken mennesker eller et begrenset våpensystem kan følge med, skriver de to forskere i artikkelen.
Artikkelen fortsetter under bildet:
- Les i danske Ingeniøren: Det store ubesvarte spørsmålet er: Når er krigsroboter autonome?
Dette skjer i Danmark
Hvis det amerikanske forsvar – enten på eget initiativ eller tvunget av operasjonelle realiteter – går i retning av mer autonome våpensystemer, reiser dette også en rekke prinsipielle spørsmål for allierte som Norge og Danmark. Og danske politikere burde allerede nå være i gang med å formulere en politikk på området.
Det var i hvert fall konklusjonen i den første danske rapporten fra Center for Militære Studier ved Københavns Universitet om bruk av autonome våpen, og som ble offentliggjort i februar.
Ut over selve spørsmålet om å benytte autonome våpen i det danske forsvaret, blir det nødvendig å formulere en politikk for hvorvidt allierte styrkers autonome våpen kan utstasjoneres på, eller passere gjennom dansk territorium, og hvorvidt danske styrker kan delta i militære operasjoner med autonome våpen, konkluderer Center for Militære Studier.
Men forslaget om en dansk politikk på området, ble ifølge en artikkel i Ingeniøren satt på vent av forsvarsminister Claus Hjort Frederiksen (V), som i første omgang vil følge med i det internasjonale arbeidet på området. Det foregår blant annet i regi av NATO, som for tiden undersøker rammene for framtidige internasjonale operasjoner.
Det danske forsvaret disponerer allerede delvis autonome våpen i form av missiler og torpedoer av typen fire and forget, og som etter avfyring kan finne frem til målene sine av seg selv. Dette dreier seg om ESSM-luftforsvarsmissiler, Harpoon Block II-antiskipsmissiler, MU90-antiubåtstorpedoer, luft til luft-missilet AIM-120 AMRAAM og luft til bakke-missilet AGM 65 Maverick.
Ved siden av USA er det i dag bare Storbritannia som har en uttalt politikk om bruken av autonome våpen. Storbritannia produserer også selv autonome våpen, og bestemmelsen i det britiske forsvarsdepartementets såkalte Joint Doctrine Note fra 2011 er like løst formulert som det amerikanske direktivet, siden Storbritannia «for tiden ikke har noen intensjoner om å utvikle systemer som kan operere uten menneskelig innblanding i våpenets kommando- og kontrollkjede.»
I fjor besluttet FN å opprette den inntil videre eneste internasjonale ekspertgruppen med regjeringsrepresentanter. Den skal diskutere både de teknologiske, militære, juridiske og etiske implikasjonene ved å utvikle autonome våpen.
Den såkalte Group of Governmental Experts on Lethal Autonomous Weapons Systems har sitt første møte i Genève i midten av neste måned.
Saken ble først publisert på Ing.dk
- F-35 herjet på storøvelse: 15:1 «kill rate»
