Den nederlandske organisasjonen Pax har undersøkt et 50-tall selskaper for å se om de jobber med teknologi som kan være relevant for kunstig intelligens i våpen, og om de jobber med relaterte militære prosjekter.
– Hvorfor benekter ikke selskaper som Microsoft og Amazon at de er i gang med å utvikle slike høyst omstridte våpen, som kan være i stand til på egen hånd å bestemme seg for å drepe mennesker uten direkte ordre fra mennesker, sier Frank Slijper, som er rapportens hovedforfatter.
Bruken av kunstig intelligens (AI) i våpen, slik at de på egen hånd kan velge ut og angripe mål, har de siste årene utløst en heftig etisk debatt. Kritikerne advarer mot at slike våpen kan sette internasjonal sikkerhet i fare og innebære en tredje våpenrevolusjon i menneskehetens historie, etter oppfinnelsen av krutt og atomvåpen.
Google ikke engasjert
Google er blant sju selskaper som undersøkelsen har funnet ikke er engasjert i utviklingen av AI til våpen, blant de 50 som er undersøkt i tolv land. 22 selskaper ble plassert i en mellomgruppe, mens de resterende 21 er i en kategori som bekymrer på grunn av sin forskning.
Blant dem er Amazon og Microsoft, som begge er ute etter en Pentagon-kontrakt på 10 milliarder dollar for å bygge sky-infrastrukturen for det amerikanske militæret.
Andre i «bekymringsgruppa» inkluderer Palantir, et selskap med røtter i CIA som har fått en kontrakt på 800 millioner dollar for å utvikle et AI-system «som kan hjelpe soldater til å analysere en kampsone i sanntid».
Masseødeleggelsesvåpen
– Autonome våpen vil uunngåelig utvikle seg til masseødeleggelsesvåpen. Om mennesket ikke er med, kan en enkeltperson avfyre en million våpen eller hundre millioner våpen, sier Berkeley-professor Stuart Russel.
– Faktum er at autonome våpen kommer til å bli utviklet av selskapene. Hvis man skal lage en kampanje for å hindre at slike våpen blir utbredt, vil selskapene spille en viktig rolle, legger han til.
Utviklingen av kunstig intelligens til bruk i våpen har utløst både debatt og protester innenfor industrien. Det førte til at Google i fjor unnlot å fornye en Pentagon-kontrakt, og det har også vært protester blant Microsoft-ansatte.
Alle våpen kan styres av AI
Ifølge Russel kan alle våpen som eksisterer i dag, utstyres med kunstig intelligens, enten det er stridsvogner, jagerfly eller ubåter. Israelske Harpy er en autonom drone som allerede eksisterer, og som henger rundt i et målområde der den velger ut mål som kan angripes.
Enda mer skremmende er nye kategorier av autonome våpen som ennå ikke eksisterer, blant annet minidroner som dem i filmen «Slaughterbots» fra 2017.
Slike droner kan bruke ansiktsgjenkjenning til å utrydde bare én etnisk gruppe eller ett kjønn, eller bruke informasjon fra sosiale medier til å utrydde bare folk med et bestemt politisk syn, ifølge Russell.
EU har utviklet retningslinjer for hvordan selskaper skal utvikle AI, inkludert behovet for menneskelig medvirkning, men Russell mener det er behov for et absolutt internasjonalt forbud mot maskiner som på egen hånd kan beslutte å drepe.
