FNs sikkerhetsråd hadde tirsdag sitt første møte med kunstig intelligens (KI) som tema.
Generalsekretær António Guterres ønsker at medlemslandene innen 2026 får på plass en bindene pakt for å forby dødelige autonome våpensystemer.
Det kan medføre veldig alvorlige konsekvenser for verdensfreden dersom FN-landene ikke samles om sikre vern mot ondskapsfull bruk.
– KI vil påvirke alle områder av livet vårt. Generativ KI har enormt potensial for både godhet og ondskap i stor skala, sa han.
Systemfeil og uærlige hensikter
På den positive siden trakk han fram mulighetene for å avdekke voldsmønstre eller sikre at våpenhviler overholdes. Guterres nevnte også at kunstig intelligens kan bidra i kampen mot kreft og global fattigdom.
Samtidig advarer han om at terrorister og stater med uærlige hensikter kan forårsake forferdelige nivåer av død og ødeleggelse.
Feil i systemer for kunstig intelligens kan også skape kaos, spesielt hvis teknologien brukes i tilknytning til atomvåpensystemer og bioteknologi.
– Vi må enes om det generelle prinsippet å aldri fjerne den menneskelige handlefriheten og kontrollen over atomvåpen, sier Guterres.
Guterres ønsker at FN-landene blir enige om et veikart for disse spørsmålene i løpet av året. Han ønsker en global tilsynsmyndighet etter modell av Det internasjonale atomenergibyrået og Den internasjonale organisasjonen for sivil luftfart.
Toppmøte i år
Storbritannia er senere i år vertskap for et toppmøte om kunstig intelligens. Landets utenriksminister James Cleverly understreket under sikkerhetsrådsmøtet tirsdag at KI både kan styrke og forstyrre den globale stabiliteten.
– Det utfordrer våre grunnleggende antakelser om forsvar og avskrekking. Det reiser også moralske problemstillinger om hvem som skal holdes ansvarlig for avgjørelser med dødelig utfall på slagmarken, sier han.
