KI-selskapet OpenAI skal sette ned en arbeidsgruppe for å lage demokratiske prosesser for å forme hvordan KI-programvare skal styres.

Gruppen skal blant annet se på hvordan problemer med fordommer og partiskhet i KI-programmene skal håndteres.

Avgjørelsen er en fortsettelse av et tilskuddsprogram fra mai 2023, der selskapet tildelte midler til ti arbeidsgrupper for å designe, bygge, og teste ideer som bruker demokratiske metoder for å bestemme reglene som ligger bak og styrer KI-systemer.

– For å sikre at vi fortsetter å gjøre framskritt, danner vi en arbeidsgruppe bestående av forskere og ingeniører som vil implementere et system for innsamling og koding av innspill fra offentligheten om modellatferd i systemene våre, skriver OpenAI i et blogginnlegg.

Den nye arbeidsgruppen skal arbeide tett med OpenAIs «Human Data»-gruppe, som bygger infrastruktur for å samle inn innspill fra mennesker til selskapets KI-modeller.