Feilfrekvensen er mye lavere hos hvite menn enn hos kvinner og mørkhudede personer. Det viser et nytt studium der forskerne har testet flere systemer for ansiktsgjenkjenning.
Ansiktsgjenkjenning har fått et oppsving takket være en voldsomt rask utvikling av kunstig intelligens i de siste årene. Teknikken har fått innpass over alt; fra Iphone til det kinesiske politiets smarte briller som skal kunne kjenne igjen mistenkte forbrytere.
Men det finnes mangler. Det har flere ganger blitt advart mot at programvaren for ansiktsgjenkjenning fungerer dårlig på mørkhudede personer. Og dette bekreftes nå i et nytt studium fra MIT Media Lab og Microsoft.
Testet tre løsninger
Forskeren Joy Buolamwini har testet tre kommersielle løsninger for ansiktsgjenkjenning fra Microsoft, IBM og kinesiske Megvii. For menn med lys hudfarge lå feilmarginen på mindre enn én prosent i alle tilfellene. Før mørkhudede kvinner lå den på mellom 21 og 35 prosent.
Selve undersøkelsen gikk ut på at ai-botene skulle analysere en lang rekke bilder av menn og kvinner med ulik hudfarge, og deretter prøve å fastslå kjønnet til personene. Testpersonene, 1270 stykker, består av folkevalgte politikere fra tre afrikanske og tre nordiske land – blant annet Sverige.
Resultatet ble en høyere treffsikkerhet for menn enn for kvinner, og en høyere treffsikkerhet før lyshudede personer i forhold til mørkhudede.
- (For abonnenter) Smarthusguide: Disse dingsene kan gjøre huset ditt smartere
Avhenger av database-innholdet
Forklaringen ligger antakelig i utviklingen av systemene. Ved å benytte seg av teknikken maskin-innlæring ’trenes’ en ai til å lære seg å kjenne igjen visse motiver gjennom å analysere store mengder bilder. Hvis bildedatabasen inneholder flere menn og flere lyshudede personer, vil ansiktsgjenkjenningen også lære seg de gruppene bedre.
Både Microsoft og IBM forteller at de jobber med å gjøre ai-løsningene sine bedre til å kjenne igjen mennesker uansett hudfarge, skriver New York Times. Kinesiske Megvii har ikke kommentert rapporten.
Artikkelen ble først publisert på NyTeknik.se
- Smarthussystemet i økolandsbyen klikket: Nå bryter utbyggeren med leverandøren
