En studie viser at ubemannede kjøresystemer er dårligere til å gjenkjenne barn og mørkhudede personer.

Forskere ved King's College London har konkludert med at ubemannede kjøresystemer for biler er utsatt for fordommer, særlig mot barn og svarte.

Dette er hva vi vet

Teamet har undersøkt åtte systemer for fotgjengergjenkjenning basert på kunstig intelligens som brukes i forskning på autonom kjøring. De kjørte mer enn 8000 bilder gjennom programvaren og fant ut at den kunstige intelligensen identifiserte voksne fotgjengere nesten 20 prosent bedre enn barn.

I tillegg var de aktuelle systemene 7,5 % dårligere til å gjenkjenne mørkhudede personer, spesielt i dårlig lys, noe som gjør teknologien mindre sikker om natten.

Studien testet ikke programvaren, som allerede brukes av robotbilprodusenter som Waymo og Cruise. Resultatene bekrefter imidlertid den økende bekymringen for teknologiens sikkerhet.

Ifølge forskerne er hovedårsaken til AIs problemer med å gjenkjenne barn og mørkhudede personer skjevheter i dataene som brukes til å trene opp algoritmene. Vanligvis er det større sannsynlighet for at voksne og personer med lys hudfarge er representert i datasettene.

En talsperson for Waymo sier at studien ikke representerer alle verktøyene som brukes i selskapets biler. I tillegg til kamerabilder mottar den kunstige intelligensen data fra sensorer som lidar og radar, noe som forbedrer nøyaktigheten i gjenkjenningen av objekter.

Waymo trener også opp systemet til å gjenkjenne menneskelig atferd og sørger for at datasettene er representative.

Tilbakeblikk

Algoritmer gjenspeiler ofte skjevheter i datasettene og i hodet til de som utvikler dem. Et vanlig eksempel er programvare for ansiktsgjenkjenning, som konsekvent har vist seg å være mindre nøyaktig når det gjelder å gjenkjenne ansiktene til kvinner, mørkhudede og asiater.

Disse bekymringene har imidlertid ikke stoppet entusiasmen for slike AI-teknologier. Ansiktsgjenkjenning har allerede vært ansvarlig for urettmessige arrestasjoner av mørkhudede ved mer enn én anledning.

Gå dypere:

• En uskyldig kvinne som var gravid i åttende måned, ble arrestert i USA på grunn av en ansiktsgjenkjenningsfeil.
• Politiet i Detroit vil endre reglene for bruk av ansiktsgjenkjenning etter å ha arrestert en gravid kvinne ved en feil.

Kilde: Gizmodo Gizmodo