Studie visar att obemannade körsystem är sämre på att känna igen barn och mörkhyade personer

Forskare vid King's College London har kommit fram till att obemannade körsystem för bilar är benägna att vara partiska, särskilt mot barn och svarta personer.

Här är vad vi vet

Teamet tittade på åtta system för upptäckt av fotgängare med artificiell intelligens som används för forskning om autonom körning. De körde mer än 8 000 bilder genom programvaran och fann att AI identifierade vuxna fotgängare nästan 20 procent bättre än barn.

Dessutom var systemen i fråga 7,5 procent sämre på att känna igen mörkhyade personer, särskilt i svagt ljus, vilket gör tekniken mindre säker på natten.

I studien testades inte programvaran, som redan används av robotbilstillverkare som Waymo och Cruise. Resultaten bekräftar dock ytterligare den växande oron kring teknikens säkerhet.

Enligt forskarna är den främsta orsaken till AI:s problem med att känna igen barn och mörkhyade personer att de data som används för att träna algoritmerna är partiska. Vanligtvis är vuxna och ljushyade personer mer benägna att vara representerade i datamängder.

En talesperson för Waymo säger att studien inte representerar alla verktyg som används i företagets bilar. Förutom kamerabilder tar AI-systemet emot data från sensorer som lidar och radar, vilket förbättrar noggrannheten i objektdetekteringen.

Waymo tränar också systemet att känna igen mänskligt beteende och ser till att datauppsättningarna är representativa.

Flashback

Algoritmer speglar ofta de fördomar som finns i datamängder och hos de människor som skapar dem. Ett vanligt exempel är programvara för ansiktsigenkänning, som konsekvent har visat sig vara mindre noggrann när den känner igen ansikten på kvinnor, mörkhyade personer och asiater.

Dessa farhågor har dock inte stoppat entusiasmen för sådan AI-teknik. Ansiktsigenkänning har redan varit ansvarig för orättvisa arresteringar av mörkhyade personer vid mer än ett tillfälle.

Gå djupare:

• En oskyldig kvinna som var gravid i åttonde månaden greps i USA på grund av ett fel i ansiktsigenkänningen
• Polisen i Detroit kommer att ändra reglerna för användning av ansiktsigenkänning efter att felaktigt ha arresterat en gravid kvinna

Källa: Gizmodo