AI skapar klistermärken WhatsApp lägger ibland till vapen på bilder av barn i Palestina-relaterade frågor

I meddelandetjänsten WhatsApp genererar en AI-generator för klistermärken i vissa fall bilder av barn med vapen när Palestina-relaterade frågor ställs.

Det här är vad vi vet

Tidigare började modellen producera klistermärken med en tendens att skapa olämpligt våldsamma eller råa bilder, inklusive barnsoldater. Enligt medierapporter har vissa anställda i företaget flaggat och förvärrat problemet med uppmaningar relaterade till kriget i Israel.

Metas talesperson Kevin McAlister sa att företaget tar itu med frågan. Han tillade att företaget kommer att fortsätta att förbättra AI-funktionerna när de utvecklas och baserat på feedback från användarna.

Meta har tidigare upplevt andra fall av AI-bias. Till exempel infogade Instagrams automatiska översättare ordet "terrorist" i arabiska texter i profiler. Felet ledde till att en palestinsk man arresterades i Israel 2017.

Källa: The Guardian