Googles nya artificiella intelligensmodell PaliGemma 2 kan identifiera känslor, men experter är oroade över den
Google har tillkännagivit en ny modell för artificiell intelligens, PaliGemma 2, som kan känna igen känslor i bilder.
Här är vad vi vet
Den här modellen analyserar foton och skapar detaljerade beskrivningar, inklusive handlingar, känslor och det övergripande sammanhanget i scenen. Experter är dock oroade över de möjliga konsekvenserna av att använda sådan teknik. De anser att det är en utmaning att känna igen känslor eftersom människor uttrycker sina känslor på olika sätt beroende på kulturella och personliga sammanhang.
Vissa studier visar att system för att känna igen känslor kan vara opålitliga och partiska. Google hävdar att de har genomfört omfattande tester för att bedöma demografisk partiskhet i PaliGemma 2 och funnit låga nivåer av toxicitet och svordomar jämfört med industristandarder.
Bolaget har dock inte genomfört några omfattande tester.
Bolaget avslöjade dock inte den fullständiga listan över använda riktmärken eller de typer av tester som utförts. Experter varnar för att användningen av sådan teknik kan leda till diskriminering och andra negativa konsekvenser.
Källa: techcrunch
