Googles VD medger att AI-funktionen Overview har ett problem med "hallucinationer"

Googles nyligen introducerade AI Overview-funktion, som är utformad för att ge sammanfattningar högst upp på sökresultatsidorna, har kritiserats för att sprida felaktig och konstig information. I en intervju nyligen erkände Googles VD Sundar Pichai ett allvarligt problem med den nya AI Overview-funktionen, som är utformad för att ge korta sammanfattningar högst upp i sökresultaten.

Det här är vad vi vet

Användare har stött på felaktig och ibland absurd information som tillhandahålls av funktionen. Exempel på detta är råd om att använda lim för att fixa ost på pizza och att tillskriva experter falska påståenden. Pichai förklarade att sådana "hallucinationer" är resultatet av fel i de stora språkmodeller som används i AI Overview. Trots Google-ingenjörernas ansträngningar är problemet fortfarande olöst, men Pichai hävdar att funktionen fortfarande kan vara användbar och noterade en förbättring av noggrannheten jämfört med förra året.

Kritik från användare och experter som AI-konsulten Britney Mueller har betonat de höga förväntningarna på AI:s noggrannhet och de risker som är förknippade med en för tidig implementering. Fel i AI-översikten har orsakat missnöje på internet och kan undergräva trovärdigheten för Googles sökmotor.

Sammanfattningsvis, trots Pichais optimism, visar de pågående felen på behovet av ytterligare förbättringar av AI och vikten av att balansera innovation med användarnas förtroende. Att förbättra precisionen och tillförlitligheten hos AI är en fortsatt prioritet för att förhindra spridningen av felaktig information.

Källa: ITHome ITHome