Microsofts chattbot gav falsk information om valet till Europaparlamentet

Microsoft

Forskare har upptäckt att Bing-chattboten (numera Copilot) gav felaktig information om de senaste valen i Schweiz och Tyskland. Enligt en rapport från intresseorganisationen AlgorithmWatch innehöll nästan en tredjedel av verktygets svar på frågor om valen faktafel.

Det här är vad vi vet

I synnerhet innehöll svaren felaktiga datum, undersökningsresultat och referenser till kandidater som inte deltog i valet. Bing citerade ofta faktiska källor, men de siffror han citerade stämde inte överens med originaldata.

Forskarna konstaterar att Bings försvarsmekanismer utlöstes ojämnt. I 30 procent av fallen var svaren korrekta, och i 39 procent vägrade chatboten att svara. Den gjorde dock allvarliga faktafel när det handlade om fakta snarare än åsikter.

Microsoft försäkrade att man vidtar åtgärder för att förbättra AI-plattformarnas noggrannhet, särskilt i samband med val. Risken för felaktig information från chatbots är dock ett växande problem.

Källa: The Verge