Ett falskt robocall på uppdrag av Biden som uppmanade honom att inte rösta på demokraterna i det amerikanska valet visade sig vara en dipfake

Patrick Semansky/AP

Desinformationsexperter tror att ett nyligen automatiserat telefonsamtal på uppdrag av USA: s president Joe Biden som uppmanar New Hampshire-väljare att inte rösta i det demokratiska primärvalet sannolikt är en dipfake genererad av artificiell intelligens.

Här är vad vi vet

Enligt experter indikeras detta av den onaturliga kadensen av tal i ljudinspelningen. Dessutom kan moderna neurala nätverk för talgenerering imitera röster från riktiga människor, inklusive politiker, från små ljudprover med hög noggrannhet.

Experter noterar att dipfake-teknik inte är reglerad och kan användas till deras nackdel. Till exempel är denna spoofing ett försök att undertrycka väljarnas röster, vilket är förbjudet enligt amerikansk federal lag.

Senator Richard Blumenthal, som har lagt fram ett lagförslag i senaten om att reglera AI, hoppas att händelsen ska få allmänheten att uppmärksamma hoten från desinformation baserad på dipfakes.

"Jag hoppas att Biden deepfake, eller imitation, faktiskt kommer att vara en chock för systemet och kanske varna alla för att alla faktiskt är i fara", sa han.

New Hampshire åklagare kallade robocall ett uppenbart "olagligt försök" att hindra väljare från att rösta på Biden i det demokratiska primärvalet. De kunde dock inte namnge ljudinspelningens ursprung.

Dipfakes har inte tidigare använts för att störa amerikanska valprocesser, vilket inte är fallet med robocalls. Enligt Mekela Panditharatne från New York University har de historiskt sett använts av fuskare för att sprida falsk information om hur, när och var man ska rösta.

"Röstgenererande AI kan potentiellt göra denna metod för att försöka undertrycka röster mer attraktiv för bedragare", tillade hon.

Källa: NBC