ElevenLabs заблокировала аккаунт, который подделал голос Байдена для дезинформации избирателей

Gage Skidmore/Flickr

ElevenLabs, ett AI-företag som specialiserat sig på röstkloning, har blockerat det konto från vilket falska ljudinspelningar av USA: s president Joe Bidens röst skapades.

Det här är vad vi vet

Inspelningarna användes i telefonsamtal till väljare före valet för att ge felaktig information och minska valdeltagandet. Pindrops expertis bekräftade att det var ElevenLabs teknik som användes för att imitera Bidens röst.

Företaget sa att det undersöker händelsen och inte kommer att tolerera användningen av sina AI-verktyg för olagliga ändamål. Experter noterar dock att startups som arbetar inom innehållsgenerering måste vara mer aktiva i kampen mot missbruk.

Enligt experter är denna incident bara toppen av ett isberg. Djupa AI-baserade förfalskningar kan bli ett allvarligt hot mot demokratiska processer, inklusive det kommande amerikanska presidentvalet.

Gå djupare:

• Ett falskt robocall på uppdrag av Biden som uppmanade honom att inte rösta på demokraterna i det amerikanska valet visade sig vara en dipfake

Källa: Engadget