Artificiell intelligens har lärt sig att förfalska röster för att lura autentiseringssystem

Forskare från University of Waterloo i Kanada har utvecklat en metod för röstförfalskning med hjälp av artificiell intelligens som gör det möjligt att kringgå röstautentisering.

Vad vi vet

Röstautentisering bygger på att varje persons röst är unik. Detta påverkas av fysiska egenskaper, såsom storlek och form på stämbanden och struphuvudet, samt sociala faktorer.

Autentiseringssystem fångar upp nyanserna i röstavtryck. Artificiell intelligens kan redan imitera mänskligt tal ganska realistiskt, men algoritmer har distinkta artefakter som analytiker kan använda för att identifiera en förfalskning.

Den teknik som forskarna har utvecklat syftar till att eliminera dessa särdrag. Tanken är att "gravera in" användarens röstavtryck i den falska inspelningen.

"Vår kontradiktoriska mekanism försöker ta bort de maskinartefakter som är vanligt förekommande i dessa prover", står det i artikeln.

Forskarna tränade systemet på talprover från 107 talare för att bättre förstå vad som får tal att låta mänskligt. För att testa algoritmen skapade de flera exempel för att lura autentiseringssystem. Mot vissa svaga system uppnådde de 99% efter sex försök.

Starkare autentiseringssystem visade sig dock vara mer tillförlitliga. I ett test mot Amazon Connect uppnådde forskarna en framgångsgrad på 10% i en attack på fyra sekunder och 40% på mindre än 30 sekunder.

Forskarna noterade också att angriparna behöver ett urval av offrets röst och lämpliga tekniska färdigheter för att utföra attacken. Detta är en ganska hög barriär, men de uppmanade utvecklare av autentiseringssystem att arbeta med att förbättra säkerheten i sina tekniker.

Källa: The Register: The Register.