Vita husets AI-chef nämnde "röstkloning" som en stor utmaning för lagstiftningen

Growtika/Unsplash

Vita husets vice stabschef Bruce Reed har sagt att AI-teknik för "röstkloning" är ett stort problem för tillsynsmyndigheterna.

Här är vad vi vet

Han sa att samhället ännu inte har insett hur mycket en perfekt falsk mänsklig röst kan påverka våra liv. Människor kommer att sluta lita på samtal om de inte är säkra på att rösten är äkta, tror Reid.

Bedragarna använder redan teknik för att göra sina bedrägerier mer trovärdiga. Enligt FTC har det skett en ökning av antalet fall i USA där bedragare ringer upp offer på uppdrag av släktingar i nöd.

Enligt analytiker på cybersäkerhetsföretaget McAfee räcker det med 3-4 sekunder för att skapa en övertygande röstförfalskning.

Samtidigt använder New Yorks borgmästare Eric Adams AI för att ringa upp invånare på språk som han inte talar. Enligt honom gör detta att han kan nå ut till fler människor.

Experter anser dock att detta är ganska missvisande och kräver tydliga regler för användningen av sådan teknik.

Det finns nu också redan röstkloningsplattformar som gör att du kan skapa en falsk röst med några få klick. Bland dem är ElevenLabs, som mötte olika fall av bedrägeri kort efter att ha kommit ut ur beta.

Gå djupare:

• New Yorks borgmästare använder AI för att robocalla på språk han inte känner till
• ElevenLabs röstgenereringstjänst har kommit ut ur beta och fått stöd för 30 språk

Källa: Business Insider