YouTube kommer att förbjuda innehåll som använder AI som realistiskt efterliknar röster från döda barn

YouTube kommer att förbjuda videor som använder artificiell intelligens för att realistiskt imitera röster från avlidna minderåriga eller våldsoffer, och som beskriver omständigheterna kring deras död. De nya restriktionerna träder i kraft den 16 januari.

Det här är vad vi vet

Anledningen till ändringarna var uppkomsten av videor där författarna använder AI-teknik för att återskapa utseendet och rösterna hos barn som dött i högprofilerade brott för att tala å deras vägnar om deras upplevelser av våld och död. Sådana videor har fokuserat på fallen med de försvunna brittiska flickorna Madeleine McCann och James Bulger, samt Gabriel Fernández, som mördades i USA.

Sådant innehåll kommer hädanefter att tas bort från YouTube, och upphovsmännen kommer att få en första strike och en veckas publiceringsförbud. Efter tre strike blockeras kanalen.

YouTube har tidigare infört krav på att redovisa användningen av AI-teknik i videor där syntetiska människor eller röster låter särskilt realistiska. Det är också förbjudet att visa AI-genererat "realistiskt våld" även om det är korrekt märkt.

Bristande märkning kan leda till borttagning av innehåll och till och med avstängning från YouTubes affiliateprogram.

Källa: Google