Kaliforniska skolbarn distribuerade nakenbilder på klasskamrater som genererats av AI

tommao wang/Unsplash.

Ledningen för Beverly Vista High School i Kalifornien utreder en incident där elever använde artificiell intelligens för att skapa och distribuera nakenbilder av klasskamrater.

Det här är vad vi vet

Bilderna visade enligt uppgift ansikten på riktiga skolkamrater överlagrade på nakna kroppar som modellerats av ett neuralt nätverk. Bilderna spreds på Messenger av en grupp studenter.

"Det är väldigt skrämmande att människor inte kan känna sig säkra på att komma till skolan. De är rädda att folk ska visa upp explicita bilder på dem", säger en av studenterna, som inte vill bli namngiven.

Det är oklart hur många elever som påverkades av spridningen av de falska bilderna.

Beverly Hills School District sade sig vara "chockade" över missbruket av AI-teknik. Skyldiga elever kan få disciplinära åtgärder. Barn vars bilder har manipulerats får också rådgivning.

"Föräldrar, vänligen samarbeta med oss och prata med era barn om detta farliga beteende. Elever, vänligen prata med era vänner om hur störande och olämpligt detta manipulerande av bilder är", uppgav distriktet.

Enligt skoldistriktets superintendent har säkerhetslagstiftningen släpat efter den tekniska utvecklingen. Han uppmanade lagstiftarna att öka regleringen på detta område.

Vissa föräldrar uttryckte förhoppningar om att Beverly Vista High School skulle vidta snabba åtgärder.

"Det måste bli någon form av enorm konsekvens för det", sade en förälder.

Gå djupare:

• Spanska åklagare undersöker om det är lagligt att tonåringar distribuerar AI-bilder av nakna flickor

Källa: NBC