Jonas Karlsson, utredare på Ecpat, säger att nya AI-verktyg snabbt blivit ett nytt problem för barn på nätet. Verktygen kan förvandla vanliga bilder till fejkade, pornografiska nakenbilder av barn och spridas snabbt online. Ecpat uppger att samtalen till stödlinjen ökar och att många av de tillfrågade barnen vill att apparna förbjuds.

Ecpats utredare Jonas Karlsson säger att verktygen snabbt blivit ett nytt problem för barn på nätet. "Effekten är i princip densamma: man känner skam, man känner sig angripen och man oroar sig för framtiden", säger Jonas Karlsson, utredare på barnrättsorganisationen Ecpat.

Apparna, ofta kallade nudify-appar, tar en vanlig bild och gör om den till en naken- eller pornografisk bild. De saknar sällan skydd mot att användas på barn. Det gör att en bild som ursprungligen inte är stötande kan bli ett övergrepp när den förvandlas av AI.

Fler samtal till stödlinjen

Ecpat har undersökt vad barn i Sverige vet om de här apparna och om de själva har utsatts. Enligt organisationen är det än så länge en relativt liten andel barn som uppger att de blivit utsatta. Samtidigt har antalet kontakter till stödlinjen ökat.

Samtalen till stödlinjen har ökat, och Ecpat bedömer att både organisationen och barnen ser problemet som något som kan växa.

Mastheads

Flera länder har uppmärksammat fenomenet, och i Spanien och USA har det rapporterats fall där flera barn utsatts vid ett och samma tillfälle. I Sverige visar Ecpats enkät att många av de tillfrågade barnen vill att sådana appar förbjuds.

Plattformar och lagstiftning

Den kommersiella spridningen av verktygen sker på flera plattformar. Vissa plattformar har begränsat marknadsföring av sådana appar, men promotion förekommer också på andra håll.

Reklamen riktar sig ofta mot unga. Jonas Karlsson säger att apparna formellt marknadsförs för vuxna, men att budskapen ändå kan locka ungdomar.

Inom EU pågår arbete för att komma åt problemet genom lagstiftning och andra åtgärder, enligt Ecpat. Organisationen lyfter också fram vuxnas roll. Föräldrar, lärare och andra vuxna behöver informera om vad som är lagligt och vad som kan bli brott.

Ecpat påminner om att spridning av sexuella bilder av barn kan omfattas av barnpornografibrott, även om bilden är manipulerad. Det är ett juridiskt ansvar som följer av spridning.

Utredningen visar också en förändring i hur barn tänker kring att söka hjälp. Fler än tidigare uppger att de är villiga att vända sig till en vuxen om de utsätts på nätet. Det tolkar Ecpat som positivt. Samtidigt pekar det på att barn tröttnat på att ständigt behöva hantera nya verktyg som gör nätet otryggt.

Related Articles

Ecpat pekar på att EU nu arbetar med åtgärder och lagstiftning för att komma åt problemet.

Den här artikeln har skapats med hjälp av AI.