Miljontals barn utsatta för sexuella AI-övergrepp

Minst 1,2 miljoner barn i elva länder har under det senaste året fått sina bilder manipulerade i sexuella sammanhang med hjälp av generativ AI. Det visar en ny undersökning från Unicef som varnar för allvarliga konsekvenser.

De AI-genererade bilderna beskrivs som extremt realistiska, vilket gör det svårt att se skillnad på verklighet och manipulation. Barnen drabbas ofta av samma känslor av skam och skuld som vid fysiska sexuella övergrepp.

Materialet används ofta som ett verktyg för mobbning eller utpressning, där förövare hotar med att sprida bilderna. Bland förövarna finns både vuxna och barn som manipulerar bilder av exempelvis klasskompisar.

Unicef föreslår nu tre akuta åtgärder för att mota problemet. Organisationen kräver striktare lagstiftning, ökad medvetenhet hos föräldrar och skolor samt att techindustrin tar ett betydligt större ansvar för sina tjänster.

Det finns ingen enkel lösning på problemet, men behovet av snabba åtgärder är stort. Utan ingripanden väntas antalet drabbade barn öka i takt med att tekniken blir mer lättillgänglig.