Een meisje dat online de vraag krijgt om een naaktselfie te maken. Of een jongetje dat seksueel misbruikt wordt voor een livestream, op verzoek van een Europeaan die er geld voor overmaakt en het misbruik vanachter zijn laptop regisseert. Uitzonderlijke situaties? Zeker niet. Diverse onderzoeken tonen aan dat deze praktijken op grote schaal voorkomen. Zo werden in 2022 naar schatting een half miljoen Filipijnse kinderen misbruikt voor livestreams. Recent onderzoek heeft aangetoond dat maar liefst 68 procent van de 18-jarigen als kind in Nederland op enig moment ongewenst online seksueel gedrag heeft ervaren. Cijfers van de Nationaal Rapporteur laten zien dat één op de vier meisjes en bijna één op de tien jongens een vorm van online seksuele intimidatie meemaakt.
Deze cijfers zijn voor John-John Brandis-Arntzen een doorn in het oog. Hij werkt voor SafeToNet, een organisatie die techniek ontwikkelt om kinderen online te beschermen. Het verbaast hem dat online misbruik zo weinig aandacht krijgt. “In de discussie over Europese wetgeving tegen online misbruik gaat het vooral over de privacy van volwassen gebruikers. De privacylobby en techbedrijven zijn heel effectief om het gesprek die kant op te sturen. Terwijl we het zouden moeten hebben over de bescherming van kinderen.”
Waarom denk je dat de veiligheid van kinderen veel minder wordt belicht in de media?
“Het privacyverhaal is makkelijker te verteren voor het publiek. Niemand wil horen over kinderen die online worden uitgebuit en misbruikt, omdat het zo’n afschuwelijke misdaad is. De verhalen die rondgaan over ‘ze gaan mijn gegevens onderscheppen’ en ‘elke bericht dat ik verstuur houden ze in de gaten’ zijn veel gemakkelijker te begrijpen.”
Welke technische mogelijkheden zijn er om kinderen te beschermen tegen uitbuiting?
“We hebben SafeToNet-technologie ontwikkeld, die kan worden toegepast in een telefoon om ervoor te zorgen dat kinderen worden beschermd tegen schadelijke en illegale visuele inhoud. Dankzij die techniek kan een telefoon schadelijke en illegale inhoud detecteren en is ook in staat om online kinderuitbuiting in realtime te herkennen. Deze techniek zit in het besturingssysteem van de telefoon. Illegale afbeeldingen en video's, inclusief livestreams, worden dus automatisch geblokkeerd. Afbeeldingen worden gescand zonder dat er een app nodig is en zonder dat er informatie naar externen wordt verzonden.
Een kind kan op zo'n apparaat geen schadelijke of illegale inhoud bekijken, omdat het scherm het gewoon niet weergeeft. Dit beschermt de privacy van kinderen en lost enorme problemen op, zoals grooming of online kinderlokken, maar ook sexting van minderjarige kinderen. Als een kind probeert een naaktselfie te maken op dit apparaat, wordt de afbeelding gewoon niet weergegeven.”
Je hebt het nu over veilige apparaten voor kinderen. Maar het probleem is ook dat volwassenen kinderen misbruiken en dat opnemen met hun eigen telefoon. Deze misdaad bestrijdt IJM op de Filipijnen. Kan deze techniek daar ook bij helpen?
“Ja, zeker. De techniek achter SafeToNet kan letterlijk overal worden gebruikt waar een classificatie van visuele inhoud nodig is. Het kan op digitale platforms worden gebruikt om inhoud te scannen en zo nodig te blokkeren. Ook kan het worden gebruikt voor berichtenapps als WhatsApp, om ervoor te zorgen dat er geen beelden van kindermisbruik worden gedeeld.
Het uitbuiten van kinderen vindt vaak plaats via livestreamingplatforms. Elk livestreamingplatform ter wereld zou de techniek die we hebben ontwikkeld kunnen implementeren en aan de serverkant kunnen inbouwen, zodat elk beeld dat wordt gelivestreamd wordt geclassificeerd. En zodra een kind voor de camera wordt misbruikt, heeft onze techniek de mogelijkheid om die stream te stoppen. Dat stopt natuurlijk niet direct de fysieke uitbuiting van deze kinderen, maar het stopt wel de consumptie van het materiaal en hopelijk ook de betaling ervoor, omdat de daders het gevraagde materiaal niet meer kunnen bekijken.”
Critici wijzen erop dat deze techniek schaduwkanten heeft. Ze zeggen bijvoorbeeld dat grootouders die hun kleinkind in bad fotograferen, als misdadiger kunnen worden aangemerkt.
“Dat voorbeeld wordt voortdurend gebruikt. Ik ben er geen fan van, omdat het zo’n nichevoorbeeld is en het voorbijgaat aan het werkelijke probleem. Het gesprek zou niet moeten gaan over grootouders die hun kind naakt willen fotograferen, maar over deze vraag: Wat als een pedofiel mijn kind benadert en het seksueel wordt afgeperst via hun apparaat? Online misbruik vindt op grote schaal plaats, duurt vaak jaren en heeft ernstige gevolgen voor de geestelijke gezondheid van kinderen. Het leidt tot afpersing, depressies, zelfmoorden, noem maar op.
Bovendien is het zo dat een grootouder die een naaktfoto maakt van een minderjarig kind vanuit juridisch perspectief kinderpornomateriaal maakt. Als dit wordt geüpload naar platforms zoals iCloud of Google Photos, dan is er kans dat misdadigers dat materiaal vinden en verspreiden.”
Hoe zit het met tieners die vrijwillig expliciet materiaal willen delen met elkaar? Die belemmer je, volgens critici, in hun seksuele ontwikkeling als je jullie techniek breed inzet.
“De wetgeving daarover verschilt per land, over vanaf welke leeftijd tieners dat mogen doen. Maar sowieso zijn deze praktijken allerminst zonder gevaren. Er zijn grote problemen met wat we tegenwoordig wraakporno noemen*. Dat betekent dat een tiener bijvoorbeeld een naaktfoto of video doorstuurt van een klasgenoot naar een grote groep om wraak te nemen. Dit komt op zo’n grote schaal voor, dat het denk ik zinvol is om een kleine concessie te doen aan de kant van vrijheid. Dus dat je zegt: ‘Misschien kan ik deze ene foto niet maken, maar ik weet tenminste zeker dat mijn kind niet seksueel wordt uitgebuit op dit apparaat of er schadelijke beelden ziet.’
We moeten een balans vinden tussen veiligheid en vrijheid. En ik denk dat op dit moment de weegschaal ver in het voordeel van de vrijheid doorslaat. In het maatschappelijk debat gaat het vooral over de privacy van volwassen gebruikers. Het lijkt alsof kinderen bijna worden vergeten. Maar zij hebben ook rechten en zouden in staat moeten zijn om goed te socialiseren in onze samenleving en het internet te verkennen zonder bang te hoeven zijn voor seksueel geweld, bedreiging en afpersing met naaktbeelden. Op dit moment is dat gewoon niet zo.”
Ben je hoopvol over de strijd tegen online kindermisbruik?
“Ja, dat ben ik zeker. Ik zie dat er steeds meer samenwerking is tussen bedrijven, ngo’s en overheden vanuit een gezamenlijk verlangen om kinderen te beschermen. Er zijn nu al heel goede technische oplossingen en ik geloof dat die techniek alleen maar beter zal worden. Of grote bedrijven als Apple en Samsung deze techniek ook willen gebruiken? Als ik daar niet in geloofde, dan zou ik mijn tijd verspillen. Veiligheid en privacy kunnen in balans worden gebracht. Ik geloof dat we bij SafeToNet pioniers zijn en dat we toegewijd zijn aan onze missie om kinderen online te beschermen. Het is slechts een kwestie van tijd voordat het publiek zal verwachten dat veiligheid de standaard is. Dan zullen we terugkijken en ons verbazen over hoe we hebben kunnen toestaan dat kinderen werden blootgesteld aan dergelijke schade.”
*NOS.nl meldde in de september 2023 dat ‘wraakporno’ in ons land een groeiend probleem is: “In Nederlandse Telegram-chatgroepen worden nog steeds op grote schaal contactgegevens en naaktfoto's van vrouwen gedeeld. In de groepen, met tot wel 85.000 leden, verschijnen per dag meer dan 10.000 berichten. De expose-berichten worden in de meeste gevallen voorzien van contactgegevens, vaak gepaard met de oproep om de vrouw of het meisje lastig te vallen.