Politici, leden van het Koninklijk Huis, burgemeesters, presentatrices en zangeressen zijn het slachtoffer van deepfakeporno, blijkt uit onderzoek van het AD. De gezichten van bekende Nederlanders worden op pornoacteurs geplakt. Het zorgt voor massale woede, afkeuring en verontwaardiging. Maar deze misdaden tegengaan blijkt erg lastig.
Dirk Visser, advocaat en hoogleraar intellectuele eigendomsrecht aan de Universiteit Leiden, zei in het RD (23-3): “Als je dit wilt controleren, moet je hoe dan ook de privacy van mensen en vertrouwelijkheid van gegevens schenden.”
Hij vergelijkt het met beelden van kindermisbruik. "Het is een schending van de privacy als er proactief in onze telefoon of fotobibliotheek gekeken wordt. Maar op een andere manier kun je dit kwaad niet uitroeien.”
In onze samenleving wordt veel waarde gehecht aan privacy en individuele vrijheid. Dat is enerzijds een goede zaak. We willen immers niet in een samenleving leven waarin de overheid haar burgers constant wantrouwt en begluurt. Wat blijft er dan over van bijvoorbeeld de persvrijheid of vrijheid van meningsuiting?
Anderzijds is vrijheid nooit absoluut. Bij wetgeving wordt altijd naar een balans gezocht tussen vrijheid en veiligheid. We leven in een vrij land, maar dat betekent niet dat je met de auto met 300 kilometer per uur door een woonwijk mag scheuren. In de onlinewereld is die balans echter ver te zoeken. De totale privacy van de een leidt tot gruwelijke privacyschendingen bij anderen.
Consumenten verlangen volledige privacy en grote techbedrijven komen aan die vraag tegemoet. Zo benadrukt Meta dat WhatsApp end-to-endversleuteling biedt, wat betekent dat de inhoud van je berichten, gesprekken, foto’s en video’s wordt versleuteld en alleen toegankelijk is voor de afzender en de beoogde ontvanger.
Dit soort privacy die aan gebruikers geboden wordt, leidt echter tot grove schending van de privacy van anderen. Denk aan BN’ers die figureren in deepfakeporno en zich machteloos voelen. En aan kinderen die op grote schaal misbruikt worden voor livestreams. Hun privacy wordt op de ergst denkbare wijze geschonden.
Dit kindermisbruik wordt gelivestreamd via platforms die we allemaal dagelijks gebruiken. Veilig achter hun laptop of telefoon regisseren misdadigers het misbruik van minderjarigen (zelfs baby’s) in bijvoorbeeld de Filipijnen. In 2023 ontving het Amerikaanse National Center for Missing & Exploited Children 36,2 miljoen meldingen van vermoedelijke seksuele uitbuiting van kinderen online. Die meldingen bevatten meer dan 105 miljoen afbeeldingen, video’s en andere bestanden. Het centrum meldde ook een explosie in meldingen van grooming (online kinderlokken), een stijging van meer dan 300 procent tussen 2021 en 2023.
Internet is een wetteloze jungle geworden, waarin daders van seksueel geweld vaak vrijuit gaan. Pogingen om die wetteloosheid in te dammen, dreigen te sneuvelen door angst voor een Big Brother-staat. Zo kwam de Europese Commissie vorig jaar met een voorstel voor wetgeving om onlinekindermisbruik tegen te gaan. Privacyorganisaties voerden daartegen echter een succesvolle lobby. Zo waarschuwden zij dat techniek om seksueel misbruik op te sporen misbruikt kan worden door machthebbers. De stemming over het voorstel is nu voor onbepaalde tijd uitgesteld.
Het is goed om de zorgen van die privacyorganisaties serieus te nemen. Want end-to-endversleuteling beschermt niet alleen kindermisbruikers, maar beschermt bijvoorbeeld ook journalisten tegen een te machtige overheid (iets wat in een vrije samenleving fundamenteel is). Tegelijk mag die angst voor mogelijk machtsmisbruik ons er niet van weerhouden om op te treden tegen reëel machtsmisbruik, dat op dit moment op enorme schaal plaatsvindt.
Nu wordt het aan techbedrijven zelf overgelaten of ze kindermisbruik op hun platforms willen tegengaan of niet. Een wettelijk kader ontbreekt. Neal Mohan, CEO van YouTube, pleitte vorig jaar nog voor eenduidige wetgeving die kinderen online beschermt.
Vrijheid en veiligheid kunnen samengaan. Techbedrijven als Cyacomb Safety en SafeToNet hebben al techniek ontwikkeld die beelden van kindermisbruik kan detecteren en blokkeren zonder end-to-endversleuteling te doorbreken. Het is zaak dat er wetgeving komt die meer techbedrijven aanmoedigt tot dit soort technische innovaties.
Bij de bouw van auto’s vinden we het logisch dat er al in de ontwerpfase rekening wordt gehouden met de veiligheid van gebruikers. Maar waarom zijn laptops en telefoons niet “Safe-by-Design”? De techniek hiervoor bestaat al. Zo is er software die vanuit het besturingssysteem van een telefoon automatisch beelden van kindermisbruik blokkeert. Dit gaat niet via externe autoriteiten; de bescherming zit ingebouwd in het apparaat.
Slimme, innovatieve techbedrijven zullen deze ontwikkeling omarmen. Want in elke branche willen klanten producten en diensten die veilig te gebruiken zijn. Geen enkele vader wil dat zijn dochter een ongewenste seksuele afbeelding krijgt toegestuurd. Geen enkele moeder wil dat haar zoon wordt gechanteerd met naaktbeelden en geld moet betalen aan criminelen.
Australië en het Verenigd Koninkrijk hebben, respectievelijk in 2021 en 2023, wetsvoorstellen aangenomen voor onlineveiligheid. Hopelijk neemt ook de EU haar verantwoordelijkheid en voert ze snel vergelijkbare wetgeving in die techbedrijven dwingt tot hoognodige innovaties.
Dit artikel is geschreven door Gertjan de Jong van IJM Nederland en verscheen eerder als opiniestuk in het Reformatorisch Dagblad van 27 maart 2024.