De waarschuwing van paus Leo XIV dat kunstmatige intelligentie (AI) verantwoord moet worden ontwikkeld, kwam op een opvallend moment. Nu AI steeds toegankelijker wordt, zetten criminelen de technologie in voor fraude, mensenhandel en online uitbuiting. Dat laat zien hoe belangrijk het is dat technologische innovatie gepaard gaat met goede waarborgen en duidelijke verantwoordelijkheid.
De paus brengt een zorg onder woorden die veel beleidsmakers, ondernemers en maatschappelijke organisaties delen: toezicht en verantwoordelijkheid moeten gelijk oplopen met technologische ontwikkelingen.
Temidden van alle enthousiasme over AI is er een enorme uitdaging: Hoe zorg je ervoor dat de enorme economische en maatschappelijke voordelen van deze technologie niet ten koste gaan van de bescherming van kwetsbare mensen?
Elke AI-toepassing die de groei en productiviteit van legitieme bedrijven kan vergroten, kan namelijk ook worden gebruikt door de meest gewelddadige en criminele organisaties. En dat gebeurt nu al.
Voor mij zijn de waarschuwingssignalen heel duidelijk. Als oprichter en CEO van International Justice Mission werk ik al dertig jaar samen met rechtssystemen over de hele wereld om kwetsbare mensen te beschermen tegen geweld, uitbuiting en misbruik. Daardoor zien wij van dichtbij hoe AI steeds vaker wordt ingezet om zware criminaliteit te versterken.
Hoe AI criminaliteit versterkt
Onze teams in Zuidoost-Azië zien dat criminele netwerken vorig jaar AI gebruikten om wereldwijd tussen de 50 en 80 miljard dollar te stelen via grootschalige online oplichting. Achter veel van deze operaties schuilt moderne slavernij. Duizenden slachtoffers van mensenhandel worden opgesloten in streng bewaakte complexen waar zij dag en nacht mensen online moeten oplichten.
IJM heeft duizenden mensen uit zulke complexen geholpen. Zij vertellen over mishandeling, uithongering, elektrische schokken en seksueel geweld wanneer zij hun opgelegde targets niet haalden.
De winsten van deze criminele netwerken waren vorig jaar groter dan de gezamenlijke overheidsbegrotingen van Myanmar, Cambodja en Laos, de landen waar veel van deze activiteiten plaatsvinden. AI gaf deze criminele organisaties extra slagkracht via automatische vertalingen, stem-imitaties, deepfake-video's en geavanceerde wervingstechnieken.
Een andere snelgroeiende vorm van misdaad die wordt mogelijk gemaakt door moderne techniek, is live gestreamd seksueel misbruik van kinderen. Ook hier speelt AI een steeds grotere rol. Zedendelinquenten in bijvoorbeeld de Verenigde Staten en Europa betalen tussenpersonen om aan de andere kant van de wereld om live seksueel misbruik van kinderen via webcams te organiseren. Uit recent onderzoek van IJM blijkt dat in de Filipijnen in één jaar tijd ongeveer een half miljoen kinderen slachtoffer zijn geworden van seksueel misbruik via online platforms.
AI verandert ook de manier waarop mensenhandelaren slachtoffers werven voor dwangarbeid. Nepvacatures kunnen nu eenvoudig worden vertaald naar allerlei talen, waardoor nieuwe groepen mensen worden bereikt. AI-chatbots maken het bovendien mogelijk om op grote schaal geloofwaardige, maar misleidende vacatures te verspreiden die specifiek zijn afgestemd op bepaalde doelgroepen.
Wat we moeten doen?
Het goede nieuws is dat we weten wat er nodig is. De oproep van paus Leo voor sterke wetgeving, onafhankelijk toezicht, goed geïnformeerde gebruikers en politici die hun verantwoordelijkheid nemen, is een belangrijke aansporing.
In de geschiedenis zijn er vaker technologieën geweest die zowel grote voordelen als grote risico's met zich meebrachten. Denk aan geneesmiddelen, kernenergie en snelle vervoersmiddelen. Steeds weer moesten leiders verantwoordelijkheid nemen voor de risico's en ervoor zorgen dat er consequenties waren voor misbruik.
De rol van bedrijven
Technologiebedrijven moeten verantwoordelijkheid nemen. Ontwikkelaars van AI-systemen moeten niet alleen nadenken over hoe hun producten worden gebruikt, maar ook over hoe criminelen ze kunnen misbruiken. Ze moeten samenwerken met politie en justitie en net zo veel energie steken in het voorkomen van misbruik als in het vergroten van de mogelijkheden van AI.
Daarnaast zouden bedrijven moeten kiezen voor een aanpak waarbij veiligheid vanaf het begin wordt ingebouwd. Zo bestaat er AI-technologie die herkent wanneer iemand probeert beelden van seksueel misbruik van een jong kind te maken, en die vervolgens voorkomt dat zulke beelden worden opgenomen.
De rol van overheden
Ook overheden moeten duidelijke regels stellen. Geen enkele andere sector heeft ooit onbeperkt producten kunnen aanbieden zonder uiteindelijk te worden geconfronteerd met regels die ernstige schade aan de samenleving moeten voorkomen.
De grote fouten uit het verleden ontstonden vaak doordat zulke beschermingsmaatregelen te laat werden ingevoerd. Er is geen goede reden waarom de AI-sector hiervan uitgezonderd zou moeten worden. Sterker nog, sommige bedrijfsleiders erkennen zelf dat concurrentiedruk ertoe kan leiden dat – als wettelijke verplichting uitblijven – veiligheidsmaatregelen verdwijnen, zelfs de regels die kinderen beschermen.
Een gedeelde verantwoordelijkheid voor goed AI-beleid
De waarheid is dat we nu al meer dan genoeg weten om verantwoordelijkheid te nemen. Als hoofdonderzoeker van de Verenigde Naties naar de genocide in Rwanda weet ik hoe het voelt om te laat te komen om een ramp nog te kunnen voorkomen.
Die ervaring heeft mij geleerd hoe belangrijk het is om vroege waarschuwingssignalen serieus te nemen. AI biedt enorme kansen voor menselijke vooruitgang, maar creëert ook nieuwe mogelijkheden voor uitbuiting. De uitdaging is om ervoor te zorgen dat toezicht, verantwoordelijkheid en bescherming gelijke tred houden met de technologische ontwikkelingen.
De les van Rwanda is niet dat rampen onvermijdelijk zijn, maar dat ze voorkomen kunnen worden. Samenlevingen zijn op hun sterkst wanneer zij nieuwe risico's tijdig herkennen en daarop reageren met daadkracht, samenwerking en een vooruitziende blik. De snelle ontwikkeling van AI biedt ons de kans om precies dat te doen.
Ik geloof dat toekomstige generaties ons ooit ter verantwoording zullen roepen. Zij zullen ons simpelweg vragen: waar waren jullie toen de beslissende keuzes werden gemaakt over de toekomst van AI en de mensheid? Ik hoop dat wij dan kunnen zeggen dat we onze verantwoordelijkheid hebben genomen en hebben gezorgd voor duidelijke verantwoording en bescherming van hun toekomst. En vooral: dat we niet te laat waren.
Dit artikel verscheen eerder op de website van World Economic Forum.