Amsterdam en expertisebureau voor online misbruik Offlimits steunen een internationale oproep om nudify-tools wereldwijd te verbieden. Deze AI-toepassingen kunnen van gewone foto’s naaktbeelden maken, zonder toestemming van de persoon op de foto. De technologie wordt volgens Offlimits steeds vaker gebruikt voor seksuele chantage, online pesten en misbruik van minderjarigen.

Samen met meer dan 100 organisaties roept Amsterdam het kabinet en de Europese Unie op om nudify-tools expliciet te verbieden. Platforms, appstores en hostingdiensten moeten deze technologie weren. De oproep sluit aan bij Safer Internet Day, een internationaal moment waarop de online veiligheid van kinderen centraal staat.

Schokkende cijfers

Uit onderzoek van Offlimits blijkt dat:

  • bijna 40 procent van de jonge mannen tussen de 18 en 25 jaar ooit strafbare of gewelddadige seksuele beelden heeft gezien.
  • 15,6 procent beelden van seksueel misbruik van minderjarigen heeft gezien, realistisch of virtueel, waaronder AI-gegenereerde beelden.

Uit een onderzoek van het tv-programma Pointer onder ruim 60 middelbare scholen blijkt dat 24 procent van de scholen pesten met AI-gegenereerde naaktbeelden herkent. Tien procent geeft aan dat dit vaker dan 5 keer per jaar gebeurt.

Apps en tools eenvoudig te vinden

Hoewel het maken en verspreiden van deepfake-naaktbeelden in Nederland strafbaar is, zijn nudify-websites en -tools eenvoudig online te vinden. Vaak ontbreekt elke vorm van leeftijdscontrole of toestemming.

Wereldwijd roepen daarom ruim 100 organisaties, zoals de Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen, INHOPE, Interpol, Safe Online, WeProtect Global Alliance en Child Helpline International op tot een verbod van deze technologie.

Wethouder Scholtes: 'verbieden wat schade veroorzaakt'

Wethouder Alexander Scholtes (ICT en Digitale Stad): “Amsterdam investeert in digitale weerbaarheid, maar kinderen kunnen niet opboksen tegen een online omgeving die dit soort misbruik faciliteert. Het is onacceptabel dat we door het gemak van nudify-tools seksuele intimidatie en misbruik steeds laagdrempeliger maken. Daarom ondertekent ook Amsterdam dit manifest: wat legaal is maar aantoonbaar schade veroorzaakt, moeten we durven verbieden.”