AI-gebaseerde 'Nudify' Sites: Een Bedreiging voor Privacy op Scholen
Verenigde Staten, maandag, 16 december 2024.
Scholen staan voor een groeiende dreiging door ‘nudify’ sites die met behulp van kunstmatige intelligentie realistische naaktbeelden van leerlingen genereren. Dit roept grote zorgen op over privacy en digitale veiligheid. Een recent voorbeeld betreft de 14-jarige Francesca Mani, wiens afbeelding werd gemanipuleerd door een site genaamd Clothoff. Deze website, die in november 2024 meer dan 3 miljoen bezoeken kreeg, biedt diensten aan om foto’s van geklede personen om te zetten in naaktbeelden. Ondanks claims van Clothoff dat minderjarigen niet verwerkt kunnen worden, ontbreekt bewijs. Dit probleem heeft geleid tot wetsvoorstellen zoals de Take It Down Act, die straffen zou opleggen voor het delen van dergelijke beelden. De situatie onderstreept de noodzaak van strengere wetten en beleid om de impact van AI-gebaseerde technologieën op de privacy van minderjarigen te beperken.
Groeiende Omvang van het Probleem
De situatie is alarmerend, met bijna 30 soortgelijke incidenten gedocumenteerd in Amerikaanse scholen in de afgelopen 20 maanden [1]. De website Clothoff, die centraal staat in deze problematiek, trekt maandelijks miljoenen bezoekers en biedt deze diensten aan vanaf slechts $2, met een gratis eerste ‘nudify’ poging [3]. Hoewel de site beweert dat het verwerken van foto’s van minderjarigen ‘onmogelijk’ is [2], hebben onderzoekers zoals Kolina Koltai van Bellingcat het tegendeel aangetoond [1].
Juridische Uitdagingen en Wetgeving
Een cruciale ontwikkeling is de Take It Down Act, die in december 2024 door de Senaat is goedgekeurd [2]. Deze wet zou sociale mediabedrijven verplichten om deze beelden binnen 48 uur te verwijderen na een verzoek [1]. Momenteel bestaat er een juridische leemte: AI-naaktbeelden van minderjarigen zijn alleen illegaal onder federale kinderpornografiewetgeving als ze ‘seksueel expliciet gedrag’ afbeelden [1]. Yiota Souras van het National Center for Missing and Exploited Children benadrukt dat deze leemte dringend moet worden gedicht [1].
Scholen Worstelen met Aanpak
Onderwijsinstellingen hebben moeite om adequaat te reageren op deze nieuwe bedreiging. In het geval van Westfield High School, waar Francesca Mani slachtoffer werd, resulteerde het incident in minimale consequenties voor de daders - één dag schorsing [1]. Als reactie hierop heeft het schooldistrict hun anti-pestbeleid aangepast om AI-gerelateerde incidenten te incorporeren [2]. Experts benadrukken dat scholen vaak niet weten hoe ze deze situaties moeten aanpakken, terwijl de politie in veel gevallen weinig actie onderneemt [1].
Financiële Constructies en Ontwijkend Gedrag
De websites die deze diensten aanbieden gebruiken complexe netwerken om betalingssystemen te omzeilen. Hoewel PayPal Clothoff een jaar geleden heeft verbannen, blijft de site nieuwe accounts creëren om blokkades te ontwijken [3]. Het bedrijf beweert gevestigd te zijn in Buenos Aires, maar onderzoek toont aan dat het opgegeven adres naar een niet-gerelateerd YouTube-kanaal leidt [3]. Deze schimmige praktijken maken het moeilijk om de verantwoordelijken aan te pakken [3].