Niet-consensuele AI-porno maakt slachtoffers van ons allemaal: Kan de wet gelijke tred houden?

Dit artikel is medegeproduceerd met The 19th, een non-profit nieuwsredactie over gender, politiek en beleid. Meld je hier aan voor de nieuwsbrief van The 19th .

\ Meer dan twee dozijn leerlingen van Westfield High School in New Jersey waren vorig jaar geschokt toen ze ontdekten dat naaktfoto's van hen circuleerden onder hun klasgenoten. Volgens de school hadden sommige leerlingen Kunstmatige Intelligentie (AI) gebruikt om pornografische afbeeldingen van anderen te maken van originele foto's. En zij zijn niet de enige tienermeisjes die het slachtoffer worden van nepnaaktfoto's: leerlingen in de staat Washington en Canada hebben ook gemeld dat ze soortgelijke situaties hebben meegemaakt, nu de mogelijkheid om foto's realistisch te bewerken toegankelijker wordt via websites en apps.

\ Het groeiende alarm rond deepfakes—door AI gegenereerde afbeeldingen of video's—in het algemeen werd in januari nog verder versterkt toen er een deepfake van superster Taylor Swift snel verspreid werd via sociale media.

\ Carrie Goldberg, een advocaat die al meer dan tien jaar slachtoffers van niet-consensuele porno—vaak aangeduid als wraakporno—vertegenwoordigt, zei dat ze pas recentelijk van slachtoffers van computergegenereerde afbeeldingen hoorde.

\ "Mijn kantoor ziet nu al ongeveer vijf jaar slachtoffers van deepfakes, en het waren voornamelijk beroemdheden," zei Goldberg. "Nu worden het kinderen die het bij kinderen doen om gemeen te zijn. Het wordt waarschijnlijk echt onderrapporteerd omdat slachtoffers misschien niet weten dat er juridische mogelijkheden zijn, en het is niet in alle gevallen geheel duidelijk of die er zijn."

\ Bestuursorganen proberen in te halen. In het afgelopen jaar hebben tien staten wetgeving aangenomen om specifiek het maken of verspreiden van deepfakes strafbaar te stellen. Deze staten—waaronder Californië, Florida, Georgia, Hawaii, Illinois, Minnesota, New York, South Dakota, Texas en Virginia—hebben straffen vastgesteld variërend van boetes tot gevangenisstraffen. Indiana zal zich waarschijnlijk binnenkort bij de groeiende lijst voegen door zijn huidige wet op niet-consensuele porno uit te breiden.

\ Indiana volksvertegenwoordiger Sharon Negele, een Republikein, heeft de voorgestelde uitbreiding geschreven. De bestaande wet definieert "wraakporno" als het openbaar maken van een intieme afbeelding, zoals elke afbeelding van geslachtsgemeenschap, onbedekte geslachtsdelen, billen of de borst van een vrouw, zonder toestemming van de persoon die op de afbeelding staat. Het door Negele voorgestelde wetsvoorstel is door beide kamers aangenomen en wacht nu op de handtekening van de gouverneur.

\ Negele zei dat ze gemotiveerd was om het strafrecht van Indiana bij te werken toen ze het verhaal hoorde van een middelbare schoollerares die ontdekte dat sommige van haar leerlingen deepfake-afbeeldingen van haar hadden verspreid. Het was "ongelooflijk destructief" voor het persoonlijke leven van de lerares, en Negele was verbaasd te zien dat de daders niet vervolgd konden worden volgens de huidige wet.

\ "Het begon met mijn educatie in het begrijpen van de technologie die nu beschikbaar is en het lezen over incident na incident van gezichten van mensen die aan een verzonnen lichaam werden gehecht dat er ongelooflijk echt en realistisch uitziet," zei Negele. "Het is gewoon zorgwekkend. Als moeder en grootmoeder denken aan wat er met mijn familie en mijzelf zou kunnen gebeuren—het is schokkend. We moeten dit soort dingen voor blijven."

\ Goldberg, wiens advocatenkantoor gespecialiseerd is in zedenmisdrijven, zei dat ze verwacht dat meer staten hun bestaande wetgeving zullen blijven uitbreiden om AI-taal op te nemen.

\ "Tien jaar geleden hadden slechts drie staten wetten tegen wraakporno of op afbeeldingen gebaseerd seksueel misbruik," zei Goldberg. "Nu hebben 48 staten wraakporno verboden, en het heeft werkelijk geleid tot een enorme vermindering van wraakporno—niet verrassend—precies zoals wij voorstanders hadden gezegd dat het zou gebeuren. De hele opkomst van deepfakes heeft de gaten gevuld als een nieuwe manier om iemand seksueel te vernederen."

\ In 2023 werden meer dan 143 000 nieuwe door AI gegenereerde video's online geplaatst, volgens The Associated Press. Dat is een enorme sprong ten opzichte van 2019, toen de "nudify"-websites of applicaties minder gebruikelijk waren, en er waren toen nog bijna 15 000 van deze nepvideo's online, volgens een rapport van Deeptrace Labs, een bedrijf voor visuele dreigingsinformatie. Zelfs toen al hadden die video's—waarvan 96 procent niet-consensuele pornografie van vrouwen bevatte—meer dan 100 miljoen weergaven verzameld.

\ Goldberg zei dat beleidsmakers en het publiek allebei gemotiveerder lijken om door AI gegenereerde naaktafbeeldingen specifiek te verbieden omdat vrijwel iedereen een slachtoffer kan zijn. Er is meer empathie.

\ "Bij wraakporno, in de eerste golf van discussies, gaf iedereen het slachtoffer de schuld en liet ze overkomen alsof ze een soort perverseling waren voor het nemen van de afbeelding of dom voor het delen ervan met een andere persoon," zei Goldberg. "Bij deepfakes kun je het slachtoffer niet echt de schuld geven omdat het enige wat ze deden was een lichaam hebben."

\ Amanda Manyame, een in Zuid-Afrika gevestigde adviseur voor digitale rechten voor Equality Now, een internationale mensenrechtenorganisatie gericht op het helpen van vrouwen en meisjes, zei dat er vrijwel geen bescherming is voor slachtoffers van deepfakes in de Verenigde Staten. Manyame bestudeert beleid en wetten over de hele wereld, analyseert wat werkt en geeft juridisch advies over digitale rechten, met name over door technologie gefaciliteerde seksuele uitbuiting en misbruik.

\ "De grootste lacune is dat de VS geen federale wet heeft," zei Manyame. "De uitdaging is dat de kwestie per staat wordt geregeld, en natuurlijk is er geen uniformiteit of coördinatie als het om bescherming gaat."

\ Er is echter momenteel een beweging op Capitol Hill: een tweepartijdige groep senatoren introduceerde in januari de Disrupt Explicit Forged Images and Non-Consensual Edits Act van 2024—ook bekend als de DEFIANCE Act. De voorgestelde wetgeving is bedoeld om de verspreiding van niet-consensuele, seksueel expliciete inhoud te stoppen.

\ "Niemand—noch beroemdheden noch gewone Amerikanen—zou ooit moeten uitkomen in AI-pornografie," zei Republikeinse senator Josh Hawley, een medesponsor van het wetsvoorstel, in een verklaring. "Onschuldige mensen hebben het recht om hun reputatie te verdedigen en daders voor de rechter ter verantwoording te roepen." Volksvertegenwoordiger Alexandria Ocasio-Cortez heeft een partnerwetsvoorstel in het Huis ingediend.

\ Volgens nieuwe peilingen van Data for Progress zei 85 procent van de waarschijnlijke kiezers over het gehele politieke spectrum dat ze de voorgestelde DEFIANCE Act steunen—met 72 procent van de vrouwen in sterke steun vergeleken met 62 procent van de mannen.

\ Maar jongere mannen zijn meer geneigd zich tegen de DEFIANCE Act te verzetten, waarbij ongeveer één op de vijf mannen onder de 45 (22 procent) zei dat ze zich sterk of enigszins verzetten tegen wetgeving die onderwerpen van expliciete niet-consensuele deepfakes toestaat de maker aan te klagen.

\ Danielle Deiseroth, uitvoerend directeur van Data for Progress, zei dat deze kwestie een van de "scherpere contrasten" liet zien tussen jonge mannen en vrouwen die ze in een tijd heeft gezien.

\ "We kunnen met vertrouwen zeggen dat vrouwen en mannen onder de 45 uiteenlopende meningen hebben over dit beleid," zei Deiseroth. "Dit is een probleem dat onevenredig veel impact heeft op vrouwen, vooral jonge vrouwen, die eerder slachtoffer zijn van wraakporno. En ik denk dat dat hier echt de grondoorzaak is."

\ Goldberg zei dat het creëren van beleid om slechte actoren te criminaliseren een goed begin is, maar uiteindelijk onvoldoende. Een goede volgende stap, zei ze, zou zijn om juridische stappen te ondernemen tegen de online distributeurs, zoals de App Store en Google Play, die producten leveren die primair voor criminele activiteiten worden gebruikt. Sociale mediaplatforms en instant messaging-apps, waar deze expliciete afbeeldingen worden verspreid, moeten ook verantwoordelijk worden gehouden, voegde Goldberg toe.

\ De oprichters van #MyImageMyChoice, een grassrootsorganisatie die werkt aan het helpen van slachtoffers van intieme beeldmisbruik, waren het ermee eens dat er meer moet worden gedaan door particuliere bedrijven die betrokken zijn bij het maken en verspreiden van deze afbeeldingen.

\ De oprichters—Sophie Compton, Reuben Hamlyn en Elizabeth Woodward—wezen erop dat zoekmachines zoals Google het meeste totale webverkeer naar deepfake-pornosites sturen, terwijl creditcardmaatschappijen hun betalingen verwerken. Internetserviceproviders laten mensen er toegang toe krijgen, terwijl grote diensten zoals Amazon, Cloudflare en Microsoft's Github ze hosten. En sociale mediasites zoals X laten de inhoud op grote schaal circuleren. Google veranderde zijn beleid in 2015 en begon slachtoffers toe te staan een verzoek in te dienen om individuele stukken inhoud uit zoekresultaten te verwijderen en heeft het beleid sindsdien uitgebreid naar deepfake-misbruik. Het bedrijf verwijdert echter niet systematisch sites voor op afbeeldingen gebaseerd seksueel geweld en deepfake-misbruik.

\ "Techbedrijven hebben de macht om deze sites te blokkeren, te de-indexeren of de dienstverlening te weigeren—sites waarvan het hele bestaan is gebouwd op het schenden van toestemming en profiteren van trauma," zeiden Compton, Hamlyn en Woodward in een verklaring aan The 19th. "Maar ze hebben ervoor gekozen dat niet te doen."

\ Goldberg wees op de snelheid waarmee de Taylor Swift-deepfakes zich verspreidden. Eén afbeelding die op X werd gedeeld, voorheen bekend als Twitter, werd 47 miljoen keer bekeken voordat het account dat het plaatste werd opgeschort. Afbeeldingen bleven zich verspreiden ondanks pogingen van de sociale mediabedrijven om ze te verwijderen.

\ "De gewelddadige, vrouwenhatende foto's van Taylor Swift, bloederig en naakt bij een Kansas City Chiefs-voetbalwedstrijd, is typerend voor het probleem," zei Goldberg. "De omvang van die verspreiding, inclusief op echt mainstream sites, stuurt een boodschap naar iedereen dat het oké is om deze inhoud te creëren. Voor mij was dat een echt cruciaal en behoorlijk angstaanjagend moment."

\ Gezien de spraakmakende aard van het slachtoffer, leidde het incident tot uitgesproken en wijdverbreide verontwaardiging van Swift's fans en bracht het de publieke aandacht naar de kwestie. Goldberg zei dat ze controleerde of een van de online distributeurs producten uit hun online winkels had verwijderd die het gemakkelijker en goedkoper maken om seksueel expliciete deepfakes te creëren—en ze was opgelucht te zien dat ze dat hadden gedaan.

\ Terwijl de beleidsmakers en rechtbanken van het land proberen te reageren op de snel ontwikkelende en steeds toegankelijker wordende technologie, zei Goldberg dat het belangrijk is dat wetgevers blijven luisteren naar experts en degenen die rechtstreeks met slachtoffers werken, zoals advocaten, maatschappelijk werkers en belangenbehartigers. Wetgevers die abstracte ideeën of snel voortschrijdende technologieën reguleren kunnen anders een "recept voor een ramp" zijn, voegde ze eraan toe.

\ Manyame benadrukte ook het belang van rechtstreeks met overlevenden te spreken bij het nemen van beleidsbeslissingen, maar voegde eraan toe dat wetgevers ook meer holistisch over het probleem moeten nadenken en niet te zeer verstrikt moeten raken in de specifieke technologie—met het risico altijd achter te blijven. Manyame zei bijvoorbeeld dat het grote publiek nu pas begint de risico's van AI en deepfakes te begrijpen—iets waar ze in 2021 een rapport over heeft helpen schrijven. Vooruitkijkend denkt Manyame al na over de Metaverse—een virtual reality-ruimte—waar gebruikers beginnen te worstelen met gevallen van verkrachting, seksuele intimidatie en misbruik.

\ "Veel van de wetten rond op afbeeldingen gebaseerd seksueel misbruik zijn een beetje gedateerd omdat ze specifiek over wraakporno spreken," zei Manyame. "Wraakporno is van oudsher meer een probleem van huiselijk geweld geweest, in die zin dat het een intieme partner is die een seksueel uitbuitende afbeelding van zijn of haar voormalige of huidige partner deelt. Dat is niet altijd het geval bij deepfakes, dus deze wetten bieden misschien niet genoeg bescherming."

\ Bovendien betoogde Manyame dat veel van deze beleidsmaatregelen er niet in slagen de definitie van "intieme afbeelding" te verbreden om diverse culturele of religieuze achtergronden in overweging te nemen. Voor sommige moslimvrouwen kan het bijvoorbeeld net zo krenkend en vernederend zijn om afbeeldingen van hun onbedekte hoofd zonder hijab te maken en te verspreiden.

\ Als het op oplossingen aankomt, wees Manyame op acties die kunnen worden ondernomen door de app-makers, platformregulators en wetgevers.

\ In de ontwerpfase kunnen meer veiligheidsmaatregelen worden ingebouwd om schade te beperken. Manyame zei bijvoorbeeld dat er apps zijn die foto's van vrouwen kunnen nemen en automatisch hun kleding kunnen verwijderen, terwijl diezelfde functie niet werkt op foto's van mannen. Er zijn manieren aan de achterkant van deze apps om het moeilijker te maken om kleding van iedereen te verwijderen, ongeacht hun geslacht.

\ Zodra de slechte deepfakes eenmaal zijn gemaakt en geplaatst, moeten de sociale media- en berichtenplatforms echter betere mechanismen hebben om de inhoud te verwijderen nadat slachtoffers het hebben gemeld, zei Manyame. Vaak worden individuele slachtoffers genegeerd. Manyame zei dat ze heeft gemerkt dat deze grote sociale mediabedrijven eerder geneigd zijn deze deepfakes te verwijderen in landen, zoals Australië, die externe toezichthouders hebben om namens slachtoffers te pleiten.

\ "Er moeten toezicht- en handhavingsmechanismen in elke oplossing worden opgenomen," zei Manyame. "Een van de dingen die we van veel overlevenden horen, is dat ze gewoon willen dat hun afbeelding wordt verwijderd. Het gaat niet eens om het doorlopen van een juridisch proces. Ze willen gewoon dat die inhoud weg is."

\ Manyame zei dat het geen te grote vraag is voor veel techbedrijven en overheidstoezichthouders omdat velen al snel reageren om ongepaste foto's met kinderen te verwijderen. Het is gewoon een kwestie van het uitbreiden van dat soort bescherming naar vrouwen, voegde ze eraan toe.

\ "Mijn zorg is dat er een haast is geweest om AI-wetten en -beleid te implementeren zonder na te denken over wat enkele van de grondoorzaken van deze schade zijn. Het is een gelaagd probleem, en er zijn veel andere lagen die moeten worden aangepakt."

Credits

• Mariel Padilla voor The 19th

Illustratie

• Rena Li

Redactie

• Flora Peir voor The 19th

\ Ook hier gepubliceerd

\ Foto door Steve Johnson op Unsplash