Nepporno rond Taylor Swift komt van 4chan, aldus nieuw onderzoek

De nepporno rond Taylor Swift, waar X onlangs vol mee stond, blijken voort te komen uit 4chan, een bericht internetforum. Joe van Burik vertelt over deze nieuwe ontwikkeling in het spraakmakende dossier rond moderatie en AI-content in de Tech Update.

Taylor Swift werd de afgelopen het slachtoffer van met AI gegeneerde nepporno. Dit beelden komen voort uit 4chan, waar een soort competities worden gehouden om AI-toepassingen 'kapot' te maken, door ze allerlei opdrachten te geven en daarmee veiligheidsmaatregelen te omzeilen. Het ultieme doel was om seksueel expliciet beeldmateriaal gemaakt te krijgen met bekende vrouwen, ondanks dat Microsoft en OpenAI beperkingen hadden ingesteld voor zulke tools als bedrijven daarachter.

Dit alles blijkt uit onderzoek van een social-media-onderzoeksbedrijf, Graphika genaamd. Een onderzoeker daar stelt dat veel meer vrouwen naast Swift het slachtoffer van deze praktijken zijn, zoals Billie Eilish en Ariana Grande. Dergelijke plaatjes gingen al heel januari rond op dat forum en op de app Telegram, en kwamen daarna op X. Op één account stonden dergelijke foto's ruim 17 uur, waardoor die tientallen miljoen mensen bereikte op het platform.

Verder in deze Tech Update:

• Meta neemt wel bepaalde maatregelen tegen nep-content, maar volgens de interne moderatie-toezichtraad kan dat toch een stuk beter: een bewerkte video waarin wordt gesuggereerd dat de Amerikaanse Joe Biden zijn kleindochter betast, is niet verwijderd omdat het bedrijf achter Facebook 'onsamenhangende' regels heeft op dit gebied
• Nederlandse misdaad komt massaal naar streaming-platforms: Netflix komt in 2025 met een verfilming van de gijzeling bij de Apple Store aan het Leidseplein die op 22 februari 2022 gebeurde, later deze maand is via Videoland en AT5 een documentaire te zien over deze zaak. Daarnaast is vanaf 1 maart een documentaire rond het Marengoproces te zien op Amazon Prime Video, genaamd Pact met de Duivel.

See omnystudio.com/listener for privacy information.