Raymon Mens Opvallend 11 apr 2023, 16:39

Leestijd: 2 minuten

‘Claudia’ verkoopt naaktfoto’s voor geld, maar ze is gemaakt door AI en nep

„Feeling pretty today”, staat bij de foto die ‘Claudia’ op discussiesite Reddit zette. Een 19-jarige dame met lang donker haar kijkt met een glimlach in de camera. In haar profiel staat dat ze naaktfoto’s verkoopt aan iedereen die een privébericht stuurt.

Aan aandacht geen gebrek. De reacties lopen uiteen van „Holy crap you’re beautiful” tot „I make a 6 figure salary, would you go out with me?”, maar er zijn ook twijfels over de echtheid van Claudia. Is ze niet gemaakt door een AI-algoritme? De dame in kwestie blijkt nep en het enige doel lijkt geld verdienen aan nietsvermoedende mannen.

De paus, Donald Trump en porno

Afbeeldingsgeneratoren zoals Midjourney en Stable Diffusion zijn de laatste tijd volop in het nieuws. Nepbeelden van een gepimpte paus en Donald Trump die zich verzet tegen zijn arrestatie gingen de wereld over. Nu komt de meer expliciete kant van de technologie naar voren. Door iedereen in staat te stellen foto’s van nepmensen te maken die ongelooflijk echt lijken, verandert het hoe porno wordt gemaakt en geconsumeerd.

Claudia blijkt bedacht door twee informaticastudenten. Ze vertellen het Amerikaanse magazine Rolling Stone dat ze het account als grap hebben verzonnen. Een voor studenten lucratieve grap, dat wel. De twee verdienden al 100 dollar aan de verkoop van naaktbeelden, maar inmiddels trappen er geen nieuwe mensen meer in de truc.

Om niet te snel door de mand te vallen, plaatste ‘Claudia’ ook verhalen over erotische avonturen, die dan weer volledig door ChatGPT zijn geschreven. Oplettende Reddit-gebruikers wezen al snel op de huid die wel erg perfect is. Let in bovenstaande afbeeldingen ook op de de balk bij het plafond, die links en rechts niet helemaal overeen komen.

Geen zorgen om AI-porno, wel om deepfakes

Stability AI, de start-up achter Stable Diffusion, verbiedt het gebruik van zijn tool om afbeeldingen te maken die een „redelijk persoon als obsceen, vulgair of pornografisch” zou kunnen omschrijven. De tool is echter voor iedereen te downloaden, dus het bedrijf kan niemand ervan weerhouden en het algoritme te gebruiken om te maken wat ze maar willen. De fictieve Claudia blijkt ook door Stable Diffusion gemaakt.

In de porno-industrie is enige bezorgdheid over hun nieuwe technologische concurrentie. Maar niet iedereen denkt dat de dagen van echte porno achter ons liggen. Mark Spiegler, een agent voor pornoacteurs zoals Asa Akira en Riley Reid, zegt tegen The Washington Post dat de sterren in zijn industrie „performers zijn met een charisma, vaardigheid en aantrekkelijkheid waarmee geen AI kan concurreren.”

Deepfakes vormen daarentegen wel een reëel gevaar. Dit zijn door een algoritme gegenereerde pornofilmpjes waarbij een hoofd van een bekend persoon op bestaand materiaal gemonteerd wordt. Presentatrice Welmoed Sijtsma was hier onlangs slachtoffer van.

Man opgepakt die deepfake-porno maakte van Welmoed Sijtsma