I en af internettets mørke afkroge sidder brugere på anonyme pornoforummer og hjælper hinanden med at udleve egne og andres fantasier.

De udnytter kunstig intelligens til at kopiere oftest kendte kvinders ansigter, som de uden samtykke sætter ind på pornoskuespillers kroppe. På den måde ser det ud til, at det er den kendte, der indgår i videoen eller billedets seksuelle kontekst.

Musikere som Taylor Swift, toppolitikere som Angela Merkel og aktivister som Gretha Thunberg er bare et smalt udsnit af listen over kvindelige, kendte ofre.

I foråret kunne Politiken fortælle, at 51 danske kvinder var blevet misbrugt i seksuelt manipulerede videoer eller billeder - langt fra alle ved hjælp af kunstig intelligens. En af dem var Mai Mercado, folketingsmedlem for Det Konservative Folkeparti, som havde fået sit ansigt kopieret ind på et billede.

“At blive udsat for denne form for billedmanipulering er for mig på samme niveau som en verbal trussel om at blive slået ihjel,” sagde Mai Mercado dengang til Politiken.

Det manipulerede indhold har et stort publikum. En af de mest populære hjemmesider for deepfake-porno havde alene i august i år ifølge tjenesten Similarweb syv millioner besøgende. Det var ikke her, Politiken fandt det manipulerede billede med Mai Mercado, men på deepfake-siden findes en håndfuld videoer med kendte kvinder fra Danmark.

TjekDet har valgt ikke at nævne hjemmesiden ved navn, da den indeholder krænkende materiale. I artiklen bruger vi blot navnet 'deepfake-siden'.

Men hvem står bag produktionen og spredningen af de krænkende videoer, og hvad er det for et miljø, det udspringer fra?

Det har TjekDet i samarbejde med Politiken sat sig for at besvare.

Danskeren

Ud fra vores research har vi til denne artikel udvalgt tre hovedpersoner: Danskeren, Ivan Perov og dpfks.

Alle tre er en del af miljøet omkring den deepfake-side, der i august blev besøgt 7 millioner gange. Deepfake-siden alene er hjemsted for tusinder af manipulerede pornovideoer. Sidens tilhørende forum er også blevet et knudepunkt for udviklingen af teknologien bag deepfakes, også de ikke-pornografiske.

Vi starter med Danskeren. 

Han er en af hjemmesidens 640.000 brugere. Danskeren producerer selv deepfakes til deepfake-siden. Vores oplysninger peger på, at han er 21 år, og hans videoer peger også mod et yngre segment.

Vi har fundet i alt 17 deepfakes med 11 forskellige kendte kvinder, som Danskeren står bag. Blandt andre er en amerikansk sangerinde, skuespillerinder fra Harry Potter og Game Of Thrones og flere amerikanske tiktokkere blandt ofrene. Og så står han bag en video med en dansk skuespillerinde, der er kendt fra ungdomsserier og børne-tv. 

Som så mange andre af sidens brugere, har Danskeren tjent penge på sine krænkende videoer. På Deepfake-siden har man nemlig mulighed for at indsætte sin bitcoin-adresse i sin profil, så andre brugere kan overføre et beløb af den digitale valuta som tak. Overførsler med kryptovalutaer gør det svært at spore, hvem der sender og modtager pengene.

Gengivelse af indlæg i forum på deepfake-siden. Nogle brugere tjener penge på at producere videoer til andre brugere. Her deler en bruger sin prisliste.

Sådan et link har Danskeren også lagt ind, og vi kan se, at der er foretaget seks udbetalinger i bitcoins til en værdi af omkring 3.300 kroner. Han har sandsynligvis tjent mere end det. Typisk uploader han nemlig kun korte klip af et par minutters varighed, og hvis man vil se den fulde videor, linker han videre til sin profil på hjemmesiden Fan-Topia, hvor man kan købe adgang til videoerne i fuld længde.

Det er ikke længere muligt at tilgå Fan-Topia, så vi kan ikke se, hvad han forlanger for videoerne. 

Forummets brugere kan også tage imod bestillinger og mod betaling imødekomme andres fantasier om videoer med kendte. 

“Mange af os har drømt om, hvor vidunderligt det ville være, hvis vi havde magten til at hypnotisere en kvinde og være hendes herre. Få hende til at adlyde alle vores befalinger,” skriver en bruger.

“Det har aldrig været nemmere med deepfake. Få din drømmekendis til at blive en tankeløs robot, der adlyder,” reklamerer den samme bruger på forummet.

Gengivelse af samtale i forum på deepfake-siden. En bruger tilbyder at producere deepfake-porno mod betaling. En anden bruger spørger, hvad en video koster.

En af forummets moderatorer tilbyder også træning i selv at producere deepfakes, fordi han har “mere end fem års erfaring”.

Prisen på at få imødekommet en fantasi varierer. En bruger tilbyder en video for cirka 130 kroner. En anden vil have 400 kroner for en 30 minutter lang deepfake.

Flere brugere mener angiveligt, at de kendte selv beder om at blive manipuleret med.

“Hun har lavet cosplay og klædt sig ud på en måde, der afslører hendes hud, så hun fortjener virkelig en god omgang deep fake,” står der i et opslag.

Gengivelse af indlæg i fora på deepfake-siden. Brugere kommer med forslag til, hvem der skal laves deepfake-videoer af, og tonen er ofte hård og nedværdigende.

Regler og rammer

Som bruger på deepfake-siden er Danskeren underlagt et regelsæt, der står i stærk kontrast til den danske lovgivning på området. 

I Danmark er det ifølge straffelovens § 264 d ulovligt at dele nøgenbilleder og videoer af andre, hvis ikke man har samtykke fra personen, der optræder i dem. Det gælder også manipulerede videoer og billeder, skriver Politiken.

Men deepfake-siden har sine egne husregler, som - i parentes bemærket - ikke gør delingen af seksuelt krænkende videoer mindre ulovlig.

Ofrene skal være offentlige personer, som eksempelvis musikere, skuespillere eller politikere. De skal minimum have et bestemt antal følgere på i hvert fald ét socialt medie. På Instagram er kravet 120.000 følgere. Derudover skal “modellen” - altså den kendte person - være fyldt 19 år.

Modellen må heller ikke optræde på hjemmesidens egen liste over personer, man ikke må lave deepfake-videoer med, den såkaldte sortliste. I øjeblikket er listen tom.

På deepfake-siden har administratorerne lavet deres egne regler for, hvem det er tilladt at lave deepfakes af. Her er reglerne oversat og gengivet.

Det lader også til, at der er en uskreven regel om, at videoerne bliver indledt med “not” efterfulgt af modellens navn som en form for servicemeddelelse om, at videoerne på deepfake-siden er deepfakes.

Porno driver værket

På deepfake-siden finder vi en detaljeret beskrivelse af, hvordan man producerer deepfake-porno. Guiden er skrevet af profilen ‘iperov’. Han er sammen med hjemmesiden og dens forum en af de helt centrale aktører i deepfake-miljøet - ikke bare inden for deepfake-porno, men inden for deepfakes som helhed. 

Fremskridtene inden for deepfake-teknologien generelt kan nemlig i høj grad tilskrives miljøet omkring deepfake-siden. Det skriver mediet Vice.

Iperov gør modsat næsten alle andre omkring deepfake-siden ikke meget for at skjule sin identitet. I virkeligheden hedder han Ivan Perov og kommer fra Rusland, hvor han også er bosat i dag. 

Han står bag programmet DeepFaceLab, som er et af de mest brugte - og, ifølge eksperter, bedste - programmer til at producere deepfake-videoer, hvor et ansigt bliver kopieret ind på et andet. Det er også med hjælp fra DeepFaceLab, at den meget anerkendte Chris Ume har opnået sin internationale status som producent af legitime deepfakes. 

I 2022 fortalte TjekDet historien om, hvordan Chris Ume tryllebinder sine følgere med ultra-realistiske deepfakes af skuespilleren Tom Cruise. Chris Ume sagde dengang, at han er opmærksom på, at teknologien kan bruges til at sprede misinformation, og at han vil bekæmpe det ved at øge kendskabet til deepfakes gennem sine videoer.

“Deepfake-teknologien vil sprede sig, om vi vil det eller ej, så det er vigtigt, at vi gør folk opmærksomme på, at denne type manipulation eksisterer,” sagde han.

Der er ikke langt fra den ulovlige brug af deepfake-teknologien til den lovlige. Det er et studie om brugen af DeepFaceLab et bevis på. 

På listen over forfattere bag studiet står personer fra deepfake-miljøets to fløje. På den ene fløj står Chris Ume og en række andre, der repræsenterer den legitime brug. På den anden fløj står Ivan Perov og ‘dpfks’, som TjekDet og andre medier har identificeret som den reelle ejer af deepfake-siden. 

Ifølge en af studiets forfattere stod dpfks på listen, fordi han i kraft af sit ejerskab af deepfake-siden har bidraget til udviklingen af DeepFaceLab. Siden er dpfks dog blevet fjernet fra listen over forfattere.

Studiet er citeret vidt og bredt af forskere inden for deepfakes. Det er også citeret af NATO i en rapport om, hvordan kunstig intelligens kan anvendes inden for spredningen af desinformation.

Derudover er DeepFaceLab nævnt i rapporter fra Europa-Parlamentets Forskningstjeneste og fra mediegiganten Disney, der sammenligner kvaliteten mellem deres egen deepfake-software og DeepFaceLab. I Disneys rapport fra 2020, står der, at DeepFaceLab er state-of-the-art inden for kopiering af ansigter. 

Men selv om man som deepfake-interesseret ikke har tænkt sig at producere manipulerede og krænkende pornovideoer, kan man blive tvunget ind i miljøet omkring deepfake-siden. Det skriver forskere fra New York University Tandon School of Engineering i 2023, der har undersøgt miljøerne omkring deepfakes.

“Mange opfatter hjemmesiden (deepfake-siden, red.) som deres eneste realistiske mulighed for at tilegne sig deepfake-kompetencer,” skriver de og konkluderer videre, at deepfake-siden er et centralt omdrejningspunkt i det nuværende deepfake-miljø.

TjekDet har også fundet eksempler på, at det er netop der, Ivan Perov leder nybegyndere hen fra DeepFaceLabs officielle kanal på det sociale medie Telegram, når de spørger til råds.

Ivan Perov henviser til deepfake-siden, når han spørges til, hvordan man laver deepfakes. TjekDet har her sløret sidens navn.

Manden bag deepfake-siden

Som ejer af deepfake-siden er personen bag profilen ‘dpfks’ den, der i sidste ende faciliterer de tusindvis af seksuelt krænkende videoer. Men hans imperium startede et helt andet sted end på deepfake-siden. 

I december 2017, hvor deepfake-teknologien er ny, samles de, der interesserer sig for teknologien, på det sociale medie Reddit under en sektion ved navn ‘r/Deepfake’. Det var tilmed på Reddit, at begrebet ‘Deepfake’ blev født.

På Reddit deler brugerne viden om den nye teknologi, mens de uploader blandt andet krænkende materiale, såsom deepfake-porno med kendte personer. Men to måneder senere - den 7. februar 2018 - lukker Reddit ned for adgangen til r/Deepfake og efterlader derfor brugerne uden et mødested.

En af de bandlyste medlemmer er sandsynligvis dpfks. For få dage efter nedrivningen af r/Deepfakes dukker deepfake-siden op og giver Reddit-brugerne et nyt stamsted. Siden har den altså udviklet sig til det knudepunkt, den er i dag.

En anonym tilværelse

Der er ingen tvivl om, at dpfks gør alt, hvad han kan for at være anonym. Foruden at bruge et alias, har han flere gange beskyttet sin hjemmeside med den russiske tjeneste DDoS-Guard, som sørger for, at ingen kan lukke for adgangen til deepfake-siden. Det fremgår af hjemmesidens ip-historik.

DDoS-Guard er en kontroversiel virksomhed, som eksempelvis har haft Hamas blandt sine kunder. Hamas anses af både USA og EU som en terrororganisation.

Men for nylig lykkedes det tilsyneladende den hollandske avis Algemeen Dagblad i samarbejde med den hollandske it-sikkerhedsfirma Sidenty at finde frem til, hvem personen bag dpfks er. 

Algemeen Dagblad og Sidenty har dog valgt ikke at offentliggøre identiteten, angiveligt fordi oplysningen skal indgå i et større dokumentarprojekt.

TjekDet og Politiken har egne oplysninger, der tyder på, at dpfks befinder sig i Canada, men tættere kommer vi heller ikke på. For efter Algemeen Dagblad og Sidenty fandt frem til, hvem han er, har han slettet sine spor på nettet, såsom Facebook- Instagram- og YouTube-profil.

Konservatives Mai Mercado og Liberal Alliances Pernille Vermund er blandt de danske, kendte kvinder, der uden deres samtykke har fået deres ansigter brugt i porno-deepfakes. Fotos: Ida Marie Odgaard/Ritzau Scanpix og Thomas Traasdahl/Ritzau Scanpix

Personen, som Algemeen Dagblad mener at have identificeret som personen bag dpfks, nægter dog at stå bag deepfake-siden. Han hævder over for mediet, at han har solgt domænet til en person, han ikke kender. Der er ikke noget, der tyder på, at den forklaring er sand, skriver Algemeen Dagblad, som ikke har haft mulighed for at få flere svar fra porno-baronen.

Det er til gengæld lykkedes for det britiske medie BBC, der med lovning på anonymitet interviewede dpfks i 2022 til dokumentaren Deepfake Porn: Could You Be Next? (Deepfake-porno: Kunne det være dig næste gang?, red.).

Her forsvarer dpfks sit foretagende.

“Jeg tænker, at så længe du ikke prøver at få det til at fremstå som den ægte vare, så burde det ikke betyde noget, fordi det grundlæggende er falsk. Jeg føler ikke, at samtykke er nødvendigt. Det er en fantasi, det er ikke virkelighed,” siger han.

En del af hans forsvar består i, at der på deepfake-siden kun bliver manipuleret med kendte mennesker, som ifølge ham er anderledes end andre mennesker.

“Fra mit perspektiv er de i stand til at håndtere det på en anden måde. De kan bare børste det af sig,” siger han, men kommer alligevel med en indrømmelse:

“En del af mig nægter at indse, hvilken indvirkning det har på kvinder. Jeg forstår, at det har en pris. De psykologiske effekter kan selvfølgelig påvirke kendte lige så meget som ikke-kendte. Jeg har ikke fortalt det til min kone. Jeg er også bange for, hvordan det kan påvirke hende at vide, at jeg arbejder med noget som dette."

Danskeren og Ivan Perov

Da vi ikke kan identificere dpfks har vi i stedet forsøgt at finde frem til personen bag profilen Danskeren. 

Han er ifølge vores undersøgelse 21 år gammel. Han har et usædvanligt navn, som kun meget få i Danmark har. Sammen med alderen, kan der umiddelbart kun være tale om én person, men vi kan ikke være sikre. 

Vi finder hans telefonnummer - og ringer op.  Han svarer med det samme.

Når vi spørger, om det er ham, der har uploadet 17 deepfake-videoer på deepfake-siden, nægter han. 

“Fuck nej,” siger han og fortæller, at han ikke kender deepfake-siden.

“Hvor er det sygt,” siger han.

Da vi forelægger de fund, der peger på, at det kan være ham, lægger han på.

Vi har efterfølgende skrevet en sms, ligesom vi har skrevet til Danskerens profil på deepfake-siden, men vi har ikke fået svar. De 17 videoer ligger fortsat på hans profil.

Vi forsøger også at kontakte russeren Ivan Perov, der har udviklet DeepFaceLab. Vi ringer til et telefonnummer, vi kan knytte til ham og skriver til ham på både mail og via Telegram, men han svarer ikke på vores henvendelser.

Lang sej kamp

Tilbage står en lang række kendte kvinder, der fortsat ikke har kontrol over deres egen skæbne på internettet. 

Pernille Vermund, der er medlem af Folketinget for Liberal Alliance, er blandt de kvinder, der tidligere har oplevet at få sit ansigt manipuleret ind i en pornovideo. Dengang politianmeldte hun videoen, og det lykkedes politiet at opspore gerningspersonen, som blev pålagt at fjerne videoen og betale en godtgørelse til hende. 

Da Politiken fremlagde for LA-profilen, at der fortsat ligger seksuelt manipuleret materiale af hende på nettet, stod en ny anmeldelse ikke nødvendigvis lige for.

“Det er jo en lang sej kamp, hvor man trækker på et system, som jo også skal bruges til at få voldtægtsforbrydere og andre dømt,” sagde Pernille Vermund, da Politiken i foråret løftede sløret for, at der eksisterer manipulerede billeder og videoer af 51 kendte danske kvinder.

Pernille Vermund mener ikke, at det mest effektive er at stramme lovgivningen på området. Hun peger derimod på en kulturændring, så man i befolkningen “får en forståelse for, hvad det gør ved mennesker. Hvor meget det belaster vores demokrati og de myndigheder, der skal opklare det”.

I Storbritannien har man netop strammet lovgivningen i april i år, så alene produktionen af deepfake pornovideoer- og billeder gøres ulovlig. Deles materialet kan det udløse fængsel.

Ændringen fik deepfake-siden til at blokere adgang til siden fra britiske ip-adresser af hensyn til deepfake-sidens egen sikkerhed. Det medfører dog sandsynligvis ikke de store ændringer.

En af sidens moderatorer skriver om blokeringen, at brugere alligevel skal bruge VPN, som kan udstyre dem  med en anden ip-adresse, så det fremstår, som om de besøger hjemmesiden fra et andet land.

“Flere og flere lande vil gøre sådan, men ligesom med pirateri (ulovlig fildeling af eksempelvis film og musik, red.) kan de ikke gøre så meget,” skriver moderatoren

TjekDet har flere gange tidligere skrevet om deepfakes, der i forskellige sammenhænge deles på internettet. Du kan læse vores tidligere artikler om emnet her.

Hvis du kan lide vores artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDet's gratis nyhedsbrev, hvor vi tipper dig om vores seneste faktatjek - direkte i din mailindbakke. Tilmeld dig nyhedsbrevet her.