Opslag med misinformation kan være en god forretning på X

“Twitters nuværende system med herskere og bønder, der bestemmer, hvem der har eller ikke har et blåt flueben, er noget bullshit.”

Sådan skrev Elon Musk på sin twitterprofil om det gamle verifikationssystem af profiler, kort efter han blev ejer af Twitter, der i dag er kendt som X. Før Elon Musk overtog chefstolen uddelte platformen et blåt flueben til blandt andet politikere, journalister, kendisser, organisationer og konti, der tilhører regeringer, for at bekræfte over for resten af brugerne, at profilen er ægte og rent faktisk bliver kontrolleret af indehaveren af det blå flueben. 

I samme ombæring fremlagde Elon Musk sine tanker om, hvordan det nye verifikationssystem senere skulle se ud. Fremover ville du nemlig for otte dollars - knap 55 kroner - kunne købe dig til at få din profil udstyret med en blå verifikationsmarkør. 

Til gengæld ville de betalende brugere blive fremhævet i svar og søgninger på Twitter. Desuden ville de få adgang til at dele videoer og lydfiler i længere formater og få vist halvt så mange reklamer.

Sidst men ikke mindst ville Elon Musk gøre X til en lukrativ platform for skabere af indhold, som kunne gøre en levevej ud af at dele indhold på X.

Men de ydelser har blandt andet resulteret i, at indhold fra betalende verificerede brugere ikke længere symboliserer troværdighed og krydstjekkede oplysninger. Faktisk er det blevet sådan, at både X og de verificerede brugere nu kan tjene penge på misinformation i brugernes feed.

Det er en problematisk udvikling, at det blå flueben er gået fra at være forbeholdt de få til nu at være for alle betalende brugere. Det mener Martin Johannes Riedl, der er adjunkt ved School of Journalism and Media på University of Tennessee, Knoxville. Her forsker han i styring af platforme og indholdsmæssig moderation, digital journalistik samt spredningen af falske og vildledende oplysninger på sociale medier.

“Elon Musk har ødelagt den kulturelle betydning af at have det blå flueben. Fluebenet signalerer ikke længere, at du er verificeret som en troværdig debattør og derfor værd at følge,” siger han. 

Det samme påpeger Yevgeniy Golovchenko. Han er adjunkt ved Institut for Statskundskab og SODAS på Københavns Universitet, hvor han blandt andet forsker i mis- og desinformation på sociale medier.

“Hele formålet med verifikationssymbolet er væk, og det er ikke godt for informationsmiljøet på X, fordi man kan købe sig til at få gunstigere forhold end andre troværdige profiler, som bare ikke er villige til at betale penge for det,” siger han.

De blå superspredere af misinformation

Et eksempel på at verificerede bruger deler misinformation er Gaza-konflikten. Ifølge en analyse fra NewsGuard, som undersøger misinformation på internettet, bliver knap 75 procent af de mest virale opslag på X, der indeholder misinformation om krigen mellem Israel og Hamas, delt af verificerede profiler, som har betalt for deres verifikation.

I analysen har NewsGuard udvalgt 10 falske påstande, der florerede i den første uge af krigen, og analyseret de 25 opslag med flest likes, kommentarer og delinger til hver påstand. Her fandt de, at 186 ud af de 250 opslag var blevet delt af verificerede brugere. De 250 opslag fik samlet flere end 100 millioner visninger på en uge.

En af påstandene, NewsGuard udvalgte, faktatjekkede TjekDet også tilbage i oktober 2023. 

Her florerede en video af små børn i et bur på X, hvor det blev hævdet, at videoen viste israelske børn, der var blevet kidnappet af Hamas. I andre opslag blev det omvendt hævdet, at der var tale om palæstinensiske børn, der blev holdt fanget af israelske myndigheder. Det viste sig dog, at videoen ikke havde med nogle af delene at gøre.

NewsGuards analyse viser samtidig, at mange af opslagene, der indeholder falske oplysninger, ikke bliver korrigeret. Kun 32 procent af de 250 opslag havde fået en såkaldt Community Note, der er X’s faktatjeksystem. Det styres af brugerne, som kan gøre andre brugere opmærksomme på, at opslaget indeholder falske eller vildledende informationer. TjekDet har beskrevet systemet omkring Community Notes i en anden artikel, du kan læse her:

De mange opslag med misinformation illustrerer, hvad X er blevet til, mener Martin Johannes Riedl. 

“X viser os, hvordan en platform med relativt lidt moderation ser ud. Det er et ukontrolleret eksperiment i platformstyring, som Elon Musk inviterer os alle til at deltage i og følge med i,” siger han.

Og når beslutninger vedrørende moderation af indhold ikke er velovervejede, kommer X's begrænsninger ifølge Martin Johannes Riedl stærkere til udtryk, fordi det mest sensationelle indhold på platformen bliver forstærket.

Misinformation som indtægt

Verificerede profiler kan tjene penge på at dele indhold på X ved at få del i X’s annonceindtægter. For at komme i betragtning skal tre kriterier opfyldes; man skal være betalende bruger, have fået mindst fem millioner visninger samlet på sine opslag inden for de seneste tre måneder, og så skal man have mindst 500 følgere.

En analyse foretaget af NewsGuard i november 2023 viser, hvordan systemet kan udnyttes.

På X bliver annoncer vist under opslag i kommentarsporet. NewsGuard analyserede derfor kommentarsporet til 30 falske eller vildledende X-opslag omhandlende krigen mellem Israel og Hamas fra 10 verificerede brugere, som NewsGuard har identificeret og defineret som superspredere af misinformation om krigen. 

Ud af de 30 opslag fandt NewsGuard annoncer i 24 af opslagene. I alt fandt de 200 annoncer fra 86 store brands, non-profit organisationer, uddannelsesinstitutioner og regeringer.

Halvdelen af de 30 opslag havde fået en Community Note. Ifølge X’s regler kan opslag med Community Notes ikke få del i X’s annonceindtægter. Men den anden halvdel havde ingen Community Notes. Det betyder, at profilerne kan have fået del i X´s annonceindtægter, selvom de har delt misinformation. 

Én af de profiler, der kan have tjent penge på at dele misinformation om krigen på X, er Jackson Hinkle, der ifølge Digital Forensics Research and Analytics Center er den mest indflydelsesrige formidler af falske nyheder i forbindelse med krigen mellem Israel og Hamas. 

Den 9. november 2023 delte Jackson Hinkle en video, hvor man ifølge ham kunne se en israelsk helikopter skyde deres egne borgere. TjekDet har tidligere faktatjekket videoen, og der var ingen dokumentation for påstanden. 

Opslaget stod ifølge NewsGuard længe, før det blev korrigeret med en Community Note. Indtil da kan Jackson Hinkle altså have tjent penge på annonceindtægter fra et opslag med misinformation. 

Demokratisering af spredningen af falsk indhold

Selvom det ifølge Martin Johannes Riedl ikke er et nyt fænomen at tjene penge på at dele falsk information, er det en farlig udvikling, at ukorrekt information får lov at stå uimodsagt.

“Hvis du ikke skal skjule, hvad du laver, fordi du forventer færre konsekvenser, så er Elon Musk på en måde med til at demokratisere spredningen af falsk og vildledende information,” mener han.

Også Yevgeniy Golovchenko påpeger, at der i mange år har været et tydeligt mønster i retning af, at profiler, der deler mis- og desinformation, er drevet af enten økonomiske eller politiske interesser - eller begge. Det mønster fastholder X, vurderer han.

“Når man kan købe sig til verificering og en masse privilegier i forhold til synlighed, og der ikke er nogle lige så stærke kontrolmekanismer til stede, som der var, før Elon Musk tog over, så risikerer det at styrke misinformationsøkonomien.”

Også X selv kan tjene penge ved, at der bliver delt misinformation. Det viser en rapport fra Center for Countering Digital Hate, der er en britisk non-profit organisation, hvis formål er at stoppe spredningen af hadtale og desinformation på nettet.

Organisationen vurderede i februar 2023, at 10 profiler, der er kendt for at publicere hadefuldt indhold og konspirationsteorier, generer op mod 19 millioner dollars - svarende til cirka 130 millioner kroner - om året i annonceindtægter for X. 

Selvom X tilsyneladende tjener penge på, at der florerer misinformation på platformen, vurderer Yevgeniy Golovchenko, at X og generelt sociale platforme står i et dilemma i forhold til at fjerne og moderere indhold.

“Sociale medier tjener penge på brugernes engagement og reklamer. De vil gerne have, at folk bruger så lang tid som muligt på sociale medier, så vi kan se så mange reklamer som muligt,” siger han og tilføjer:

“Men det er altså langt fra alle virksomheder, der gider reklamere på en platform, der har ry for at være fuld af misinformation. Så der er også økonomiske risici forbundet ved, at en platform ikke gør nok i forhold til at moderere indhold.”

TjekDet har forelagt denne artikels kritikpunkter for X, men virksomheden er kun vendt tilbage med et automatsvar: “Busy now, please check back later”.

Artiklen er en del af vores serie om Elons X. Læs de foregående artikler på tjekdet.dk og bliv opdateret på den næste artikel ved at følge os på Facebook eller skrive dig op til vores nyhedsbrev