Vatikanet kjemper mot spredningen av «deepfake»-innhold om pave Leo XIV

KI‑lagde videoer og bilder som tillegger pave Leo XIV utsagn han aldri har kommet med, sprer seg raskt i sosiale medier. Vatikanets kommunikasjonsavdeling rapporterer hundrevis av falske kontoer og ber publikum kontrollere opplysninger mot offisielle kilder.

Av Hannah Brockhaus, 27. september

Har du hørt hva pave Leo XIV skal ha sagt om Charlie Kirk eller president Donald Trump? Eller hva han mener om bortrykkelsen, eller om det er greit å bli kremert? Dette er bare noen av temaene paven tilsynelatende har snakket inngående om i videoer som dukker opp daglig i sosiale medier. Problemet er at videoene ikke er ekte, og Vatikanet sliter med å bekjempe spredningen av dem.

Vatikanets kommunikasjonsavdeling opplyser at de siden begynnelsen av hans pontifikat har rapportert hundrevis av kontoer, hovedsakelig på YouTube, som publiserer falske, KI‑genererte videoer – såkalte «deepfakes» – av pave Leo. Men det er en kamp i motbakke, ettersom nye kontoer, videoer og bilder dukker opp like raskt som andre blir fjernet.

«Vi er vitne til en svært hurtig spredning av en rekke YouTube‑kanaler med falske videoer, alle like hverandre. Noen bruker stemmen til Leo XIV, andre stemmene til hans oversettere, og atter andre formidler i tredjeperson. Alle bruker kunstig intelligens for å få paven til å si ting han aldri har sagt», uttalte Dikasteriet for kommunikasjon til CNA.

Et søk på «Pope Leo» på YouTube avdekket dusinvis av falske videoer av Den hellige far, med påståtte uttalelser som spenner fra det plausible, som refleksjoner over Eukaristien, til det usannsynlige, som en kunngjøring om avgang.

De fleste videoene har bare fått noen hundre visninger, men enkelte av disse deepfake‑videoene har begynt å gå viralt. En 25 minutter lang video som hevder at paven bryter tausheten om drapet på Charlie Kirk, fikk over 445 000 visninger i løpet av de første sju dagene etter publisering.

En av de første falske videoene som gikk viralt etter Leos valg, så ut til å vise paven lese en erklæring som fordømte kolonialisme og hyllet Burkina Fasos midlertidige president, kaptein Ibrahim Traoré, en militærleder som kom til makten i et kupp i 2022. Både CNA og det offisielle nyhetsorganet Vatican News publiserte faktasjekker for å advare leserne mot feilinformasjonen. Den 36 minutter lange videoen, som ble publisert kort tid etter pavevalget i mai, fikk minst én million visninger før YouTube stengte kontoen som la den ut.

Deepfake

Begrepet «deepfake», som ble oppfunnet for mindre enn et tiår siden, viser til videoer, bilder eller lydopptak som er manipulert for å få mennesker til å gjøre eller si ting de aldri har gjort eller sagt.

Leo er selvsagt ikke den første paven som har fått sin likhet manipulert i videoer. I 2015 delte programleder Ellen DeGeneres i sitt show en video som tilsynelatende viste pave Frans trekke en hvit duk ut under lysene på et alter. Et stillbilde av pave Frans i en lang, hvit boblejakke gikk viralt i 2023.

Når teknologien utvikler seg raskt og produserer stadig mer realistiske bilder, kan man tilgi seere som forveksler fiksjon med fakta.

Pave Leo selv nevnte nylig et eksempel på slik forvirring. I et intervju med journalist Elise Ann Allen fortalte paven om sin overraskelse da en bekjent bekymret spurte ham om alt var bra. KI‑genererte fotografier av paven som tilsynelatende falt ned en trapp utenfor Peterskirken, hadde sirkulert på internett i juni. Bildene, som ble fanget opp av faktasjekk‑nettstedet Snopes, var «så gode at de trodde det var meg», sa Leo.

Vatikanets kommunikasjonsteam advarte mot spredningen av deepfakes i sitt månedlige nyhetsbrev i august og inviterte leserne til å rapportere mistenkelige innlegg og videoer til dikasteriet.

«Dessverre mottar vårt dikasterium daglig dusinvis av rapporter om falske kontoer som bruker pavens bilde og stemme på en svært realistisk måte, i økende grad ved hjelp av kunstig intelligens for å få paven til å uttale ord han aldri har sagt, og til å fremstille ham i situasjoner han aldri har befunnet seg i», het det i nyhetsbrevet.

«Mye av tiden vår går med til å rapportere, dempe og be om fjerning av disse kontoene. Gitt den enorme mengden falskt materiale, er det umulig å tilbakevise hvert eneste tilfelle offentlig.»

I uttalelsen til CNA sa dikasteriet at Vatikanet ikke bare rapporterer falske kontoer til plattformene, men også «arbeider for å øke publikums bevissthet om dette nye fenomenet. Vi mener det er avgjørende å investere i mediekompetanse.»

Vatikanet minner også leserne om å forholde seg til offisielle kilder, som Vatikanets egne nettsider, for å verifisere sitater: «Hvis det ikke står der, er det sannsynligvis falskt.»

Denne saken ble først publisert av Catholic News Agency (CNA), en del av EWTN News, og er oversatt og tilpasset av EWTN Norge.