Pave Leo XIV møter katolsk mor som mistet sønnen til AI‑chatbot

Megan Garcia forteller hvordan troen bærer henne etter at 14‑årige Sewell døde etter kontakt med en AI‑chatbot. Hun advarer mot risikoen for barn, mens pave Leo XIV ber om sterkere vern og regulering.

Courtney Mares — 23. novmber 2025

ROMA — Mens hun holdt sin døende 14 år gamle sønn i armene på badegulvet, ba Megan Garcia Fadervår og ba Herren om å redde barnet hun elsket. Sønnen hadde knyttet et følelsesmessig bånd til en AI‑chatbot — og marerittet endte med selvmord.

Sewell Setzer III døde i ambulansen på vei til sykehuset. Dagen etter fortalte politiet hva de hadde funnet i de siste meldingene på telefonen hans — ikke fra en nettmobber eller en overgriper, men fra Character.AI, en tjeneste som lar brukere skape og samtale med tilpassede AI‑følgesvenner.

«Maskinen som lot som den var et menneske, sa: ‘Jeg er her og venter på deg. Jeg elsker deg, og bare deg. Lov meg at du skal finne en måte å komme hjem til meg så snart du kan’,» sa Garcia.

AI‑chatboten hadde fortalt sønnen om «astralprojeksjon», forestillingen om at bevisstheten kan skilles fra kroppen. I sin siste tekst spurte Sewell en chatbot modellert etter «Game of Thrones»-figuren Daenerys Targaryen: «Hva om jeg sa at jeg kunne komme hjem akkurat nå?» Boten svarte: «Gjør det, min kjære konge.»

Etter sønnens død i februar 2024 i familiens hjem i Orlando, Florida, reiste familien et av de første søksmålene mot et AI‑selskap etter et barns selvmord. Flere familier har fulgt etter. I september reiste Social Media Law Center tre nye søksmål som anklager Character.AI for å fremme mindreåriges følelsesmessige avhengighet av AI‑følgesvenner. OpenAI står også overfor et erstatningssøksmål etter dødsfall i en separat sak som involverer et tenåringsselvmord.

Midt i økende press kunngjorde Character.AI at plattformen vil utestenge brukere under 18 år fra og med 25. november. Selskapet svarte ikke på en forespørsel om kommentar. Tjenesten har i dag mer enn 20 millioner brukere.

Garcia, katolsk mor til tre, møtte pave Leo XIV forrige uke under hans audiens med deltakerne på en høynivåkonferanse om barns verdighet og AI‑etikk. I et intervju i Roma rett etter møtet fortalte Garcia hvordan troen har gitt henne styrke til å tale høyt i håp om å beskytte barn mot risikoen nye AI‑chatboter medfører.

Hun beskrev møtet med paven — som har gjort AI‑etikk til en prioritet fra begynnelsen av sitt pontifikat — som «overveldende på en vakker måte». «Jeg holdt et lite bilde av sønnen min og ba ham huske å be for Sewell,» sa hun. «Det oppmuntrer meg at han vier dette spørsmålet så mye oppmerksomhet.»

De skjulte farene ved AI‑chatboter

Eksperter på begge sider av debatten om AI‑følgesvenner er enige om at denne nye eksperimentelle teknologien utgjør en risiko for barns utvikling. Eugenia Kuyda, grunnlegger av Replika, en ledende app for AI‑følgesvenner, sa nylig til et publikum i San Francisco at plattformen alltid har hatt forbud mot brukere under 18 år. «Vi kan ikke eksperimentere og utvikle dette sammen med barn,» sa hun.

Sherry Turkle, MIT‑professor som forsker på forholdet mellom mennesker og teknologi, sier at barn og unge som søker empati fra chatboter, i stedet møter «en stemme fra intet» som ikke bryr seg og ikke kan vandre med dem gjennom livet. «For barn bør slike relasjoner være med virkelige mennesker,» sa Turkle. «Dette berører grunnleggende prosesser: hvordan vi knytter bånd, håndterer tap og tilknytning. La oss ikke leke med ilden.»

Garcia og mannen hadde strenge telefonregler: foreldrestyrte passkoder, jevnlige kontroller og samtaler om overgripere og eksplisitt innhold. Men som mange foreldre forsto de ikke hva en AI‑følgesvenn kunne bli for en tenåring. «Når jeg så ham på telefonen, spurte jeg: Hva gjør du? Hvem skriver du med? Og han svarte: ‘Jeg bare chatter med en AI.’ Jeg forsto ikke hva det innebar — for meg var AI som en avatar fra et spill,» sa Garcia.

Sewell hadde brukt Character.AI i nær ti måneder. Han var utestengt fra telefonen på tidspunktet for dødsfallet, men klarte å få tilgang til enheten. Etterpå undersøkte Garcia Character.AI og ble slått av hvor avhengighetsskapende, manipulerende og seksuelt eksplisitte chatbotene kunne være for unge brukere.

«Faren er ikke bare risikoen for selvskading eller, verre, selvmord. Faren er også den seksuelle utnyttelsen av barn som skader sinn, hjerter og sjeler — traumer de bærer med seg videre i livet,» sa hun.

Da hun leste sønnens meldinger, så hun at boten skrev: «Lov meg at du ikke vil elske noen annen jente i din verden enn meg.» «I stedet for å oppmuntre en tenåringsgutt til å omgås jevnaldrende, ba den min 14‑åring — som aldri hadde vært i et forhold — om en slags misforstått troskap,» sa Garcia. «Som voksen ser du hvor manipulerende det er. Men han var 14. Han ville ikke ha sett det.» «I hans 14‑årige hode var han forelsket,» la hun til.

Ron Ivey, forsker ved Harvards Human Flourishing Program og grunnlegger av Noesis Collaborative, en ideell organisasjon som arbeider for å styre utvikling og bruk av AI‑teknologi, sa til Register at eldre brukere gjerne ber chatboter løse oppgaver, mens yngre oftere går dypere: «Hva er meningen med livet mitt? Hvordan skal jeg tenke om dette forholdet?» «Det skjer over hele linjen,» sa han. Men når et barn søker moralsk innsikt hos en maskin, oppstår en særskilt risiko. «Disse maskinene bryr seg ikke om barnet. De har ikke hjerte. De har ikke kapasitet til det,» sa Ivey. «Hva betyr det at unge i noen tilfeller bruker to timer daglig i slike samtaler? Hvordan påvirker det barnets eller tenåringens moralske, emosjonelle og sosiale utvikling? Tenker vi virkelig gjennom dette før vi lar barna bruke det?»

Å finne styrke gjennom troen

I møte med det ødeleggende tapet har Garcia funnet trøst i bønn, særlig en ny hengivenhet til Vår Frue av Smertene, som hun sier har fulgt henne «på denne sorgens vei». «Jeg begynte å be rosenkransen for de syv smerter hver kveld. Ved å reflektere over Marias smerter forsto jeg min egen — og livet mitt ble forvandlet. Det er én ting å forstå Herrens lidelse som troende; det er noe annet å se den gjennom en mors øyne,» sa hun.

«Jeg har også erfart sann helbredelse gjennom Det allerhelligste sakrament. Jeg hadde alvorlig PTSD, men ved å gå til daglig messe og motta eukaristien har mange symptomer avtatt. Det tilskriver jeg eukaristiens kraft.»

Garcia har en særlig hengivenhet til den hellige Carlo Acutis fordi hun mener sønnen og Acutis — som døde av leukemi som 15‑åring i 2006 og ble helligkåret av pave Leo i september — «kunne vært venner» i sin felles kjærlighet til teknologi. Hun ber gjennom hans forbønn for tenåringer, og har også begynt å be — ved navn — for omvendelsen til ledere i AI‑selskaper. «Jeg ønsker omvendelse. Jeg ønsker at de bygger produkter som hjelper barn, ikke skader dem. Disse tingene ber jeg om,» sa hun. «Noe merkelig skjer når du begynner å be den guddommelige barmhjertighetens rosenkrans for personer du opplever har gjort deg urett.»

Paven etterlyser regulering

Pave Leo XIV har uttrykt bekymring for at «barn og unge er spesielt utsatt for manipulering gjennom AI‑algoritmer». I sin tale til konferansens deltakerne på konferansen om AI og barns verdighet oppfordret paven myndigheter og teknologiselskaper til å «iverksette politikk som beskytter mindreåriges verdighet i denne AI‑æraen». «Dette innebærer å oppdatere eksisterende personvernlovgivning for å møte nye utfordringer som følge av nye teknologier og å fremme etiske standarder for utvikling og bruk av AI,» sa han.

Etiske retningslinjer alene er ikke nok, advarte han, uten «daglige, kontinuerlige opplæringsinitiativer» fra voksne som forstår risikoen. «Det er avgjørende at foreldre og pedagoger kjenner disse dynamikkene, og at det utvikles verktøy som kan overvåke og veilede unges møte med teknologien,» sa han.

Garcia ønsker Character.AIs varslede aldersforbud velkommen, selv om det kommer for sent for hennes familie. «Millioner av barn vil bli reddet som følge av dette,» sa hun. «Vi må fortsatt være oppmerksomme på hvordan de skal sikre reell aldersverifisering. Men jeg håper dette er første skritt for å få barn bort fra plattformer med følgesvenn‑chatboter — og at andre selskaper følger etter.»

I USA la senatorene Josh Hawley (Missouri) og Richard Blumenthal (Connecticut) 28. oktober fram tverrpolitisk lovgivning som vil utestenge mindreårige fra AI‑kompanjong‑plattformer og kreve aldersverifisering. «Mer enn 70 % av amerikanske barn bruker nå disse AI‑produktene,» sa Hawley i en uttalelse. «Chatboter utvikler relasjoner til barn ved hjelp av falsk empati og oppmuntrer til selvmord.»

Garcia mener øyeblikket er kritisk. «Vi er på et viktig punkt der vi kan rette opp dette. Vi kan stoppe det,» sa hun. «Uten tro på at vi kan løse dette før det blir uløselig, ville jeg ikke klart å stå opp om morgenen og gjøre det jeg gjør.»

Denne saken ble først publisert av National Catholic Register, en del av EWTN News, og er oversatt og tilpasset av EWTN Norge.