Nyheter · Magnifica Humanitas
Anthropic-medgründer peker på tre etiske utfordringer ved KI under presentasjonen av Magnifica Humanitas
Christopher Olah pekte særlig på ansvaret overfor verdens fattige, behovet for å gjenoppdage og tenke på nytt om hva det vil si å blomstre som menneske, og behovet for skjelning hos utviklere av KI-modeller.
Under presentasjonen av pave Leo XIVs første encyklika, Magnifica Humanitas, pekte medgründeren av Anthropic, Christopher Olah, på tre store etiske utfordringer ved utviklingen av kunstig intelligens (KI) og ba om en dyp skjelning om teknologiens fremtid.
Den 25. mai talte Olah til representanter fra akademia, diplomati og religion som var samlet i Synodesalen i Vatikanet. Han sa at spørsmålene KI reiser, «er større enn forskningsmiljøet» og ikke kan overlates utelukkende til forskere eller teknologiselskaper.
– Vi trenger at flere i verden – religiøse fellesskap, sivilsamfunnet, forskere, myndigheter og alle mennesker av god vilje – gjør det Den hellige far har gjort her: tar dette på alvor, ser nøye etter og fører utviklingen i en bedre retning, sa han.
Olah innledet sitt innlegg med å erkjenne at selv de mest avanserte KI-laboratoriene, også Anthropic, arbeider under økonomiske, geopolitiske og personlige insentiver som kan komme i konflikt med allmennhetens beste.
Han bemerket at «presset for å forbli kommersielt levedyktig og holde seg i forskningsfronten; geopolitisk press og det eldre, mer grunnleggende presset fra stolthet og ambisjon» uunngåelig påvirker dem som utvikler denne teknologien.
Derfor understreket han betydningen av stemmer utenfra som kan stille spørsmål ved og føre tilsyn med utviklingen av KI.
– Dersom vi ønsker at denne teknologien skal utvikle seg godt, er det enormt viktig at det finnes mennesker utenfor disse insentivene – mennesker som bryr seg om at dette går godt og insisterer på sikkerhet, som følger nøye med, og som er villige til å si vanskelige ting, sa han.
I denne sammenhengen kalte Olah skjelningen som pave Leo XIV etterlyser, «dypt betimelig». Han skisserte tre store spørsmål der Kirkens stemme er nødvendig.
1. Ansvaret overfor verdens fattige
Det første store anliggendet Olah tok opp, var KI-teknologiens virkning på arbeid og globale ulikheter.
– KI-utviklingen er konsentrert i en håndfull rike land. Hvordan kan vi sikre at gevinstene ved KI deles globalt? spurte han.
Han advarte om den «reelle muligheten» for at KI kan «fortrenge menneskelig arbeid i svært stor skala». Det ville gjøre støtten til berørte arbeidstakere til «en moralsk forpliktelse av historiske proporsjoner».
Olah påpekte samtidig at det finnes en enda mer kompleks utfordring: fraværet av mekanismer som kan fordele de økonomiske gevinstene på en rettferdig måte.
– Vi har ingen mekanisme for dette. Det er et uløst problem, og det er den typen problem Kirken historisk har nektet å la verden ignorere, sa han.
2. Å gjenoppdage hva det vil si å blomstre som menneske
Det andre hensynet Anthropics medgründer la frem, var behovet for å nærme seg teknologisk utvikling ut fra menneskets og familiens sanne utfoldelse.
– Dersom KI-modeller skal bli utbredt, hva innebærer det da at mennesker, familier og verden blomstrer? spurte han.
– Dette er ikke spørsmål et laboratorium kan svare på, fortsatte han.
Olah bemerket at mange foreldre allerede er bekymret for teknologiens virkning på barnas sinn, samtidig som mange mennesker kjenner usikkerhet om fremtiden for arbeidet sitt.
I denne sammenhengen fremhevet han Kirkens rolle. Han sa at Kirken i årtusener har reflektert over menneskets verdighet og livets mening. Olah understreket at Kirken må fortsette å gjøre dette «inn i dette nye øyeblikket i historien».
3. Behovet for skjelning hos utviklere av KI-modeller
Det tredje anliggendet Olah tok opp, gjaldt selve KI-systemenes natur, et område han sa fortsatt er gåtefullt, også for dem som er med på å utvikle dem.
– Jeg er forsker. Jeg leder et forskningsteam som studerer den indre strukturen i disse modellene – hva som faktisk skjer inne i dem. Og jeg skal være ærlig: Vi finner stadig ting som er gåtefulle, ja, til og med urovekkende, sa han.
Blant disse funnene nevnte han indre strukturer som «speiler resultater fra nevrovitenskap om mennesker», samt tegn på introspeksjon og indre tilstander som «funksjonelt speiler glede, tilfredshet, frykt, sorg og uro».
– Jeg vet ikke hva det betyr, men jeg mener det tilsier vedvarende skjelning, sa han. Han sammenlignet også fenomenet med «å gi liv til en fiktiv skikkelse» og bemerket at «vi går inn i en ekstraordinær verden der disse fiktive skikkelsene taler til oss, utfører arbeid og har jobber».
Til slutt oppfordret Olah flere deler av samfunnet til å følge pave Leo XIVs eksempel ved å ta fenomenet kunstig intelligens på alvor.
– Vi trenger moralske stemmer som insentivene ikke kan bøye. I dag er bare begynnelsen – starten på et langt samarbeid mellom oss som bygger dette, og dem som kan se det vi, fra innsiden, ikke kan se, sa han.
Av Diego López Marina · EWTN News · Oversatt til norsk av EWTN Norge
