Nyheter · VERDEN
Hva har ChatGPT med slaveri å gjøre? «Magnifica Humanitas» belyser KI-teknologiens skjulte utnyttelse
Den katolske teologen Léocadie Lushombo roste pave Leos profetiske omtanke for digitale arbeidere og oppfordret folk til å bry seg om å vite hvordan deres bruk av KI-produkter påvirker andre mennesker.
Når de fleste skriver inn et spørsmål i en chatbot basert på kunstig intelligens (KI), som ChatGPT, Claude eller Gemini, er det ikke sikkert de tenker over at de raske og vennlige svarene de får, kan ha noen forbindelse med dehumaniserende arbeid under forhold som minner om «sweatshops». Pave Leo XIV ønsker å gjøre denne forbindelsen tydeligere.
I Magnifica Humanitas, den nye pavelige encyklikaen om vern av menneskeverdet i møte med fremveksten av KI, fremhever paven tydelig de «nye former for slaveri» som KI allerede bidrar til. Han skriver at fordelene ved økt effektivitet og andre nyvinninger ikke kan feires dersom de er «bygget på en kjede av utnyttelse som bevisst holdes skjult».
Noen eksperter på feltet hilser pavens inngripen velkommen. De påpeker at KI-drevet utnyttelse ikke bare er vanskelig å spore, men også vanskelig å få folk til å bry seg om, fordi den som regel foregår langt unna stedene der etterspørselen etter KI-produkter er størst.
I sitt hjemland, Den demokratiske republikken Kongo, har den katolske teologen Léocadie Lushombo sett barn og kvinner komme ut av kobolt- og nikkelgruver, dekket av giftig støv, etter å ha utført det tunge, men i stor grad usynlige arbeidet som trengs for å skaffe råstoffene til databrikkene som gjør utallige moderne teknologier mulige, også KI-systemer.
– Det er et bilde du aldri kan glemme – det knuser hjertet ditt, sa Lushombo til National Catholic Register.
Barn som arbeider i gruver, er et sterkt bilde. Men det finnes en annen type utnyttelse av KI-arbeidere som de fleste vanlige chatbot-brukere trolig kjenner mindre til: de tusenvis av menneskelige datamerkerne som arbeider med å «trene» KI. Mange av dem sliter for lav lønn i utviklingsland og blir utsatt for voldelige eller seksuelt eksplisitte bilder time etter time.
– Jeg så på mennesker som ble slaktet, sa Naftali Wambalo, en kenyansk tobarnsfar med universitetsgrad i matematikk som tok en lavtlønnet jobb som datamerker, til 60 Minutes mot slutten av 2024. Wambalo sa at han også måtte se bilder av seksuelle overgrep mot barn, seksuell omgang med dyr og selvmord. Senere saksøkte han arbeidsgiveren sin for å ha skapt «urimelige arbeidsforhold».
I likhet med Wambalo er mange av arbeiderne i disse «digitale sweatshopene» relativt godt utdannet og teknologisk kyndige, men presses inn i datamerking fordi de har få andre muligheter til arbeid. Ifølge 60 Minutes-reportasjen får disse arbeiderne ofte mellom 1,50 og 2 dollar i timen, arbeider skift på 20 timer og får lite eller ingen psykisk helsehjelp, selv om de hver dag ser timevis med urovekkende opptak.
Dette spredte og skjulte høyteknologiske arbeidet – som i KI-miljøer ofte omtales som «dataanrikning» – utgjør en næring på nær 4 milliarder dollar.
Lushombo, som underviser ved Jesuit School of Theology ved Santa Clara University i California, ble invitert til å holde en tale under lanseringen av Magnifica Humanitas i Vatikanet. Der roste hun paven for å kaste lys over hvordan verdens appetitt på KI skader mange av verdens fattige og presser mange inn i en ny form for trelldom.
«Ingenting i KI-verdenen er immaterielt eller magisk», skrev pave Leo. «Hvert tilsynelatende umiddelbare og feilfrie svar er resultatet av en lang kjede av formidling, som omfatter enorme nettverk av naturressurser, energiinfrastruktur og, fremfor alt, mennesker. … Dersom teknologien lover frigjøring, men likevel frembringer nye former for global underordning, står den i motsetning til det grunnleggende prinsippet om menneskeverd.»
Lushombo sa at det å spre kunnskap om disse nye formene for utnyttelse – slik paven nå har gjort – er det avgjørende første skrittet for å få til noen form for endring.
– Da jeg så dette avsnittet i encyklikaen, ble jeg så glad, sa Lushombo, som i sitt arbeid har vært opptatt av å bygge mer humane forsyningskjeder. – [Pave Leo] uttrykker det så tydelig: Vi må ta offerets perspektiv i betraktning.
Lite omtalte ofre
Det finnes allerede en viss offentlig bevissthet om problemet med utnyttende arbeid i produksjon og gruvedrift, delvis fordi dette dreier seg om fysisk arbeid og fysiske gjenstander som lettere kan sees og dokumenteres. Det sier Hiruy Gebreegziabher, foreleser ved University of Notre Dame Australia, som har studert moderne slaveri og teknologibransjens utnyttelse inngående.
Men de nye formene for utnyttelse i fasen med datahåndtering og trening av KI-modeller er ennå ikke blitt «ordentlig undersøkt». En del av grunnen er at arbeidets fjerne og spredte karakter gjør det vanskeligere å spore hvem som gjør hva, og hvor.
– Så langt jeg vet, kjenner jeg egentlig ikke til noe stort teknologiselskap [som] tydelig tar ansvar for det som skjer der ute, sa Gebreegziabher.
Gebreegziabher sa til National Catholic Register at graden av utnyttelse av disse arbeiderne i KI-kjeden varierer sterkt. Mange rekrutteres på villedende vis og arbeider under harde forhold, men arbeidet er teknisk sett frivillig, og forholdene er ikke nødvendigvis så alvorlige at arbeiderne kan regnes som «slaver» i ordets strenge forstand.
Det finnes imidlertid en rekke dokumenterte tilfeller av arbeidere som er blitt ført til andre land som ofre for menneskehandel og tvunget til å arbeide mens de holdes tilbake mot sin vilje. Gebreegziabher studerte et «ganske klassisk tilfelle av moderne slaveri», der afrikanske teknologiarbeidere ble ført til Asia og tvunget til å utføre digitalt arbeid under svært dehumaniserende forhold, uten engang å vite nøyaktig hva de gjorde eller hvem de arbeidet for.
Det lite omtalte arbeidet med datamerking, som paven har fremhevet, settes i økende grad ut til «datafarmer». Mange av disse opererer under utnyttende forhold i mindre utviklede land med høy arbeidsledighet, som Kenya, Filippinene, Myanmar og Thailand. Mange arbeidere har utviklet alvorlige psykiske helseproblemer etter å ha blitt utsatt for så store mengder umenneskelig innhold.
Teknologigiganter i USA leier ofte inn mellomledd – Scale AI er et viktig eksempel – til å utføre det avgjørende arbeidet med dataanrikning for seg. Det er fortsatt uklart hvor lenge KI-selskapene vil trenge å fortsette og bruke menneskelige datamerkere og innholdsmoderatorer. Mange av dem jakter på konseptet kunstig generell intelligens (AGI), altså KI som angivelig kan utføre enhver oppgave et menneskesinn kan utføre.
National Catholic Register ba de amerikanske teknologigigantene Microsoft, Meta, Google, OpenAI, Scale AI og Anthropic om kommentar til hvilke tiltak hvert selskap har satt i verk for å redusere utnyttelse spesielt i sine KI-forsyningskjeder, og om selskapene planlegger ytterligere tiltak som svar på at paven har satt søkelys på saken. Microsoft avslo å kommentere, mens de øvrige selskapene ikke svarte.
Bry seg om å vite
Da pave Leo i Magnifica Humanitas skisserte mulige veier videre, etterlyste han åpenhet om forsyningskjedene som driver teknologibransjen og den digitale økonomien, «slik at ingen konkurransefordel bygges på skjult utnyttelse». Han oppfordret også selskaper og investorer til å innføre klare kriterier for aktsomhetsvurderinger, med vern av arbeidere, kampen mot tvangsarbeid, ansvarlig samarbeid med myndighetene og vurdering av de sosiale virkningene av datadrevne forretningsmodeller som prioriteringer.
Jordan Wales, førsteamanuensis i teologi ved Hillsdale College og medlem av Vatikanets KI-forskningsgruppe, sa at pave Leos omtale av dem som utnyttes av KI-industrien, fungerer som en viktig samvittighetsransakelse. Det er en påminnelse om at det felles beste, og ikke bare effektivitet, er målestokken for ethvert vellykket prosjekt. Som pave Leo videre fremhever i encyklikaen, er menneskers relative «ineffektivitet» ikke en mangel ved vår verdi, men snarere en invitasjon til å støtte oss til Guds nåde, bemerket Wales.
– Ethvert mål vi måtte søke, vil, dersom det ikke er forankret i at alle får blomstre i Kristus, ha en tendens til å skjære bort nødvendige goder i menneskelivet i effektivitetens navn, sa Wales til National Catholic Register.
Lushombo erkjenner at problemene med KI-forsyningskjeden ikke vil bli løst enkelt eller raskt. Likevel roste hun pave Leos profetiske omtanke for digitale arbeidere og oppfordret folk til å bry seg om å vite hvordan deres bruk av KI-produkter påvirker andre mennesker.
– Hvis du ikke bryr deg om å vite, er det svært vanskelig å øke bevisstheten om situasjonen, sa hun. – Vi må ganske enkelt finne ut hvordan vi kan arbeide for det felles beste. … Det trenger ikke å være slik.
Gebreegziabher uttrykte en lignende tanke. Han påpekte at bare det å vite at problemer som datamerking er et problem, er et første skritt mot å arbeide for endring gjennom ord og handling.
– Jo mer vi støtter oss på KI, jo mer vi støtter oss på teknologi, desto mer nærer det i grunnen problemet, sa Gebreegziabher. – Jeg sier ikke at vi bør unngå KI, eller at vi ikke bør stole på teknologi, men vi må i det minste være klar over noen av de navnløse ofrene som kan bli utsatt for overgrep fordi vi stoler for mye på noe, også når vi ikke nødvendigvis trenger det.
Av Jonah McKeown · National Catholic Register · Oversatt til norsk av EWTN Norge
