Paavi Leo XIV tekoälyä käsittelevän kiertokirjeen julkistamistilaisuudessa 25. toukokuuta. Kuva: AFP / LEHTIKUVA / Alberto Pizzoli
Paavi Leo XIV haluaa riisua tekoälyn aseista kiertokirjeessään
”Moraalisempikaan tekoäly ei riitä, jos sen moraalin määrittelevät vain harvat”, paavi Leo XIV sanoo digitaalista murrosta käsittelevässä kiertokirjeessään. Katolisen kirkon johtaja vaatii tekoälylle eettisiä rajoja ja puolustaa työn arvokkuutta.
Ihmisyyttä kaikessa sen suuruudessa ja haavoittuvuudessa ei saa koskaan korvata eikä ylittää, kirjoittaa paavi Leo XIV uudessa tekoälyä käsittelevässä kiertokirjeessään. Rajallisuus ei hänen mukaansa ole poistettava virhe, vaan ihmisyyden olennainen ulottuvuus.
Leo kritisoi voimakkaasti tietotekniikan kehittämistä ohjaavia ajattelutapoja, jotka tulkitsevat edistyksen pyrkimykseksi ylittää ihmisenä olemisen rajat. Tällaisia teknopiirien muotisuuntauksia ovat kiertokirjeen mukaan esimerkiksi transhumanismi ja posthumanismi. Katolisen kirkon johtaja muistuttaa, että ihmisyys kukoistaa usein juuri rajoitusten kautta, ei niistä huolimatta.
Suurempien voittojen tavoittelu ei oikeuta ratkaisuja, jotka järjestelmällisesti uhraavat työpaikkoja.
”Vaikka on oikein pyrkiä lievittämään ihmiselämää leimaavaa kärsimystä, on myös viisasta tunnustaa oma perustava rajallisuutemme”, Leo tähdentää. ”Kristillinen usko kutsuu meitä elämään ihmisyyden suuruuden ja rajallisuuden välisen jännitteen kanssa sekä tulkitsemaan sitä suhteessa alkuperäiseen ja perustavaan yhteyteemme Jumalan kanssa.”
Tekoäly on neljännen teollisen vallankumouksen ytimessä
Paavi Leo XIV allekirjoitti tekoälyn aikaa käsittelevän Magnifica humanitas -kiertokirjeen (”Ihmisyyden suuruus”) 15. toukokuuta, jolloin oli kulunut 135 vuotta samaa etunimeä kantaneen paavi Leo XIII:n yhteiskunnallisen kiertokirjeen julkaisusta. Kiertokirje Rerum novarum (”Uusista yhteiskunnallisista oloista”) tarttui teollistumisen synnyttämiin työelämän ja yhteiskunnan ongelmiin, ja sitä pidetään modernin katolisen sosiaaliopin perustana.
Nykyinen digitaalinen siirtymä edustaa paavi Leon mukaan neljättä teollista vallankumousta. Siinä on keskeisen tärkeää suojella työn arvokkuutta ja rakentaa järjestelmiä, jotka keskittyvät ihmiseen, eivätkä pelkästään suorituskykyyn. Leo varoittaa, että laajamittaisesta työttömyydestä voi pahimmillaan muodostua yhteiskunnallinen katastrofi.
”On aiheellista pelätä työpaikkojen nopeaa ja merkittävää vähenemistä, mikä voi vaikuttaa syvästi perheisiin, nuoriin ja paikallistalouksiin”, Leo kirjoittaa.
”Suurempien voittojen tavoittelu ei voi oikeuttaa ratkaisuja, jotka järjestelmällisesti uhraavat työpaikkoja, sillä ihminen on päämäärä, ei väline.”
Paavi Leo huomauttaa myös, että teknologisessa murroksessa syntyvät työn uudet muodot eivät välttämättä ole aikaisempia parempia.
”Vaikka tekoäly lupaa lisätä tuottavuutta ottamalla hoitaakseen yksitoikkoisia tehtäviä, se pakottaa usein työntekijät mukautumaan koneiden nopeuteen ja vaatimuksiin sen sijaan, että koneet suunniteltaisiin tukemaan työntekijöitä.”
Bruttokansantuotteesta tulisi paavin mukaan luopua maiden kehitystason mittarina. Sen sijaan tulisi keskittyä työn arvokkuuteen, yhteiseen vaurauteen, eriarvoisuuden vähentämiseen ja ympäristönsuojeluun.
Teknologian pitää palvella yhteistä hyvää
Magnifica humanitas -kiertokirjeen perusajatuksena on se, että teknologia ei ole ihmisyyden vastainen voima, eikä teknologia ole luonnostaan pahaa. Paavi Leo näkee kuitenkin, että teknologia ei ole koskaan neutraalia, vaan omaksuu sitä suunnittelevien, rahoittavien, säätelevien ja käyttävien ihmisten ominaispiirteet.
Edeltäjänsä Franciscuksen tavoin Leo arvostelee ”teknokraattista paradigmaa”, jossa ratkaisut alistetaan yksinomaan tehokkuuden ja voiton mittareille. Niiden sijasta toimintaa ohjaavaksi periaatteeksi tulisi nostaa jokaisen ihmisen ihmisarvo ja kaikkien yhteinen hyvä, joka on ihmisarvon yhteiskunnallinen ilmaus.
Välinpitämättömyys totuutta kohtaan johtaa hitaasti mutta varmasti kohti totalitarismia.
Tekoälymurroksen ohjaaviksi arvoiksi Leo tarjoaa kirkon sosiaaliopin viittä keskeistä periaatetta. Yhteisen hyvän lisäksi niihin sisältyy ajatus hyödykkeiden tai hyvyyksien yhteisestä päämäärästä, joka tarkoittaa, että teknologiat ja niiden tuottama hyöty eivät saa keskittyä vain harvojen käsiin. Keskeisiä periaatteita ovat myös yhteiskunnallista holhousta vastaan asettuva läheisyysperiaate, tuleviin sukupolviin ulottuva solidaarisuus ja sosiaalinen oikeudenmukaisuus.
Tekoälyn aikakaudella oikeudenmukaisuus tarkoittaa paavi Leon mukaan sitä, että kaikille turvataan pääsy uusiin mahdollisuuksiin, haavoittuvimpia suojellaan, vihapuhetta ja disinformaatiota torjutaan ja julkinen valta säätelee teknologioiden käyttöä. Katolisen kirkon johtaja vaatii myös vastuiden selkeyttä ja tilivelvollisuutta tekoälyn kehityksen kaikissa vaiheissa. Näiden asioiden toteutuminen vaatii asianmukaista tekoälypolitiikkaa, lainsäädännöllisiä kehyksiä ja riippumatonta valvontaa.
Eettisen säännöstön tulisi perustua yhteisesti sovittuihin normeihin, sillä ”moraalisempikaan tekoäly ei riitä, jos sen moraalin määrittelevät vain harvat”.
Algoritmit eivät saa korvata nuorten omaa ajattelua
Kiertokirjeen neljännessä pääluvussa paavi Leo käsittelee ihmisyyden suojelemista muutoksen aikakaudella. Tässä luvussa hän peräänkuuluttaa avoimuutta siinä, miten algoritmit valitsevat sisältöjä, henkilötietojen suojaa, argumentointiin ja tarkistettuihin tietoihin perustuvaa vakavaa journalismia sekä kasvavaa tietoisuutta digitaalisten työkalujen kriittisestä käytöstä.
Leo kiinnittää huomiota siihen, että vuoropuheluun tarkoitettuja digitaalisia alustoja ja tekoälyjärjestelmiä käytetään usein vääristyneiden kertomusten rakentamiseen sekä hämärtämään toden ja epätoden välistä rajaa. Tämä vaarantaa demokratian, jonka olennaisena osana on totuuden etsiminen.
”Demokratia ei koostu vain säännöistä ja menettelytavoista, vaan ennen kaikkea yhteisestä sitoutumisesta tosiasioihin sekä aidosta pyrkimyksestä yksilöiden ja koko yhteiskunnan hyvään. Välinpitämättömyys totuutta kohtaan johtaa hitaasti mutta varmasti kohti totalitarismia.”
Leo varoittaa, että digitaalinen media ruokkii välittömyyden ja ylistimulaation kulttuuria, joka synnyttää väsymystä, pitkästymistä ja välinpitämättömyyttä totuuden etsimiseen liittyvää vaivannäköä kohtaan. Kasvatuksen tehtävä onkin opettaa lapsia ja nuoria paitsi käyttämään tekoälyä myös tunnistamaan tilanteet, joissa sitä ei pitäisi käyttää.
”Meidän on opittava pidättyvyyttä tekoälyn käytössä ja suojeltava nuoria täydellisen koneen lupaukselta – hienovaraiselta kiusaukselta, joka tekee inhimillisestä ajattelusta näennäisesti tarpeetonta juuri silloin, kun sitä tarvittaisiin kaikkein eniten”, Leo kirjoittaa.
”Vastausten ja yhteenvetojen nopea ja vaivaton saatavuus uhkaa tukahduttaa halun kysyä. Kysymysten esittäminen on prosessi, joka kantaa hedelmää vain ajan myötä.”
Unohdetut rauhantekijät osoittavat meille, ettei armo poista konfliktia taianomaisesti, vaan inspiroi aktiiviseen vastarintaan.
Kiertokirje kiinnittää huomiota myös uudenlaisiin vallan muotoihin, kuten terveys- ja väestötietojen käyttöön taloudellisten strategioiden ohjaamisessa sekä algoritmien ja datan massakeruuseen, josta voi tulla yhteiskunnallisen kontrollin väline. Paavi luonnehtii ihmisten profilointia, henkilökohtaisten tietojen hyväksikäyttöä sekä käyttäytymisen ennustamista ja ohjaamista uudenlaiseksi kolonialismiksi.
Tekoäly synnyttää paavi Leon mukaan myös uusia orjuuden muotoja, kuten niiden ihmisten ”arpisia, vahingoittuneita ja loppuun kuluneita” ruumiita, jotka työskentelevät teknologian tarvitsemien maametallien louhinnassa. Vakavat ihmisarvon loukkaukset ovat paavin mukaan digitaalisen murroksen ”ratkaiseva eettinen koetinkivi”, ja niiden sietäminen ja puuttumatta jättäminen merkitsee osallisuutta vääryyteen. Tässä yhteydessä paavi Leo pyytää anteeksi kirkon aikaisempaa roolia orjuuden oikeuttamisessa ja hidastelua sen tuomitsemisessa.
Tekoäly-yhtiö Anthropicin perustajiin kuuluva Christopher Olah puhui Magnifica humanitas -opetuskirjeen julkistamistilaisuudessa. Kuva: AP / Lehtikuva / Alessandra Tarantino
Viisi vastuun tietä tekoälymurrokseen
Kiertokirjeen viimeisessä pääluvussa paavi Leo XIV peräänkuuluttaa tekoälyn ”riisumista aseista” niin, että se ei palvelisi sotilaallista, taloudellista ja kognitiivista kilpailua. ”Aseistariisunta tarkoittaa sen oletuksen kyseenalaistamista, että tekninen valta antaisi automaattisesti oikeuden hallita”, hän kirjoittaa.
Käsitellessään tekoälyn sotilaallista käyttöä Leo kiinnittää huomiota ”vallan kulttuuriin”, joka on palauttanut sodan kansainvälisen politiikan välineeksi. Siinä sotilasmenojen kasvattaminen näyttäytyy ainoana vastauksena epävarmaan tulevaisuuteen. Rauhaa ei enää nähdä päämääränä, jota kohti tulisi pyrkiä, vaan konfliktien välisenä taukona.
Digitaalinen vallankumous muuttaa paavin mukaan konfliktien luonnetta, kun elämää ja kuolemaa koskevat päätökset muuttuvat yhä persoonattomammiksi. Tekoäly voi nopeuttaa konflikteja, madaltaa väkivallan käytön kynnystä, muuttaa puolustuksen uhkien ennakoinniksi ja ”totuttaa meidät ajatukseen, että väkivalta on väistämätöntä ja sitä tarvitsee vain optimoida”.
Kiertokirje kiinnittää huomiota myös hybridisotiin, joissa yleistä mielipidettä pyritään muokkaamaan disinformaatiolla ja ihmisten pelkoja ruokkivilla kampanjoilla.
”Ne jotka käyttävät Jumalan nimeä terrorismin, väkivallan tai sodan oikeuttamiseen, pettävät hänen todellisen olemuksensa, sillä taisteleminen uskonnon nimessä merkitsee hyökkäämistä itse uskontoa vastaan”, Leo kirjoittaa.
Paavin mukkaan kiertokirjeessä kuvattu pidäkkeettömän kilpailun, vallankäytön ja konfliktien leimaama tulevaisuus ei ole väistämätön, vaan kristilliseen näkökulmaan sisältyy kutsu henkilökohtaiseen ja yhteiskunnalliseen muutokseen. Leon mielestä historia tukee tällaista ajattelua: pimeimpinäkin aikoina Jumala on nostanut esiin miehiä ja naisia, jotka eivät ole luovuttaneet, vaan ovat sinnikkäästi tehneet hyvää, suojelleet haavoittuvia ja avanneet teitä sovintoon.
Kiertokirjeen lopussa Leo haastaa maailman kristityt rakentamaan ”rakkauden sivilisaatiota” ja palvelemaan rauhaa voiman logiikan sijaan. Tämän työn ohjenuoraksi hän tarjoaa ”viittä vastuun tietä”: sanojen aseistariisuntaa puhumalla totta, oikeudenmukaisen rauhan rakentamista, uhrien näkökulman omaksumista, kannan ottamista silloin kun oikeudenmukaisuus sitä vaatii sekä tervettä realismia, joka etsii toteuttamiskelpoisia rauhan teitä.
”Vanhurskaat ihmiset ja usein unohdetut rauhantekijät osoittavat meille, ettei armo poista konflikteja taianomaisesti, vaan inspiroi aktiiviseen vastarintaan pahaa vastaan sekä hämmästyttävään luovuuteen hyvän tekemisessä.”
Magnifica humanitas -kiertokirjeen suoria sitaatteja on tiivistetty. Artikkelissa on käytetty lähteenä myös kiertokirjettä käsittelevää Vatican News -sivuston artikkelia.
Voit lukea koko Magnifica humanitas -kiertokirjeen useilla kielillä Pyhän istuimen verkkosivulta. Katolisen kirkon Fides-lehti julkaisee kesäkuun aikana laajan suomenkielisen katsauksen kiertokirjeen sisältöön. Koko kiertokirje julkaistaan suomeksi myöhemmin tänä kesänä.
Jaa tämä artikkeli:
Toimitus suosittelee
Kommentti: Me tutkitusti tyhmenemme, jos ulkoistamme ajattelun tekoälylle
PuheenvuorotNäemmekö tulevaisuudessa aivojen kuntosaleja, joissa treenaamme niitä kuten nykyään lihaksiamme, joita harvan työ kuormittaa tarpeeksi, toimittaja Pihla Tiihonen kirjoittaa.
