Treće poglavlje enciklike pape Lava XIV. »Magnifica humanitas« govori o tehnologiji i vladavini, to jest o veličini čovjeka u svjetlu obećanjâ umjetne inteligencije.
Papa uvodi koncept tehnokratske paradigme u globaliziranom svijetu, pišući o sklonosti da logika učinkovitosti, kontrole i dobiti sama oblikuje osobne, društvene i gospodarske odluke. »To jasno pokazuje da tehnologija nije jednostavno oruđe. Kad postane mjerilo prema kojem se sve prosuđuje, ona počinje diktirati što je važno, a što se može odbaciti, svodeći stvorenje na predmet izrabljivanja, a ljudska bića na puke kotačiće u sustavu pokretanu prema sve većoj učinkovitosti.« Papa upozorava da se ta paradigma posljednjih godina naglo proširila »potaknuta širenjem umjetne inteligencije, kognitivnih znanosti, nanotehnologije, robotike i biotehnologije«. »Same po sebi te inovacije mogu uvelike služiti cjelovitomu ljudskomu razvoju i skrbi za naš zajednički dom. Ipak, upravo zbog svoje moći, one mogu i ubrzati širenje tehnokratske paradigme te stoga iziskuju nov duhovni, etički i politički okvir. Veća moć ne podrazumijeva nužno nešto bolje. U tom smislu Papa navodi i nadalje aktualne riječi upozorenja Romana Guardinija: ‘Suvremeni čovjek nije odgojen da dobro upotrebljava moć.’«
Nadalje Sveti Otac upozorava na opasnosti izjednačavanja umjetne i ljudske inteligencije. »Ne može se dati jedinstvena, sveobuhvatna definicija umjetne inteligencije. Ipak se može ustvrditi da moramo izbjeći zabludu izjednačivanja te vrste ‘inteligencije’ s onom ljudskih bića. Ti sustavi tek oponašaju određene funkcije ljudske inteligencije. Pritom često nadmašuju ljudsku inteligenciju brzinom i računalnom moću, nudeći opipljive koristi na mnogim područjima. Ipak ta moć ostaje posve vezana uz obradu podataka. Takozvane umjetne inteligencije ne proživljavaju iskustva, ne posjeduju tijelo, ne osjećaju radost ni bol, ne dozrijevaju kroz odnose i ne znaju iznutra što znače ljubav, rad, prijateljstvo ili odgovornost. Niti imaju moralnu savjest, jer ne prosuđuju dobro i zlo, ne shvaćaju krajnji smisao situacija niti snose odgovornost za posljedice. Mogu oponašati jezik, ponašanje i analitičke vještine, pa čak i simulirati empatiju i razumijevanje, ali ne razumiju ono što proizvode jer im nedostaje afektivna, odnosna i duhovna perspektiva kroz koju ljudska bića rastu u mudrosti. Čak i kad se ta oruđa opisuju kao sposobna ‘učiti’, njihov je način učenja drukčiji od onoga ljudske osobe. Nije to iskustvo onih koji se puštaju oblikovati životom i rastu tijekom vremena kroz izbore, pogrješke, oproštenje i vjernost.«
U broju 110 koji će možda postati i najcitiraniji dio enciklike papa Lav XIV. kaže: »Naposljetku želio bih se poslužiti izrazom ‘razoružati’, koji mi je drag. Razoružati umjetnu inteligenciju znači osloboditi je od mentaliteta ‘naoružana’ natjecanja, koje danas nije ograničeno samo na vojni kontekst, nego je i gospodarska i kognitivna pojava. To podrazumijeva utrku za sve moćnijim algoritmima i većim skupovima podataka, vođenu željom da se osigura geopolitička ili komercijalna prevlast. Razoružati znači obeskrijepiti pretpostavku da tehnička moć automatski daje pravo na vladanje. Razoružati ne znači odbaciti tehnologiju, nego spriječiti je da vlada nad čovječanstvom. To znači osloboditi tehnologiju od monopolističkoga nadzora i otvoriti je raspravi i propitivanju, čineći je tako naklonom čovjeku i vraćajući je pluralitetu ljudskih kultura i načina života. Naša zadaća danas nije samo etička ili tehnička. Ona je ekološka u najdubljem smislu jer se tiče nove dimenzije našega zajedničkoga doma. Umjetna je inteligencija već okruženje u koje smo uronjeni, kao i sila oko koje se moramo angažirati. Zato je puko reguliranje nedovoljno; nju treba razoružati, učiniti gostoljubivom i pristupačnom.«
Papa upućuje apel softverskim inženjerima, programerima, onima koji rade na razvoju umjetne inteligencije. »U jednom smislu tehnološka inovacija može biti ljudsko sudjelovanje u božanskom činu stvaranja. Razvojni inženjeri stoga nose osobitu etičku i duhovnu odgovornost jer svaki izbor u oblikovanju odražava neku viziju čovjeka. Kao što tvorac umjetničkoga ili književnoga djela mora voditi računa o vrijednostima koje ono prenosi, tako su i razvojni inženjeri pozvani da s dužnom ozbiljnošću ugrade vrijednosti u svoje projekte: s transparentnošću, odgovornošću prema pogođenim zajednicama i pomnom pozornošću da ono što se uzgaja bude istinsko dobro.«
Sveti Otac potom svraća pozornost na neke struje mišljenja koje napredak tumače kao nadilaženje ljudskoga stanja i koje se često svrstavaju pod pojmove transhumanizma i posthumanizma. »Te perspektive tvore ideološku pozadinu prisutnu u nekim središtima tehnološke moći i zaposjedaju kolektivnu maštu u pojednostavnjenu obliku, osobito u medijima i na društvenim mrežama. One su sklone hraniti oduševljenje novim tehnologijama kroz futurističku viziju ‘poboljšanoga ljudskoga bića’ ili ‘hibrida čovjeka i stroja’ (svojevrsnoga ‘kiborga’).
Transhumanizam zamišlja poboljšanje ljudskih bića pomoću tehnologija – poput biomedicine, inženjeringa tijela, uređaja i algoritama – s ciljem povećanja učinka i sposobnosti. Posthumanizam, osobito u svojim radikalnijim oblicima, ide dalje: osporava antropocentrizam i zamišlja hibridizaciju ljudskih bića, strojeva i okoliša, predviđajući čak prag na kojem čovječanstvo nadilazi samo sebe u novom evolucijskom stadiju. Čak i kad takve ideje ostaju uvelike spekulativne, dobivaju na važnosti mijenjajući kolektivnu maštu i time utječu na društvene, gospodarske i političke izbore…«
Iz perspektive socijalnoga nauka Crkve papa Lav XIV. tumači da ključno pitanje nije uporaba tehnologije kao takve, nego vizija koja joj je u podlozi. »Ako se prema ljudskomu biću postupa kao prema nečemu što treba usavršiti ili nadići, postaje lakše prihvatiti da su neki životi manje korisni, manje poželjni ili manje vrijedni. U ime napretka mogle bi se početi opravdavati ‘nužne žrtve’, prebacujući teret na najranjivije u potrazi za tobožnjom optimizacijom vrste«, piše Papa i pojašnjava da je jedno integrirati tehnologiju unutar vizije usredotočene na čovjeka i odnose, a posve drugo dati se voditi pogledom koji obezvrjeđuje ljudske granice i obećava posve tehnički oblik »spasenja«.
Papa Lav XIV. upućuje na pozitivnu baštinu čovječanstva vidljivu u kreiranju ustanova u službi čovjeka. »Povijest se ne ukazuje samo kao zapis o ljudskom nasilju, nego i kao dokaz da je čovječanstvo kadro stvarati ustanove koje štite naš zajednički život. Tijekom posljednja dva stoljeća to se vidi u nekoliko znakovitih dostignuća: osnutku Međunarodnoga odbora Crvenoga križa (1863.), čija operativna neutralnost jamči milosrdnu skrb za sve; dugom procesu koji je doveo do ukinuća ropstva, koji je bio ne samo pravni zaokret, nego i preobrazba savjesti; uspostavi Ujedinjenih naroda (1945.) i Opće deklaracije o ljudskim pravima (1948.), koje su iznjedrile zajednički jezik za potvrđivanje, barem kao zajedničkoga ideala, univerzalnosti ljudskoga dostojanstva; te Konvenciji o izbjeglicama iz 1951., koja priznaje dužnost zaštite onih koji bježe od progona i opasnosti. U svakom od tih slučajeva želja za dobrom poprimila je konkretan oblik u javnim kontekstima – zakonima, ustanovama i praksama – kadrima ograničiti zlouporabu moći i braniti ranjive.«
Papa Lav u nastavku navodi i osobe koje su svojim zauzimanjem mijenjale tijek povijesti u pozitivnom smjeru, ističući i pokret za građanska prava u Sjedinjenim Američkim Državama, tijesno povezan sa svjedočanstvom Martina Luthera Kinga, ili kraj aparthejda u Južnoj Africi nakon oslobođenja Nelsona Mandele i njegove odluke da budućnost ne preda mržnji. »U različitim su se kontekstima istaknule i mnoge hrabre i velikodušne žene, uključujući svetu Lauru Montoyu, svetu Tereziju iz Kalkute, Dorothy Day, Mariju Skłodowsku-Curie, Mariju Montessori, Elisabeth Elliot, Wangari Maathai, Benazir Bhutto i nebrojene druge sa svakoga kontinenta čije je zauzimanje pridonijelo tomu da povijest postane čovječnija. Uz te javne znakove postoji i skrovitija, ali odlučujuća priča. Vidimo je u redovničkim zajednicama koje odabiru služiti na siromašnim i opasnim mjestima. Vidimo je i u mučenicima bratstva i pravde, poput svetoga Maksimilijana Marije Kolbea, svetoga Oscara Romera i blaženoga Enriquea Angelellija; te u onim svjedocima koji su utjelovili nadu evanđelja i ljudsko dostojanstvo usred teških, često nečovječnih uvjeta, poput časnoga Franje Ksavera Nguyễna Văn Thuậna. Iznad svega ona je vidljiva u ‘mučenicima svakidašnjice’ koji se skrbe, odgajaju, prate i tješe bez pompe, poput roditelja, medicinskih sestara, liječnika, dobrovoljaca i onih koji ostaju uz stariju osobu ili izopćenika. Njihovo svjedočanstvo pokazuje da dobrota ne napreduje automatski, nego iziskuje ustrajnost, sjećanje i nutarnje obraćenje nužno da se započne nanovo, čak i nakon poraza.«
Papa razrađuje navedenu misao: »Upravo to prepletanje pravednih ustanova, vjerodostojnih svjedoka i svakodnevne vjernosti održava nadu i daje jasan smjer tehnološkomu napretku, a da pritom srce ne nazaduje. Zato čovještvo – u svoj svojoj veličini i ranjenosti – nikada ne smije biti zamijenjeno ni nadiđeno. Možemo prigrliti tehnološki napredak koji ublažuje patnju i otključava nove mogućnosti, pod uvjetom da ne napustimo samu bit naše čovječnosti, naime sposobnost za odnos i ljubav. To vodi do presudnoga pitanja: ako postoji autentično ‘više od čovjeka’, gdje ga treba tražiti? Kršćanska vjera odgovara na to pitanje pokazujući na puninu koja ne proizlazi iz tehnološkoga pobožanstvenjenja, nego kroz milost Božju primljenu u Kristu… U tome je radikalan odmak od prometejskih snova: ono što spašava čovječanstvo nije pojačana samodostatnost, nego odnos koji oslobađa, zajedništvo koje preobražava.«
Nastavlja se
Objava PREDSTAVLJAMO ENCIKLIKU PAPE LAVA XIV. »MAGNIFICA HUMANITAS« (2) Osloboditi tehnologiju od monopolističkoga nadzora i otvoriti je raspravi i propitivanju pojavila se prvi puta na Glas Koncila.
