Što stoji u Papinom dokumentu o kojem bruji svijet

Papa Leo XIV. objavio je u ponedjeljak, 25. svibnja, svoju prvu encikliku pod naslovom “Magnifica humanitas” (“Veličanstvena čovječnost”), o očuvanju ljudske osobe u doba umjetne inteligencije.

Papa je dokument službeno potpisao 15. svibnja, na 135. obljetnicu objave “Rerum novarum” (“O novim stvarima”) pape Lea XIII. Dan nakon toga odobrio je osnivanje Međudikasterijske komisije za umjetnu inteligenciju (AI), koju je utemeljio kardinal prefekt Dikasterija za promicanje cjelovitog ljudskog razvoja Michael Czerny, a koji će biti i njezin koordinator.

Živo zanimanje za umjetnu inteligenciju

Papa je od početka pontifikata pokazao živo zanimanje za umjetnu inteligenciju, uspoređujući revoluciju koju ona donosi s industrijskom revolucijom s početka stoljeća (zbog čega je objavu prilagodio obljetnici enciklike svog prethodnika imenom), a reskript o osnivanju Komisije navodi da je AI “tema i fenomen koji zahtijeva međusobne i česte konzultacije s obzirom na sve veći razvoj te tehnologije zabilježen tijekom posljednjih desetljeća te sve veću brzinu njezine opće primjene”. U siječnju prošle godine Dikasterij za nauk vjere te Dikasterij za kulturu i obrazovanje izradili su dokument “Antiqua et nova” o odnosu umjetne i ljudske inteligencije.

Na predstavljanju enciklike sudjelovao je i Christopher Olah, suosnivač tvrtke Anthropic i voditelj istraživanja o interpretaciji AI, koji se našao u sukobu s Pentagonom ne pristajući odobriti administraciji neograničenu kontrolu nad svojim AI sustavom za vojne i nadzorne svrhe.

Papa piše: “Dok je Leo XIII. u svoje vrijeme govorio o ‘novim stvarima’ (Rerum novarum), danas se ne možemo ograničiti samo na ponavljanje njegovih pronicljivih učenja. Umjesto toga, moramo od Boga tražiti mudrost da protumačimo velike trendove našeg vremena, osobito tehnološki napredak. Posljednjih godina sve je očitije koliko brzo i duboko digitalizacija, umjetna inteligencija i robotika preoblikuju naš svijet.”

Podijeljena na pet poglavlja, Magnifica humanitas ističe temeljnu premisu da tehnologija nije “snaga antagonistička čovječanstvu” niti je “po svojoj prirodi zla”. Međutim, “tehnologija nikada nije neutralna, jer poprima karakteristike onih koji je osmišljavaju, financiraju, reguliraju i koriste”, naglašava Vatican News.

Papa Leo XIV. ističe potrebu osigurati da tehnologije ne budu koncentrirane u rukama samo nekolicine ljudi, čime bi se produbio jaz između onih uključenih i onih isključenih iz digitalne revolucije. Referirajući se na socijalnu pravdu kao peto načelo socijalne doktrine Crkve, Papa napominje da u digitalno doba socijalna pravda zahtijeva osiguranje pravednog pristupa mogućnostima svim ljudima, zaštitu najranjivijih, borbu protiv mržnje i dezinformacija te podvrgavanje uporabe tehnologija javnom nadzoru, “kako vodeće načelo ne bi bio isključivo profit, nego dostojanstvo svake osobe i zajedničko dobro svih ljudi”.

Istina

Četvrto poglavlje naslovljeno je “Istina kao zajedničko dobro”. Papa upozorava da se “alati koji bi mogli poticati dijalog i sudjelovanje često koriste za stvaranje iskrivljenih narativa i zamagljivanje granica istine i neistine, miješajući činjenice s mišljenjima … Oni koji upravljaju moćnim tehnološkim i ekonomskim resursima, zajedno sa znatnim ljudskim kapitalom za intervenciju, posjeduju velike sposobnosti utjecaja na kulturne promjene … To je čista moć odvojena od istine, koja suptilno ili otvoreno nameće ono što želi da drugi prihvate kao istinu”.

Takvo stanje predstavlja prijetnju demokraciji jer je “traženje istine bitan element demokracije, koja je sama sebi sredstvo za doprinos zajedničkom dobru. Kada pitanja o tome što je istina izgube na važnosti, a prevlada pragmatizam koji je zadovoljan onim što se čini korisnim ili učinkovitim, tada demokratski život slabi. Uostalom, demokracija se ne sastoji samo od pravila i procedura, već prije svega od čvrste usklađenosti s činjenicama i istinske predanosti dobru pojedinaca i društva u cjelini. Indiferentnost prema istini vodi, polako ali sigurno, u totalitarizam. Kao što je napisala filozofkinja Hannah Arendt, idealni podanici takvih režima nisu toliko ideološki uvjereni, već ‘ljudi za koje razlika činjenice i fikcije (tj. stvarnosti iskustva) i razlika između istinitog i lažnog (tj. standardi razmišljanja) više ne postoje’.”

U petom poglavlju “Kultura moći i civilizacija ljubavi” nalazi se odjeljak naslovljen “Normalizacija rata”. Dio koji ne treba tumačenja, dovoljno ga je prenijeti: “Danas svjedočimo pravoj paradigmatskoj promjeni u javnom diskursu i u odlukama o naoružavanju, uz zabrinjavajući povratak rata kao instrumenta međunarodne politike, dok etički principi koji su ranije ograničavali njegovu uporabu erodiraju. Sveta Stolica nedavno je primijetila da sve veća lakoća s kojom se autonomni sustavi oružja mogu rasporediti čini rat ‘izvedljivijim’ i manje podložnim ljudskoj kontroli. To krši načelo da se oružana sila smije koristiti samo kao krajnje sredstvo u slučajevima legitimne samoobrane. Iz tog razloga razvoj i uporaba umjetne inteligencije u ratovanju moraju biti podvrgnuti najstrožim etičkim ograničenjima kako bi se zajamčilo poštovanje ljudskog dostojanstva i svetosti života te kako bi se izbjegla utrka u razvoju takvog naoružanja.”

Etika nije odlika algoritama

Papa se zatim osvrće na etička pitanja: “Ponekad se govori o ‘umjetnim moralnim agentima’, kao da strojevi mogu razlikovati dobro i zlo dosljednije od ljudskog bića. Ipak, moralni sud ne može se svesti na kalkulaciju jer uključuje savjest, osobnu odgovornost i priznavanje drugoga kao osobe. Stoga nije dopušteno povjeravati smrtonosne ili druge nepovratne odluke umjetnim sustavima. Nijedan algoritam ne može učiniti rat moralno prihvatljivim. Umjetna inteligencija ne uklanja suštinsku nehumanost sukoba; dapače, ona može samo ubrzati sukob i učiniti ga impersonalnijim, snižavajući prag pribjegavanja nasilju, pretvarajući obranu u predviđanje prijetnji i time svodeći žrtve na podatke. Na taj će nas način naviknuti na ideju da je nasilje neizbježno i da ga je samo potrebno optimizirati.” Rijetko uman proturatni argument koji, nažalost, oni moćni iz ranijih poglavlja neće uzeti u obzir.

Ističem i odjeljak u kojem se Hrvatska može prepoznati među onima koje je Leo XIV. prozvao: “Svjedočimo zabrinjavajućem gubitku povijesnog pamćenja, jer svjedočanstva iz prve ruke o Holokaustu i dvama svjetskim ratovima nestaju. To dovodi do selektivnog ili iskrivljenog ispisivanja povijesti nanovo u kontekstu u kojem lažne vijesti i manipulacija narativima zamagljuju pouke koje su naučene.” Kao moćnike iz ranijeg poglavlja Papine riječi neće navesti na to da mijenjaju politike, tako ni ovaj zaziv neće utjecati na krugove u Hrvatskoj koji zagovaraju rehabilitaciju ustaškog režima.