Na začiatku nového roka, v čase milosti, ktorú Pán udeľuje každému z nás, by som sa rád obrátil na Boží ľud, na všetky národy, hlavy štátov a vlád, predstaviteľov rôznych náboženstiev aj občianskej spoločnosti, a tiež všetkých mužov a ženy našej doby, aby som im zaželal pokoj.

1. Rozvoj vedy a techniky ako cesta k pokoju

Sväté písmo svedčí o tom, že Boh dal ľudstvu svojho Ducha a „naplnil ho dôvtipom, vedomosťou a zručnosťou na každú prácu“ (Ex 35, 31). Ľudský rozum je výrazom dôstojnosti, ktorou nás obdaroval Stvoriteľ, keď nás stvoril na svoj obraz a podobu (porov. Gn 1, 26) a dal nám schopnosť slobodne a vedome odpovedať na jeho lásku. Vo vede a technike sa osobitným spôsobom prejavuje táto, vo svojej podstate vzťahová vlastnosť ľudského rozumu: sú totiž mimoriadnymi produktmi jej tvorivého potenciálu.
Druhý vatikánsky koncil v pastorálnej konštitúcii Gaudium et spes potvrdil túto pravdu, keď vyhlásil, že „svojou prácou a svojím umom sa človek vždy usiloval zveľaďovať vlastný život“¹. Keď sa ľudia „pomocou techniky“ usilujú o to, aby sa zem „stala dôstojným príbytkom celej ľudskej rodiny“,² konajú podľa Božieho plánu a spolupracujú s jeho vôľou na dokončení stvorenia a na šírení pokoja medzi ľuďmi. Aj pokrok vedy a techniky, pokiaľ prispieva k lepšiemu usporiadaniu ľudskej spoločnosti, k rozšíreniu slobody a bratského spoločenstva, vedie k zlepšeniu človeka a premene sveta.
Právom sa tešíme a sme vďační za mimoriadne úspechy vedy a techniky, vďaka ktorým sa podarilo odstrániť nespočetné choroby, ktoré sužovali ľudský život a spôsobovali veľké utrpenie. Zároveň však technický a vedecký pokrok tým, že umožňuje vykonávať doteraz nevídanú kontrolu nad realitou, dáva do ľudských rúk obrovskú škálu možností, z ktorých niektoré môžu ohroziť naše prežitie a byť nebezpečné pre náš spoločný domov.³
Pozoruhodný pokrok v nových informačných technológiách, najmä v digitálnej oblasti, preto predstavuje strhujúce príležitosti i znepokojivé riziká, ktoré vážne postihujú úsilie o spravodlivosť a harmóniu medzi ľuďmi. Je preto potrebné položiť si niekoľko naliehavých otázok. Aké budú strednodobé a dlhodobé dôsledky nových digitálnych technológií? A aký vplyv budú mať na život jednotlivcov a spoločnosti, na medzinárodnú stabilitu a mier?

2. Budúcnosť umelej inteligencie: medzi prísľubom a rizikom

Pokrok v informačných technológiách a rozvoj digitálnych technológií v posledných desaťročiach už začal spôsobovať hlboké premeny globálnej spoločnosti a jej dynamiky. Nové digitálne nástroje menia tvár komunikácie, verejnej správy, vzdelávania, spotreby, osobných interakcií a ďalších nespočetných aspektov každodenného života.
Okrem toho technológie využívajúce množstvo algoritmov môžu z digitálnych stôp zanechaných na internete získavať údaje, ktoré umožňujú sledovať mentálne a vzťahové návyky ľudí na komerčné alebo politické ciele, často bez ich vedomia, a obmedzovať ich vedomé uplatňovanie slobodnej voľby. V takomto online priestore, ktorý sa vyznačuje informačným preťažením, môže byť tok údajov skutočne štruktúrovaný podľa výberových kritérií, čo si používateľ nie vždy uvedomuje.
Musíme pamätať na to, že vedecký výskum a technologické inovácie nie sú odtrhnuté od reality a nie sú „neutrálne“, ale podliehajú kultúrnym vplyvom. Keďže sú to plne ľudské činnosti, v smeroch, ktorými sa uberajú, sa odrážajú rozhodnutia podmienené osobnými, sociálnymi a kultúrnymi hodnotami každej doby. To isté platí aj pre dôsledky, ktoré z nich vyplývajú: práve preto, že sú výsledkom špecificky ľudských prístupov k okolitému svetu, majú vždy etický rozmer, úzko spojený s rozhodnutiami tých, ktorí navrhujú experimenty a usmerňujú produkciu k určitým cieľom.
To platí aj pre formy umelej inteligencie. Vo svete vedy a techniky neexistuje doteraz jej jednotná definícia. Samotný pojem, ktorý sa v súčasnosti dostal do bežnej reči, zahŕňa rôzne vedy, teórie a techniky zamerané na reprodukovanie alebo napodobňovanie kognitívnych schopností človeka. Keď hovoríme o „formách inteligencie“ v množnom čísle, môže nám to pomôcť uvedomiť si predovšetkým neprekonateľnú priepasť, ktorá existuje medzi týmito systémami, nech sú akokoľvek úžasné a výkonné, a ľudskou osobou: v konečnom dôsledku sú totiž „fragmentárne“ v tom zmysle, že môžu napodobniť alebo reprodukovať len niektoré funkcie ľudskej mysle. Použitie množného čísla tiež zdôrazňuje, že tieto veľmi odlišné zariadenia treba vždy považovať za „sociotechnické systémy“. Ich vplyv totiž nezávisí len od základnej technológie a jej koncepcie, ale aj od cieľov a záujmov ich vlastníkov a vývojárov, a tiež od situácií, v ktorých sa používajú.
Umelú inteligenciu preto treba chápať ako plejádu rozličných skutočností a nemôžeme a priori predpokladať, že jej vývoj bude pre budúcnosť ľudstva a mier medzi národmi prínosom. Takýto pozitívny výsledok bude možný len vtedy, ak preukážeme, že sme schopní zodpovedne konať a rešpektovať základné ľudské hodnoty, ako sú „inklúzia, transparentnosť, bezpečnosť, spravodlivosť, dôvernosť a spoľahlivosť“.⁴
Nestačí ani predpokladať, že sa tí, ktorí navrhujú algoritmy a digitálne technológie, zaviažu konať eticky a zodpovedne. Je potrebné posilniť – alebo v prípade potreby zriadiť – orgány, ktoré by skúmali vznikajúce etické otázky a chránili práva tých, čo používajú umelú inteligenciu alebo sú ňou ovplyvnení.⁵
Obrovský rozvoj technológií musí byť preto sprevádzaný primeranou formáciou k zodpovednosti za ich rozvoj. Keď ľudské bytosti podľahnú pokušeniu sebectva, vlastného záujmu, túžby po zisku a túžby po moci je ohrozená ich sloboda a mierové spolunažívanie. Preto máme povinnosť rozšíriť svoj pohľad a v službe integrálneho rozvoja človeka a spoločenosti nasmerovať vedecko-technický výskum na snahy o mier a spoločné dobro.⁶
Prirodzená dôstojnosť každého človeka a bratstvo, ktoré nás ako členov jednej ľudskej rodiny spája, musia byť základom pri vývoji nových technológií. Musia tiež slúžiť ako nespochybniteľné kritériá na ich posúdenie ešte pred ich použitím, aby sa digitálny pokrok uskutočňoval rešpektujúc spravodlivosť a prispieval tak k veci mieru. Technologický vývoj, ktorý nevedie k zlepšeniu kvality života celého ľudstva, ale naopak, prehlbuje nerovnosti a konflikty, nemožno nikdy považovať za skutočný pokrok.⁷
Umelá inteligencia bude čoraz dôležitejšia. Výzvy, ktoré prináša, sú nielen technické, ale aj antropologické, vzdelávacie, sociálne a politické. Sľubuje napríklad úsporu pracovných síl, efektívnejšiu výrobu, jednoduchšiu dopravu a dynamickejšie trhy, ako aj revolúciu v procesoch zberu, organizácie a overovania dát. Musíme si byť preto vedomí rýchlych zmien, ktoré prebiehajú a riadiť ich spôsobom, ktorý zaručuje základné ľudské práva a rešpektuje inštitúcie a zákony podporujúce integrálny ľudský rozvoj. Umelá inteligencia by mala slúžiť tomu najlepšiemu ľudskému potenciálu a našim najvyšším cieľom, nie im konkurovať.

3. Technológia budúcnosti: stroje, ktoré sa učia samy

Umelá inteligencia založená na technikách strojového učenia (machine learning), hoci je ešte stále v priekopníckom štádiu, už teraz prináša prostredníctvom svojich mnohých foriem významné zmeny do štruktúry spoločností a hlboko ovplyvňuje kultúru, sociálne správanie a budovanie mieru.
Nové výdobytky, ako je strojové učenie (machine learning) alebo hlboké učenie (deep learning), vyvolávajú otázky, ktoré presahujú oblasť technológií a techniky, pričom úzko súvisia s hlbším pochopením zmyslu ľudského života, základnými procesmi poznávania a schopnosťou mysle dospieť k pravde.
Napríklad schopnosť niektorých zariadení vytvárať syntakticky a sémanticky koherentné texty, nie je zárukou ich spoľahlivosti. Hovorí sa, že sú schopné „halucinovať“, t. j. vytvárať výroky, ktoré na prvý pohľad vyzerajú hodnoverne, ale v skutočnosti sú nepodložené alebo prezrádzajú predsudky, z ktorých vychádzajú. Vážny problém predstavuje používanie umelej inteligencie v dezinformačných kampaniach, ktoré šíria falošné správy a vedú k rastúcej nedôvere voči médiám. Ďalšie oblasti, v ktorých predmetné technológie predstavujú vážne riziká, sú dôverný charakter a vlastníctvo údajov, a tiež duševné vlastníctvo. K nim sa pridávajú ďalšie negatívne dôsledky v prípade ich nesprávneho používania, napríklad diskriminácia, zasahovanie do volebných procesov, nárast monitorovania a kontrolovania v spoločnosti, digitálne vylúčenie a prehlbovanie individualizmu, čoraz viac odtrhnutého od spoločenstva. Všetky tieto faktory môžu podnecovať konflikty a brániť pokoju.

4. Zmysel pre hranice v technokratickej paradigme

Náš svet je príliš rozsiahly, rozmanitý a zložitý nato, aby sme ho mohli úplne poznať a klasifikovať. Ľudská myseľ nikdy nedokáže vyčerpať jeho bohatstvo, a to ani s pomocou najdokonalejších algoritmov. Tie totiž neponúkajú zaručené predpovede budúcnosti, ale len štatistické priblíženie. Nie všetko sa dá predpovedať, nie všetko sa dá vypočítať. Napokon „skutočnosť je viac než myšlienka“⁸ a bez ohľadu na to, aké úžasné sú naše výpočtové schopnosti, vždy bude existovať nedostupný zvyšok reality, ktorý sa vymyká akýmkoľvek pokusom o jeho kvantifikáciu.
Okrem toho veľké množstvo dát analyzovaných umelou inteligenciou nie je samo osebe zárukou nestrannosti. Keď algoritmy extrapolujú informácie, vždy hrozí, že ich skreslia a budú duplikovať nespravodlivosť a predsudky prostredia, v ktorom vznikli. Čím sú rýchlejšie a zložitejšie, tým ťažšie je pochopiť, prečo vyprodukovali určitý výsledok.
„Inteligentné“ stroje môžu vykonávať úlohy, ktoré im boli pridelené, efektívnejšie, ale účel a zmysel ich činností budú naďalej určovať alebo umožňovať ľudské bytosti, ktoré majú svoj vlastný svet hodnôt. Riziko spočíva v tom, že kritériá určitých rozhodnutí budú menej jasné, zodpovednosť za rozhodovanie bude skrytá a výrobcovia sa môžu vyhýbať svojej povinnosti konať v prospech spoločenstva. V istom zmysle to podporuje technokratický systém, ktorý spája ekonomiku s technológiou a uprednostňuje kritérium efektívnosti, pričom má tendenciu ignorovať všetko, čo nesúvisí s jeho bezprostrednými záujmami.⁹
To by nás malo donútiť premýšľať nad tým, čo sa v dnešnej technokratickej a efektívnej mentalite často prehliada, no čo je pre osobný a spoločenský rozvoj rozhodujúce: „zmysel pre hranice“. Ak si ľudská bytosť, ktorá je z definície smrteľná, myslí, že s pomocou technológii prekročí každú hranicu, riskuje tým, že v posadnutosti chcieť kontrolovať všetko stratí kontrolu nad sebou samou. V snahe o absolútnu slobodu sa prepadne do špirály „technologickej diktatúry“. Uznanie a prijatie hraníc, ktoré sú človeku ako stvoreniu vlastné, je nevyhnutnou podmienkou na to, aby dosiahol, či skôr prijal plnosť ako dar. Naopak, v ideologickom kontexte technokratickej paradigmy, oživovanej prométheovským predpokladom sebestačnosti, by sa nerovnosti mohli rozrásť nad všetky pomery a vedomosti a bohatstvo by sa mohli hromadiť v rukách niekoľkých ľudí, čo by vážne ohrozilo demokratické spoločnosti a mierové spolužitie.¹⁰

5. Horúce témy etiky

V budúcnosti by napríklad o spoľahlivosti žiadateľa o hypotéku, vhodnosti jednotlivca pre isté zamestnanie, pravdepodobnosti recidívy odsúdeného alebo o práve na získanie politického azylu či sociálnej pomoci mohli rozhodovať systémy umelej inteligencie. Nedostatočná diverzifikácia úrovní sprostredkovania, ktoré tieto systémy zavádzajú, spôsobuje mimoriadnu náchylnosť na určité formy predsudkov a diskriminácie: systémové chyby sa môžu ľahko znásobiť, čo môže viesť nielen k nespravodlivosti v jednotlivých prípadoch, ale v dôsledku domino efektu aj k skutočným formám sociálnej nerovnosti.
Niekedy sa navyše zdá, že isté formy umelej inteligencie sú schopné ovplyvňovať rozhodnutia jednotlivcov prostredníctvom vopred stanovených možností spojených so stimuláciou a demotiváciou, alebo prostredníctvom systémov na usmerňovanie osobných rozhodnutí na základe istej spracovania informácií. Tieto formy manipulácie alebo sociálnej kontroly si vyžadujú starostlivú pozornosť a dohľad, a predpokladajú jasnú právnu zodpovednosť zo strany výrobcov, užívateľov i štátnych orgánov.
Spoliehanie sa na automatické procesy, ktoré kategorizujú jednotlivcov, napríklad prostredníctvom využívania všadeprítomného dohľadu alebo prijatia sociálneho kreditového systému, by mohlo mať tiež hlboké dôsledky na sociálnu štruktúru a vytvoriť nesprávne zostavené rebríčky občanov. Takéto umelé procesy zoraďovania by mohli viesť aj k mocenským konfliktom, keďže sa netýkajú len virtuálnych príjemcov, ale ľudí z mäsa a kostí. Základné rešpektovanie ľudskej dôstojnosti trvá na odmietnutí stotožňovania jedinečnej osoby so súborom údajov. Nemožno pripustiť, aby algoritmy určovali spôsob, akým chápeme ľudské práva, odsúvali do úzadia základné hodnoty súcitu, milosrdenstva a odpustenia, alebo aby vylučovali možnosť, že sa jednotlivec zmení a zanechá minulosť.
V tejto súvislosti sa musíme zamyslieť nad vplyvom nových technológií na pracovný život: úlohy, ktoré boli kedysi výlučne doménou ľudskej práce, rýchlo preberajú priemyselné aplikácie umelej inteligencie. Aj v tomto prípade existuje značné riziko neprimeraného zvýhodnenia niekoľkých na úkor ochudobnenia mnohých. Keďže rôzne formy technológií prenikajú stále hlbšie do pracovného prostredia pre medzinárodné spoločenstvo by malo byť vysokou prioritou rešpektovanie dôstojnosti pracovníkov a významu zamestnania pre hospodársky blahobyt jednotlivcov, rodín a spoločností, istota zamestnania a spravodlivej mzdy.

6. Premeníme meče na pluhy?

Pri pohľade na svet okolo nás sa v dnešnej dobe nedá vyhnúť vážnym etickým otázkam v súvislosti so zbrojárskym priemyslom. Možnosť viesť vojenské operácie prostredníctvom systémov ovládaných na diaľku viedla k oslabeniu vnímania ničivých následkov, ktoré spôsobujú, aj k oslabeniu zodpovednosti za ich používanie, čo prispelo k ešte chladnejšiemu a odťažitejšiemu prístupu voči nesmiernej tragédii vojny. Výskum nových technológií v oblasti tzv. smrtiacich autonómnych zbraňových systémov, vrátane vojnového využitia umelej inteligencie, predstavuje vážny etický problém. Autonómne zbraňové systémy nikdy nemôžu byť morálne zodpovednými subjektmi: jedinečná ľudská schopnosť morálneho úsudku a etického rozhodovania je viac ako zložitý súbor algoritmov a táto schopnosť sa nedá zredukovať na naprogramovanie stroja, ktorý je síce „inteligentný“, ale stále je to stroj. Z tohto dôvodu je nevyhnutné zabezpečiť primeraný, zmysluplný a dôsledný ľudský dohľad nad týmito zbraňovými systémami.
Nemôžeme tiež ignorovať možnosť, že sa sofistikované zbrane dostanú do nesprávnych rúk, čo by uľahčilo napríklad teroristické útoky alebo zásahy zamerané na destabilizáciu legitímnych vládnych inštitúcií. Skrátka, svet naozaj nepotrebuje nové technológie, ktoré by prispievali k nespravodlivému rozvoju trhu so zbraňami a obchodovaniu s nimi a ktoré by podporovali vojnové šialenstvo. Pritom hrozí, že nielen inteligencia, ale aj samotné srdce človeka bude čoraz viac „umelé“. Najpokročilejšie technické aplikácie by sa nemali používať na uľahčenie násilného riešenia konfliktov, ale na vydláždenie cesty k mieru.
Pozitívnejším spôsobom možno umelú inteligenciu využiť na podporu integrálneho ľudského rozvoja, kde by mohla priniesť významné inovácie v poľnohospodárstve, vzdelávaní a kultúre, zlepšenie životnej úrovne celých národov a národností i rast ľudského bratstva a sociálneho priateľstva. V konečnom dôsledku mieru našej ľudskosti odhalí to, ako umelú inteligenciu využijeme na začlenenie tých najmenších, teda našich najslabších a najnúdznejších bratov a sestier.
Autenticky ľudský pohľad a túžba po lepšej budúcnosti nášho sveta vedú k potrebe interdisciplinárneho dialógu zameraného na etický vývoj algoritmov – algor-etiku –, kde budú cesty nových technológií usmerňovať etické hodnoty. Etické otázky by sa mali zohľadňovať už od samého začiatku výskumu, a tiež vo fáze testovania, návrhu, výroby, distribúcie a marketingu. To je prístup tzv. ethics by design, v ktorom zohrávajú zásadnú úlohu vzdelávacie inštitúcie a tí, čo sú zodpovední za rozhodovacie procesy.

7. Výzvy na vzdelávanie

Vývoj technológií, ktoré rešpektujú ľudskú dôstojnosť a slúžia človeku, má jasné dôsledky pre vzdelávacie inštitúcie a svet kultúry. Znásobením príležitostí na komunikáciu nám digitálne technológie umožnili stretávať sa novými spôsobmi. Naďalej však pretrváva potreba uvažovať o tom, k akému druhu vzťahov nás vedú. Mladí ľudia vyrastajú v kultúrnom prostredí preniknutom technológiami, a to vedie k diskusii o metódach výchovy, vyučovania a odbornej prípravy.
Vzdelávanie v oblasti využívania foriem umelej inteligencie by sa malo zamerať predovšetkým na podporu kritického myslenia. Je potrebné, aby si používatelia všetkých vekových kategórií, najmä však mladí ľudia, osvojili kritický prístup pri používaní údajov a obsahu zhromaždeného na internete alebo vytvoreného systémami umelej inteligencie. Školy, univerzity a vedecké spoločnosti sú vyzvané, aby pomohli študentom a odborníkom spoznať sociálne a etické aspekty vývoja a používania technológií.
Vzdelávanie v oblasti používania nových komunikačných nástrojov by malo brať do úvahy nielen dezinformácie, falošné správy, ale aj znepokojujúci návrat obáv, ktoré sa „dokázali skryť a zosilnieť na pozadí nových technológi퓹¹. Žiaľ, opäť sa ocitáme v situácii, keď musíme bojovať proti „pokušeniu budovať kultúru múrov, dvíhať múry, múry v srdci, múry na zemi, aby sme zabránili stretnutiu s inými kultúrami, s inými ľuďmi“¹² a rozvoju mierového a bratského spolužitia.

8. Výzvy na rozvoj medzinárodného práva

Globálny dosah umelej inteligencie jasne ukazuje, že popri zodpovednosti suverénnych štátov za reguláciu jej používania vo vlastnej krajine môžu rozhodujúcu úlohu pri dosahovaní multilaterálnych dohôd a koordinácii ich uplatňovania a vykonávania¹³ zohrávať medzinárodné organizácie. V tejto súvislosti naliehavo žiadam spoločenstvo národov, aby spolupracovalo na prijatí záväznej medzinárodnej zmluvy upravujúcej vývoj a používanie umelej inteligencie v jej mnohých podobách. Cieľom regulácie by samozrejme nemalo byť len predchádzať zlým postupom, ale aj podporovať dobrú prax, stimulovať nové a kreatívne prístupy a uľahčiť osobné a kolektívne iniciatívy.¹⁴
Pri hľadaní normatívnych predpisov, ktoré môžu poskytnúť etické usmernenie vývojárom digitálnych technológií, je napokon nevyhnutné identifikovať ľudské hodnoty, ktoré by mali byť základom úsilia spoločností o formulovanie, prijatie a uplatňovanie potrebných legislatívnych rámcov. Pri práci na príprave etických smerníc pre vývoj foriem umelej inteligencie treba zohľadniť hlbšie otázky týkajúce sa zmyslu ľudskej existencie, ochrany základných ľudských práv a úsilia o spravodlivosť a mier. Tento proces etického a právneho rozlišovania sa môže ukázať ako cenná príležitosť na spoločné uvažovanie o tom, akú úlohu by mali technológie zohrávať v našich individuálnych životoch aj v živote spoločenstiev a ako môže ich používanie prispieť k vytvoreniu spravodlivejšieho a humánnejšieho sveta. Z tohto dôvodu by sa v diskusiách o regulácii umelej inteligencie mali zohľadniť hlasy všetkých zainteresovaných strán vrátane chudobných, marginalizovaných a ďalších, ktorí často zostávajú v globálnych rozhodovacích procesoch nevypočutí.

* * * * *

Dúfam, že táto úvaha nás povzbudí k tomu, aby pokrok vo vývoji rôznych foriem umelej inteligencie slúžil v konečnom dôsledku ľudskému bratstvu a mieru. Nie je to len zodpovednosť niekoľkých ľudí, ale celej ľudskej rodiny. Pokoj je totiž ovocím vzťahov, ktoré uznávajú a prijímajú druhého v jeho neodňateľnej dôstojnosti, a tiež výsledkom spolupráce a angažovanosti v úsilí o integrálny rozvoj všetkých ľudí a všetkých národov.
Na začiatku nového roka sa modlím za to, aby rýchly rozvoj foriem umelej inteligencie neprehĺbil mnohé nerovnosti a nespravodlivosti, ktoré sú už vo svete prítomné, ale aby prispel k ukončeniu vojen a konfliktov a zmierneniu mnohých foriem utrpenia, ktoré sužujú ľudskú rodinu. Kiež kresťania, veriaci rôznych náboženstiev a tiež muži a ženy dobrej vôle svorne spolupracujú s cieľom využiť všetky príležitosti a čeliť výzvam, ktoré digitálna revolúcia prináša, aby budúcim generáciám zanechali solidárnejší, spravodlivejší a pokojnejší svet.

Vo Vatikáne 8. decembra 2023

FRANTIŠEK