„VATIKANAS. Popiežius Leonas XIV perspėjo, kad dirbtinis intelektas „kelia grėsmę normalizuoti antižmogišką viziją“, ir teigė, kad reikia kovoti su didžiulės skaitmeninės galios koncentracija kelių privačių veikėjų rankose.
Popiežiaus enciklika – tekstas, kuris turėtų apibrėžti Leono popiežiaus tarnystę – skamba kaip griežtas įspėjimas Silicio slėnio vadovams ir žmonijai apskritai apie civilizacijos ateitį, sparčiai tobulėjant naujoms technologijoms.
Jis teigė, kad rizika yra ta, jog žmonės bus sumažinti „iki krumpliaračių sistemoje, kuri siekia vis didesnio efektyvumo“.
Leo Leonas panaudojo du biblinius įvaizdžius, apibūdindamas žmonijos laukiantį pasirinkimą.
„Pagrindinis pasirinkimas yra ne tarp „taip“ arba „ne“ technologijoms, o tarp Babelio statybos ir Jeruzalės atstatymo“, – rašė jis.
Biblijoje Babelio bokštas simbolizuoja iš viršaus į apačią nukreiptą grandiozinį projektą, kuriame sprendimus lemia pasididžiavimas, pelnas ir siekis homogenizuoti, savo tekste užsiminė popiežius. Atstatant Jeruzalę įvairūs žmonės dirbo kartu, kad atkurtų sugriautas sienas ir jose įtvirtino brolišką sambūvį, pridūrė jis.
Leo enciklikos ilgai laukė politikos formuotojai, verslo lyderiai ir įvairios tikėjimo grupės, kurios Katalikų Bažnyčią, didžiausią krikščionišką denominaciją, laiko etinių technologijų politikos gairių šaltiniu.
Taip popiežius konkrečiai atkreipia dėmesį į privačius subjektus, kurie kuria dirbtinio intelekto sistemas, kurios transformuos visuomenę.
„Leo Leo DI iššūkį mato kaip pasirinkimą dėl jo dizaino ir dėl to, kas gali priimti šiuos pasirinkimus“, – sakė Vincentas Milleris, teologijos profesorius Deitono universitete Ohajuje.
Enciklika įkvėpta bažnyčios mąstymo apie tai, ką reiškia būti žmogumi, ir remiasi 2000 metų moraliniais ir socialiniais mokymais.
Ji taip pat yra dešimtmetį trukusio Vatikano ir Silicio slėnio dialogo apie dirbtinio intelekto keliamus etinius ir socialinius iššūkius rezultatas.
Pokalbiai su mokslininkais, politiniais lyderiais ir mokytojais privedė Leo prie nerimą keliančio įsitikinimo, pirmadienį sakė popiežius.
„Dirbtinį intelektą reikia nuginkluoti, išlaisvinti nuo logikos, kuri jį pavertė „dominavimo, atskirties ir mirties instrumentu“, – sakė jis. „Jis turi tarnauti visiems ir bendram labui.“
Enciklikos pristatyme Leoną lydėjo Christopheris Olah, dirbtinio intelekto įmonės „Anthropic“ bendraįkūrėjas ir saugumo tyrėjas. Ši įmonė bandė save pozicionuoti kaip dirbtinio intelekto saugumo šalininkę. Ji yra centrinė veikėja dirbtinio intelekto srityje, sparčiai auganti savo versle ir tampanti dirbtinio intelekto saugumo ir nacionalinio saugumo klausimų židinio tašku.
„Anthropic“ nagrinėjo filosofinius klausimus, pavyzdžiui, ar dirbtinio intelekto modeliai patiria sąmonę. Įmonėje dirba filosofas, kuris padeda įdiegti moralę savo dirbtiniame intelekte.
Planuojamas Olaho įtraukimas sulaukė kritikos, nes, regis, „Anthropic“ suteikiamas Vatikano moralinis pritarimas. Vatikano pareigūnai teigė, kad Olaho dalyvavimas nebuvo skirtas kaip pritarimas, o kaip gestas, kuriuo siekiama paskatinti dialogą su visa pramone.
Olah teigė, kad dirbtinio intelekto įmonės, įskaitant ir „Anthropic“, turi paskatų, kurios prieštarauja teisingam elgesiui: komercinis spaudimas, konkurencija, pasididžiavimas ir ambicijos.
„Mums visada įtakos turės šios paskatos.“ Olah sakė. Štai kodėl „nepaprastai svarbu, kad būtų žmonių, kurie nebūtų suinteresuoti šiomis paskatomis“, pavyzdžiui, bažnyčios vadovai, kurie reikalauja saugumo ir „kurie nori būti mūsų nuoširdžiais, apgalvotais kritikais“.
Susitikimas su popiežiumi tapo naujos kartos technologijų lyderių, įskaitant „Anthropic“ atstovą Dario Amodei, „Cohere“ atstovą Aidaną Gomezą ir aukščiausius „OpenAI“ pareigūnus, perėjimo ritualu. Demis Hassabis, paieškos milžinės dirbtinio intelekto padalinio „Google DeepMind“ vadovas, 2024 m. Vatikanas buvo paskirtas į Popiežiškąją mokslų akademiją.
Leo savo moralinį įkalbinėjimą papildo augantį nepasitenkinimą dirbtinio intelekto poveikiu.
JAV ir užsienyje darbuotojai nerimauja dėl darbo vietų praradimo. Kolegijų absolventai nušvilpia išleistuvių pranešėjus, kurie pamini dirbtinį intelektą. Gyventojai protestuoja prieš energiją eikvojančius duomenų centrus. Vyras metė Molotovo kokteilį į „OpenAI“ atstovo Samo Altmano namus.
Tai, kad kritika kyla iš pirmojo amerikiečio popiežiaus, yra priekaištas technologinei revoliucijai, kuri vyko JAV ir remiama prezidento Trumpo, kuris užsipuolė pontifiką už karo Irane kritiką.
Leo akcentuoja grėsmes individų žmogaus orumui ir nepritaria autonominiams ginklams, o tai prieštarauja technooptimistams, teigiantiems, kad dirbtinis intelektas (DI) sukels produktyvumo revoliuciją ir kad JAV turi panaudoti savo karinę pažangą anksčiau nei tokie konkurentai kaip Kinija.
Jis rašė, kad DI valdomos ginklų sistemos kelia grėsmę sumažinti moralinį jėgos panaudojimo slenkstį ir padaryti „karą labiau „įmanomą“ ir mažiau priklausomą nuo žmogaus kontrolės“.
Praėjusią savaitę Trumpas atidėjo vykdomąjį įsakymą, kuris būtų sukūręs savanorišką DI modelių testavimo procesą.
Leo enciklikoje teigė, kad reikia skubiai reguliuoti dirbtinį intelektą. „Nepakanka teoriškai remtis etika; reikalingos tvirtos teisinės sistemos, nepriklausoma priežiūra, informuoti vartotojai ir politinė sistema, kuri neatsisako savo atsakomybės“, – rašė jis.
Leo padarė dirbtinį intelektą savo pontifikato vizitine kortele. Praėjus kelioms dienoms po išrinkimo 2025 m. gegužę, jis Vatikane susirinkusiems kardinolams su raudonomis kepurėmis pasakė, kad pasirinko savo popiežiaus vardą kaip pagarbą Leonui XIII, XIX amžiaus popiežiui, kuris gynė darbininkus nuo savo epochos pramonės magnatų.
Dirbtinis intelektas, tuo metu sakė Leonas, reprezentuoja šiuolaikinės eros pramonės revoliuciją ir kelia „iššūkius žmogaus orumui, teisingumui ir darbui“.
Pirmadienio enciklika, pavadinta „Magnifica Humanitas“, buvo aiškiai įkvėpta Leono XIII novatoriškos 1891 m. enciklikos „Rerum Novarum“, lotyniškai reiškiančios „naujų dalykų“. Abu dokumentai buvo pasirašyti gegužės 15 d.
„Rerum Novarum“, kuriuo buvo remiami raginimai užtikrinti saugias darbo sąlygas ir priešintis turto koncentracijai, padėjo katalikų socialinio mokymo pamatus, padėdamas formuoti šiuolaikinės Europos politiką ir gerovės sistemas. Jis taip pat paruošė dirvą ambivalentiškam bažnyčios santykiui su kapitalizmu.
Popiežius masinio nedarbo, kurį sukelia skaitmeninės inovacijos, perspektyvą pavadino „tikra socialine katastrofa“. Jis pridūrė: „Technologijos niekada nebūna neutralios, nes jos įgauna jas kuriančių, finansuojančių, reguliuojančių ir naudojančių asmenų savybes“.
Leo pasmerkė technologinės revoliucijos sukurtą vergiją, įskaitant retųjų žemių kasyklose dirbančius darbininkus, nepakankamai apmokamus duomenų centrų darbuotojus ir internetinių nusikaltėlių tinklų išnaudojamą jaunimą.
Kartu jis pasinaudojo proga atsiprašyti už Šventojo Sosto vaidmenį įteisinant nekrikščionių pavergimą, kol XIX amžiuje jis nedviprasmiškai pasmerkė vergiją.
„Tai yra žaizda krikščioniškoje atmintyje, nuo kurios negalime laikyti savęs atitrūkusiais“, – sakė popiežius. „Bažnyčios vardu nuoširdžiai prašau atleidimo.“
Technologijų pramonės stebėtojai teigia, kad popiežius turi galią vadovauti kultūriniams pokyčiams, kaip mes mąstome apie DI, ir formuoti etikos sistemą, kurioje jis turėtų vystytis.
„Popiežius“, – sakė tikėjimo ir technologijų tyrėjas Glenas Weylas, – „šiuo metu yra bene svarbiausias asmuo pasaulyje DI srityje.“” [1]
1. Pope Compares AI With Biblical Threat. Stancati, Margherita; Schechner, Sam. Wall Street Journal, Eastern edition; New York, N.Y.. 26 May 2026: A1.
Komentarų nėra:
Rašyti komentarą