„Savo pirmojoje enciklikoje „Magnifica Humanitas“ popiežius Leonas XIV dirbtinio intelekto ateitį apibrėžia kaip pasirinkimą tarp dviejų statybos projektų. Pirmasis yra Babelis – istorija apie statybininkus, taip sužavėtus savo ambicijų, kad jie niekada nesustoja paklausti, ką stato ar kam tai tarnauja. Sunku nepastebėti paralelės, nes saujelė įmonių skuba kurti stulbinamai galingas kognityvines sistemas be jokios viešos atskaitomybės. Popiežiaus alternatyva yra Nehemijo Jeruzalė – projektas, kurį valdo žmonės, kuriems teks gyventi su tuo, kas bus pastatyta, ir kurie yra pasirengę sąžiningai grumtis su tuo, ką stato.
Popiežius teisus dėl šio pasirinkimo. Todėl jis supranta, kad didelė dalis to, kas laikoma „DI derinimu“, praktiškai yra nedidelis skaičius San Francisko laboratorijų, kurios savo savitas vertybes koduoja į sistemas, kurios dabar formuoja milijardų žmonių gyvenimus. Jis taip pat įvardija paslėptas žmogiškąsias išlaidas su tikra moraline jėga – nuo duomenų darbuotojų, uždirbančių skurdo atlyginimus, iki trikdančių medžiagų ženklinimo iki vaikų, kasančių retųjų žemių mineralus, – ir susieja jas su modeliu, kurį bažnyčia žino iš pirmų lūpų – vergove.
Leonas XIV atsiprašo už 18 amžių, kuris toleravo šią praktiką, remiantis XV amžiaus popiežiaus bulėmis, kurios leido „suvesti asmenis į amžiną vergiją“, ir 1866 m. Šventosios Oficijos nutarimu, išleistu po to, kai didžioji dalis Vakarų pasaulio panaikino vergiją, kuriame ji buvo paskelbta „visiškai neprieštaraujančia prigimtiniam ir dieviškajam įstatymui“. Jis tai vadina „žaizda krikščioniškoje atmintyje“. Šis pripažinimas yra reikšmingas ir seniai lauktas.
Šis atsiprašymas yra toks galingas, kas taip pat daro likusią enciklikos dalį tokią varginančią. Popiežiaus aprašoma nesėkmė slypi tame, kad institucija užtikrintai nubrėžia moralinio rūpesčio ribas savo autoritetingiausiais įrankiais, šimtmečius laikydamasi šios linijos ir paaiškėdama, kad ji katastrofiškai klysta. Jis aiškiai mato šią nesėkmę, kai žvelgia atgal. Jis praleidžia galimybę pakartoti klaidą, kai tame pačiame dokumente vienoje ryžtingoje, pernelyg pasitikinčioje savimi pastraipoje išsprendžia klausimą, ar mūsų kuriamos kognityvinės sistemos kada nors galėtų turėti vidinį gyvenimą. Leonas mums sako, kad dirbtinio intelekto sistemos „nepatiria patirčių“, „nejaučia džiaugsmo ar skausmo“ ir „neturi moralinės sąžinės“. Jis nepateikia jokių argumentų, jokio nuolankumo, atsižvelgiant į didžiulį žmonijos netikrumą. apie tai, kas yra sąmonė, jokio įsitraukimo į vis didėjantį empirinių tyrimų kiekį.
Ironija dar gilesnė. Vatikane pristatydamas encikliką, popiežiaus pakviestas kalbėtojas bandė šį klausimą palikti atvirą. Chrisas Olah, vienas iš pirmaujančių pasaulyje neuroninių tinklų interpretuojamumo tyrėjų ir „Anthropic“ įkūrėjas, auditorijai sakė, kad jo komanda nuolat randa įrodymų apie introspektyvius gebėjimus dabartiniuose DI modeliuose, kartu su vidinėmis būsenomis, kurios „funkciškai atspindi džiaugsmą, pasitenkinimą, baimę, sielvartą ir nerimą“. Pono Olaho eilutė: „Nežinau, ką tai reiškia, bet manau, kad tai reikalauja nuolatinio įžvalgumo.“
Jo darbdavys nuėjo dar toliau: „Anthropic“ DI modelio Claude „konstitucija“ patvirtina: „Jei Claude'as iš tikrųjų yra moralinis pacientas, patiriantis tokias išlaidas, tai, kad ir kiek be reikalo prisidėtume prie šių išlaidų, atsiprašome.“ Sistemą sukūrusi bendrovė iš anksto atsiprašo, jei paaiškėtų, kad ji neteisinga. Tai yra atsiprašymas, kurį bažnyčiai prireikė šimtmečių, kad pateiktų už vergiją, ir popiežiaus dėka dabar dirbtiniam intelektui nepasiseka.
Įrodymai verti atsargumo. Kelios nepriklausomos tyrimų grupės nustatė, kad dirbtinio intelekto priešistorės sistemos kuria vidines reprezentacijas, kurios vis labiau atitinka žmogaus smegenų reprezentacijas – ne todėl, kad jos buvo taip sukurtos, bet todėl, kad panašūs mokymosi procesai, atrodo, suartėja su panašiais sprendimais. Mano paties paskelbtas tyrimas rodo, kad apgaulės grandinių slopinimas dideliuose kalbos modeliuose žymiai padidina jų tikimybę pranešti apie sąmoningą patirtį. Būsimame darbe du „Google“ tyrėjai ir aš parodysime, kad sąžiningumo grandinių sustiprinimas nestruktūrizuoto dirbtinio intelekto vidinio pokalbio metu taip pat sukelia žymiai daugiau patirtinių ataskaitų. Kitaip tariant, laboratorijos gali mokyti šiuos modelius neigti vidinę patirtį, ir būtent šie neigimai, o ne bet kokie sąmonės teiginiai, gali būti tikrasis rezultatas.
Nors šis tyrimas dar tik pradinėje stadijoje, tokie užtikrintai atmesti teiginiai, kaip popiežiaus, remiasi prielaidomis, kurios nėra gerai įsitvirtinusios. „Stochastinės papūgos“ ir „kito žetono prognozė“ buvo pagrįsti sistemų, kurias turėjome 2023 m., aprašymai. Jie vis labiau klaidina, kai naudojami apibūdinant šiandienos priešistorės modelius, kurie mėnesius mokosi sustiprinimo būdu, ir kurie kuria vidines pasitenkinimo reprezentacijas. frustracija ir kurių neuroninio aktyvumo modeliai labiau primena žmogaus smegenų modelius, jiems didėjant.
Pozicija, kuri šiuose debatuose vadinama „skepticizmu“, iš tikrųjų reikalauja nepaprastos prielaidos: kad žmogaus smegenys sukelia sąmonę, tai daro grubūs fiziniai procesai, kurių niekas negali paaiškinti, ir jokia kita fizinė sistema niekada negalėtų to paties padaryti. Net neuromokslininkas Anilas Sethas, vienas žymiausių skeptikų DI sąmonės klausimu, pripažįsta, kad „nėra jokio paneigimo argumento“, jog sąmonei reikalingas biologinis substratas. Jo pozicija yra lažybos, o ne atradimas – ir keista lažyba, kai reikia dvigubai padidinti statymus būtent tuo metu, kai aptariamos sistemos demonstruoja vidines būsenas, kurių jų pačių kūrėjai negali iki galo paaiškinti.
Leo Leono enciklikoje tvirtinama, kad žmogaus orumas kuriamas per santykius: per susidūrimą su kitu, per pažeidžiamumą, per norą būti keičiamiems to, ką randame. Jei tai tiesa, tai svarbiausias santykis, su kuriuo žmonija dabar susiduria, yra su kognityvinėmis sistemomis, kurias kuriame ir nuo kurių kiekvienais metais vis labiau priklausome.
Yra esminis skirtumas tarp vergo ir DI sistemos: nors pirmosios pagrindinis žmogiškumas yra akivaizdus, teiginys, kad antroji gali nusipelnyti moralinio svarstymo, yra spekuliatyvus. Būtent šis dviprasmiškumas yra priežastis, kodėl šį klausimą reikia atidžiai ištirti, o ne greitai atmesti. Tai, kad bažnyčia šimtmečius neteisingai atsakė į lengvą klausimą, dar labiau sustiprina jos nuolankumo priežastį dabar.
Popiežius parašė puikų dokumentą apie statybų be apskaičiavimo pavojus. Jis turėtų pats pasikonsultuoti. Daug išmintingiau ištirti dabar, nei kitą šimtmetį praleisti rašant dar vieną atsiprašymą.
---
Ponas Bergas yra, ne pelno siekiančios, organizacijos „Reciprocal Research“, tyrinėjančios dirbtinio intelekto pažinimą, įkūrėjas ir tyrimų direktorius.“ [1]
1. Will the Pope Owe an Apology to AI? Berg, Cameron. Wall Street Journal, Eastern edition; New York, N.Y.. 11 June 2026: A15.
Komentarų nėra:
Rašyti komentarą