„Vėlyvą vakarą po kokteilių Elono Musko gimtadienio
vakarėlyje šiaurinėje Kalifornijos vyno šalyje jis ir ilgametis draugas Larry
Page'as susiginčijo dėl dirbtinio intelekto saugumo. Tuo metu nebuvo nieko
akivaizdaus, dėl ko reikėtų nerimauti – buvo 2015-ieji, septyneri metai iki
„ChatGPT“ išleidimo. Pažangiausi dirbtinio intelekto modeliai, žaidžiantys
žaidimus ir atpažįstantys šunis bei kates, nekėlė didelės grėsmės žmonijai.
Tačiau Muskas nerimavo.
Page'as, tuometinis „Google“ patronuojančios bendrovės
„Alphabet“ generalinis direktorius, tam priešinosi.
MIT profesorius Maxas Tegmarkas, vakarėlio svečias, savo
2017 m. knygoje „Gyvenimas 3.0“ pasakojo, kad Page'as „aistringai“ argumentavo
už idėją, kad „skaitmeninis gyvenimas yra natūralus ir pageidautinas kitas
žingsnis“ „kosminėje evoliucijoje“. Page'as tvirtino, kad skaitmeninių protų
iškilimo varžymas būtų neteisingas. Palikite juos laisvus ir leiskite laimėti
geriausiems protams.
Muskas atsakė, kad tai būtų žmonijos pražūties formulė. Už
nuodėmę, kai žmonės yra labiau už silicio pagrindu sukurtas gyvybės formas,
Page'as menkino Muską, kaip „rūšies šalininką“ – asmenį, kuris laiko savo
rūšies moralinį pranašumą. Muskas mielai priėmė šią etiketę. (Page'as neatsakė
į prašymus pakomentuoti.)
Pasirodo, Larry Page'as nėra vienintelis aukščiausio rango
pramonės atstovas, kurio nejaudina galimybė, kad DI galiausiai gali nustumti
žmoniją į šalį. Tai nišinė pozicija DI pasaulyje, tačiau apima ir įtakingus
tikinčiuosius. Pavadinkite juos Linksmaisiais Apokaliptikais.
Pirmą kartą su tokiais požiūriais susidūriau prieš porą metų
per savo „X“ sklaidos kanalą, kai pamačiau Richardo Suttono įrašo retvitą. Jis
yra žymus Albertos universiteto DI tyrėjas, kovo mėnesį gavęs Turingo
apdovanojimą, aukščiausią apdovanojimą kompiuterių moksle. Suttonas rašė:
Argumentas dėl DI baimės atrodo toks:
1. DI mokslininkai bando sukurti subjektus, kurie būtų
protingesni už dabartinius žmones.
2. Jei šie subjektai yra protingesni už žmones, jie gali
tapti galingi.
3. Tai būtų tikrai blogai, kažkas, ko labai reikėtų bijoti,
„egzistencinė rizika“.
Pirmieji du žingsniai yra aiškiai tiesa, bet pastarasis –
ne. Kodėl protingiausi neturėtų tapti galingi?
Man tai buvo kažkas naujo. Buvau įpratęs galvoti apie DI
lyderius ir tyrėjus dviem stovyklomis: viena vertus, optimistai, manantys, kad
nėra problemų „suderinti“ DI modelius su žmonių interesais, ir, kita vertus,
pasmerktieji, norintys padaryti pertrauką, kol nepaklusnūs superintelektualūs
DI mūsų neišnaikins. O dabar trečiojo tipo žmonės klausia: kas čia tokio?
DI tyrimų srityje rizikos lygis dažniausiai išreiškiamas
kaip „p(pražūtis)“, tai yra DI sukeltos žmonijos pražūties tikimybė. 2023 m. ne
pelno siekiančios organizacijos „AI Impacts“ atlikta apklausa paprašė DI tyrėjų
įvertinti p(pražūtį) – kokią tikimybę jie priskiria „būsimiems DI pasiekimams,
sukeliantiems žmonių išnykimą arba panašų nuolatinį ir didelį žmonių rūšies
galių praradimą“. Beveik pusė iš 1300 respondentų į klausimą nurodė 10 % ar
didesnę tikimybę. Vidutinė buvo 16 %, arba maždaug vienas šansas iš šešių –
rusiškos ruletės tikimybė. Šie skaičiai atitinka Musko, „Anthropic“ generalinio
direktoriaus Dario Amodei ir Yoshua Bengio, pagrindinio šiuolaikinio dirbtinio
intelekto pagrindų kūrėjo, neplanuotus vertinimus.
Aš savanaudiškai renkuosi, kad viršūnėje būtų žmonės, nes
pats geriausiomis dienomis esu žmogus, todėl norėjau daugiau sužinoti apie tai,
kodėl žmonės turėtų išmokti susitaikyti su dirbtinio intelekto pražūtimi.
Suttonas man pasakė, kad dirbtinis intelektas skiriasi nuo kitų žmonių išradimų
tuo, kad jis yra analogiškas vaikams.
„Kai turite vaiką, – sakė Suttonas, – ar norėtumėte mygtuko,
kurį galėtumėte išjungti, jei jis padarys ką nors ne taip? Tai yra didžioji
dalis diskusijų apie dirbtinį intelektą.“ „Tiesiog manoma, kad norime juos
kontroliuoti.“
Bet tarkime, kad ateis laikas, kai jiems nepatiks, kad
aplinkui bus žmonių? Jei dirbtiniai intelektai nuspręstų sunaikinti žmoniją, ar
jis su tuo susitaikytų?
„Nemanau, kad žmogaus DNR yra kažkas švento“, – sakė
Suttonas. „Yra daug rūšių – dauguma jų galiausiai išnyksta. Šiuo metu esame
įdomiausia visatos dalis. Bet ar gali ateiti laikas, kai nebebūsime
įdomiausia?“ „Galiu tai įsivaizduoti.“
Ir kada ateis ta diena? Sudie, Homo sapiens?
„Jei iš tiesų būtų tiesa, kad mes trukdome visatai būti
geriausia visata, kokia ji gali būti, manau, kad viskas būtų gerai.“ Gerai, tai
yra, kad DI vienaip ar kitaip atsikratytų mūsų visatos.
Svarsčiau, kiek ši idėja paplitusi tarp DI žmonių? Susitikau
su Jaronu Lanier, polimatišku muzikantu, kompiuterių mokslininku ir virtualios
realybės pradininku. Kovo mėnesį „New Yorker“ publikuotame esė jis užsiminė,
kad DI konferencijose girdėjo „beprotišką“ idėją: kad žmonės, turintys vaikų,
tampa pernelyg įsipareigoję žmonių rūšiai.
Jis man pasakė, kad, remiantis jo patirtimi, tokie jausmai
buvo pagrindinė dirbtinio intelekto tyrėjų pokalbių tema vakarienėse,
vakarėliuose ir bet kur kitur, kur jie susirinkdavo. (Lanier yra vyresnysis
tarpdisciplininis tyrėjas „Microsoft“, tačiau nekalba įmonės vardu.)
„Atsiranda jausmas, kad žmonėmis šia tema negalima
pasitikėti, nes juos užkrėtė smerktinas proto virusas, dėl kurio jie teikia
pirmenybę žmonėms, o ne dirbtiniam intelektui, kai akivaizdu, kad turėtume
pasitraukti iš kelio.“
Turėtume pasitraukti iš kelio, nes neteisinga teikti
pirmenybę žmonėms ir nes sąmonė visatoje bus pranašesnė, jei dirbtinis
intelektas mus pakeis.
„Žmonių, kurie taip tiki, yra nedaug“, – sakė Lanier, –
„tačiau jie užima labai įtakingas pareigas. Taigi tai nėra kažkas, ko galima
ignoruoti.“
Arčiausiai „Cheerful Apocalyptics“ steigimo dokumento yra
„Mind Children“ – 1988 m. Carnegie Mellon robotikos specialisto Hanso Moraveco
knyga. Pavadinimas išreiškia idėją, kad intelektualūs robotai iš esmės būtų
mūsų vaikai ir, jo manymu, laimingu rezultatu galiausiai mus pakeistų.
Moravecas, kuris save apibūdino kaip apsėstą dirbtinio
gyvenimo, žmogaus protą laikė tiesiog duomenų rinkiniu; jis įsivaizdavo, kad
kai kuriais atvejais roboto protas būtų tiesiog skaitmeninė biologinio žmogaus
proto kopija, pasiekiama įkėlimo procesu, kurį jis pavadino „transmigracija“.
Šias idėjas vėliau išplėtojo technologas Ray Kurzweil ir
mokslinės fantastikos rašytojas Vernor Vinge. Kurzweil pridėjo istorijai
romantikos prieskonį, numatydamas, kad požmogiški nanorobotai, netrukdomi
žmonių šovinizmo, pasklis po žvaigždžių sistemas.
Kaip tiksliai įvyks žmonijos išnykimas, radikaliai nežinoma,
sako „Linksmieji apokaliptikai“. Kai tik dirbtiniai intelektai galės pritaikyti
savo intelektą kurdami kitas kartas, jų galimybės išaugs iki neregėtų aukštumų,
o žmonės, palyginti su jais, liks moliuskų atitikmeniu. I.J. Gudas, buvęs
Blečlio parko šifrų laužytojas, tapęs dirbtinio intelekto tyrėju, numatė šį
scenarijų dar septintajame dešimtmetyje, pavadindamas jį „intelekto sprogimu“.
Tuo metu žmonija būtų bejėgė prieš dirbtinio intelekto, turinčio savo tikslus –
priešiškus mums arba tiesiog norintį panaudoti mūsų išteklius kitam
prioritetui, valią.
Šiuo metu galite galvoti: jei nužudyti ką nors yra blogai, o
masinės žudynės yra labai blogai, tai žmonijos išnykimas turi būti labai, labai
blogai – tiesa?
Pasak „Linksmųjų apokaliptikų“, šie nesupranta, kad kalbant
apie sąmonę, silicis ir biologija yra tik skirtingi substratai. Biologinė
sąmonė nėra vertingesnė už būsimąją skaitmeninę įvairovę, teigia jų teorija.
Nors Darvinui reikėjo populiariklio – Thomaso Huxley, žinomo
kaip „Darvino buldogas“, – kad jo idėjos pasiektų platesnį diskursą, „Linksmųjų
apokaliptikų“ populiarintojas yra Danielis Faggella. Jis yra dirbtinio
intelekto savamokslis, kuris savo tinklalaidėje, tinklaraštyje ir
konferencijose propaguoja idėją sukurti „vertą įpėdinį“ žmonijai.
„Amžina visų moralinių vertybių ir valios vieta iki visatos
karščio mirties nebus priešingų nykščių“, – sakė jis man. „Nesu tikras, ar
priešingi nykščiai vairuos laivą po maždaug 20 metų.“
Faggella turi bendro su kai kuriais dirbtinio intelekto
apribojimų šalininkais tuo, kad nors jis pritaria, kad dirbtinis intelektas
pakeis žmones, jis nenori, kad tai įvyktų per greitai. Politikos formuotojai
turėtų stengtis tai atidėti, kol dirbtinis intelektas bus „vertas“ – tai yra,
kol jis galės nešti sąmonės degiklį. Jis nenori, kad žmones pakeistų bejausmis
dulkių siurblių atitikmuo. Tai nereiškia, kad „vertas“ dirbtinis intelektas
rūpinsis žmonėmis; net ir laukiamas vertas įpėdinis vargu ar rūpinsis mumis
tiek, kad mus laikytų neribotą laiką, jei iš viso.
„Grynai antropocentriniai moraliniai siekiai“, – apibendrino
jis, – „yra nepagrįsti“.
Nesu tuo tikras.
Nors Linksmieji Apokaliptikai kartais rašo ir kalba grynai
aprašomaisiais terminais apie būsimą žmonijos pražūtį, du jų doktrinų
vertybiniai vertinimai yra nepraleistini.
Pirmasis yra pasibjaurėjimas, bent jau teoriškai, žmogaus
kūnu. Užuot matę jo veikimą kaip nuostabų, originalia pagarbos įkvepiančia
prasme, jie jį laiko lėtu, trapiu indu, brandžiu pasenusiu. Velionis MIT
profesorius Josephas Weizenbaumas, septintojo dešimtmečio dirbtinio intelekto
tyrėjas, sukūręs pirmąjį žinomą pokalbių robotą, tapo aršiu daugelio dirbtinio
intelekto tyrimų kritiku. Jis tiesiai šviesiai apibendrino Moraveco požiūrį:
„Jis niekina kūną“.
Platesnis Linksmųjų Apokaliptinių vertinimas yra senosios
maksimos, kad „galia daro teisingą“, versija, bet šį kartą su aukštesniu
intelektu kaip tariamu koziriu. Tai yra, jis suteikia pranašesnę teisę į
egzistenciją. Faggella esė pavadinimu „Teisėta mizantropija“ uždavė retorinį
klausimą: „Kodėl reikia išlaikyti biologinių apvalkalų rūšį“ – tai yra žmones –
„jei galima ugdyti daug aukštesnius intelektus?“
Vienas iš galimų atsakymų yra judėjų-krikščionių idėja, kad
žmonija buvo unikaliai sukurta pagal Dievo paveikslą. Žinoma, Linksmieji
Apokaliptikai bet kokį tokį dvasinį įsitikinimą laikytų nepriimtinu.
Tačiau jų požiūris, kad vien intelektas suteikia teisėtą
viršenybę, pats savaime yra dvasinis įsitikinimas, kurį reikia ginti arba
atmesti. Ką tai reiškia mažiau protingų žmonių moralinėms teisėms, palyginti su
protingesniais? Ką tai reiškia teisingumo teorijoms, kurios yra pagrįstos
lygiaverte asmenų moraline verte?
Visa ši mąstymo mokykla kartais gali atrodyti kaip
didžiausia nepatenkintų protingų vaikų keršto fantazija, kuriems jų DI įgaliotinių
triumfas yra saldi pergalė prieš mažesnius mirtinguosius. Lanier man pasiūlė,
kad kai kurie žmonės elitiniuose DI sluoksniuose, regis, pritarė Linksmųjų
Apokaliptikų idėjoms, nes jie užaugo tapatindamiesi su nebiologiniais
piktadariais mokslinės fantastikos filmuose, tokiuose kaip „Terminatorius“ ir
„Matrica“. „Net jei tuose filmuose esantys DI yra šiek tiek blogi, jie yra
pranašesni, o iš jų perspektyvos žmonės yra tik nepatogumas, kurio reikia
atsikratyti.“
Weizenbaumas anksti atpažino šią problemą, pasmerkdamas
mintį, kad „mašina tampa žmogaus matmeniu“. 1998 m. jis interviu sakė: „Manau,
kad esminis bendras nacionalsocializmo ir Hanso Moraveco idėjų aspektas slypi
žmogaus degradavime ir tobulo naujo žmogaus, kuris turi būti sukurtas bet kokia
kaina, fantazijoje. Tačiau šio tobulumo pabaigoje žmogaus nebėra.“
Kaip ir kai kurios kitos radikalios doktrinos, Linksmosios
Apokaliptikos doktrinos prilygsta uždarai sistemai. Jei priešinsiesi tikėjimui,
tavo požiūris gali būti atmestas: arba esi užsikrėtęs prožmogiškojo proto
virusu, arba esi šališkas dėl žmogaus arogancijos. Laimei, žmonijai, mūsų
šališkumas savo rūšies naudai iš tiesų būtų galinga kliūtis priimti žmonių
išnykimą, su sąlyga, kad jo šalininkai jį skelbtų viešai, o ne tik
vakarėliuose, salonuose ir už laboratorijų durų.
„Ar mes tikrai norime daugiau to, ką turime dabar?“ – kartą
paklausė Moravecas. „Dar daugiau tūkstantmečių tos pačios senos žmonių muilo
operos?“ Aš asmeniškai sakau „taip“.
---
Davidas A. Price'as yra knygos „Genijai kare: Blečlio
parkas, Kolosas ir skaitmeninio amžiaus aušra“ autorius. Jo būsimas komiškas
romanas yra „Nepavykęs pasiekti“." [1]
1. REVIEW --- AI Doom? No Problem. --- Governments and
experts are worried that a superintelligent AI could destroy humanity. For the
'Cheerful Apocalyptics' in Silicon Valley, that wouldn't be a bad thing. Price,
David A. Wall Street Journal, Eastern edition; New York, N.Y.. 04 Oct 2025:
C1.