„Vėlyvą vakarą po kokteilių Elono Musko gimtadienio vakarėlyje šiaurinėje Kalifornijos vyno šalyje jis ir ilgametis draugas Larry Page'as susiginčijo dėl dirbtinio intelekto saugumo. Tuo metu nebuvo nieko akivaizdaus, dėl ko reikėtų nerimauti – buvo 2015-ieji, septyneri metai iki „ChatGPT“ išleidimo. Pažangiausi dirbtinio intelekto modeliai, žaidžiantys žaidimus ir atpažįstantys šunis bei kates, nekėlė didelės grėsmės žmonijai. Tačiau Muskas nerimavo.
Page'as, tuometinis „Google“ patronuojančios bendrovės „Alphabet“ generalinis direktorius, tam priešinosi.
MIT profesorius Maxas Tegmarkas, vakarėlio svečias, savo 2017 m. knygoje „Gyvenimas 3.0“ pasakojo, kad Page'as „aistringai“ argumentavo už idėją, kad „skaitmeninis gyvenimas yra natūralus ir pageidautinas kitas žingsnis“ „kosminėje evoliucijoje“. Page'as tvirtino, kad skaitmeninių protų iškilimo varžymas būtų neteisingas. Palikite juos laisvus ir leiskite laimėti geriausiems protams.
Muskas atsakė, kad tai būtų žmonijos pražūties formulė. Už nuodėmę, kai žmonės yra labiau už silicio pagrindu sukurtas gyvybės formas, Page'as menkino Muską, kaip „rūšies šalininką“ – asmenį, kuris laiko savo rūšies moralinį pranašumą. Muskas mielai priėmė šią etiketę. (Page'as neatsakė į prašymus pakomentuoti.)
Pasirodo, Larry Page'as nėra vienintelis aukščiausio rango pramonės atstovas, kurio nejaudina galimybė, kad DI galiausiai gali nustumti žmoniją į šalį. Tai nišinė pozicija DI pasaulyje, tačiau apima ir įtakingus tikinčiuosius. Pavadinkite juos Linksmaisiais Apokaliptikais.
Pirmą kartą su tokiais požiūriais susidūriau prieš porą metų per savo „X“ sklaidos kanalą, kai pamačiau Richardo Suttono įrašo retvitą. Jis yra žymus Albertos universiteto DI tyrėjas, kovo mėnesį gavęs Turingo apdovanojimą, aukščiausią apdovanojimą kompiuterių moksle. Suttonas rašė:
Argumentas dėl DI baimės atrodo toks:
1. DI mokslininkai bando sukurti subjektus, kurie būtų protingesni už dabartinius žmones.
2. Jei šie subjektai yra protingesni už žmones, jie gali tapti galingi.
3. Tai būtų tikrai blogai, kažkas, ko labai reikėtų bijoti, „egzistencinė rizika“.
Pirmieji du žingsniai yra aiškiai tiesa, bet pastarasis – ne. Kodėl protingiausi neturėtų tapti galingi?
Man tai buvo kažkas naujo. Buvau įpratęs galvoti apie DI lyderius ir tyrėjus dviem stovyklomis: viena vertus, optimistai, manantys, kad nėra problemų „suderinti“ DI modelius su žmonių interesais, ir, kita vertus, pasmerktieji, norintys padaryti pertrauką, kol nepaklusnūs superintelektualūs DI mūsų neišnaikins. O dabar trečiojo tipo žmonės klausia: kas čia tokio?
DI tyrimų srityje rizikos lygis dažniausiai išreiškiamas kaip „p(pražūtis)“, tai yra DI sukeltos žmonijos pražūties tikimybė. 2023 m. ne pelno siekiančios organizacijos „AI Impacts“ atlikta apklausa paprašė DI tyrėjų įvertinti p(pražūtį) – kokią tikimybę jie priskiria „būsimiems DI pasiekimams, sukeliantiems žmonių išnykimą arba panašų nuolatinį ir didelį žmonių rūšies galių praradimą“. Beveik pusė iš 1300 respondentų į klausimą nurodė 10 % ar didesnę tikimybę. Vidutinė buvo 16 %, arba maždaug vienas šansas iš šešių – rusiškos ruletės tikimybė. Šie skaičiai atitinka Musko, „Anthropic“ generalinio direktoriaus Dario Amodei ir Yoshua Bengio, pagrindinio šiuolaikinio dirbtinio intelekto pagrindų kūrėjo, neplanuotus vertinimus.
Aš savanaudiškai renkuosi, kad viršūnėje būtų žmonės, nes pats geriausiomis dienomis esu žmogus, todėl norėjau daugiau sužinoti apie tai, kodėl žmonės turėtų išmokti susitaikyti su dirbtinio intelekto pražūtimi. Suttonas man pasakė, kad dirbtinis intelektas skiriasi nuo kitų žmonių išradimų tuo, kad jis yra analogiškas vaikams.
„Kai turite vaiką, – sakė Suttonas, – ar norėtumėte mygtuko, kurį galėtumėte išjungti, jei jis padarys ką nors ne taip? Tai yra didžioji dalis diskusijų apie dirbtinį intelektą.“ „Tiesiog manoma, kad norime juos kontroliuoti.“
Bet tarkime, kad ateis laikas, kai jiems nepatiks, kad aplinkui bus žmonių? Jei dirbtiniai intelektai nuspręstų sunaikinti žmoniją, ar jis su tuo susitaikytų?
„Nemanau, kad žmogaus DNR yra kažkas švento“, – sakė Suttonas. „Yra daug rūšių – dauguma jų galiausiai išnyksta. Šiuo metu esame įdomiausia visatos dalis. Bet ar gali ateiti laikas, kai nebebūsime įdomiausia?“ „Galiu tai įsivaizduoti.“
Ir kada ateis ta diena? Sudie, Homo sapiens?
„Jei iš tiesų būtų tiesa, kad mes trukdome visatai būti geriausia visata, kokia ji gali būti, manau, kad viskas būtų gerai.“ Gerai, tai yra, kad DI vienaip ar kitaip atsikratytų mūsų visatos.
Svarsčiau, kiek ši idėja paplitusi tarp DI žmonių? Susitikau su Jaronu Lanier, polimatišku muzikantu, kompiuterių mokslininku ir virtualios realybės pradininku. Kovo mėnesį „New Yorker“ publikuotame esė jis užsiminė, kad DI konferencijose girdėjo „beprotišką“ idėją: kad žmonės, turintys vaikų, tampa pernelyg įsipareigoję žmonių rūšiai.
Jis man pasakė, kad, remiantis jo patirtimi, tokie jausmai buvo pagrindinė dirbtinio intelekto tyrėjų pokalbių tema vakarienėse, vakarėliuose ir bet kur kitur, kur jie susirinkdavo. (Lanier yra vyresnysis tarpdisciplininis tyrėjas „Microsoft“, tačiau nekalba įmonės vardu.)
„Atsiranda jausmas, kad žmonėmis šia tema negalima pasitikėti, nes juos užkrėtė smerktinas proto virusas, dėl kurio jie teikia pirmenybę žmonėms, o ne dirbtiniam intelektui, kai akivaizdu, kad turėtume pasitraukti iš kelio.“
Turėtume pasitraukti iš kelio, nes neteisinga teikti pirmenybę žmonėms ir nes sąmonė visatoje bus pranašesnė, jei dirbtinis intelektas mus pakeis.
„Žmonių, kurie taip tiki, yra nedaug“, – sakė Lanier, – „tačiau jie užima labai įtakingas pareigas. Taigi tai nėra kažkas, ko galima ignoruoti.“
Arčiausiai „Cheerful Apocalyptics“ steigimo dokumento yra „Mind Children“ – 1988 m. Carnegie Mellon robotikos specialisto Hanso Moraveco knyga. Pavadinimas išreiškia idėją, kad intelektualūs robotai iš esmės būtų mūsų vaikai ir, jo manymu, laimingu rezultatu galiausiai mus pakeistų.
Moravecas, kuris save apibūdino kaip apsėstą dirbtinio gyvenimo, žmogaus protą laikė tiesiog duomenų rinkiniu; jis įsivaizdavo, kad kai kuriais atvejais roboto protas būtų tiesiog skaitmeninė biologinio žmogaus proto kopija, pasiekiama įkėlimo procesu, kurį jis pavadino „transmigracija“.
Šias idėjas vėliau išplėtojo technologas Ray Kurzweil ir mokslinės fantastikos rašytojas Vernor Vinge. Kurzweil pridėjo istorijai romantikos prieskonį, numatydamas, kad požmogiški nanorobotai, netrukdomi žmonių šovinizmo, pasklis po žvaigždžių sistemas.
Kaip tiksliai įvyks žmonijos išnykimas, radikaliai nežinoma, sako „Linksmieji apokaliptikai“. Kai tik dirbtiniai intelektai galės pritaikyti savo intelektą kurdami kitas kartas, jų galimybės išaugs iki neregėtų aukštumų, o žmonės, palyginti su jais, liks moliuskų atitikmeniu. I.J. Gudas, buvęs Blečlio parko šifrų laužytojas, tapęs dirbtinio intelekto tyrėju, numatė šį scenarijų dar septintajame dešimtmetyje, pavadindamas jį „intelekto sprogimu“. Tuo metu žmonija būtų bejėgė prieš dirbtinio intelekto, turinčio savo tikslus – priešiškus mums arba tiesiog norintį panaudoti mūsų išteklius kitam prioritetui, valią.
Šiuo metu galite galvoti: jei nužudyti ką nors yra blogai, o masinės žudynės yra labai blogai, tai žmonijos išnykimas turi būti labai, labai blogai – tiesa?
Pasak „Linksmųjų apokaliptikų“, šie nesupranta, kad kalbant apie sąmonę, silicis ir biologija yra tik skirtingi substratai. Biologinė sąmonė nėra vertingesnė už būsimąją skaitmeninę įvairovę, teigia jų teorija.
Nors Darvinui reikėjo populiariklio – Thomaso Huxley, žinomo kaip „Darvino buldogas“, – kad jo idėjos pasiektų platesnį diskursą, „Linksmųjų apokaliptikų“ populiarintojas yra Danielis Faggella. Jis yra dirbtinio intelekto savamokslis, kuris savo tinklalaidėje, tinklaraštyje ir konferencijose propaguoja idėją sukurti „vertą įpėdinį“ žmonijai.
„Amžina visų moralinių vertybių ir valios vieta iki visatos karščio mirties nebus priešingų nykščių“, – sakė jis man. „Nesu tikras, ar priešingi nykščiai vairuos laivą po maždaug 20 metų.“
Faggella turi bendro su kai kuriais dirbtinio intelekto apribojimų šalininkais tuo, kad nors jis pritaria, kad dirbtinis intelektas pakeis žmones, jis nenori, kad tai įvyktų per greitai. Politikos formuotojai turėtų stengtis tai atidėti, kol dirbtinis intelektas bus „vertas“ – tai yra, kol jis galės nešti sąmonės degiklį. Jis nenori, kad žmones pakeistų bejausmis dulkių siurblių atitikmuo. Tai nereiškia, kad „vertas“ dirbtinis intelektas rūpinsis žmonėmis; net ir laukiamas vertas įpėdinis vargu ar rūpinsis mumis tiek, kad mus laikytų neribotą laiką, jei iš viso.
„Grynai antropocentriniai moraliniai siekiai“, – apibendrino jis, – „yra nepagrįsti“.
Nesu tuo tikras.
Nors Linksmieji Apokaliptikai kartais rašo ir kalba grynai aprašomaisiais terminais apie būsimą žmonijos pražūtį, du jų doktrinų vertybiniai vertinimai yra nepraleistini.
Pirmasis yra pasibjaurėjimas, bent jau teoriškai, žmogaus kūnu. Užuot matę jo veikimą kaip nuostabų, originalia pagarbos įkvepiančia prasme, jie jį laiko lėtu, trapiu indu, brandžiu pasenusiu. Velionis MIT profesorius Josephas Weizenbaumas, septintojo dešimtmečio dirbtinio intelekto tyrėjas, sukūręs pirmąjį žinomą pokalbių robotą, tapo aršiu daugelio dirbtinio intelekto tyrimų kritiku. Jis tiesiai šviesiai apibendrino Moraveco požiūrį: „Jis niekina kūną“.
Platesnis Linksmųjų Apokaliptinių vertinimas yra senosios maksimos, kad „galia daro teisingą“, versija, bet šį kartą su aukštesniu intelektu kaip tariamu koziriu. Tai yra, jis suteikia pranašesnę teisę į egzistenciją. Faggella esė pavadinimu „Teisėta mizantropija“ uždavė retorinį klausimą: „Kodėl reikia išlaikyti biologinių apvalkalų rūšį“ – tai yra žmones – „jei galima ugdyti daug aukštesnius intelektus?“
Vienas iš galimų atsakymų yra judėjų-krikščionių idėja, kad žmonija buvo unikaliai sukurta pagal Dievo paveikslą. Žinoma, Linksmieji Apokaliptikai bet kokį tokį dvasinį įsitikinimą laikytų nepriimtinu.
Tačiau jų požiūris, kad vien intelektas suteikia teisėtą viršenybę, pats savaime yra dvasinis įsitikinimas, kurį reikia ginti arba atmesti. Ką tai reiškia mažiau protingų žmonių moralinėms teisėms, palyginti su protingesniais? Ką tai reiškia teisingumo teorijoms, kurios yra pagrįstos lygiaverte asmenų moraline verte?
Visa ši mąstymo mokykla kartais gali atrodyti kaip didžiausia nepatenkintų protingų vaikų keršto fantazija, kuriems jų DI įgaliotinių triumfas yra saldi pergalė prieš mažesnius mirtinguosius. Lanier man pasiūlė, kad kai kurie žmonės elitiniuose DI sluoksniuose, regis, pritarė Linksmųjų Apokaliptikų idėjoms, nes jie užaugo tapatindamiesi su nebiologiniais piktadariais mokslinės fantastikos filmuose, tokiuose kaip „Terminatorius“ ir „Matrica“. „Net jei tuose filmuose esantys DI yra šiek tiek blogi, jie yra pranašesni, o iš jų perspektyvos žmonės yra tik nepatogumas, kurio reikia atsikratyti.“
Weizenbaumas anksti atpažino šią problemą, pasmerkdamas mintį, kad „mašina tampa žmogaus matmeniu“. 1998 m. jis interviu sakė: „Manau, kad esminis bendras nacionalsocializmo ir Hanso Moraveco idėjų aspektas slypi žmogaus degradavime ir tobulo naujo žmogaus, kuris turi būti sukurtas bet kokia kaina, fantazijoje. Tačiau šio tobulumo pabaigoje žmogaus nebėra.“
Kaip ir kai kurios kitos radikalios doktrinos, Linksmosios Apokaliptikos doktrinos prilygsta uždarai sistemai. Jei priešinsiesi tikėjimui, tavo požiūris gali būti atmestas: arba esi užsikrėtęs prožmogiškojo proto virusu, arba esi šališkas dėl žmogaus arogancijos. Laimei, žmonijai, mūsų šališkumas savo rūšies naudai iš tiesų būtų galinga kliūtis priimti žmonių išnykimą, su sąlyga, kad jo šalininkai jį skelbtų viešai, o ne tik vakarėliuose, salonuose ir už laboratorijų durų.
„Ar mes tikrai norime daugiau to, ką turime dabar?“ – kartą paklausė Moravecas. „Dar daugiau tūkstantmečių tos pačios senos žmonių muilo operos?“ Aš asmeniškai sakau „taip“.
---
Davidas A. Price'as yra knygos „Genijai kare: Blečlio parkas, Kolosas ir skaitmeninio amžiaus aušra“ autorius. Jo būsimas komiškas romanas yra „Nepavykęs pasiekti“." [1]
1. REVIEW --- AI Doom? No Problem. --- Governments and experts are worried that a superintelligent AI could destroy humanity. For the 'Cheerful Apocalyptics' in Silicon Valley, that wouldn't be a bad thing. Price, David A. Wall Street Journal, Eastern edition; New York, N.Y.. 04 Oct 2025: C1.
Komentarų nėra:
Rašyti komentarą