„Įsivaizduokite, kad amerikiečiams pasiūlomas toks sandoris: paspaudžiate didelį raudoną mygtuką, ir Kinija tampa pirmąja pasaulio „hipergalia“. Ji staigiai aplenkia Jungtines Valstijas pagal technologinį sudėtingumą, gamybos pajėgumus ir turto kūrimą. Kinija tampa tokia technologiškai pažangi, o jos žmogiškoji ir robotizuota darbo jėga – tokia milžiniška, kad amerikiečiams telieka tik labai neryškus supratimas apie tai, kas vyksta ekonomikos, mokslo ir galbūt net geopolitikos priešakyje.
Tačiau atlygis už tai, kad atsisakome galios, – tiesiog nuostabus. Pasaulio ekonomika klesti, o amerikiečiai tampa turtingesni nei bet kada anksčiau. Gauname naujų vaistų, pigios energijos ir stulbinančių pramogų. Mašinos atlieka visą darbą, o nuotaiką gerinantys preparatai saugo mūsų psichiką. Mums nebereikia vargti – galbūt net nebereikia dirbti, – kad galėtume gyventi ilgą, prabangų ir lengvą gyvenimą.
Štai koks sandoris: atiduodame kontrolę ir gauname tai, dėl ko anksčiau taip sunkiai kovojome. Tačiau praradus kontrolę, ji dingsta visiems laikams.
Ar paspaustumėte tą mygtuką?
Diskusijose apie dirbtinį intelektą (DI) dažniausiai svarstoma katastrofos tikimybė. Aš noriu atkreipti dėmesį į sėkmės scenarijų: kas nutiktų, jei DI veiktų ne taip, kaip baiminasi jo kūrėjai, o taip, kaip tikisi jo išradėjai ir investuotojai? Jei žengtumėte už „Silicio slėnio“ „p(doom)“ – jų vartojamo termino, reiškiančio tikimybę, kad DI sunaikins žmoniją, – ribų, pastebėtumėte, kad ir jų „p(utopia)“ (utopijos tikimybė) turi savų problemų. Jie įsivaizduoja kažką panašaus į pasaulį, kurį aprašiau anksčiau, tik dar ekstremalesnį – tokį, kuriame DI atlieka tą patį vaidmenį, kokį šiame pavyzdyje atlieka Kinija.
Įdomus šių vizijų susidūrimas įvyko, kai 27-erių Jacobas Coxonas – asmuo, paviešinęs informaciją apie „OpenAI“ ir „Anthropic“ veiklą, – dalyvavo Jono Stewarto laidoje „The Daily Show“. Coxonas atėjo įspėti, kad DI gali mus visus pražudyti, tačiau kai Stewartas lengvabūdiškai pašiepė DI kūrėjų „būsimąją utopiją“, Coxonas jį sustabdė. „Na, aš tikiu ta būsimąja utopija“, – pasakė Coxonas. Tačiau tai, ką jis pasakė toliau, skambėjo kur kas niūriau: „Girdėjau jus kalbant apie darbo vietas...“ „Manau, kad darbo nebebus.“
Coxonas toliau apibūdino „pasaulį, kurį įsivaizduoja šią technologiją kuriantys žmonės“: „Jokių darbo vietų. Didelės universalios pajamos. Dividendai, gauti iš visiškai automatizuotos ekonominės gamybos, gali būti paskirstyti tikriems žmonėms.“
Ši vizija – ar tam tikras jos variantas – gana dažnai sutinkama dirbtinio intelekto (DI) srityje dirbančiose įmonėse. Esu apie tai girdėjęs ne kartą. Tačiau dauguma žmonių, susidūrę su šia idėja, sunkiai patiki, kad pasaulis, kuriame beveik visą sudėtingą intelektinį darbą atlieka DI, gali būti vadinamas utopiniu. Stewartas – tikrai vienas iš jų. „Vadinasi, mes visi tiesiog vaidinsime spektaklyje?“ – paklausė jis.
Aš pats skeptiškai vertinu ateitį be darbo vietų. Jei žmonės ką nors ir moka, tai rasti sau veiklos. (Kas mūsų varginančios žemdirbystės praeities laikais būtų galėjęs įsivaizduoti, kad tinklalaidžių kūrimas gali tapti nuolatiniu darbu?) Visgi man nesunku įsivaizduoti, kaip didelės visuomenės dalies kontrolė ir supratimas gali būti perduoti mašinoms. Keletas pastarųjų įvykių – vieni parodantys pažangaus DI galimybių ribas, kiti – vis didėjantį jo naudingumą kasdieniame gyvenime – atskleidžia, kaip tai jau vyksta.
Prieš kelias savaites „OpenAI“ vienu metu pateikė daugiau nei 700 rankraščių, kuriuose siūlomi sprendimai beveik 400 sudėtingų matematinių uždavinių. Jei nesate matematikas ir nebendraujate su matematikais, galbūt šis įvykis liko nepastebėtas. Tačiau matematikos pasaulyje tai prilygo žemės drebėjimui.
Aš nesu matematikas, bet mano tėvas – yra. Jo darbo sritis buvo susijusi su elektronų judėjimu netvarkinguose kristaluose. Šios srities centre buvo du uždaviniai, kurie buvo ne tik neišspręsti – pasak tėvo, jie buvo „visiškai neįveikiami; niekas neturėjo jokio supratimo, kaip juos išspręsti“. „OpenAI“ sistemos juos išsprendė per vieną popietę. „Tai matematikos, kokią pažįstame, pabaiga, – parašė jis man žinutėje. – Pirmą kartą džiaugiuosi, kad išėjau į pensiją.“ Naujai įkurta „Žmogiškosios matematikos asociacija“ (angl. *Association for Human Mathematics*), vienijanti apie 1000 narių, netrukus paskelbė pareiškimą: „Matematikai neprašė, kad šis darbas būtų atliktas.“ Tai įdomus teiginys. Ar matematikai turėtų spręsti, kurios matematinės problemos turi būti išspręstos, o kurios – ne? Kaip įvertinti naudą ir sąnaudas pasaulio, kuriame matematikos ribos sparčiai plečiasi, tačiau žmonės to jau nebesupranta?
Įsivaizduokite, kad „OpenAI“ procesas kartojasi daugelį metų: dirbtinio intelekto sistemos sprendžia problemas, kurių nėra įveikęs joks žmogus, o tada, remdamosi šiais sprendimais, kelia naujus uždavinius. Juos sprendžia kitos dirbtinio intelekto sistemos, jau perėmusios savo pirmtakų atliktą darbą, o tai leidžia suformuluoti dar daugiau naujų problemų – ir taip be galo. Tai – tiek daug naujos matematikos, kad žmonės jos tiesiog nepajėgūs suvokti, tačiau dirbtinis intelektas ją lengvai įsisavina. Taip jis skatina pažangą medžiagų mokslo ir energijos gamybos srityse. Žmonės nesupranta viso šio naujo mokslo, tačiau gauna iš jo naudos.
Ar toks pasaulis labai skiriasi nuo to, kuriame gyvename dabar? Juk nedaugelis iš mūsų ką nors išmano apie žmogaus pažinimo ribas. Aš nė iš tolo negaliu suvokti matematikos, kurią taikė mano tėvas. Ar situacija iš esmės skiriasi, jei niekas iš mūsų nebegali suprasti matematikos, kurią „atlieka“ dirbtinis intelektas (DI)? Vis dėlto pasaulis, kuriame tolimiausios žinių ir pažangos ribos priklauso nebe žmonių protams, o algoritminėms sistemoms, man atrodo kitoks. Žmogaus kontrolė – kuri, mano manymu, neatsiejama nuo žmogaus gebėjimo suprasti – juk turi tam tikrą vertę, ar ne?
Tai rašydamas, susipažinau su tyrimu, kurio metu teorinės fizikos atstovai pateikė 50 sudėtingų, niekur neskelbtų uždavinių pažangioms DI sistemoms. Šie uždaviniai buvo sunkūs, tačiau įveikiami – tam tikros srities ekspertui fizikui jų sprendimas paprastai užtrukdavo apie dieną. Geriausiai pasirodžiusi DI sistema išsprendė 98 proc. uždavinių, o vieno uždavinio sprendimo kaštai nesiekė 3 JAV dolerių.
Iš pradžių fizikai manė, kad DI pasirodė prasčiau, nei buvo iš tikrųjų, tačiau modelis tvirtino, jog suklydo žmonės, o ne jis – ir pasirodė esąs teisus. „Atvirai kalbant, nesitikėjau, kad ši diena išauš taip greitai“, – rašė Suvratas Raju, vienas iš tyrime dalyvavusių fizikų. – „Gavę tokius rezultatus, keletą naktų negalėjau normaliai užmigti.“
Baisiausiuose pasakojimuose apie DI dažniausiai vaizduojamas lūžio momentas, kai superintelektas išsprūsta iš mūsų kontrolės ir pradeda planuoti mūsų žūtį. Tačiau, mano manymu, kur kas tikėtinesnis ir neišvengiamas scenarijus yra vadinamasis „laipsniškas galios praradimas“.
Pagal šį scenarijų nėra vieno konkretaus momento, kai žmonija praranda kontrolę; veikiau vyksta daugybė smulkių įvykių, kurių metu mes patys, savo noru, atiduodame kontrolę, nes tai atrodo racionalus sprendimas. Įmonės vis daugiau darbo, o vėliau – ir vis daugiau sprendimų priėmimo procesų patiki pažangioms DI sistemoms, nes tai suteikia konkurencinį pranašumą. Vyriausybės vis daugiau sprendimų mūšio lauke perleidžia DI, nes taip kariuomenė tampa greitesnė ir pavojingesnė. DI kūrėjai pasitelkia rekursinį savęs tobulinimą – kai DI sistema savarankiškai sukuria kitą, dar tobulesnę DI sistemą. ...modelis – nes jis suteikia jiems pranašumą, leidžiantį smarkiai atsiplėšti nuo konkurentų.
Pagrindinis šio proceso variklis – konkurencinis spaudimas. Įmonės, vyriausybės ir dirbtinio intelekto (DI) laboratorijos, kurios priešinasi pokyčiams, pralaimi konkurencinę kovą tiems, kurie suteikia DI sistemoms daugiau kontrolės ir autonomijos. DI sistemų – o ilgainiui ir DI valdomų dronų bei robotikos – pažanga nuolat plečia darbų, kuriuos DI atlieka geriau nei žmonės, ratą. Net jei darytume prielaidą, kad DI išliks naudingas ir paklusnus, vis didesnė visuomenės veikimo dalis taps nebepavaldi žmogaus kontrolei.
Tai atveda mane prie antrosios, kur kas kasdieniškesnės, istorijos, susijusios su DI. „Meta“ sukurtas asistentas „Muse“ jau kelias savaites karaliauja „Apple“ programėlių populiarumo viršūnėse. Iš esmės „Muse“ yra gana paprastas DI modelis. Jo naudingumas slypi tame, kad jis sukurtas taip, jog turėtų prieigą prie didelės dalies jūsų skaitmeninio gyvenimo – el. pašto, kalendoriaus, socialinių tinklų, banko sąskaitų, debesijos saugyklų – ir galėtų automatiškai veikti jūsų vardu.
Man kelia nerimą mintis suteikti DI tokią plačią prieigą prie savo gyvenimo, tačiau draugai, kurie naudojasi šiuo įrankiu, teigia jaučiantys antžmogiškas galias: jie tapo operatyvesni ir atsakingesni nei bet kada anksčiau. Taip yra todėl, kad nuolat veikiantis DI agentas stebi jų skaitmeninį gyvenimą, pastebi problemas, atsako į el. laiškus, atlieka rezervacijas ir primena apie svarbiausius prioritetus. Tačiau yra ir kabliukas: už visų šių DI atliekamų veiksmų vis tiek stovi kažkas kitas.
Jau dabar girdime apie verslus, kuriuos užplūsta automatizuoti skambučiai ir el. laiškai. Plintant tokiems agentams kaip „Muse“, šios įmonės pasitelks savo DI sistemas, kad susidorotų su tokiu srautu. Kai DI agentų naudojimas taps vis labiau paplitęs, tie, kurie jais nesinaudos, gali pradėti atsilikti. Mes tapsime mažiau operatyvūs nei tie, kurie naudojasi agentais, arba tiesiog būsime visiškai užversti darbu, bandydami reaguoti į kitų žmonių DI agentus. Galiausiai mūsų dirbtinio intelekto (DI) sistemos derėsis su kitomis DI sistemomis, skambins į restoranus rezervuoti staliukų ar siųs el. laiškus mūsų kolegų DI sistemoms. Pranašumą įgis tie, kurie suteiks joms gilesnę prieigą arba didesnę autonomiją. Konkurencijos logika judės toliau: tai, kas vienais metais atrodo keista, kitais jau tampa įprasta. Didelė mūsų pasaulio dalis bus patikėta dirbtiniam intelektui.
Tai jau esame matę. Buvo laikas, kai galėjome priešintis el. pašto ar išmaniųjų telefonų naudojimui, tačiau daugumai mūsų tas laikas jau praėjo. Šiuolaikinėje visuomenėje atsisakyti šių technologijų reikštų didelį nepatogumą – net jei ir apgailestaujame dėl jų daromo poveikio mūsų gyvenimui. Tikėtina, kad taip pat nutiks ir su dirbtiniu intelektu.
Galbūt taip buvo visada? Argi šiuolaikinės visuomenės istorija nėra pasakojimas apie tai, kaip žmonės išmainė savo pasaulio supratimą bei kontrolę į technologinę ir ekonominę pažangą? Nenorėčiau apsikeisti vietomis su savo protėviais, nors visuomenė man yra mažiau suprantama nei jiems. Man pakanka žinoti, kad veikia oro kondicionieriai ar magnetinio rezonanso tomografijos (MRT) aparatai; man nebūtina iki pat pamatų suprasti, kaip jie veikia. Tačiau iki šiol ši istorija išliko iš esmės žmogiška. Gali būti, kad tas laikotarpis baigiasi.
Vis kyla klausimas: ar norime dirbtinio intelekto, kuris mus visus sunaikintų? Žinoma, ne. Tačiau ar norime dirbtinio intelekto, kuris mus visus praturtintų, jei kaina už tai būtų mūsų kontrolės ir supratimo apie pasaulį, kuriame gyvename, praradimas? Kokia vertė žmonėms išlaikyti pirmenybę sprendžiant savo pačių kovas, ir kaip tai pasverti, lyginant su palengvėjimu, kurį suteiktų tų kovų sumažinimas? Noriu vaistų, teorijų ir, tam tikra prasme, netgi pajėgių skaitmeninių asistentų. Tačiau taip pat tikiu, kad kova dėl žmonijos pažangos yra esminė žmogaus istorijos – ir netgi žmogaus sielos – dalis.
Į šiuos klausimus nelengva atsakyti. Sunku netgi aiškiai juos suformuluoti. Tačiau šiuo metu judame link to, kad atsakymai į juos būtų pateikti už mus – daugybėje mažų, dažniausiai nepastebimų akimirkų, kai žmonėms taps naudinga – konkurencijos, asmeniniais ar politiniais sumetimais – pasitraukti į šalį ir užleisti vietą mašinoms.
Savo knygoje „Istorijos pabaiga ir paskutinis žmogus“ (kuri dažnai suprantama klaidingai) Francis Fukuyama kėlė panašų klausimą. Jo manymu, buvo mažai tikėtina, kad kuri nors politinė ar ekonominė sistema galėtų pranokti kapitalizmą ir liberaliąją demokratiją skatinant materialinę gerovę. Kilo klausimas: ar egzistuoja tokie žmogiškieji poreikiai, kurių liberalioji demokratija ne tik negalėtų patenkinti, bet kuriuos ji iš esmės išduotų?
Fukuyama manė, kad taip: žmogus trokšta ne tik atlyginimo ir būsto – jis trokšta pripažinimo ir kovos. Jis nori būti laikomas ne tik lygiu kitiems žmonėms dvasine ar politine prasme, bet ir pranašesniu už juos. Kova dėl pripažinimo yra pamatinis žmogiškasis impulsas. O tai, kad technokratinės liberalios visuomenės net nesugeba suvokti šio troškimo, gali jas destabilizuoti.
„Mes, liberalių demokratinių šalių gyventojai, jau taip pripratome įvykius aiškinti vien ekonominėmis priežastimis, taip giliai įsišaknijusi mūsų buržuazinė pasaulėjauta, kad dažnai nustembame sužinoję, jog didžioji dalis politinio gyvenimo visiškai nesusijusi su ekonomika, – rašė F. Fukuyama. – Iš tiesų, mes neturime net bendros kalbos, kuria galėtume apibūdinti tą išdidžią ir ryžtingą žmogaus prigimties pusę, kuri dažniausiai ir tampa karų bei politinių konfliktų priežastimi.“
Dirbtinis intelektas. ...atrodo, kad tai dar aštriau iškelia Fukuyamos klausimą. Jei viskas klostysis taip, kaip tikisi šios idėjos šalininkai, tai žada tokį klestėjimą ir galimybes, kokių tradicinės politinės sistemos niekada net nėra įsivaizdavusios. Tačiau už tai tenka sumokėti išduodant žmogiškąjį veržimąsi į pripažinimą ir kovą. Fukuyama nerimavo dėl liberaliosios demokratijos, nes jos žadama lygybė – net jei ją pavyktų pasiekti – būtų nepakankama. Jo manymu, liberalioji demokratija rėmėsi neišsamia samprata apie tai, ko iš tiesų trokšta žmonės. Tačiau dirbtinis intelektas žengia dar toliau: jis siūlo būseną, kurioje klestėjimas neatsiejamas nuo menkesnio statuso.
Stewartas šią problemą įžvelgė iškart. „Jei galima, įdursiu adatą į šią utopiją, – tarė jis Coxonui. – Manau, kad žmonėms – net ir tada, kai jie dirba darbus, kurie jiems nelabai patinka – svarbu jaustis reikalingiems. Kai mano amžiaus žmonės išeina į pensiją, jie dažnai miršta, nes praranda ryšį su savo gyvenimo tikslu.“
Reikia pripažinti, kad Coxonas nuo klausimo neišsisuko. Daugelis žmonių nekenčia savo darbo, sakė jis. Aš pridurčiau: daugelis žmonių džiaugiasi išėję į pensiją, nors ir nekenčia nedarbo. Visgi nemanau, kad šią problemą derėtų sieti vien tik su darbu. Yra daugybė dalykų, kuriuos žmonės mieliau darys vieni kitiems ar kartu su kitais, net jei dirbtinis intelektas tai atliktų geriau. Tai, kad mašina gali nugalėti šachmatų didmeistrį, dar nereiškia, jog žmonės nustojo žaisti šachmatais. Tačiau žmogiškąjį tikslo, kontrolės ir pirmenybės pojūtį pakeisti kur kas sunkiau – tai sunkiai apibrėžiami dalykai.
„Kai tik pradedi pripažinti paaiškinimus, grindžiamus tikslu – na, niekada nežinai, koks bus rezultatas“, – rašo Aldousas Huxley knygoje „Puikus naujas pasaulis“. Knygoje vaizduojamas pasaulis, kuriame patenkinami visi troškimai, tačiau nėra jokios kovos. Huxley sukurtoje visuomenėje diskusijos apie gyvenimo tikslą buvo laikomos ardomąja veikla. Tai galėtų palikti žmones su įsitikinimu, „jog gyvenimo tikslas – ne gerovės palaikymas, o sąmonės intensyvinimas bei tobulinimas, žinių plėtimas. Kas, kaip svarstė Valdytojas, visai gali būti tiesa. Tačiau esamomis aplinkybėmis – neleistina.“
Šiandien liberaliosioms demokratijoms kyla grėsmė ne todėl, kad joms nepavyko sukurti tokios gerovės, kokia mūsų pirmtakams būtų buvusi neįsivaizduojama, o todėl, kad tos gerovės sąlygomis jos leido įsišaknyti didelei nelygybei, susvetimėjimui ir bejėgiškumui. Mes trokštame turto – iš dalies todėl, kad jis žada suteikti mums orumo. Iš politiškai radikalizuotų turčių įniršio matyti, koks nepakankamas yra turtas, kai jis atsiejamas nuo pripažinimo, kurį, kaip jie tikėjosi, šis turtas jiems suteiks.
Nesakau, kad dirbtinis intelektas sukurs – ar net gali sukurti – tokį pasaulį. Tačiau būtent tokį pasaulį įsivaizduoja daugelis jo kūrėjų. Jų vizijoje dirbtinis intelektas ne tik pakeičia protinį darbą dirbančius žmones, bet ir pralenkia pačius šviesiausius mūsų protus; ir su kiekviena diena, su kiekvienu nauju įrodymu, kad DI gali išspręsti problemas, kurių mes negalime, tai tampa vis labiau tikėtina.
Žmonės, kuriantys DI, pasak Stewarto, „neatrodo, kad jie ypač suprastų žmogaus būklę“. Jei jiems būtų suteikta galimybė, beveik visi jie paspaustų mygtuką. O jūs?“ [1]
1. This Is the Good Scenario?: Ezra Klein. Klein, Ezra. New York Times (Online) New York Times Company. Oct 18, 2026.
Komentarų nėra:
Rašyti komentarą