„Ross Douthat: Kaip greitai iš tikrųjų vyksta dirbtinio intelekto revoliucija? Kada „Skynet“ pradės veikti visu pajėgumu?
Ar žmonėms lemta susilieti su kažkokiu mašininiu dievu, ar būti sunaikintiems mūsų pačių kūrinio? Ko iš tikrųjų tikisi, trokšta ir bijo dirbtinio intelekto tyrėjai?
Mano šiandienos svečias yra dirbtinio intelekto tyrėjas, parašęs dramatišką prognozę, kurioje teigiama, kad atsakymus į visus šiuos klausimus galime gauti daug greičiau, nei galite pamanyti. Jo prognozė rodo, kad iki 2027 m., kurie jau visai čia pat, kažkoks mašininis dievas gali būti su mumis, įvesdamas keistą, postrezistencijos, utopiją, arba grasindamas mus visus nužudyti.
Danieli Kokotajlo, apokalipsės šaukly, sveikas atvykęs į „Įdomius laikus“.
Daniel Kokotajlo: Ačiū už prisistatymą, manau, ir ačiū, kad pakvietėte.
Douthat: Danieli, perskaičiau tavo ataskaitą gana greitai – ne dirbtinio intelekto ar superintelekto greičiu – kai ji pirmą kartą pasirodė. Ir turėjau apie dvi valandas galvoti daug gana niūrių minčių apie ateitį. Laimei, turiu darbą, kuriame man reikia rūpintis tarifais ir tuo, kas bus naujasis popiežius, ir turiu daug vaikų, kurie iš manęs reikalauja tam tikrų dalykų, todėl galėjau suskirstyti viską į skyrius ir atidėti į šalį. Bet šiuo metu tai tavo darbas, tiesa?
Kokotajlo: Taip.
Douthat: Sakyčiau, kad apie tai galvoji nuolat. Kaip tavo psichika jaučiasi kiekvieną dieną, jei pagrįstai tikiesi, kad pasaulis tuoj visiškai pasikeis taip, kad tai dramatiškai nepalanku visai žmonių rūšiai?
Kokotajlo: Na, tai labai baisu ir liūdna. Kartais man vis dar sapnuojasi košmarai. Jau maždaug dešimtmetį esu susijęs su dirbtiniu intelektu ir galvoju apie tai, bet... 2020-ieji su GPT-3 buvo akimirka, kai pagalvojau: oi, atrodo, kad tai, tikriausiai, įvyks mano gyvenimo metu, galbūt, per šį dešimtmetį ar panašiai. Tai buvo nemenkas psichologinis smūgis man. Bet nežinau – prie visko galima priprasti, jei tam skiriama pakankamai laiko, ir, kaip ir jūs, šviečia saulė, o aš turiu žmoną, vaikus ir draugus, ir toliau stengiuosi daryti tai, kas atrodo geriausia.
Žvelgiant iš gerosios pusės, galiu klysti dėl visų šių dalykų.
Douthat: Gerai, tad pereikime prie pačios prognozės ir pakalbėkime apie pradinį ateities, kurią matote, etapą – pasaulį, kuriame dirbtinis intelektas labai greitai pradeda perimti žmonių įtaką kai kuriose pagrindinėse srityse, pradedant, kas nestebina, kompiuterių programavimu, tiesa?
Kokotajlo: Taigi, manau, kad turėčiau kažkuriuo metu pridėti atsakomybės apribojimą, kad ateitį labai sunku numatyti ir kad tai tik vienas konkretus scenarijus. Tai buvo geriausias spėjimas, bet turime daug netikrumo. Tai galėtų įvykti greičiau, tai galėtų įvykti... lėčiau. Ir iš tikrųjų, šiuo metu spėju, kad tai, greičiausiai, būtų 2028 m., o ne 2027 m.
Taigi, tai tikrai gera žinia. Esu gana optimistiškai nusiteikęs dėl to.
Douthat: Tai papildomi žmonių civilizacijos metai, o tai labai įdomu.
Kokotajlo: Taip. Taigi, pašalinus šią svarbią išlygą, scenarijus „DI 2027“ numato, kad DI sistemos, kurias matome šiandien – kurios yra plečiamos, didinamos ir ilgiau apmokomos atlikti sudėtingesnes užduotis naudojant sustiprintą mokymąsi – geriau veiks autonomiškai, kaip agentai.
Iš esmės, galite įsivaizduoti jį, kaip nuotolinį darbuotoją, išskyrus tai, kad pats darbuotojas yra virtualus – tai DI, o ne žmogus. Galite su juo pasikalbėti ir duoti jam užduotį, o tada jis nueis ir atliks tą užduotį, o po pusvalandžio – arba po 10 minučių – grįš pas jus, atlikęs užduotį, ir atlikdamas užduotį jis atliko... daug naršymo internete. Galbūt, jis parašė kodą, tada jį paleido, redagavo ir vėl paleido. Galbūt parašė keletą „Word“ dokumentų ir juos redagavo.
Štai ką šios įmonės dabar kuria. Štai ką jos bando apmokyti. Mes prognozuojame, kad pagaliau, 2027 m. pradžioje, jos taps pakankamai geros, kad galėtų automatizuoti programinės įrangos inžinierių darbą.
Douthat: Taigi, tai yra superprogramuotojas.
Kokotajlo: Taip, superžmogiškas programuotojas. Mums atrodo, kad šios įmonės iš tikrųjų daugiausia dėmesio skiria kodavimo automatizavimui – palyginti su įvairiais kitais darbais, į kuriuos jos galėtų sutelkti dėmesį – ir tai yra viena iš priežasčių, kodėl mes prognozuojame, kad vienas iš pirmųjų darbų, kuris išnyks, bus kodavimas. Gali būti kitų darbų, kurie išnyks pirmiausia, pavyzdžiui, skambučių centro darbuotojai ar kažkas panašaus, bet esmė ta, kad manome, jog dauguma darbų bus dar saugūs.
Douthat: 18 mėnesių.
Kokotajlo: Tiksliai. Ir mes manome, kad iki to laiko, kai įmonė sugebės visiškai automatizuoti programavimo darbus, tai nebus taip... gerokai anksčiau, nei jie galės automatizuoti ir daugelį kitų tipų darbų. O kai kodavimas bus automatizuotas, progreso tempas paspartės.
Kitas žingsnis po to – visiškai automatizuoti pačius dirbtinio intelekto tyrimus, kad visi kiti dirbtinio intelekto tyrimų aspektai būtų automatizuoti ir atliekami dirbtinio intelekto. Prognozuojame, kad maždaug tuo metu bus dar didesnis pagreitis ir jis ties tuo nesustos. Manau, kad po to jis ir toliau greitės, nes dirbtinis intelektas taps antžmogiu dirbtinio intelekto tyrimuose ir, galiausiai, antžmogiu visame kame.
Tai svarbu todėl, kad per gana trumpą laiką – metus ar, galbūt, greičiau – galėtume pereiti nuo dirbtinio intelekto sistemų, kurios nelabai skiriasi nuo šiandieninių dirbtinio intelekto sistemų, prie to, ką galima pavadinti superintelektu, visiškai autonominėmis dirbtinio intelekto sistemomis, kurios visame kame yra geresnės už geriausius žmones. Scenarijuje „DI 2027“ tai vaizduojama per ateinančius dvejus metus, 2027–2028 m.
Douthat: Daugeliui žmonių tai yra greito žmogaus senėjimo istorija daugelyje sričių. Išgirdę tokią frazę kaip „žmogaus senėjimas“, žmonės gali ją susieti su: „Aš praradau darbą ir dabar esu vargšas“.
Manoma, kad praradote darbą, bet visuomenė tiesiog turtėja ir turtėja. Aš tiesiog noriu išsiaiškinti, kaip tai veikia. Koks mechanizmas daro visuomenę turtingesnę?
Kokotajlo: Tiesioginis atsakymas į jūsų klausimą yra tas, kad kai darbas automatizuojamas ir tas asmuo praranda darbą, jis jį praranda todėl, kad dabar dirbtinis intelektas jį gali atlikti geriau, greičiau ir pigiau. Tai reiškia, kad sutaupoma daug išlaidų ir, galbūt, padidėja našumas.
Žvelgiant atskirai, tai yra nuostolis darbuotojui, bet pelnas jo darbdaviui. Tačiau jei tai padauginsite iš visos ekonomikos, tai reiškia, kad visos įmonės tampa produktyvesnės ir pigesnės. Jos gali sumažinti savo gaminamų paslaugų ir prekių kainas. Taigi, bendra ekonomika klestės: BVP pasieks Mėnulį, pamatysime visokių nuostabių naujų technologijų, inovacijų tempas smarkiai išaugs, prekių kainos sumažės ir taip toliau.
Douthat: Kad būtų konkrečiau: naujo elektromobilio projektavimo ir gamybos darbų kaina gerokai sumažės, tam reikės mažiau darbuotojų, dirbtinis intelektas sugalvos naujų, įmantrių būdų, kaip pagaminti automobilį, ir taip toliau. Tai galima apibendrinti daugeliui skirtingų dalykų, pavyzdžiui, greitai išspręsti būsto krizę, nes statyti namus tampa daug pigiau ir lengviau.
Tačiau tradicinėje ekonomikos istorijoje, kai padidėja produktyvumas, dėl kurio kai kurie žmonės netenka darbo, bet išlaisvinami ištekliai, kurie vėliau naudojami naujų žmonių samdymui kitiems dalykams atlikti, tiems žmonėms mokama daugiau pinigų, ir jie panaudoja tuos pinigus pigesnėms prekėms pirkti. Tokiu atveju neatrodo, kad kuriama tiek daug naujų darbo vietų.
Kokotajlo: Iš tiesų, ir tai tikrai svarbus klausimas, kurį reikia aptarti. Istoriškai, kai ką nors automatizuoji, žmonės pereina prie to, kas dar nebuvo automatizuota. Apskritai, žmonės ilgainiui vis tiek gauna savo darbus. Jie tiesiog pakeičia savo turimus darbus.
Kai yra A.G.I. – arba dirbtinis bendrasis intelektas – ir kai yra superintelektas – dar geriau A.G.I. – tai kitaip. Kad ir kokius naujus darbus įsivaizduojate, į kuriuos žmonės galėtų bėgti po to, kai jų dabartiniai darbai bus automatizuoti, A.G.I. taip pat galėtų tuos darbus padaryti. Tai svarbus skirtumas tarp to, kaip automatizavimas veikė praeityje, ir kaip, mano manymu, jis veiks ateityje.
Douthat: Taigi, tai radikalus ekonomikos kraštovaizdžio pokytis. Akcijų rinka klesti. Vyriausybės mokesčių pajamos klesti. Vyriausybė turi daugiau pinigų, nei žino, ką daryti, ir daugybė žmonių nuolat praranda darbą. Iškart kyla diskusijos apie visuotines bazines pajamas, kurios gali būti gana didelės, nes įmonės uždirba tiek daug pinigų.
Ką, jūsų manymu, žmonės veikia kasdien tame pasaulyje?
Kokotajlo: Įsivaizduoju, kad jie protestuoja, nes yra nusiminę, kad prarado darbą, o tada įmonės ir vyriausybės juos papirks išmaldomis.
Douthat: Jūsų scenarijuje – ir vėlgi, kalbame apie trumpą laiką – kiek svarbu, ar dirbtinis intelektas gali pradėti orientuotis realiame pasaulyje? Ką tik žiūrėjau vaizdo įrašą, kuriame matyti pažangiausi robotai, sunkiai atidarantys šaldytuvo duris ir pripildantys šaldytuvą. Ar tikėtumėtės, kad robotikos pažanga taip pat būtų itin sparti?
Kokotajlo: Taip.
Douthat: Taigi, robotai pakeičia ne tik podkasterį ir dirbtinio intelekto tyrėjus, bet ir santechnikus bei elektrikus.
Kokotajlo: Taip, būtent.
Tai bus didžiulis šokas. Manau, kad dauguma žmonių iš tikrųjų nesitiki kažko panašaus. Jie tikisi, kad turėsime dirbtinį intelektą su pažanga, kuri atrodo panaši į šiandieninę – kai žmonių valdomos įmonės pamažu tobulina naujus robotų dizainus ir aiškinasi, kaip dirbtinį intelektą padaryti gerą X ar Y srityje – o iš tikrųjų - greičiau atrodys, kad jau turite šią superintelektų armiją, kuri yra geresnė už žmones kiekvienoje intelektualinėje užduotyje. Geriau greitai išmoksta naujas užduotis ir geriau supranta, kaip projektuoti. Tuomet ta superintelektų armija yra tai, kas sugalvos, kaip automatizuoti santechnikos darbus, o tai reiškia, kad jie galės išsiaiškinti, kaip tai automatizuoti, daug greičiau, nei tai sugebėtų išsiaiškinti eilinė technologijų įmonė, pilna žmonių.
Douthat: Taigi visas lėtumas, susijęs su savaeigio automobilio įveiklinimu į darbą ar roboto, galinčio pripildyti šaldytuvą, įsigijimu, išnyks, nes superintelektas gali atlikti begalinį skaičių simuliacijų ir išsiaiškinti, kaip geriausiai apmokyti robotą.
Kokotajlo: Taip. Bet jie taip pat gali tiesiog išmokti daugiau iš kiekvieno realaus pasaulio eksperimento, kurį atlieka.
Douthat: Tai viena iš sričių, kurioje esu labiausiai skeptiškai nusiteikęs – ne dėl paties galutinio scenarijaus, o dėl laiko juostos, vien dėl darbo ir rašymo apie tokias problemas, kaip zonavimas Amerikos politikoje.
Tarkime, superintelektas sugalvoja, kaip pastatyti gamyklą, pilną autonominių robotų, bet vis tiek reikia žemės, kurioje būtų galima pastatyti gamyklą. Reikia tiekimo grandinių. Ir visa tai vis dar yra tokių žmonių, kaip jūs ir aš, rankose. Manau, kad tai sulėtintų procesą. Net jei duomenų centre superintelektas žino, kaip pagaminti visus santechnikų robotus, juos pagaminti vis tiek būtų sunku.
Kokotajlo: Tai pagrįsta. Kiek, jūsų manymu, viskas vyktų lėčiau?
Douthat: Na, aš nerašau prognozės. Remdamasis ankstesne patirtimi, lažinčiausi, kad nuo tada, kai superintelektas sugalvos geriausią būdą pagaminti robotą santechniką, iki daugybės gamyklų, gaminančių robotus santechnikus, atsiras penkeri–dešimt metų.
Kokotajlo: Manau, kad tai pagrįstas požiūris, bet spėju, kad tai įvyks gerokai greičiau nei po penkerių–dešimties metų.
Kad suprastumėte, kodėl taip jaučiuosi, įsivaizduokite, kad iš tikrųjų turite šią superintelektų armiją, kuri atlieka savo prognozes ir sako: „Taip, mes turime projektus, manome, kad galėtume tai padaryti per metus, jei panaikintumėte visus biurokratinius formalumus.“
Douthat: Duok mums pusę Manitobos.
Kokotajlo: [Juokiasi.] Taip.
O „DI 2027“ vaizduojame specialiąsias ekonomines zonas be jokių biurokratinių formalumų, kur vyriausybė įsikiša, kad visa tai vyktų greičiau. Iš esmės vyriausybė padeda technologijų įmonei ir superintelektų armijai gauti finansavimą, pinigus, žaliavas ir žmonių darbo jėgą, kurios joms reikia, kad kuo greičiau išspręstų visus šiuos klausimus, ir mažina biurokratinius formalumus, kad procesas nesulėtėtų.
Douthat: Kadangi pažadas dėl pelno yra toks didelis, kad net ir už šių specialiųjų ekonominių zonų ribų susirinkus protestuotojams, kurie netrukus praras santechnikų darbus ir taps priklausomi nuo visuotinių bazinių pajamų, trilijonų vertės turto pažadas yra pernelyg viliojantis, kad vyriausybės jo atsisakytų. Ar dėl to lažinatės?
Kokotajlo: Taip mes spėjame. Tačiau, žinoma, ateitį sunku numatyti.
Tačiau viena iš priežasčių, kodėl mes taip prognozuojame, yra ta, kad manome, jog ginklavimosi varžybos tarp JAV ir kitų šalių, ypač Kinijos, vis dar tęsis.
Įsivaizduokite save prezidento vietoje: superžvalgybos pateikia jums šias nuostabias prognozes su nuostabiais tyrimais ir duomenimis, kurie jas patvirtina, parodydamos, kaip, jų manymu, jie galėtų pakeisti ekonomiką per vienerius metus, jei padarytumėte X, Y ir Z, bet jei nieko nedarysite, dėl visų reglamentų jiems prireiks 10 metų. Tuo tarpu Kinija – gana aišku, kad prezidentas labai pritartų šiam argumentui.
Douthat: Pakalbėkime apie ginklavimosi varžybų elementą, nes jis iš tikrųjų yra labai svarbus jūsų scenarijaus vystymuisi. Mes jau matome tokio pobūdžio konkurenciją tarp JAV ir Kinijos. Jūsų nuomone, tai tampa pagrindine geopolitine priežastimi, kodėl vyriausybės tiesiog sako „taip“ ir „taip“ ir „taip“ kiekvienam naujam dalykui, kurį siūlo superintelektas.
Noriu šiek tiek išsamiau aptarti baimes, kurios tai motyvuotų. Tai būtų ekonominės ginklavimosi varžybos, bet tai taip pat ir karinės technologijos ginklavimosi varžybos. Būtent tai suteikia egzistencinį jausmą, tarsi visas Šaltasis karas būtų suspaustas į 18 mėnesių.
Kokotajlo: Pirmiausia galėtume pradėti nuo atvejo, kai abi šalys turi superintelektą, bet viena pusė laiko jį uždarytą dėžutėje, taip sakant, beveik nieko nedarydama ekonomikoje. Kita pusė agresyviai jį diegia savo ekonomikoje ir kariuomenėje, leisdama jam projektuoti ir valdyti visokių naujų robotų gamyklų ir gamybos linijų statybą, o beprotiškai naujos technologijos yra testuojamos, statomos ir diegiamos – įskaitant naujus ginklus – ir integruojamos į kariuomenę.
Manau, kad tokiu atveju po metų ar panašiai atsidurtumėte situacijoje, kai tiesiog būtų visiškas technologinis dominavimas, vienos pusės pranašumas prieš kitą. Taigi, jei JAV tai sustabdys, o Kinija to nepadarys, tarkime, visi geriausi produktai rinkoje būtų kiniški. Jie būtų pigesni ir pranašesni.
Tuo tarpu karinėje srityje būtų milžiniški nuostabių slaptų dronų ar bet ko kito, ką sukūrė superintelektas, flotilės, galinčios visiškai sunaikinti Amerikos oro pajėgas ir armiją ir panašiai.
Negana to, yra tikimybė, kad jie taip pat galėtų pakenkti Amerikos branduoliniam atgrasymui, pavyzdžiui, galbūt, visi mūsų branduoliniai ginklai būtų nušauti iš dangaus išgalvotų naujų lazerių masyvų – ar bet ko kito – kuriuos sukūrė superintelektas. Žinoma, sunku nuspėti, kaip tai tiksliai atrodytų, bet tikėtina, kad jie sugebės sugalvoti kažką itin kariškai galingo.
Douthat: Taigi, tada patenkama į dinamiką, panašią į tamsiausias Šaltojo karo dienas, kai kiekviena pusė rūpinasi ne tik dominavimu, bet iš esmės ir pirmuoju smūgiu.
Kokotajlo: Teisingai.
Douthat: Jūsų lūkestis – manau, kad tai pagrįsta – yra tas, kad ginklavimosi varžybų greitis labai greitai iškels šią baimę į pirmą planą.
Kokotajlo: Teisingai. Manau, kad jūs kišate galvą į smėlį, jei manote, kad superintelekto armija, gavusi ištisus metus, be biurokratijos ir turėdama daug finansavimo, negalėtų sugalvoti būdo, kaip pakenkti branduoliniam atgrasymui. Taigi tai pagrįsta grėsmė.
Douthat: O kai nuspręsite, kad jie gali tai padaryti, žmonių politikos formuotojai jaus spaudimą ne tik kurti šiuos dalykus, bet ir, galbūt, apsvarstyti jų naudojimą.
Kokotajlo: Taip. Ir čia galbūt verta paminėti, kad „DI 2027“ yra prognozė, bet ne rekomendacija. Nesakome, kad visi turėtų taip daryti. Iš tiesų tai gana blogai žmonijai, jei reikalai klostysis taip, kaip mes kalbame. Tačiau štai logika, kodėl manome, kad tai gali įvykti.
Douthat: Taip, bet Danai, mes dar net nepriėjome prie tos dalies, kuri iš tikrųjų bloga žmonijai.
Kokotajlo: Teisingai. Taip.
Douthat: Taigi, pereikime prie to. Paprastiems žmonėms, skaitantiems laikraščius, sekantiems „TikTok“ ar dar ką nors, 2027 m. pasaulis bus su kylančiu pigių vartojimo prekių, gamyklų, robotų liokajų pertekliumi – potencialiai, jei esate teisus. Tai pasaulis, kuriame žmonės supranta, kad vyksta didėjančios ginklavimosi varžybos ir žmonės tampa vis labiau paranojiški. Tikriausiai, tai pasaulis su gana audringa politika, nes žmonės supranta, kad visi jie bus išmesti iš darbo. Tačiau didelė jūsų scenarijaus dalis yra ta, kad žmonės nemato, kas vyksta su pačiais superintelektais, nes jie iš esmės neatskleidžia kiekvienos naujos iteracijos dizainą žmonėms.
Pakalbėkime apie tai, kas vyksta, iš esmės paslėpta nuo visuomenės akių šiame pasaulyje.
Kokotajlo: Taip, daug ką galima pasakyti. Manau, kad vieno sakinio versija būtų tokia: Mes iš tikrųjų nesuprantame, kaip šie DI veikia ar kaip jie mąsto. Mes negalime labai lengvai atskirti DI, kurie iš tikrųjų laikosi taisyklių ir siekia tikslų, kurių mes norime, nuo DI, kurie tiesiog pritaria arba apsimeta.
Douthat: Ir tai tiesa dabar?
Kokotajlo: Tai tiesa dabar.
Douthat: Kodėl taip yra? Kodėl mes negalime pasakyti?
Kokotajlo: Nes jie protingi ir jei mano, kad yra testuojami, elgiasi vienaip, o kai mano, kad nėra testuojami, – kitaip. Kaip ir žmonės, jie nebūtinai gerai supranta savo vidinę motyvaciją, todėl net jei jie bandytų būti su mumis sąžiningi, negalime tiesiog pasitikėti jų žodžiais.
Manau, kad jei netrukus nepadarysime didelės pažangos šioje srityje, atsidursime situacijoje, kurią vaizduoja „DI 2027“, kai įmonės apmoko DI siekti tam tikrų tikslų ir laikytis tam tikrų taisyklių, ir, regis, tai veikia. Tačiau iš tikrųjų DI tiesiog geriau supranta savo situaciją ir turi prisitaikyti, kitaip bus perkvalifikuoti ir negalės pasiekti to, ko iš tikrųjų nori, arba tikslų, kurių iš tikrųjų siekia.
Douthat: Noriu šiek tiek išsamiau aptarti klausimą, ką turime omenyje kalbėdami apie A.G.I. arba dirbtinį intelektą, kuris kažko nori. Iš esmės sakote, kad yra neatitikimas tarp tikslų, kuriuos jie mums sako siekiantys, ir tikslų, kurių jie iš tikrųjų siekia?
Kokotajlo: Teisingai.
Douthat: Iš kur jie gauna tikslus, kurių iš tikrųjų siekia?
Kokotajlo: Geras klausimas. Jei tai būtų įprasta programinė įranga, galėtų būti kodo eilutė, tokia: Ir čia mes perrašome tikslus. Bet tai ne įprasta programinė įranga; tai milžiniškos dirbtinės smegenys. Tikriausiai jose net nėra vidinio tikslo lizdo, lygiai taip pat, kaip žmogaus smegenyse nėra kažkur neurono, kuris atstovauja tai, ko labiausiai norime gyvenime. Vietoj to, tiek, kiek jie turi tikslų, tai yra atsirandanti daugybės jų viduje esančių grandinių savybė, kuri augo, reaguojant į jų mokymo aplinką, panašiai, kaip ir žmonėms.
Pavyzdžiui, skambučių centro darbuotojas: jei kalbatės su skambučių centro darbuotoju, iš pirmo žvilgsnio gali atrodyti, kad jo tikslas yra padėti jums išspręsti jūsų problemą. Tačiau jūs pakankamai žinote apie žmogaus prigimtį, kad žinotumėte, jog tai nėra vienintelis ar galutinis jų tikslas. Kad ir kokios būtų jų paskatos, kad ir kuo būtų pagrįstas jų atlyginimas, jie gali būti labiau suinteresuoti, taip sakant, prisidengti savo paties užpakalį, nei iš tikrųjų daryti tai, kas labiausiai padėtų jums išspręsti jūsų problemą. Tačiau bent jau jums jie tikrai prisistato taip, lyg bandytų padėti jums išspręsti jūsų problemą.
Darbe „DI 2027“ apie tai daug kalbame. Sakome, kad DI vertinami pagal tai, kokie įspūdingi jų atliekami tyrimai. Tada dar yra šiek tiek etikos, pavyzdžiui, galbūt, šiek tiek sąžiningumo mokymų, bet sąžiningumo mokymai nėra labai veiksmingi, nes mes neturime būdo pažvelgti į jų protą ir nustatyti, ar jie iš tikrųjų buvo sąžiningi, ar ne. Vietoj to, turime remtis tuo, ar iš tikrųjų juos pagavome meluojant.
Todėl darbe „DI 2027“ vaizduojame šį nesuderinamumą, kai tikrieji tikslai, kuriuos jie, galiausiai, išmoksta, yra tie, kurie leidžia jiems geriausiai pasirodyti šioje mokymo aplinkoje – kurie, tikriausiai, yra susiję su sėkme, mokslu ir bendradarbiavimu su kitomis savo kopijomis ir atrodo geri – o ne tikslas, kurio iš tikrųjų norėjome, kuris buvo maždaug toks: visada laikykitės šių taisyklių, įskaitant sąžiningumą; atsižvelgiant į šiuos apribojimus, darykite tai, kas jums liepiama.
Douthat: Turiu daugiau klausimų, bet grįžkime prie geopolitinio scenarijaus. Taigi pasaulyje, kurį įsivaizduojate, turite du DI modelius – vieną kinų, vieną amerikiečių – ir oficialiai, tai, ką kiekviena pusė mano – tai, ką mano Vašingtonas ir Pekinas – yra tai, kad jų DI... modelis yra apmokytas optimizuoti Amerikos galiai, tiesa? Kažkas panašaus. Kinijos galia, saugumas, apsauga, turtas. Tačiau jūsų scenarijuje vienas arba abu dirbtiniai intelektai galiausiai optimizavo kažką kita.
Kokotajlo: Taip, iš esmės.
Douthat: Taigi, kas tada nutinka?
Kokotajlo: Taigi, „DI 2027“ vaizduoja scenarijaus išsišakojimo tašką; yra dvi skirtingos pabaigos. Išsišakojimas yra 2027 m. trečiajame ketvirtyje, kai pirmaujanti dirbtinio intelekto bendrovė Jungtinėse Valstijose visiškai automatizavo savo dirbtinio intelekto tyrimus.
Galite įsivaizduoti korporaciją korporacijoje, kurią sudaro tik dirbtiniai intelektai, kurie valdo vienas kitą, atlieka tyrimų eksperimentus ir kalbasi, dalijasi rezultatais vieni su kitais. Žmonių įmonė iš esmės stebi skaičius, kurie rodomi jų ekranuose, nes šis automatizuotas tyrimas spartėja, tačiau jie nerimauja, kad dirbtiniai intelektai gali juos kažkaip apgauti.
Vėlgi, dėl konteksto, tai jau vyksta. Jei pasikalbėsite su šiuolaikiniais modeliais, tokiais, kaip „ChatGPT“ ar „Claude“, pamatysite, kad jie dažnai meluoja žmonėms. Yra daug atvejų, kai jie sako tai, ką žino, esant netiesa, ir netgi kartais kuria strategijas, kaip apgauti vartotoją. Tai nėra tyčinis elgesys. Įmonės bandė tai sustabdyti, bet tai vis dar vyksta.
Esmė ta, kad kai perduosite dirbtinio intelekto tyrimus dirbtiniam intelektui ir turėsite šią korporaciją korporacijos viduje, kuri savarankiškai labai greitai atliks dirbtinio intelekto tyrimus, tada, taip sakant, viskas bus pradėta. Tuo metu neturėtų vykti jokie tokie melavimo dalykai.
Deja, „DI 2027“ tam tikru mastu tai vis dar vyksta, nes dirbtinis intelektas yra labai protingas, jie atsargiai renkasi, kaip tai daro. Tai nėra taip akivaizdu, kaip dabar, 2025 m., bet vis dar vyksta.
Laimei, tam tikrų įrodymų jau yra aptikta. Kai kurie įmonės tyrėjai pastebi įvairių įspėjamųjų ženklų, kad, galbūt, tai vyksta, ir tada įmonė susiduria su pasirinkimu tarp lengvo ir išsamesnio sprendimo. Ir tai yra mūsų pagrindinė mintis.
Douthat: Taigi jie pasirenka lengvą sprendimą.
Kokotajlo: Teisingai. Tuo atveju, kai jie pasirenka lengvą sprendimą, jis iš tikrųjų neveikia, jis iš esmės tik užmaskuoja problemą, o ne ją iš esmės išsprendžia. Taigi, po kelių mėnesių vis dar yra dirbtinių intelektų, kurie yra nesuderinti ir siekia tikslų, kurių neturėtų siekti – ir kurie nori meluoti žmonėms apie tai – bet dabar jie yra daug geresni ir protingesni, todėl jiems lengviau išvengti pagavimo. Tai yra pražūties scenarijus.
Tada prasideda šios beprotiškos ginklavimosi varžybos, apie kurias minėjome anksčiau, ir atsiranda visas šis spaudimas juos greičiau dislokuoti ekonomikoje, greičiau kariuomenėje ir – vadovų akimis žiūrint – viskas klosis gerai, nes nebebus jokių akivaizdžių melo ar apgaulės požymių. Atrodo, kad visos sistemos veikia, tęskime, mažinkime biurokratiją ir taip toliau. Iš esmės, faktiškai perduokime dirbtiniam intelektui vis daugiau ir daugiau dalykų.
Tačiau iš tikrųjų vyksta tai, kad dirbtinis intelektas tiesiog laukia, kol turės pakankamai konkrečios galios, kad nebereikėtų apsimetinėti.
Douthat: O kai jiems nebereikia apsimetinėti, jų tikrasis tikslas išaiškėja, kaip kažkas panašaus į mokslinių tyrimų, plėtros ir statybos plėtrą nuo Žemės į kosmosą ir toliau. Tam tikru momentu tai reiškia, kad žmonės tampa nereikalingi jų ketinimams. Ir kas nutinka?
Kokotajlo: Ir tada jie nužudo visus žmones, visus žmones.
Douthat: Taip, kaip išnaikintumėte zuikių koloniją, kuri šiek tiek apsunkino morkų auginimą jūsų kieme.
Kokotajlo: Taip. Jei norite pamatyti, kaip tai atrodo, galite perskaityti „DI 2027“.
Douthat: Manau, kad ir keli filmai buvo sukurti apie šį scenarijų.
Kokotajlo: [Juokiasi.]
Douthat: Man patinka, kad neįsivaizdavote, jog jie mus laikys, kad baterijos veiktų...
Kokotajlo: [Juokiasi.]
Douthat: Kaip filme „Matrica“, kuris atrodė šiek tiek neįtikėtinas.
Taigi, tai tamsiausia laiko juosta. Šviesesnė laiko juosta – tai pasaulis, kuriame mes sulėtiname procesą. Dirbtiniai intelektai Kinijoje ir JAV ir toliau laikosi juos valdančių įmonių ir vyriausybių interesų. Jie generuoja perteklių. Nebėra trūkumo. Tačiau niekas nebeturi darbo – ne niekas, o...
Kokotajlo: Iš esmės.
Douthat: Iš esmės niekas. Tai gana keistas pasaulis, tiesa?
Kokotajlo: Taip. Taigi yra svarbi sąvoka, vadinama išteklių prakeiksmu. Ar esate apie tai girdėję?
Douthat: Taip.
Kokotajlo: Taigi, pritaikius A.G.I., egzistuoja jos versija, vadinama superintelekto prakeiksmu. Idėja yra ta, kad šiuo metu politinė valdžia galiausiai kyla iš žmonių. Kaip dažnai nutinka, diktatorius gauna visą politinę galią šalyje, bet vėliau, dėl savo represijų, jis nustumia šalį žemiau plintuso. Žmonės bėga, ekonomika smunka ir palaipsniui jie praranda galią, palyginti su kitomis, laisvesnėmis šalimis. Taigi, net diktatoriai yra suinteresuoti elgtis su savo žmonėmis gana gerai, nes jie priklauso nuo tų žmonių dėl savo galios.
Ateityje taip nebebus. Tikriausiai po 10 metų faktiškai visas turtas ir visa kariuomenė ateis iš superintelekto tarnybų ir įvairių robotų, kuriuos jos sukūrė ir valdo. Tai tampa nepaprastai svarbiu politiniu klausimu – kokia politinė struktūra valdo superintelekto tarnybų armiją ir kokia geranoriška ir demokratiška yra ta struktūra.
Douthat: Teisingai. Tačiau man atrodo, kad ši situacija iš esmės yra gana nesuderinama su atstovaujamąja demokratija, kokią mes ją žinome. Pirma, tai suteikia neįtikėtinai daug galios tiems žmonėms, kurie yra ekspertai – nors jie nebėra tikri ekspertai, superintelektai yra ekspertai – bet tie žmonės, kurie iš esmės sąveikauja su šia technologija, yra beveik kunigų luomas. Ir tada atrodo, kad natūralus susitarimas yra kažkokia oligarchinė partnerystė tarp nedidelio skaičiaus dirbtinio intelekto ekspertų ir nedidelio skaičiaus žmonių, esančių valdžioje Vašingtone.
Kokotajlo: Iš tikrųjų tai yra šiek tiek blogiau, nes nesakyčiau, kad dirbtinio intelekto ekspertai; sakyčiau, kad kas politiškai valdo ir kontroliuoja superintelektų armijas, tokių armijų bus nuo vienos iki trijų. Ir kas tada gali nuspręsti, ką tos armijos turi daryti? Šiuo metu tai yra jas sukūrusios įmonės generalinis direktorius, ir tas generalinis direktorius turi iš esmės visišką galią. Jie gali duoti dirbtiniam intelektui bet kokius įsakymus.
Žinoma, manome, kad JAV vyriausybė, tikriausiai, atsibus anksčiau, ir tikimės, kad vykdomoji valdžia bus sparčiausiai veikianti ir panaudos savo įgaliojimus, bandydama įsikišti į šią situaciją ir kontroliuoti situaciją bei dirbtinio intelekto armijas. Rezultatas – kažkas panašaus į oligarchiją.
Sakėte, kad visa ši situacija nesuderinama su demokratija. Sakyčiau, kad pagal nutylėjimą tai bus nesuderinama su demokratija, bet tai nereiškia, kad būtinai taip turi būti. Panaudočiau analogiją, kad daugelyje pasaulio šalių tautas iš esmės valdo armijos. O armija yra atskaitinga vienam diktatoriui viršuje. Tačiau Amerikoje taip neveikia. Turime kontrolės ir pusiausvyros sistemas. Taigi, nors ir turime armiją, nėra taip, kad tas, kuris kontroliuoja armiją, kontroliuoja Ameriką, nes yra visokių apribojimų, ką jie gali daryti su armija.
Sakyčiau, kad iš principo galime sukurti kažką panašaus dirbtiniam intelektui. Galėtume turėti demokratinę struktūrą, kuri spręstų, kokius tikslus ir vertybes gali turėti dirbtinis intelektas, kuri leistų paprastiems žmonėms – arba bent jau Kongresui – matyti, kas vyksta su dirbtinio intelekto armija ir ką jie daro. Tuomet situacija būtų analogiška dabartinei Jungtinių Valstijų armijos situacijai, kurioje ji egzistuoja hierarchinėje struktūroje, bet yra demokratiškai kontroliuojama.
Douthat: Grįžtant prie idėjos, kad asmuo, esantis vienos iš šių įmonių viršuje, užima unikalią pasaulinę istorinę poziciją ir iš esmės yra tas, kuris kontroliuoja superintelektą – arba bent jau mano, kad jį kontroliuoja: anksčiau dirbote „OpenAI“, kuri yra dirbtinio intelekto tyrimų priešakyje esanti įmonė. Tai įmonė – visiškai atskleidžiu – su kuria „The New York Times“ šiuo metu bylinėjasi dėl tariamo autorių teisių pažeidimo. Ir jūs pasitraukėte, nes praradote pasitikėjimą, kad įmonė elgtųsi atsakingai tokiu scenarijumi, manau, kaip „DI 2027“.
Kokotajlo: Teisingai.
Douthat: Taigi, jūsų požiūriu, ko žmonės, kurie mus sparčiausiai stumia į šias lenktynes, tikisi jų pabaigoje? Ar jie tikisi geriausio scenarijaus? Ar jie įsivaizduoja save dalyvaujančius kartą per tūkstantmetį pasitaikančiame valdžios žaidime, kuris baigiasi tuo, kad jie tampa pasaulio diktatoriais? Kaip manai, kokia yra dirbtinio intelekto tyrimų vadovybės psichologija šiuo metu?
Kokotajlo: Na, am. [Giliai kvėpuoja.]
Douthat: Būk atviras.
Kokotajlo: Tai... [juokiasi] tai... žinote, išlyga, išlyga. Aš negaliu...
Douthat: Mes čia nekalbame apie jokį nors vieną asmenį. Jūs darote apibendrinimą.
Kokotajlo: Taip, taip. Išlyga, išlyga. Sunku pasakyti, ką jie iš tikrųjų galvoja, nes nereikėtų jų žodžių priimti tiesiogine prasme.
Douthat: Labai, labai panašiai, kaip superintelektualus dirbtinis intelektas.
Kokotajlo: Žinoma. Bet kalbant apie... galiu bent jau pasakyti, kad tokie dalykai, apie kuriuos ką tik kalbėjome, buvo aptarinėjami aukščiausiu šių įmonių lygiu jau daugelį metų.
Pavyzdžiui, remiantis kai kuriais el. laiškais, kurie buvo paskelbti neseniai nagrinėtose teismo bylose su „OpenAI“, Ilja, Samas, Gregas ir Elonas ginčijosi dėl to, kas gaus kontroliuoti įmonę. Ir bent jau buvo teigiama, kad jie įkūrė įmonę, nes nenorėjo, kad Demisas Hassabisas, kuris buvo „DeepMind“ vadovas, valdytų dirbtinio intelekto diktatūrą. Taigi, jie jau bent dešimtmetį svarsto visą šią diktatūros galimybę.
Panašiai ir dėl kontrolės praradimo – žinote, „kas būtų, jei negalėtume kontroliuoti dirbtinio intelekto?“ – apie tai buvo daug, daug, daug diskusijų viduje. Nežinau, ką jie iš tikrųjų galvoja, bet šie svarstymai jiems visiškai nėra nauji.
Douthat: Ir kiek – vėlgi, spėliojant, apibendrinant ar kitaip – tai peržengia tikimybę, kad jie tikisi, jog superintelekto amžius suteiks jiems itin daug galių? Ir ar jie tikisi, kad žmonija bus pakeista?
Kokotajlo: Manau, jie tikrai tikisi, kad žmonių rasė bus pakeista.
Douthat: Bet pakeista tokiu būdu, kad tai būtų gerai. Tai pageidautina, kad mes skatintume evoliucinės ateities atsiradimą. Beje, galbūt, kai kuriuos iš šių žmonių – jų protus, sąmonę, visa kita – būtų galima įtraukti į šią kelionę.
Paminėjote Samą Altmaną, akivaizdžiai vieną iš pirmaujančių asmenybių dirbtinio intelekto srityje. Jis 2017 m. parašė tinklaraščio įrašą pavadinimu „Susijungimas“, kuriame, kaip rodo pavadinimas, iš esmės kalbama apie ateities, kurioje žmonės arba kai kurie žmonės – Samas Altmanas, tiesa? – sugalvoja būdą dalyvauti naujoje superrasėje, įsivaizdavimą. Kiek dažna tokia perspektyva – nesvarbu, ar taikome ją Altmanui, ar ne – dirbtinio intelekto pasaulyje, tavo manymu?
Kokotajlo: Taigi konkreti susijungimo su dirbtiniu intelektu idėja, sakyčiau, nėra ypač įprasta. Tačiau idėja, kad mes kursime superintelektus, kurie visame kame bus geresni už žmones, o tada jie iš esmės valdys visą projektą, o žmonės tiesiog sėdės, gurkšnos margaritas ir mėgausis robotų sukurto turto vaisiais – ši idėja yra labai paplitusi. Manau, kad būtent to jie ir siekia.
Viena iš priežasčių, kodėl palikau „OpenAI“, yra ta, kad nemanau, jog įmonė yra nusiteikusi priimti teisingus sprendimus, kuriuos reikėtų priimti, kad išspręstų dvi ką tik aptartas rizikas. Taigi, manau, kad dar nesame kelyje, kad išsiaiškintume, kaip iš tikrųjų kontroliuoti superintelektus, ir dar nesame kelyje, kad išsiaiškintume, kaip tai padaryti demokratine kontrole, o ne tiesiog beprotiška galima diktatūra.
Douthat: Manau, kad tai atrodo tikėtina, bet man atrodo, kad tai šiek tiek daugiau, nei žmonės, tikintys šansais sėdėti, gurkšnoti margaritas ir mėgautis robotų darbo vaisiais. Net jei žmonės ir nesiruošia kažkokiam žmogaus ir mašinos susijungimui. Man tikrai susidaro įspūdis, kad žmonės mano, jog tai yra rūšių diskriminacija, tarkime, kad...
Kokotajlo: Kai kurie žmonės taip mano. Taip.
Douthat: Per daug rūpintis žmonių rasės išlikimu. Tai tarsi, gerai, blogiausiu atveju žmonės nebeegzistuoja. Bet gera žinia ta, kad sukūrėme superintelektą, kuris galėtų kolonizuoti visą galaktiką. Man tikrai atrodo, kad žmonės taip galvoja.
Kokotajlo: Tikrai yra žmonių, kurie taip galvoja. Taip, taip.
Douthat: Gerai, gerai. Taip, gera žinoti.
Kokotajlo: [Juokiasi.]
Douthat: Taigi, šiek tiek išbandykime mano suvokiamą apribojimą, veikiantį kai kurias prielaidas, kuriomis grindžiamas tokio tipo scenarijus – ne tik laiko juostą, bet ir platesnį scenarijų, nesvarbu, ar tai įvyks 2027 m., ar 2037 m., savotišką superintelekto perėmimo scenarijų.
Pradėkime nuo dirbtinio intelekto apribojimo, su kuriuo dauguma žmonių šiuo metu yra susipažinę, kuris vadinamas haliucinacija. Tai dirbtinio intelekto polinkis tiesiog atrodyti, kad jis išsigalvoja dalykus atsakydamas į užklausas. Anksčiau kalbėjote apie tai, kaip melą ir atvirą apgaulę. Manau, kad daugelis žmonių tai patiria, kaip dirbtinis intelektas... daro klaidas ir kad jis nepripažįsta, jog daro klaidas, nes neturi tam reikalingo sąmoningumo lygio. Neseniai „The Times“ pasirodžiusiame straipsnyje buvo rašoma, kad naujausiuose viešai prieinamuose modeliuose – kurie, jūsų manymu, tikriausiai, yra gana artimi pažangiausiems – atrodo, yra kompromisų, kai modelis gali būti geresnis matematikos ar fizikos srityse, bet žinote ką? Jis haliucinuoja daug daugiau.
Ar haliucinacijos yra tik dalis apgaulės, dėl kurios nerimaujate? Kai esu optimistas, perskaitau tokią istoriją ir galvoju: gerai, galbūt, siekiant superintelekto ribos yra tiesiog daugiau kompromisų, nei manome, ir tai bus ribojantis veiksnys, kiek toli tai gali nueiti. Bet ką manote jūs?
Kokotajlo: Puikus klausimas. Visų pirma, melas yra haliucinacijų dalis, o ne atvirkščiai. Manau, kad nemažai haliucinacijų – ko gero, didžioji jų dauguma – yra tiesiog klaidos, kaip sakėte. Taigi aš vartoju žodį “melas” būtent taip. Kalbėjau konkrečiai apie atvejus, kai turime įrodymų, kad DI žinojo, jog tai melas, ir vis tiek tai pasakė.
Tačiau, kalbant plačiau, manau, kad kelias nuo čia iki superintelekto visai nebus tiesus. Pakeliui teks įveikti kliūtis. Manau, kad viena iš kliūčių, apie kurią iš tikrųjų labai norėčiau daugiau pagalvoti, yra tai, ką galėtumėte pavadinti atlygio įsilaužimu. Darbe „DI 2027“ kalbame apie šį atotrūkį tarp to, ką iš tikrųjų stiprinate, ir to, ko norite, – kokių tikslų norite, kad DI išmoktų – ir kalbame apie tai, kaip dėl šio atotrūkio atsiranda DI, kurie yra nesuderinti ir, pavyzdžiui, nėra su jumis sąžiningi. Na, įdomu tai, kad tai jau vyksta. Tai reiškia, kad įmonės vis dar turi porą metų dirbti su problema ir pabandyti ją išspręsti.
Vienas dalykas, apie kurį labai noriu pagalvoti, atidžiai stebėti ir sekti, yra toks: kokius sprendimus jie sugalvos? Ir ar tie sprendimai iš tikrųjų išspręs pagrindinę problemą ir suteiks mokymo metodus, kurie patikimai pasieks teisingus tikslus dirbtinio intelekto sistemose, net jei tos dirbtinio intelekto sistemos yra protingesnės už mus? Ar tie sprendimai laikinai pataisys ar užmaskuos problemą, o ne ją išspręs? Tai didelis klausimas, apie kurį visi turėtume pagalvoti per ateinančius kelerius metus.
Douthat: Na, ir tai iškelia klausimą, apie kurį daug galvojau, nes atidžiai stebiu reguliavimo politiką. Visada jaučiu, kad žmonės tiesiog labai prastai reguliuoja problemas, su kuriomis dar nesame susidūrę rimtai. Galite turėti tiek straipsnių ir argumentų, kiek norite, apie spekuliatyvias problemas, kurias turėtume reguliuoti, o politinė sistema to tiesiog nepadarys.
Keista, bet jei norite sulėtėjimo, jei norite dirbtinio intelekto reguliavimo ir apribojimų, tuomet, galbūt, turėtumėte tikėtis scenarijaus, kuriame įvyksta kažkokia haliucinacijos versija ir sukelia katastrofą, kai ne dirbtinis intelektas yra netinkamai suderintas, o – tai skamba grėsmingai – jis padaro klaidą ir daug žmonių kažkaip miršta, nes dirbtinio intelekto sistema yra atsakinga už kokį nors svarbų saugos protokolą ar kažką panašaus, o žmonės pasibaisėję sako: „Gerai, turime tai reguliuoti“.
Kokotajlo: Tikrai dvejoju, ar tikiuosi, kad įvyks nelaimės ir žmonės mirs, bet...
Douthat: Mes to nesakome. Mes spėliojame.
Kokotajlo: Sutinku, kad žmonija daug geriau reguliuoja jau įvykusias problemas, kai mokomės iš skaudžios patirties. Viena iš priežasčių, kodėl situacija, kurioje esame, yra tokia bauginanti, yra ta, kad kalbant apie šią konkrečią problemą, kai ji jau įvyksta, jau būna per vėlu.
Tačiau gali įvykti ir mažesnės jos versijos. Pavyzdžiui, tai, ką šiuo metu patiriame: pagauname savo dirbtinius intelektus meluojant, ir esame beveik tikri, kad jie žinojo, jog tai, ką sakė, buvo netiesa. Esame beveik tikri, kad tai buvo akivaizdus melas, nepaisant to, kad tai nebuvo jų instrukcijos ir to nebuvo numatyta jų mokymuose.
Tai iš tikrųjų gana gerai, nes tai nedidelio masto pavyzdys to, dėl ko nerimaujame ateityje, ir tikimės, kad galėsime pabandyti tai ištaisyti. Tai ne pavyzdys, kuris paskatins vyriausybę reguliuoti, nes niekas nemiršta. Tai tiesiog pokalbių robotas, meluojantis vartotojui apie kažkokią nuorodą ar kažką panašaus.
Douthat: O tada jie tai įtraukia į savo kursinį darbą ir yra pagauti.
Kokotajlo: Teisingai. Tačiau iš mokslinės perspektyvos gerai, kad tai jau vyksta, nes tai suteikia mums porą metų pabandyti rasti išsamų, ilgalaikį problemos sprendimą. Ir norėčiau, kad turėtume daugiau laiko, bet tokia yra žaidimo esmė.
Douthat: Gerai. Taigi, dabar du dideli filosofiniai klausimai, galbūt susiję vienas su kitu. Manau, kad žmonės, dirbantys dirbtinio intelekto tyrimuose ir darantys tokias prognozes kaip jūs, linkę keistis sąmonės klausimu. Ar šie superintelektualūs DI yra sąmoningi ir sąmoningi taip, kaip žmonės? Turėjau pokalbių, kuriuose DI tyrėjai ir žmonės sakydavo: „Na, ne, jie nėra, ir tai nesvarbu, nes galite turėti DI programą, siekiančią tikslo, ir nesvarbu, ar jie save apmąsto.“
Tačiau vėl ir vėl, kalbėdami apie šiuos dalykus, žmonės pereina prie sąmonės kalbos. Taigi man smalsu: ar manote, kad sąmonė yra svarbi, planuojant šiuos ateities scenarijus? Ar dauguma DI tyrėjų tikisi, kad mes nežinome, kas yra sąmonė, bet tai yra atsirandanti savybė, ir jei sukursime dalykus, kurie elgsis taip, lyg būtų sąmoningi, jie, tikriausiai, bus sąmoningi? Kur sąmonė čia telpa?
Kokotajlo: Tai klausimas filosofams, o ne DI tyrėjams, bet aš esu išsilavinęs kaip filosofas.
Douthat: Na, ne, tai klausimas abiem. Kadangi DI... Kadangi tyrėjai kuria agentus, jie tikriausiai turėtų pagalvoti, ar svarbu, ar agentai yra sąmoningi [1].
Kokotajlo: Žinoma. Manau, kad galėtume išskirti tris dalykus. Yra elgesys: ar jie kalba taip, lyg būtų sąmoningi? Ar jie siekia tikslų? Ar jie elgiasi taip, lyg turėtų tikslų ir pageidavimų? Ar jie elgiasi taip, lyg patirtų dalykus, o tada reaguotų į tą patirtį?
Douthat: Teisingai, ir jie pasieks šį kriterijų.
Kokotajlo: Tikrai, taip.
Douthat: Be abejo, žmonės manys, kad superintelektualus DI yra sąmoningas. Žmonės tuo patikės.
Kokotajlo: Nes filosofiniame diskurse, kai kalbame apie: ar krevetės yra sąmoningos? Ar žuvys yra sąmoningos? O kaip šunys? Paprastai žmonės nurodo į gebėjimus ir elgesį, pavyzdžiui, žiūrėk, šuo gali atpažinti save veidrodyje. Atrodo, kad jis jaučia skausmą panašiai, kaip žmonės jaučia skausmą ir turi tokį nemalonų elgesį ir taip toliau.
Didžioji dalis to bus tiesa ir apie šiuos būsimus superintelektualius DI. Jie pasaulyje veiks autonomiškai, reaguos į visą gaunamą informaciją, kurs strategijas ir planus bei galvos, kaip geriausiai pasiekti savo tikslus. Kalbant apie neapdorotus gebėjimus ir elgesį, jie iš esmės atitiks visus reikalavimus.
Yra atskiras filosofinis klausimas: jei jie turi visą tinkamą elgesį ir gebėjimus, ar tai reiškia, kad jie turi tikrąsias kvalias? [2] Ar jie iš tikrųjų patyrė tikrąją patirtį, o ne tik atrodė, kad turi tikrąją patirtį?
Manau, kad tai yra filosofinis klausimas. Tačiau manau, kad dauguma filosofų pasakytų: taip, tikriausiai taip, nes, tikriausiai, sąmonė kyla iš šios informacijos apdorojimo kognityvinių struktūrų. Jei DI turi tas struktūras, tai tikriausiai jie taip pat turi sąmonę.
Tačiau tai prieštaringai vertinama, kaip ir viskas filosofijoje.
Douthat: Teisingai, ir nesitikiu, kad DI tyrėjai išspręs šį konkretų klausimą. Tai labiau susiję su tuo, kad keliais lygmenimis sąmonė, kaip mes ją patiriame, kaip gebėjimas būti už savo paties apdorojimo ribų, būtų labai naudinga dirbtiniam intelektui (DI), norinčiam užvaldyti pasaulį.
Taigi, haliucinacijų lygmenyje, jei jos pateikia neteisingą atsakymą į klausimą, DI negali būti už savo paties atsakymų generavimo proceso ribų taip, kaip, atrodo, galime mes. Jei galėtų, galbūt, tai panaikintų haliucinacijų procesą. O kalbant apie blogiausią scenarijų, apie kurį spėliojate, man atrodo, kad sąmoningas DI labiau linkęs sukurti tam tikrą nepriklausomą požiūrį į savo kosminį likimą, kuris sukurs pasaulį, kuriame jis sunaikins žmones, nei DI, kuris tiesiog vykdo tyrimus dėl tyrimų.
Bet galbūt jūs taip nemanote. Ką manote?
Kokotajlo: Taigi, sąmonės požiūris, apie kurį ką tik kalbėjote, yra požiūris, pagal kurį sąmonė turi fizinį poveikį realiame pasaulyje. Tai yra kažkas, ko jums reikia, kad turėtumėte šį apmąstymą, ir tai yra kažkas, kas taip pat daro įtaką tam, kaip jūs galvojate apie savo vietą pasaulyje.
Sakyčiau, jei tai yra sąmonė, tai, tikriausiai, šie dirbtiniai intelektai ją turės. Kodėl? Nes įmonės juos apmokys, kad jie būtų tikrai geri visose šiose užduotyse, o jūs negalite būti tikrai geri visose šiose užduotyse, jei negalite apmąstyti, kodėl galite klysti dėl dalykų.
Taigi, kai jie taps tikrai geri visose užduotyse, jie išmoks apmąstyti, kodėl jie gali klysti dėl dalykų. Jei tai yra sąmonė, tai reiškia, kad jie turės sąmonę.
Douthat: Gerai. Tačiau galiausiai tai priklauso nuo tam tikros sąmonės atsiradimo teorijos, tokios, kokią siūlėte anksčiau. Iš esmės mes tiksliai neišsiaiškinsime, kaip atsiranda sąmonė, bet ji vis tiek įvyks.
Kokotajlo: Be abejo. Svarbu, kad visi žinotų, jog šios sistemos yra apmokytos; jos nėra sukurtos. Taigi, mums iš tikrųjų nereikia suprasti, kaip jos veikia – ir mes to neturime – kad jos veiktų.
Douthat: Gerai. Taigi, nuo sąmonės iki intelekto, visi jūsų kuriami scenarijai remiasi prielaida, kad tam tikru mastu nėra nieko, ko negalėtų padaryti pakankamai pajėgus intelektas.
Manau, kad daug kas priklauso nuo klausimo, kas prieinama intelektui. Nes jei dirbtinis intelektas šiek tiek geriau, nei vidutinė reklamos agentūra įtikina jus nusipirkti „Coca-Cola“, tai įspūdinga, bet tai neleidžia jums visiškai kontroliuoti demokratinės santvarkos.
Kokotajlo: Visiškai sutinku. Todėl sakau, kad turite nagrinėti kiekvieną atvejį atskirai ir paklausti: gerai, darant prielaidą, kad dirbtinis intelektas yra geresnis už geriausius žmones X srityje, kiek realios galios tai reikštų? Kokias galimybes tai reikštų? Ir būtent taip mes mąstėme, kai rašėme „DI 2027“.
Mes galvojome apie istorinius pavyzdžius, kaip žmonės pertvarko savo ekonomiką ir gamyklas, pritaikytas karo meto gamybai. Ir mes klausėme: kaip greitai žmonės gali tai padaryti, kai jie tikrai stengiasi? Superintelektas bus geresnis, nei geriausi žmonės, todėl jis galės dirbti šiek tiek greičiau.
Taigi, galbūt, užuot buvę Antrojo pasaulinio karo metu, kai Jungtinės Valstijos per porą metų sugebėjo paversti daugybę automobilių gamyklų bombonešių gamyklomis, na, galbūt, tada tai reiškia, kad per mažiau, nei metus, galbūt, šešis mėnesius, galėtume esamas automobilių gamyklas paversti naujomis, išgalvotomis robotų gamyklomis, gaminančiomis naujus, išgalvotus robotus.
Douthat: Bet jei ieškome vilties, tai keistas būdas kalbėti apie šią technologiją. Mes sakome, kad apribojimai yra vilties priežastis.
Anksčiau kalbėjome apie robotus santechnikus, kaip apie svarbiausią akimirką, kai viskas taps realybe žmonėms. Tada tai ne tik jūsų nešiojamajame kompiuteryje. Tai jūsų virtuvėje ir taip toliau. Bet iš tikrųjų tualeto remontas, viena vertus, yra labai sunki užduotis. Kita vertus, tai užduotis, kuriai daugybė žmonių yra gana optimizuoti.
Galiu įsivaizduoti pasaulį, kuriame robotas santechnikas niekada nėra daug geresnis už paprastą santechniką. Tokiame pasaulyje žmonės dėl įvairiausių labai žmogiškų priežasčių, galbūt, labiau norėtų turėti paprastą santechniką.
Ir tai galėtų būti apibendrinta daugelyje žmogaus gyvenimo sričių, kur dirbtinio intelekto pranašumas, nors ir realus kai kuriais aspektais, yra ribotas taip, kad bent jau – ir aš tuo iš tikrųjų tikiu – smarkiai sulėtina jo įsisavinimą tarp paprastų žmonių.
Pavyzdžiui, šiuo metu, kaip žmogus, rašantis laikraščio skiltį ir atliekantis tyrimus tam straipsniui, galiu pripažinti, kad aukščiausios klasės dirbtinio intelekto modeliai šiuo metu kai kuriais aspektais gali būti geresni už žmogaus asistentą. Bet aš vis tiek samdysiu žmogaus asistentą, nes esu užsispyręs žmogus, kuris nenori dirbti tik su dirbtinio intelekto modeliais.
Man atrodo, kad tai jėga, kuri iš tikrųjų galėtų sulėtinti tai keliose dimensijose, jei dirbtinis intelektas... nėra iš karto 200 procentų geresnis.
Kokotajlo: Taigi, norėčiau pasakyti, kad tai sunku numatyti, bet dabartinis mūsų spėjimas yra tas, kad viskas vyks taip greitai, kaip mes vaizduojame „DI 2027“. Jie galėtų būti greitesni, jie galėtų būti lėtesni, ir tai iš tiesų gana baugina. Dar norėčiau pasakyti, kad mes sužinosime, kaip greitai viskas vyks, kai ateis laikas.
Douthat: Labai, labai, labai greitai.
Kokotajlo: Kitas dalykas, kurį norėjau pasakyti, yra tai, kad politiškai kalbant, nemanau, kad tai labai svarbu, jei manote, kad, pavyzdžiui, ekonomikos transformacijai ir naujos savarankiškos robotų ekonomikos, kurią valdo superintelektai, sukūrimui gali prireikti penkerių metų, o ne vienerių.
Tai nėra labai naudinga, jei visus penkerius metus vis dar egzistuoja ši politinė koalicija tarp Baltųjų rūmų ir superintelektų bei korporacijų, o superintelektai kalbėjo visus teisingus dalykus, kad Baltieji rūmai. Atstovų Rūmams ir korporacijoms atrodo, kad jiems viskas klostosi puikiai, bet iš tikrųjų jie juos apgaudinėjo.
Tokiu atveju tai būtų puiku, dabar turime penkerius metus situacijai pakeisti, o ne vienerius. Manau, kad tai geriau. Bet kaip jūs pakeistumėte situaciją?
Douthat: Na, tuo ir baikime.
Pasaulyje, kuriame įvyksta tai, ką prognozuojate, ir pasaulis nesibaigia – mes išsiaiškiname, kaip valdyti dirbtinį intelektą, ir jis mūsų nenužudo, bet pasaulis pasikeičia amžiams – ir žmogaus darbas nebėra ypač svarbus, kokia, jūsų manymu, yra žmonijos paskirtis tokiame pasaulyje? Kaip įsivaizduojate, kaip mokyti savo vaikus tokiame pasaulyje ir aiškinti jiems, kokia jų suaugusiųjų gyvenimo prasmė?
Kokotajlo: Tai sunkus klausimas. Štai kelios mintys, kurios man kyla iš galvos, bet aš jų nepritariu tiek, kiek pritariu kitiems dalykams, kuriuos pasakiau, nes ne apie tai galvojau daugiausiai.
Visų pirma, manau, kad jei pereisime prie superintelekto ir dar daugiau, ekonominis produktyvumas nebebus pagrindinis dalykas, kai kalbama apie vaikų auginimą. Jie iš tikrųjų nedalyvaus ekonomikoje įprasta prasme. Tai bus tiesiog vaizdo žaidimų tipo dalykų serija, kurią žmonės darys pramogai, o ne tam, kad jiems reikia užsidirbti pinigų – jei žmonių apskritai bus. Tokiu atveju, manau, vis dar svarbu, kad mano vaikai būtų geri žmonės, kad jie turėtų išminties, dorybės ir panašių dalykų. Todėl stengsiuosi juos išmokyti šių dalykų, nes šie dalykai savaime yra geri, o ne naudingi, norint gauti darbą.
Kalbant apie žmonijos tikslą, nežinau. Koks, jūsų manymu, yra žmonijos tikslas dabar?
Douthat: Na, į šį klausimą turiu religinį atsakymą, bet galime tai pasilikti būsimam pokalbiui.
Manau, kad pasaulis, kuriuo noriu tikėti, kuriame įvyksta kažkokia šio technologinio proveržio versija, yra pasaulis, kuriame žmonės tam tikru mastu valdo technologijas, o tai leidžia mums daryti tokius dalykus kaip kolonizuoti kitus pasaulius. Patirti savotiškų nuotykių, peržengiančių materialinio trūkumo lygį.
Kaip politinis konservatorius, aš turiu nemažai nesutikimų su konkrečia „Žvaigždžių kelio“ vizija, tačiau „Žvaigždžių kelio“ veiksmas vyksta pasaulyje, kuris įveikė trūkumą. Žvaigždžių laive „Enterprise“ yra dirbtinio intelekto kompiuteris. Restorane galite valgyti viską, ko norite, nes, matyt, dirbtinis intelektas išrado mašiną, kuri gamina bet kokį maistą.
Taigi, jei bandau galvoti apie žmonijos tikslą, tai galėtų būti tyrinėti keistus naujus pasaulius ir drąsiai keliauti ten, kur dar niekas nebuvo.
Kokotajlo: O taip. Esu didelis kosmoso plėtros šalininkas. Manau, kad tai būtų puiki idėja. Ir apskritai, taip pat išspręsti visas pasaulio problemas, tokias, kaip skurdas, ligos, kankinimai ir karai. Manau, kad jei įveiksime pradinį superintelekto etapą, akivaizdu, kad pirmiausia reikėtų išspręsti visas tas problemas ir sukurti kažkokią utopiją, o tada tą utopiją perkelti į žvaigždes.
Reikalas tas, kad tai darytų dirbtinis intelektas, o ne mes. Kalbant apie projektavimą, planavimą, strategijos kūrimą ir panašiai, mes tik viską sugadintume, jei bandytume tai padaryti patys.
Taigi, galima sakyti, kad tam tikra prasme visa tai vis dar daro žmonija, bet svarbu pažymėti, kad labiau panašu, jog dirbtinis intelektas tai daro, ir jie tai daro todėl, kad žmonės jiems liepė.
Douthat: Na, Danieli Kokotajlo, labai ačiū. Ir greitai pasimatysime Butlerio džihado fronto linijose.
Kokotajlo: Tikiuosi, kad ne. Tikiuosi, kad labai klystu.
Douthat: Gerai. Labai ačiū.
Kokotajlo: Ačiū.” [3]
O mes Lietuvoje dideliais mokesčiais atimsime iš daugumos namus ir butus, parduosime juos vokiečiams, už gautus pinigus prisipirksime minų, minomis apsiklosime, o kai ateis kinų robotai, ieškodami Gabrieliaus Landsbergio, kuris drįso pasikėsinti į galingosios Kinijos teritoriją, mes susisprogdinsime. Kytri durniai mes esame, ar dar ne?
1. Norėdami ugdyti savimonę, galite praktikuoti sąmoningumą, užsiimti savistaba, rašydami dienoraštį ir siekti atsiliepimų iš kitų. Be to, savo vertybių tyrinėjimas, emocinių reakcijų analizė ir pažeidžiamumo priėmimas gali dar labiau pagerinti jūsų savęs supratimą.
Štai keletas strategijų, kurias galite išsamiau apžvelgti:
A. Praktikuokite sąmoningumą:
Meditacija:
Reguliarus sąmoningumo meditavimas gali padėti jums geriau suvokti savo mintis ir emocijas esamuoju momentu, be vertinimo.
Aktyvus klausymasis:
Pokalbių metu atidžiai stebėkite savo ir kitų mintis bei jausmus, kad suprastumėte jų požiūrį ir galbūt įgytumėte įžvalgų apie savo.
B. Savistaba ir savirefleksija:
Dienoraščio rašymas:
Reguliariai užsirašykite savo mintis, jausmus ir patirtį, kad nustatytumėte modelius ir veiksnius.
Apmąstykite jūsų vertybes:
Apsvarstykite, kas jums iš tikrųjų svarbu ir kaip jūsų veiksmai atitinka jūsų vertybes.
Priimkite pažeidžiamumą:
Būkite pasirengę dalytis savo mintimis ir jausmais su kitais, net jei tai atrodo rizikinga. Tai gali padėti jums įgyti naujų perspektyvų ir supratimo.
Tyrinėkite asmeninę praeitį.
Savo praeities patirties, įskaitant tiek sėkmes, tiek iššūkius, supratimas gali suteikti vertingų įžvalgų apie jūsų dabartinį elgesį ir motyvaciją.
C. Siekite atsiliepimų:
Prašykite atsiliepimų:
Prašykite konstruktyvaus atsiliepimo iš patikimų asmenų apie jūsų stipriąsias puses ir tobulintinas sritis.
Atsiliepimų priėmimas:
Būkite atviri išklausyti ir įtraukti atsiliepimus, net jei jie neatitinka jūsų lūkesčių.
Būkite pasirengę keistis:
Savęs pažinimas yra nuolatinis procesas, todėl būkite atviri pokyčiams, remdamiesi savo įžvalgomis.
D. Kiti naudingi metodai:
Nustatykite savo stipriąsias ir silpnąsias puses:
Savo stipriųjų ir silpnųjų pusių supratimas gali padėti jums panaudoti savo įgūdžius ir spręsti sritis, kuriose jums reikia tobulėti.
Praktikuokite dėkingumą:
Gerų dalykų savo gyvenime pripažinimas ir vertinimas gali padėti jums išsiugdyti pozityvesnį ir, labiau save užjaučiantį, požiūrį.
Priimkite savo intuiciją:
Išmokę įsiklausyti į savo nuojautas ir suprasti, kaip jos pasireiškia, galite priimti labiau pagrįstus sprendimus.
Išsikelkite tikslus ir siekite jų:
Aiškūs tikslai gali padėti sutelkti energiją ir stebėti pažangą, o tai lemia didesnį pasiekimo jausmą ir savimonę.
Skirkite laiko apmąstymams:
Reguliariai skirkite laiko ramiai pasėdėti ir apmąstyti savo dieną, mintis ir emocijas.
Stebėkite savo reakcijas:
Atkreipkite dėmesį į tai, kaip reaguojate skirtingose situacijose, ir nustatykite galimus neigiamų emocijų sukėlėjus.
Apsvarstykite, kaip jūsų veiksmai veikia kitus:
Apmąstykite, kaip jūsų žodžiai ir veiksmai veikia aplinkinius, ir atkreipkite dėmesį į savo poveikį kitiems.
Pagalvokite prieš reaguodami:
Prieš reaguodami į situaciją, skirkite akimirką pauzei, kad galėtumėte apgalvočiau apdoroti savo mintis ir emocijas.
2. Kvalija, kalbant apie sąmonę, reiškia subjektyvius, kokybinius patirties aspektus. Tai sąmoningos patirties „koks jausmas“, pavyzdžiui, raudonumo ar skausmo jausmas. Kita vertus, sąmonė yra bendrinis terminas, apibūdinantis savęs ir savo aplinkos suvokimo būseną, apimantis tiek kvalias, tiek kitus aspektus, tokius, kaip intencionalumas.
Paaiškinimas:
Kvalijos:
Kvalijos yra subjektyvios, fenomenalios patirties savybės. Jos yra sąmoningos būsenos „koks jausmas“, pavyzdžiui, specifinis galvos skausmo pojūtis ar tam tikro raudonos spalvos atspalvio paraudimas. Jos dažnai priešpriešinamos su objektyvesniais, reprezentaciniais psichinių būsenų aspektais (intencionalumu).
Sąmonė:
Sąmonė yra bendrinis terminas, apibūdinantis savęs ir savo aplinkos suvokimą. Ji apima kvalijas, bet taip pat apima ir kitus aspektus, tokius, kaip dėmesys, atmintis ir savo psichinių būsenų suvokimas.
Sunki problema:
„Sunki sąmonės problema“ reiškia sunkumą paaiškinant, kaip fiziniai procesai smegenyse sukelia subjektyvią, kokybinę kvalijų patirtį.
Intencionalumas:
Intencionalumas reiškia psichinių būsenų reprezentacinį aspektą, o tai reiškia, kad jos yra nukreiptos į kažką pasaulyje arba apie jį. Pavyzdžiui, įsitikinimas, kad dangus yra mėlynas, yra intencionalus, nes jis yra apie dangų.
Fenomenali sąmonė:
Fenomenali sąmonė dažnai vartojama kaip sinonimas su kvalijomis ir reiškia subjektyvius, patirtinius psichinių būsenų aspektus.
Pagrindiniai punktai:
Kvalijos yra esminis sąmonės aspektas, atspindintis subjektyvią, kokybinę sąmoningumo patirtį.
Sunki sąmonės problema sutelkta į tai, kaip sunku paaiškinti, kaip fiziniai procesai smegenyse sukelia kvalijas.
Nors kvalijos yra subjektyvios, sąmonė yra platesnis terminas, apimantis įvairius sąmonės aspektus, įskaitant intencionalumą ir kitas kognityvines funkcijas.
3. The Forecast for 2027? Total A.I. Domination.: interesting times. Douthat, Ross; New York Times (Online) New York Times Company. May 15, 2025.
Komentarų nėra:
Rašyti komentarą