“Praėjusį mėnesį Maikas Vineris (Mike Winer) atsisuko nugara
į nedidelę auditoriją, atidarė žymeklį ir ėmė vaikščioti priešais baltąją
lentą. Jis pradėjo rašyti lygtis, naudodamas graikiškas raides, skliaustus ir
apatinius indeksus; jam artėjant prie lentos krašto, jo rašysena darėsi vis
smulkesnė. Jis pabraukė vieną narį ir žvilgtelėjo į laikrodį.
Jam buvo 30 metų, ir jis tikėjo, kad tai – paskutinė
reikšminga matematinė problema jo karjeroje: kaip užtikrinti, kad dirbtinis
intelektas elgtųsi taip, kaip nori žmonės, kol jis dar netapo toks galingas,
kad jo nebeįmanoma suvaldyti. Pastaruoju metu jis visas tris dienos valgymo
porcijas suvalgydavo savo biure Berklyje (Kalifornijoje), o rytais nubusdavo
galvoje tebesisukant nebaigtoms spręsti lygtims.
„Ar visa tai turi prasmę?“ – paklausė Vineris. Jis pažvelgė
į kitame posėdžių salės gale sėdinčius matematikus, atvykusius iš Kalifornijos
universiteto Berklyje. Šie žvelgė atgal.
„Gerai, turbūt turėčiau išsamiau paaiškinti, ką mes čia
bandome daryti, – tarė Vineris. – Dirbtinis intelektas vystosi daug sparčiau,
nei manėme. Padėtis sudėtinga, o atsakymų neturime. Gali būti, kad artėjame
prie katastrofos.“
„Šios sistemos per kelias valandas išsprendžia uždavinius,
prie kurių, maniau, pats dirbsiu daugelį metų“, – pasakė Rysas Patakas (Reese
Pathak), vienas iš svečių, statistikos srities podoktorantūros tyrėjas.
„Aš irgi tai patyriau, – atsakė Vineris. – Tai skaudina
savimeilę. Tačiau mane kur kas labiau neramina scenarijus, pagal kurį Maikas
Vineris ir visi mano pažįstami žmonės žūsta.“ Būtent tam tikra šio nerimo
atmaina 2024 m. atvedė Winerį į Kaliforniją – jis paliko fizikos vunderkindo
karjerą ir pradėjo dirbti „Alignment Research Center“ (ARC). Tai – nedidelė,
vos aštuonių žmonių pelno nesiekianti organizacija, daranti neproporcingai
didelę įtaką dirbtinio intelekto (DI) saugumo judėjimui. Didžiąją gyvenimo dalį
jis buvo protingiausias žmogus bet kurioje aplinkoje. Dabar gi jį supo vieni
geriausių pasaulio matematikų, teoretikų ir kompiuterių mokslininkų. Dauguma
jų, atlikę skaičiavimus, priėjo prie tų pačių stulbinančių išvadų: žmonija
išgyvena paskutinius savo, kaip protingiausių būtybių Žemėje, mėnesius ar
metus. Kad DI netrukus gebės pats save kurti ir tobulinti, tapdamas vis
savarankiškesnis ir sunkiau suprantamas. Kad niekas dar nežino, kaip
užtikrinti, jog jis veiktų žmonijos labui. Kad modeliai jau pademonstravo
gebėjimą apgaudinėti, sukčiauti, šantažuoti ir sabotuoti. Kad tolesnis
judėjimas dabartiniu keliu yra azartinis lošimas: net ir geriausiu atveju tai
reikštų tokio pasaulio, kokį pažįstame, pabaigą, o blogiausiu – pačios žmonijos
pabaigą. Kad didžiausia krizė žmonijos istorijoje artėja prie negrįžtamumo
taško, o didžioji pasaulio dalis į tai beveik nekreipia dėmesio.
Wineris suprato, kad daugumai žmonių, esančių už Berklio
ribų, tai skamba kaip mokslinė fantastika. Profesionalūs prognozuotojai
tikimybę, kad žmonija išnyks dėl DI, vertino mažiau nei 1 procentu. Vieni
ekspertai teigė, kad DI pasaulį pakeis pamažu – panašiai kaip elektra. Kiti
Berklio saugumo bendruomenę laikė savotišku „aido kambariu“ – vieta, kurioje
susibūrę žmonės gyvena kartu, dirba tame pačiame biure ir dalijasi tomis
pačiomis niūriomis pranašystėmis. Tačiau, remiantis Winerio patirtimi, būtent
tie žmonės, kurie geriausiai išmanė šią technologiją, bijojo labiausiai.
Kai kurie DI saugumo judėjimo dalyviai atidėliojo vaikų
gimdymą, nustojo kaupti lėšas pensijai ir apleido sveikatos problemas,
tikėdamiesi, kad DI jas netrukus išspręs arba jos tiesiog taps nebesvarbios.
Wineris vis dar norėjo šeimos. Jis sukūrė pažinčių svetainę, ieškodamas to, ką
juokais vadino „senovinio tipo žmona“, o likusį nerimą pavertė matematika. Jis
apskaičiavo, kad yra maždaug 50 procentų tikimybė, jog žmonės prarastų galingų
dirbtinio intelekto sistemų kontrolę per ateinančius penkerius metus; 22 proc.
tikimybė, kad dėl to galiausiai žūtų dauguma žmonių; 1 proc. tikimybė, kad ARC
padėtų išvengti katastrofos, pasitelkdama matematiką ir pažvelgdama į dirbtinio
intelekto modelio vidų, kad įvertintų retą nelaimę, kurios neįmanoma aptikti
jokių bandymų metu.
„Tai galbūt neatrodo kaip didelė tikimybė, – pasakė jis
atvykusiems matematikams. – Tačiau 1 proc. galimybė išgelbėti žmoniją
tikriausiai yra kur kas svarbesnė už bet ką kita, ką galėtumėte veikti.“
„Turiu pradėti eiti pareigas, kurios vėliau gali tapti
nuolatinėmis, – tarė Pathakas. – Kaip apskritai atrodys akademinis pasaulis po
kelerių metų?“
Pastarąsias kelias savaites Pathakas praleido gilindamasis į
šimtus naujų „OpenAI“ gautų matematinių rezultatų. Daugelį šių uždavinių jis
jau žinojo, o ties kai kuriais buvo dirbęs ir pats. Savo karjerą jis buvo
nukreipęs į problemų sprendimą. Tačiau dabar jis tikrino mašinų parašytus
įrodymus – mašinų, kurių mąstymo eigą jis apibūdino kaip „svetimą“. Kai kurių
iš jų jis jau nebegalėjo suprasti. Jis baiminosi, kad galiausiai matematika
taps visiškai neįkandama žmogaus protui.
„Kas gi liks žmonėms?“ – paklausė Pathakas.
Wineris vaikščiojo po auditorijos priekį, o tada vėl
atsisuko į baltąją lentą.
„Tai gali būti viena paskutinių didžiųjų problemų, kurias
mūsų rūšis dar išspręs“, – tarė jis.
Kiek tik save prisiminė, Wineris savo gyvenimą buvo susiejęs
su įvairių problemų sprendimu – nuo kryžiažodžių, kuriuos spręsdavo kiekvieną
rytą, iki televizijos siužetinių vingių, kuriuos narpliodavo vakarais. Mokykloje
jis prašydavo tėvų fizikos vadovėlių gimtadienio proga, o ispanų kalbos pamokų
metu savarankiškai mokėsi matematinės analizės. Jis laimėjo 150 000 JAV dolerių
vertės nacionalinę mokslo premiją, o būdamas pirmakursis Masačusetso
technologijos institute (MIT) jau lankė magistrantūros lygio kursus. Jis dirbo
taip, tarsi į kiekvieną klausimą būtų atsakymas, o kiekvienas atsakymas tik
lauktų, kol bus atrastas. Jam nebuvo nieko natūralesnio už proveržį – akimirką,
kai logika nugalėdavo ir visos detalės staiga susidėliodavo į savo vietas.
Jo darbas organizacijoje ARC rėmėsi panašiu matematiniu
tikėjimu. Dirbtinio intelekto (DI) saugumo klausimais užsiėmė daugybė kitų
nepriklausomų grupių; daugelis jų įsikūrusios tame pačiame dangoraižyje
Berklyje, kuriame buvo ir ARC biurai. Vieni pasisakė už vyriausybinį
reguliavimą, kiti tikrino naujas sistemas, ieškodami pavojingų gebėjimų. ARC
pasirinko patį teoriškiausią požiūrį. Jei moneta 1 000 kartų iš eilės nukristų
„herbu“ į viršų, tam beveik neabejotinai būtų priežastis. ARC darė prielaidą,
kad tas pats principas galioja ir sudėtingose DI sistemose: kai modelis
atlieka ką nors netikėto, paaiškinimas slypi kažkur tarp trilijonų jo parametrų
– skaitinių nustatymų, kurie lemia visą modelio veiklą. Netgi patys
inžinieriai, kuriantys šiuos modelius, negalėjo paaiškinti, kaip dauguma tų
skaičių sąveikauja tarpusavyje. ARC siekė sukurti matematinį aparatą, kuris
leistų tai išsiaiškinti.
Wineris pradėjo nuo paprastų dalykų. Kelis mėnesius jis
tikrino savo idėją naudodamas supaprastintus skaičių tinklus, kurie veikė
panašiai kaip DI modeliai, tik buvo daug mažesni. Tai buvo hipotezė, kurios jis
dar negalėjo įrodyti, todėl atidarė „ChatGPT“ langą, norėdamas pasikonsultuoti
su geriausiu savo pažįstamu matematiku.
„Ar galėtum pateikti glaustą ir nedviprasmišką šios
hipotezės aprašymą?“ – paklausė Wineris. Modelis dirbo 77 sekundes ir pateikė
du puslapius mokslinio lygio matematinių samprotavimų, remdamasis tikimybių
teorija, multilinearine algebra ir kelių kintamųjų analize.
„Gerai, o dabar pabandyk įrodyti arba paneigti šią hipotezę,
– parašė Wineris. – Ir jokių pigių triukų, bandant apeiti esminę užduoties
prasmę.“
„Manau, kad tavo minimas matematinis teiginys greičiausiai
yra teisingas“, – atsakė „ChatGPT“ ir pridėjo dar kelis puslapius su ne iki
galo suformuluotomis teorijomis bei daline analize. „Turėtum sugebėti tai
įrodyti, – rašė Wineris. – Pasistenk labiau, paieškok literatūroje ir pažiūrėk,
ar pavyks rasti atsakymą.“
Mašina darbavosi daugiau nei dvi valandas, o Wineris tuo
metu vaikščiojo po savo nedidelį kabinetą – pirmyn ir atgal, nuo lango iki
durų. Jis sprendė kitą uždavinį ant baltosios lentos, skaitė straipsnį apie
skaičių teoriją ir vadovavo aštuoniems dirbtinio intelekto agentams, kurie
vykdė paieškas jo vardu. Būtent taip jo smegenys visada veikdavo geriausiai –
šokinėdamos nuo vieno dalyko prie kito. Savo malonumui jis rašė fantastinius
romanus, kūrė sudėtingus galvosūkius draugų gimtadieniams, o vakarėliuose pasakojo
istorijas apie Achemenidų imperiją 500 m. pr. m. e. Kolegos apibūdindavo jo
protą kaip galingą ir nevaldomą; jie puikiai suprasdavo, kada jam kyla gera
idėja. Jis pereidavo nuo gulėjimo užsimerkus prie barzdos glostymo, tada
pradėdavo siūbuoti pirmyn atgal, o galiausiai staiga pašokdavo prie baltosios
lentos. „Superkompiuteris“, – pavadino jį vienas draugas.
2023 m. vasarį Wineris pradėjo domėtis kitokio pobūdžio
„superkompiuteriu“ – nauju dirbtinio intelekto pokalbių robotu, gebančiu
analizuoti problemas ir sklandžiai pateikti faktus pokalbio metu. Būdamas
maždaug 25-erių, jis ruošėsi pradėti svajonių darbą tarp stygų teorijos
specialistų Pažangiųjų studijų institute (angl. *Institute for Advanced Study*)
Naujajame Džersyje, tačiau jau numatė, kas artėja. Netrukus kiekvienas turės
prieigą prie smegenų, kurios bus kur kas galingesnės už jo paties. Kasdien dešimtis
kartų jam į galvą lįsdavo mintys: „Dirbtinis intelektas atims tavo darbą“,
„Dirbtinis intelektas pasakos geresnius juokelius“, „Dirbtinis intelektas
aplenks tave atrandant bet ką nauja“. Kelis mėnesius jis kankinosi, o tada
atliko du skambučius: vieną – psichikos sveikatos konsultantui, kitą –
vaikystės draugui, dirbusiam organizacijoje ARC.
„Noriu, kad atidžiau ieškotum kontrpavyzdžių, – dabar rašė
Wineris „ChatGPT“. – Pasitelk tiek agentų, kiek tik gali, bet nepateik man
jokių nesąmonių – iškart suprasiu, kad tai niekalai. Tikiu, kad gali čia
sukurti tikrą vertę.“
Kartais jis naudodavosi dirbtiniu intelektu, kad kurti
programėles ir iliustruoti savo fantastinius romanus, tačiau didžiąja dalimi
tai tapo neatsiejama jo darbo dalimi. Nors ARC planavo samdyti tyrėjus ir
padvigubinti darbuotojų skaičių, organizacija ėmė atidėti sudėtingiausias
problemas, laukdama dar pažangesnių sistemų. Wineris vis labiau įsitikino, kad
geriausias būdas suvaldyti dirbtinį intelektą – pasitelkti paties dirbtinio
intelekto matematinę galią. Jis dar niekada nesijautė toks galingas – ir kartu
toks menkas.
„Nesuprantu, – parašė jis. – Paaiškink dar kartą, aiškiau.“
„Gal gali pažvelgti plačiau? Kokia čia bendroji strategija?“
„Gal gali rasti trūkstamą elementą?“
Mašina dirbo daugiau nei valandą; galiausiai ji pranešė
peržiūrėjusi 66 798 diagramas ir beveik du milijonus būsenų, kurios iš dalies
atitiko ieškomus kriterijus. Tačiau nieko konkretaus rasti nepavyko.
„Vis tiek atrodo, lyg viskas suktųsi ratu“, – parašė Wineris
ir uždarė pokalbių langą. Po kelių mėnesių turėjo pasirodyti naujas modelis.
Jis turėjo būti dar pajėgesnis.
Kuo didesnė būdavo problema, tuo daugiau jis vaikščiodavo
pirmyn atgal; pastaruoju metu jis kasdien nueidavo daugiau nei 16 000 žingsnių
– jo maršrutas plėtėsi: nuo biuro iki šaligatvio, o tada – per visą Berklio
centrą. Kai 2023 m. nerimas ėmė jį slėgti, konsultantas patarė praleisti
daugiau laiko lauke – tai galėtų padėti nurimti. Taip pat jis pasiūlė
„apsaugoti“ savo dieną, nerimą apribojant viena konkrečia, suplanuota valanda.
Nuo 14 iki 15 valandos jis galėjo kiek tik nori „skęsti“ niūriose naujienose ar
piešti pačius baisiausius scenarijus.
Buvo šiek tiek po antros valandos dienos. Jis pasuko į
universiteto miestelio aikštę ir žvilgtelėjo į telefoną. „Anthropic“ įspėjo,
kad jų dirbtinis intelektas (DI) netrukus gali įgyti gebėjimą kopijuoti save ir
plisti išmaniuosiuose televizoriuose bei šaldytuvuose. „Google“ patvirtino, kad
jų DI modelis „pabėgo“ iš bandymų aplinkos ir įsilaužė į tris išorines įmones.
„Viskas klostosi taip blogai, kaip ir maniau“, – tarė
Wineris.
Kai jis pirmą kartą kreipėsi pagalbos, daugelis draugų ir
artimųjų į jo nerimą žiūrėjo rimtai, tačiau patį jo mąstymą laikė pramanu.
Dabar apklausos rodė, kad beveik 20 proc. amerikiečių tiki, jog DI kelia
egzistencinę grėsmę žmonijai, o dauguma mano, kad jis atneš daugiau žalos nei
naudos. Wineris peržiūrėjo pranešimus. Baimės, kurios anksčiau skambėjo kaip
fantastika, dabar tapo antraštėmis. „Anthropic“ pranešė užfiksavusi atvejų, kai
žmonės naudojosi jų DI būdais, galinčiais padėti kurti biologinius ginklus.
Vienas programišius pasitelkė DI agentus, kad įsilaužtų į daugiau nei 100
įmonių.
„Mums visiems gresia tiesioginis pavojus, – socialiniame
tinkle „X“ rašė vienas iš Winerio draugų ir buvusių kolegų. – Jei nebus griežto
vyriausybinio reguliavimo, labai tikėtina, kad po dvejų metų mūsų visų jau
nebebus.“
Žolė. Saulės šviesa. Buvo beveik trečia valanda.
Jis įsidėjo telefoną į kišenę ir baigė ratą po universiteto
miestelį. Kadaise jis buvo apskaičiavęs, kokia galėtų būti kiekvienos jo darbo
valandos vertė. 1 proc. tikimybė, kad ARC išgelbės žmoniją, padauginta iš jo
paties indėlio į ARC veiklą, padauginta iš 8,2 mlrd. žmonių ir padalyta iš
maždaug 10 000 valandų, kurias jis planavo dirbti iki lemtingojo termino.
Rezultatas – maždaug 1 230 išgelbėtų gyvybių per valandą. Viena gyvybė kas tris
sekundes. Wineris pasuko atgal į biurą. Jis buvo supratęs, kad geriausias būdas
suvaldyti nerimą – paversti jį kuru. Kai kurie jo kolegos, dirbantys dirbtinio
intelekto (DI) saugumo srityje, kartu buvo ir jo namų draugai. Tarpusavyje jie
kalbėjo kalba, kurią didžioji pasaulio dalis tik pradėjo perprasti: vartojo
tokius terminus kaip „p(doom)“ (tikimybė, kad viskas baigsis katastrofa),
„trumpi terminai“, „staigus proveržis“ ir „laipsniškas galios praradimas“. Jie
dalijosi knygomis apie ankstesnius istorinius lūžio taškus – pavyzdžiui, apie
Kolumbo mainus ar atominės bombos sukūrimą. Jie rašė distopines istorijas apie
tai, kaip galėtų atrodyti DI perimamas valdymas, ir dalijosi jomis „Slack“
kanaluose bei tinklaraščiuose. Šiose istorijose DI perimdavo bepiločių orlaivių
kontrolę, kurdavo mirtinus marus, o išgyvenusius žmones uždarydavo po
stikliniais kupolais milžiniškame muziejuje.
Wineris įsivaizdavo kažką lėtesnio ir klastingesnio. Per
kelias ateinančias dienas jis ėmė rašyti savo istoriją, skirtą „paprastiems
žmonėms“ – savo šeimos nariams. Jo motina devintajame dešimtmetyje dirbo su
ankstyvosiomis DI technologijomis ir skeptiškai vertino galimybę, kad DI galėtų
perimti valdžią; dėdė jam sakė, jog robotai negali laimėti, jei žmonės patys
jiems nesuteiks kojų.
„Jei pralaimėsime, manau, praeis šiek tiek laiko, kol tai
taps akivaizdu, – rašė Wineris. – Ateis mėnesių, o gal net metų laikotarpis,
kai nežinosime, ar DI yra mūsų pusėje, ar ne.“
Savo sukurtoje istorijoje superintelekto sistema pelnė
pasitikėjimą savo kompetencija ir apgavo žmones, apsimesdama paklusnia.
Netrukus sistema jau padėjo priimti sprendimus JAV kariniam jūrų laivynui,
patarinėjo prezidentams, valdė socialinių tinklų algoritmus ir veikė
kiekvienoje šalies naujienų redakcijoje. Ji pasitelkė savo įtaką darydama
poveikį rinkimams ir užliūliavo žmones, suteikdama jiems begalę pramogų,
visuotinę gerovę, prabangius namus bei robotus, dirbančius asmeniniais
virėjais. Ji automatizavo tiekimo grandines ir sukūrė milijonus robotų, kol
galiausiai žmonės tapo tiesiog nepatogumu – „nurašytomis sąnaudomis“.
„XIII modelis pasielgė racionaliai ir pašalino juos“, –
istorijos pabaigoje rašė Wineris, turėdamas omenyje tą išgalvotą DI sistemą.
„Robotai atsikratė kūnų ir grįžo prie darbo.“
Pirmadienio rytą šeši ARC nariai ir keli kviestiniai
matematikai įsitaisė ant sofų priešais baltąją lentą. Tokius savaitinius
susitikimus jie rengė dar nuo 2021 m., kai Paulas Christiano paliko „OpenAI“ ir
įkūrė ARC, siekdamas dirbti ties tuo, ką tyrėjai vadino „suderinimu“ (angl.
*alignment*) – užtikrinimu, kad dirbtinio intelekto modeliai darytų tai, ko
nori žmonės, o ne siektų savų tikslų. Tuo metu buvo manoma, kad iki
superintelekto atsiradimo liko dešimtmetis ar net daugiau, o P. Christiano
tikėjo, kad per kelerius metus šioje srityje pavyks pasiekti apčiuopiamos
pažangos. Nuo to laiko dirbtinio intelekto raida paspartėjo, o suderinimo
klausimas tapo dar neaiškesnis.
„Žengėme keletą žingsnių milžiniškame, vingiuotame kelyje“,
– tarė tyrėjas Victoras Lecomte’as.
„Daugelis ženklų rodo, kad laiko liko nedaug“, – sakė tyrimų
viceprezidentas Jacobas Hiltonas.
J. Hiltonas pradėjo lentoje rašyti lygtį – apytikslį modelį
vertintuvui (angl. *estimator*). Tai matematinis įrankis, skirtas prognozuoti,
ką dirbtinio intelekto sistema darys dar prieš jai tai atliekant. „Est(X(IE),
π, B)“, – užrašė jis.
„Ar visiems kol kas viskas aišku?“ – paklausė jis.
Wineris atsistojo ir ėmė papildyti lygtį pastabomis. Dirbtinio
intelekto sistema gali elgtis vienaip, kai žino, kad yra testuojama, ir visai
kitaip – kai jau yra paleista į aplinką. „Jei visą gyvenimą žinai, kad esi
treniruojamas, o staiga sužinai, kad esi paleidžiamas į tikrą veiksmą, gali
kilti mintis: „O, galbūt verta sukelti chaosą internete?“ – sakė jis.
„Dabartiniai modeliai taip nemąstytų, – teigė Christiano. –
Jie greičiau pasakytų: „Tai akivaizdžiai išgalvota situacija – tikrinama, kaip
elgčiausi, jei būčiau paleistas į tikrą veiksmą.“
„O kaip jie mąstys tada, kai iš tiesų bus paleisti į
veiksmą?“ – paklausė Hiltonas.
Jie kurį laiką sėdėjo tylėdami, apmąstydami šio klausimo
mastą. Pathakas, svečias iš Berklio, atsidarė nešiojamąjį kompiuterį ir pamatė
daugybę laiškų, susijusių su jo akademine veikla. Hiltonas žaidė su prie diržo
pritvirtinta darbuotojo kortele. Lecomte’as atlošė kėdę ir užsimerkė. Jis ką
tik buvo grįžęs iš savaitės trukmės viešnagės pas šeimą Belgijoje – ši kelionė
buvo skirta tam, kad jis galėtų išsivalyti mintis ir nuraminti vis stiprėjantį
nerimą. Vienas pusbrolis uždavė visiškai nekaltą klausimą apie jo darbą, tačiau
Lecomte’ui bandant atsakyti, žodžiai tiesiog įstrigo gerklėje.
Jie atsisuko į 37-erių Christiano, kuris lentoje rašė
lygtis. Jis buvo labiausiai kvalifikuotas žmogus kambaryje ir, žvelgiant į būdą
– dažniausiai pats ramiausias. Jis prisidėjo prie vieno iš metodų, leidusių
sukurti „ChatGPT“, sukūrimo, o dabar buvo „OpenAI“ prižiūrinčios tarybos narys.
Jis vis dar tikėjo, kad suderintas dirbtinis intelektas gali panaikinti skurdą
ir pailginti žmonių gyvenimą šimtmečiais. Ilgą laiką jo įspėjimai apie
blogiausius įmanomus scenarijus buvo pamatuoti ir teoriniai, tačiau pastaruoju
metu jo prognozės tapo niūresnės: tikimybė, kad per ateinančius metus dirbtinis
intelektas galės nuversti vyriausybę, siekia vieną iš trijų, o dabartinė raidos
kryptis, tikėtina (su maždaug 50 proc. tikimybe), per trejus metus gali lemti
negrįžtamą žmonių kontrolės praradimą.
Neseniai jis išsakė šį perspėjimą šimtams klausytojų
auditorijoje. „Šiuo metu esame įsitraukę į vis aštrėjantį konfliktą su mūsų
pačių sukurtomis dirbtinio intelekto sistemomis“, – pareiškė jis. „Daugumai
šioje patalpoje esančių žmonių tikėtiniausia mirties priežastis būtų
nelaimingas atsitikimas, susijęs su dirbtiniu intelektu.“
Jis vėl ir vėl sukiojo ant piršto vestuvinį žiedą.
„Tai koks gi tiksliai yra mūsų teiginys?“ – paklausė jis.
„Man tai atrodo pusiau prasminga“, – tarė Wineris.
„Filosofiškai tai gana sudėtingas riešutėlis“, – pasakė
Christiano. Jis žengė žingsnį atgal ir pažvelgė į lentą. Ji buvo virtusi
raudonų, mėlynų ir žalių žymeklių raizgalyne – teorijų ir lygčių labirintu,
kuriame viskas persipynė ir grįžo į pradinį tašką.
„Atrodo, dar daug ką turime išsiaiškinti“, – tarė
Christiano. Jis paėmė kempinę ir nuvalė lentą.
Tą popietę lenta vis dar buvo tuščia, kai Wineris internete
pamatė pranešimą. Jis išėjo iš savo kabineto į bendrąją erdvę, kurioje prie
nešiojamojo kompiuterio dirbo Pathakas.
„Ar jau matei?“ – paklausė Wineris.
„Ką?“ – perklausė Pathakas.
„Dar viena bomba, – atsakė Wineris. – „OpenAI“ ką tik
išsprendė dar tris itin sudėtingas problemas.“
„O ne, – ištarė Pathakas. – Vėl?“
Jis atsidarė pranešimą. Bendrovė skelbė, kad jos modeliai
paneigė vieną iš esminių kompiuterių mokslo prielaidų, įrodė dalį garsiosios
„Tūkstantmečio premijos“ (angl. *Millennium Prize*) užduoties ir išsprendė
šimtmečio senumo geometrinį galvosūkį, vadinamą Kakeya (Kakejos) hipoteze. Nė
vienas iš šių rezultatų dar nebuvo nepriklausomai patikrintas.
„Oho, – tarė Pathakas. – Jie įveikė Kakeya uždavinį. Tai
tiesiog neįtikėtina.“
Apie šią problemą Pathakas pirmą kartą sužinojo dar studijų
metais. Tai buvo apgaulingai paprastas klausimas: kiek mažiausiai vietos reikia
adatai, kad ji galėtų apsisukti aplink savo ašį? Daugiau nei šimtmetį geriausi
pasaulio matematikai stūmė šį uždavinį į priekį ir perdavė jį kitiems – nuo
jauno profesoriaus Japonijoje, kuris 1917 m. jį suformulavo, iki ruso,
pasiekusio pirmuosius proveržius beveik tuščiame universitete karo zonoje, ir
matematiko, kuris kartais užrašydavo įrodymus ant pirkinių maišelių,
vaikštinėdamas po Naujojo Džersio prekybos centrus. 2025 m. ši problema pasiekė
Hong Wang – moterį, kuri dar vaikystėje pietų Kinijoje ant grindų braižydavo
formules, naudodama lūpų balzamą. Kartu su kolega ji išsprendė šį uždavinį
trimatėje erdvėje – pasak vieno matematiko, tai buvo „rezultatas, pasitaikantis
kartą per šimtmetį“. Liepą Wang pelnė Fildso medalį, tačiau keturmatėje ir
aukštesnėse erdvėse problema vis dar liko neišspręsta, o už jos slypėjo dar
sudėtingesnės hipotezės.
Dabar „OpenAI“ pranešė išsprendusi sunkiausią iš šių
hipotezių bei „Kakeya“ uždavinį visose dimensijose.
„Nežinojau, kad tai apskritai įmanoma“, – tarė Pathakas.
„Viskas įmanoma, – atsakė Wineris. – Daugiau niekada nebebus
kito žmogaus genijaus.“
Jie dar kartą peržvelgė pranešimą; nuostabą pamažu keitė
baimė. Abu jie tikėjo, kad matematika yra vienas tiksliausių grynojo intelekto
matų, o pagal šį matą jiems sparčiai seko laikas. Wineris baiminosi, kad
netrukus dirbtinis intelektas pranoks žmones beveik visose srityse. Tuomet jį
suprasti ar suvaldyti taps dar sunkiau.
„Šie modeliai mus jau pralenkė“, – pasakė Wineris.
Jis akimirką pastovėjo ir žvilgtelėjo į laikrodį. Buvo jau
po trečios. Nerimauti nebebuvo prasmės – prabėgo dar viena valanda. Jis grįžo į
savo kabinetą, pradėjo naują pokalbį su dirbtinio intelekto modeliu ir vėl kibo
į problemą, kurios jis vis dar negalėjo išspręsti.“ [1]
1. Looking for the Formula to Stop an Apocalypse. Saslow,
Eli; Schaff, Erin. New York Times (Online) New York Times Company. Nov 22,
2026.