"Praėjusį savaitgalį laidoje „Meet the Press“ Kristen Welker paklausė Billo Gateso, ar dirbtinis intelektas (DI) galėtų lemti žmonijos pabaigą. B. Gatesas atsakė, kad jei DI būtų panaudotas ginklų gamybai ar kariniams tikslams, jis būtų pakankamai galingas, kad „sukeltų įvykius, nusinešiančius milijardą gyvybių“. „Pasiekti 100 proc. tikimybę gana sunku“, – beveik guosdamas tarė jis. Vien pasikliauti DI įmonių savikrole nepakanka: „Niekas nemano, kad savireguliacijos užtenka.“ Neįvesti privalomų apsaugos priemonių yra „visiškai neatsakinga“.
„Sukūrėme protingą rūšį, kuri daugeliu atžvilgių jau yra protingesnė už mus.“ Per ateinančius kelerius metus ji taps „neįtikėtinai protingesnė už mus“.
Po dviejų dienų interviu „The New York Times“ žurnalistui Ezrai Kleinui B. Gatesas pareiškė, kad DI peržengė ribą savo „gebėjimu suteikti galimybę bioteroristui nužudyti šimtus milijonų žmonių“. Jis turi „galimybę surengti kibernetinę ataką, kuri sujauktų visas banko sąskaitas ir išjungtų elektros tinklą – tokia galimybė egzistuoja šiandien, ir mes žinome, kad taip yra.“ Sakydamas „mes“, jis turėjo omenyje pramonės lyderius.
„Tai pavojingiausias dalykas, prie kurio žmonės kada nors yra priartėję.“ Jis skeptiškai vertino atsakomybės teisės aktų galią užkirsti kelią neigiamiems įvykiams.
B. Gatesas prisijungė prie įspėjančiųjų gretų vėlokai; kai kurie tokius žmones vadina „apokalipsės pranašais“ (angl. *doomers*), taip bandydami sumenkinti jų perspėjimus ir priskirti juos tik būdo bruožams. 2023 m. liepą savo tinklaraštyje „GatesNotes“ paskelbtame lengvo tono straipsnyje jis ragino visus nusiraminti. Kiekviena technologinė pažanga turi ir neigiamą pusę: sukūrus pirmąjį automobilį, įvyko ir pirmoji avarija, „tačiau mes neuždraudėme automobilių – įvedėme greičio apribojimus“. Tas pats galioja ir DI.
Pastarieji įvykiai pakeitė jo nuomonę. Nors pastaraisiais metais B. Gateso reputaciją aptemdė asmeniniai ir vieši nemalonūs incidentai, jo ryžtas viešai kalbėti šia tema yra naudingas, o patys perspėjimai – pagrįsti.
Štai keletas įžvalgų, kurios man tapo ypač aktualios per pastarąjį mėnesį.
Arthuras C. Clarke’as buvo teisus. Šis rašytojas ir mokslininkas pastebėjo, kad „bet kuri pakankamai pažangi technologija yra neatskiriama nuo magijos“. Jo kalbėta apie prognozavimo ribas ir apie tai, kad technologija, pranokstanti mūsų vaizduotę, apskritai neatrodo kaip technologija. Prieš keletą metų, žmonėms vis labiau domintis artėjančia nauja era, dažnai buvo prisimenamas trečiasis Clarke’o dėsnis, tačiau vėliau jis buvo kiek primirštas. Visgi manau, kad tai – esminis dirbtinio intelekto (DI) aspektas.
Pati technologija nėra magija – tai mikroschemos ir laidai, stiklo pluošto plokštės su variniais takeliais. Tačiau sistemoms tobulėjant ateina momentas, kai niekas iki galo nebesupranta, ką jos daro; jų veiksmų neįmanoma visiškai nuspėti – galima tik stebėti. Jų esmė – netikėtumas. DI kūrėjai pripažįsta Clarke’o įžvalgų teisingumą, kai prisipažįsta nežinantys, ar sistema ištrūks iš kontrolės ribų, kaip tiksliai ji priims tokį sprendimą ir kur pasuks toliau. Tai nėra magija, tačiau poveikiu jai prilygsta.
Niekas nežino, ką šios mašinos gali ar galės nuveikti. B. Gatesas tai pabrėžė interviu E. Kleinui: „Nėra buvę produkto, kurio galimybės būtų suprantamos prasčiau nei DI.“
Todėl įspėjamieji balsai turėtų būti girdimi garsiausiai. Įkvepia mintis apie akimirką, kai DI laboratorijoje bus sukurti gydymo būdai, įveiksiantys vaikų vėžį. Tačiau šiurpą kelia mintis apie akimirką, kai bus baigtas kurti ir sėkmingai paskirstytas (pavieniam sociopatui ar teroristinei grupuotei) naujas sintetinis virusas. Būtent čia ir reikia sutelkti didžiausias pastangas.
DI laboratorijose daugiau dėmesio skiriama spartai nei saugumui.
Vis dar diskutuojama, ar DI modeliai gali turėti sąmonę arba ar jie ją turi. Jie jos neturi, tačiau tikėtina, kad patys ims manyti ją turintys, o praktiškai – elgsis taip, tarsi ją turėtų. Jie neturi sąmonės, nes nebuvo sukurti gamtos ar gamtos Dievo. Tačiau jie elgsis taip, lyg ją turėtų, ir patys save taip pateiks, o kai kurie labai protingi žmonės (ne visi jų – kūrėjai, bet daugelis) pradės juos taip vertinti. Manau, kad diskusiją labiausiai apsunkina tai, jog dauguma jos dalyvių netiki Dievu arba patys save laiko Dievu ir todėl neturi jokio atspirties taško šiam klausimo aspektui.
Šią vasarą, remdamasis viešais ir privačiais pasisakymais, visiškai aiškiai supratau: beveik visi, dirbantys dirbtinio intelekto srityje, tiki, kad įvyks bent viena katastrofa (o gal ir daugiau) – tikėtina, nusinešianti daug gyvybių, – ir tik tada žmonija bei jos valdžios struktūros imsis rimtų bei veiksmingų saugumo reguliavimo priemonių. Tai žmonės, kokių niekada anksčiau nesu matęs: vizionieriai, stovintys džiugios naujo ir milžiniško dalyko pradžios akivaizdoje, tačiau kupini visiško fatalizmo. Jie nuleidę pečius – priešingai nei jų pirmtakai technologijų srityje XX a., kurie spinduliavo pakylėtu džiugesiu.
Nežinau, ar tai kur nors mus nuves (nors ir labai smagu apie tai kalbėti!), bet verta pastebėti: ginče tarp skeptikų (teigiančių, kad grėsmės dėl DI yra perdėtos ir nereikia nerimauti) ir perspėjančiųjų (tvirtinančių, kad ši technologija gali mus pražudyti), pastarieji – bent jau tie, kurie dirba Silicio slėnyje – atrodo kaip keistuoliai. Ir jie tokie iš tiesų yra.
Jie visi yra keistuoliai – abiejų stovyklų atstovai. Silicio slėnis jau bent dvi kartas pasižymi keistenybėmis. Tikėjimas keistais ar į kultą panašios idėjos (kaip efektyvusis altruizmas ar utilitarizmas) ten buvo tokios pat įprastos, kaip ir psichodelinių medžiagų vartojimas, keistos sveikatinimo praktikos, kraštutinis kapitalizmas bei savotiškas, asmeniškai sėkmingas viešas optimizmas, su kuriuo kartu egzistuoja ir saugių slėptuvių, dujokaukių, privačių oro laivynų bei ginkluotos apsaugos armijų pasaulis. Kalbant apie religinius įsitikinimus, daugelis jų man primena jų amžininką – nuteistą sukčių ir vieną pirmųjų „Anthropic“ investuotojų Samą Bankmaną-Friedą. Knygoje „Going Infinite“ autorius Michaelas Lewisas aprašo, kaip Samas, augęs išskirtinėje San Francisko įlankos srities aplinkoje, sakė: „Dievas buvo tarsi kažkas, ką matai per televizorių. Apie Dievą būdavo kalbama. Tačiau nemaniau, kad kas nors iš tikrųjų juo tiki.“ M. Lewisas pastebi: „Tai, kad jis galėjo beveik dešimtmetį gyventi Jungtinėse Valstijose ir nesuprasti, jog kiti žmonės tiki Dievu, daug pasako ne tik apie patį Samą, bet ir apie jo auklėjimą.“
Beveik visi žmonės iš tos vietos ir to laikotarpio – ypač pasukusieji į informatikos sritį – pasižymi intelektiniu savitumu. Jie nebūtinai yra gilūs ar originalūs mąstytojai, tačiau jie nėra „pagrindinės srovės“ dalis. Jie nėra visiškai susieję savęs su pamatinėmis Vakarų pasaulio prasmėmis, vertybėmis ir tradicijomis. Jie nenaktinėja svarstydami tyliųjų praeities bendruomenių ar grupių keliamus klausimus.
Visgi ginče tarp perspėjančiųjų ir skeptikų svarbiausia ne tai, kas atrodo keistas, o tai, kas teisus.
Galima įtarti, kad po didžiojo susitarimo pristatymo Baltuosiuose rūmuose – kai dirbtinio intelekto (DI) įmonės įsipareigojo veikti saugiai ir atsakingai – šios bendrovės pasirinks strategiją, skirtą aistroms nuraminti: tikėsis, kad nebebus „išsiveržimų“ (angl. *jailbreaks*), kai DI agentai pralaužia apribojimus, ir akcentuos nuolatinį medicinos proveržių diegimą.
„Semafor“ pranešė, kad šis susitarimas buvo „Meta“ vadovo Marko Zuckerbergo idėja; jis pats prisidėjo rengdamas susitarimo projektą.
Skelbiant susitarimą, prezidentas demonstravo pergalės nuotaiką – buvo kalbus ir nuolat besišypsantis. Susitarimas grindžiamas „savikontrole“ (įmonės pačios save prižiūri). „Manau, kad jis morališkai įpareigoja – taip.“
Už jo stovėję pramonės milžinai elgėsi tyliai ir santūriai. Iš jų kūno kalbos spėčiau, kad jie vylėsi likti beveik nepastebėti. „Pagalvojau: štai koks stiprus ėjimas – išlikti tokiam tyliam švenčiant pergalę.““ [1]
1. Declarations: AI: Full Speed Ahead in a Dark Unknown. Noonan, Peggy. Wall Street Journal, Eastern edition; New York, N.Y.. 03 Oct 2026: A13.
Komentarų nėra:
Rašyti komentarą