„Šie keisti nauji protai“
Autorius Christopher Summerfield
„Vikingas“, 384 puslapiai, 32 USD
Mastelio keitimo era
Autoriai Dwarkesh Patel ir Gavin Leech
„Stripe“, 248 puslapiai, 35 USD
Pastarosiomis savaitėmis Markas Zuckerbergas pateikė stulbinančius pasiūlymus konkuruojančių firmų dirbtinio intelekto tyrėjams prisijungti prie naujosios „Meta“ „superintelekto“ laboratorijos. Jums gali kilti klausimas, kas yra superintelektas ir kodėl socialinės žiniasklaidos tiekėjas siūlytų mokslininkui sumokėti šimtus milijonų dolerių. Išgirdus, kaip tai pasakoja žinantys asmenys, atrodo, kad žaidžiama su ne kuo kita, o žmonijos likimu. Ant šių statymų devynženklės sumos yra visiškai logiškos.
Istorija, kaip visada, prasideda prieš moderniuosius laikus. Kaip mums primena Christopher Summerfield knygoje „Šie keisti nauji protai: kaip dirbtinis intelektas išmoko kalbėti ir ką tai reiškia“, senovės žmonės dievus laikė žinių šaltiniu. Graikai savo ruožtu diskutavo, ar išmintis kyla iš proto (Platonas), ar iš patirties (Aristotelis). Šie debatai buvo atnaujinti maždaug po dviejų tūkstantmečių kompiuterių mokslo srityje, kur daugelis ankstyvųjų dirbtinio intelekto sistemų vadovavosi ekspertų kruopščiai diegiama logika. Tačiau pasaulis, būdamas toks, koks yra, atkakliai priešinosi tokiai logikai, pateikdamas išimtis kiekvienai taisyklei.
Patirtimi grįsti metodai palaipsniui įsigalėjo mašininio mokymosi forma. Kūrėjai suprato, kad jei mašininio mokymosi sistema pateikiama su pakankamai duomenų, ji suformuos savo niuansuotą supratimą apie tai, kaip, tarkime, žaisti šachmatais ar atpažinti katę.
Arba naudoti kalbą. Dabartinę dirbtinio intelekto aistra yra susijusi su dideliais kalbos modeliais (LLM) – programinės įrangos varikliais, kurie valdo tokius pokalbių robotus, kaip „ChatGPT“, „Claude“, „Gemini“ ir „Grok“. P. Summerfieldas pažymi, kad lingvistas Noamas Chomsky jau seniai teigia, kad žmonės gramatikai pasikliauja įgimtu programavimu. Pasirodo, LLM puikiai apsieina ir be jo (nors tam reikia daug daugiau mokymo, nei vaikui).
LLM mokosi, pirmiausia apdorodami daug teksto ir praktikuodamiesi numatyti kitą fragmentą – pažangi mokymosi forma automatiniame užbaigime. Tada jie mokomi imituoti labiau kuruojamus duomenis, vykdyti instrukcijas arba įtikti žmonėms ar dirbtinio intelekto vertintojams. Neseniai jie peržengė kalbos ribas, kad galėtų apdoroti ir generuoti multimediją bei naudoti programinės įrangos įrankius, tapdami pusiau autonominiais „agentais“.
Ponas Summerfieldas, Oksfordo universiteto kognityvinės neurologijos specialistas ir „Google DeepMind“ tyrimų mokslininkas, rašo malonia, juokais persmelkta proza, tačiau retkarčiais įtraukia ir kandžią repliką. Kai kurios jų skirtos kritikams, teigiantiems, kad LLM tobulinimas atsitrenkia į sieną arba kad LLM iš tikrųjų nieko nesupranta. Tokie kritikai atkreipia dėmesį į akivaizdžias modelių klaidas, tokias, kaip paprastų matematikos uždavinių iškraipymas, arba pažymi, kad LLM mąsto žodžių dažniais, neturėdami patirties, naršant fiziniame pasaulyje.
Tačiau DI pažanga ir toliau stebina net ekspertus, nes modeliai atlieka užduotis, kurios daugeliui protingų stebėtojų atrodo reikalaujančias samprotavimo ir sveiko proto. Viename pavyzdyje LLM paaiškino ponui Summerfieldui, kodėl saulėgrąžos negali augti Mėnulyje: „Mėnulyje nėra saulėgrąžų ar jokių kitų gyvybės formų, augalinių ar kitokių. „Mėnulyje trūksta atmosferos, vandens ir stabilios temperatūros, reikalingų Žemės tipo formoms palaikyti.“ Autorius tai vadina „lūžio tašku žmonijai, kai atrodo, kad svajonė automatizuoti žinias pagaliau yra ranka pasiekiama.“ Kai kurie tyrėjai pejoratyviai vadino LLM papūgomis, tačiau autorius renkasi kitą paukščių analogiją: „Jei kažkas plaukioja, kaip antis ir kryksi, kaip antis, turėtume manyti, kad tai, greičiausiai, yra antis.“
Vis dėlto ponas Summerfieldas pripažįsta ryškius DI skirtumus nuo žmonių. LLM neturi kūno, socialinių santykių ar (tikėtina) sąmonės. Jie neskaito neverbalinių ženklų ir patikimai nesuvokia pokalbio konteksto.
Ludwigas Wittgensteinas kalbą apibūdino, kaip žaidimų seriją, kurių kiekvienas turi savo taisykles ir tikslus: mokyti, spėlioti, linksminti. LLM kartais žaidžia netinkamą žaidimą, pavyzdžiui, išgalvodami, kada turėtų informuoti.
Kai kurios pono Summerfieldo užgaidos nukreiptos į DI greitintuvus, kurie atmeta daugybę galimų pavojų, kurie tyko ateityje. Kaip autorius detalizuoja, Dirbtinis intelektas jau gali kurti istorijas, skleisti propagandą, įsiveržti į privatumą, suvilioti vartotojus, valdyti žudikiškus dronus ir stumti žmones į savižudybę. Ilgainiui jis gali perimti korporacijų ir vyriausybių kontrolę (arba privilioti mus perduoti vadžias) ar net nustumti mus į išnykimą. Ponas Summerfieldas mano, kad jei įvyks nelaimė, tai bus ne vieno superintelektualaus agento, o daugybės mažesnių agentų darbas, galintis sukelti staigius gedimus ar kitokią chaoso formą. „Beveik visada grupės, o ne individai sugebėjo pakeisti pasaulį“, – rašo jis. Manoma, kad katastrofos prevencijai taip pat reikės kolektyvinių veiksmų. Šiuo atžvilgiu turime kur tobulėti.
Kai kurie, įskaitant žymų kompiuterių mokslininką Richardą Suttoną, teigia, kad žmonių pakeitimas yra ne tik neišvengiamas, bet, galbūt, ir sveikintinas. Ponas Suttonas yra galvojęs apie DI gebėjimą savarankiškai išmokti įgūdžių. 2019 m. jis rašė, kad dirbtinio intelekto kūrimas, remiantis „kaip mes manome, kad mąstome“ ilgainiui nepasiteisino.
Vietoj to, dirbtinis intelektas patobulėjo, keičiant skaičiavimus ir mažiau dėmesio skiriant iš anksto užprogramuotai logikai, o daugiau – mokymuisi.
Pono Suttono esė „Karčioji pamoka“ yra perspausdinta Dwarkesho Patelio knygos „Mastelio keitimo era“, parašytos kartu su Gavinu Leechu, priede.
Pono Patelio knygą daugiausia sudaro interviu, atliktų su dirbtinio intelekto atstovais – viena moterimi ir 19 vyrų, įskaitant poną Zuckerbergą, – fragmentai pono Patelio to paties pavadinimo laidoje „Dwarkesh Podcast“. Skaitant „Mastelio keitimo erą“, išsiskiria bent trys punktai.
Pirma, dirbtinio intelekto, ypač LLM, tobulinimo gudrybė yra paprasta: mastelis.
Tačiau paprasta nereiškia lengva. Didesnių modelių mokymas ilgesniam laikui su didesniu duomenų skaičiumi kelia techninių iššūkių.
„Google DeepMind“ bendraįkūrėjas ir generalinis direktorius Demis Hassabis aiškina, kad kiekvieną kartą, kai modelio dydis padidinamas 10 kartų, „reikia pakoreguoti receptą“ – tai yra „hiperparametrus“, tokius, kaip tai, kiek modelis turėtų išmokti iš kiekvieno mokymo pavyzdžio – „ir tai yra savotiškas menas“.
Tai taip pat kelia iššūkių dėl išteklių. Geresniems modeliams reikia daugiau kompiuterių lustų, daugiau duomenų, daugiau galios, daugiau pinigų. Pono Patelio pašnekovai aptaria duomenų centrų, kainuojančių trilijoną dolerių ir reikalaujančių specialių atominių elektrinių, potencialą.
Didelė dalis pramonės šakos siekia dirbtinio bendrojo intelekto (BDI). Bendrojo dirbtinio intelekto (BDI) apibrėžimai skiriasi, tačiau dažnai tai reiškia programinę įrangą, kuri padėtų žmonėms atlikti įvairias užduotis, pavyzdžiui, valdyti verslą ar kurti ir atlikti mokslinius eksperimentus. BDI tada, tikriausiai, pats tobulėtų ir greitai taptų superintelektualus. Net ir be BDI, mes jau randame būdų, kaip DI galėtų kurti naujus algoritmus ir lustus.
Antras knygos punktas yra tas, kad net jei mastelio keitimas būtų paprastas, tai, kas gaunasi, yra sudėtinga. Diskusijoje apie suderinamumą (užduotį padaryti dirbtinį intelektą etišku) ir interpretuojamumą (užduotį padaryti jį suprantamu), Dario Amodei, „Anthropic“ (Claude kūrėjos) generalinis direktorius ir vienas iš įkūrėjų, pateikia aiškią perspektyvą: „Mes iš tikrųjų labai mažai suprantame, apie ką kalbame.“ Ir tai yra apie šiandienos modelius. Superintelektualus dirbtinis intelektas būtų neskaidresnis ir galėtų rašyti programas, kurios pranoksta mūsų suvokimą. „Tuose milijonuose kodo eilučių“, – sako dirbtinio intelekto tyrėjas Leopoldas Aschenbrenneris, – „nežinai, ar tai įsilaužimas, savęs išvadavimas, ar bandymas panaudoti branduolinį ginklą.“
Trečia, sujungus dirbtinio intelekto galimybes, sudėtingumą ir išteklių naudojimą, problemos greitai pereina nuo inžinerijos iki geopolitikos. P. Aschenbrenneris pažymi, kad jei statysite savo duomenų centrus Artimuosiuose Rytuose, užsienio valstybės gali nukopijuoti apmokytus modelius arba uzurpuoti aparatinę įrangą. Net duomenų centrai JAV rizikuoja būti užpulti, sako jis. Jis taip pat įsivaizduoja šalį, turinčią nedidelį pranašumą dirbtinio intelekto srityje, kuri išranda mažyčius dronus, kurie sunaikina priešininkų branduolinius povandeninius laivus.
„Mastelio keitimo era“ yra šiek tiek sudėtinga tiek formatu, tiek turiniu. Yra išnašos, jų išnašos ir šoninių juostų apibrėžimai, sukuriantys stakato srautą. Numatyta auditorija nėra aiški. Techninių smulkmenų aptarimas vyksta kartu su pagrindinių terminų, tokių, kaip „mokymasis“, paaiškinimais. Jei planuojate skaityti abi knygas ir nesate ekspertas, pradėkite nuo p. Summerfieldo, kad įsitvirtintumėte. Vis dėlto p. Patel yra protingas ir informuotas pašnekovas, verčiantis savo šaltinius remtis visu tuo, ką jie žino ar gali pasakyti viešai.
Keletas dalyvių pateikia BDI atsiradimo įvertinimus, spėliodami, kad tai įvyks maždaug 2028 m. Būčiau dėkingas už tai, kaip šie dalyviai ir p. Patel apibrėžia ir matuoja BDI. Priešingu atveju data neturi prasmės. Dar vienas priekaištas: ir ponas Patel, ir ponas Summerfield apibūdina mūsų minkštas smegenis, naudodami skaitmeninius bitų ir operacijų per sekundę rodiklius, kurie netinka ir sukuria klaidingą palyginimo viltį. Laimei, abu autoriai aprašo, kaip dirbtinis intelektas, palyginti su žmonėmis, gali būti vienu metu ir superprotingas, ir superkvailas. Intelektas apima daug sričių; IQ – ne viskas.
Kadaise žinių ieškojome dievuose. Dabar savo žinias naudojame, kurdami kažką panašaus į dievus. Sunku nuspėti, ar sukursime monoteistinę valdžią – vieną serverių fermą, kuri valdytų mus visus, – ar krūvą, tarpusavyje besiginčijančių, pusdievių, nuostabių ir savaip ydingų. Ponas Zuckerbergas žino tik tai, kad aukščiausiosios kunigystės vertė neįkainojama.
---
Ponas Hutsonas yra knygos „7 magiško mąstymo dėsniai: kaip neracionalūs įsitikinimai padeda mums išlikti laimingiems, sveikiems ir sveiko proto“ autorius.“ [1]
1. REVIEW --- Books: Machines That Learn To Learn. Hutson, Matthew. Wall Street Journal, Eastern edition; New York, N.Y.. 13 Sep 2025: C7.
Komentarų nėra:
Rašyti komentarą