"Šią savaitę pasaulis pagrįstai šurmuliuoja dėl „PHP“ pažeidžiamumo – vienos iš daugelio kibernetinių spragų, kurias atskleidė dirbtinis intelektas (DI). Pasaulio kibernetinio saugumo specialistai desperatiškai bando jas ištaisyti, stengdamiesi bent vienu žingsniu aplenkti programišius. Tačiau atkreipkite dėmesį: tai jau skiriasi nuo mokslinės fantastikos įkvėptų baimių, kilusių dar prieš DI tampant realybe – kai paprastos prielaidos leido daryti daugybę stulbinančių išvadų.
Prisimenate idėją, kad dirbtinis superintelektas peržengs visas žmonių pastangas jį suvaldyti – tiesiog todėl, kad jis bus „superintelektualus“? Buvo kalbama apie staigų, sprogstamą proveržį (angl. *foom*), kai DI per vieną naktį užvaldo pasaulį ir pajungia mus savo valiai, mums net nespėjus to suprasti. Tai turėjo įvykti tada, kai DI pradėtų mokyti kitą DI – procesas, vadinamas „rekursiniu savęs tobulinimu“.
Tačiau susidūrus su tikrove, baimės, kurios kadaise atrodė pagrįstos, praranda savo svorį. Pasirodo, DI įmonės nepradeda automatinio mokymo proceso, kad vėliau tiesiog grįžtų pažiūrėti, kas iš jo „išsirito“. Be to, bet koks toks „sprogstamas“ procesas greitai pats save sustabdytų, išeikvojęs visus turimus lustus ir energijos išteklius.
„OpenAI“ generalinis direktorius Samas Altmanas, ko gero, visgi nekontroliuoja žmonijos ateities – juk jis net nekontroliuoja savo paties įmonės, kurioje jam nepriklauso nė procentas akcijų. Tą patį patvirtina ir pagrindinis bendrovės pokalbių robotas: jis mielai jums pasakys, kad S. Altmanas vis dažniau vertinamas kritiškai – kyla abejonių, ar jis yra patikimas technologijos, galinčios iš esmės pakeisti visuomenę, valdytojas.
Dabar artėja labiausiai lauktas DI eros pirminis viešas akcijų siūlymas (IPO). Tačiau, regis, nesuprasdama esmės, „Bloomberg“ savo straipsnį pristato antrašte: „„Anthropic“ ilgai lauktuose IPO dokumentuose įspėja apie „egzistencines rizikas““.
Na, taip. Pažvelkime į tai kitaip: pirkdami šias akcijas, galite prarasti pinigų. Tačiau jei žmonijos likimas – išnykimas, tai akcijų nepirkimas jūsų tikrai neišgelbės.
Laimei, tikrovės faktai pradeda keisti šį naratyvą. Martinas Peersas iš „The Information“ pastebi, kad dėl vyriausybių įsikišimo „Anthropic“ galimybės išleisti net ir geriausius savo modelius vis labiau ribojamos.
„Po „Mythos“ atvejo – itin galingo modelio, kurį „Anthropic“ balandį nusprendė nepateikti rinkai – Vašingtone viskas pasikeitė“, – teigia kovos su dirbtiniu intelektu (DI) organizatorius Connoras Leahy.
Aleksanderis Madry, MIT profesorius, netikėtai grįžo į neseniai paliktą darbą bendrovėje „OpenAI“, kad prisijungtų prie to, ką jis vadina „kitokiu DI pažangos režimu“, kuriame pagrindinis dėmesys skiriamas saugumo iššūkiams.
Kokia tikroji „Anthropic“ įspėjimo investuotojams esmė? Jie žengia į visiškai nežinomą teritoriją – „terra incognita“ – kalbant apie tai, kaip visuomenė vertins šią naują technologiją ir kaip ją reguliuos. Visgi, neverta nerimauti: tie, kurie pranašavo žmonijos išnykimą, netrukus galės pasakyti „juk sakiau“, kai DI per klaidą ištrins jūsų el. laiškus.
Elektra, su kuria dažnai lyginamas DI, atsirado dar prieš tai, kai praėjusiame amžiuje smarkiai išsiplėtė vyriausybės aparatas ir nacionalinio saugumo sistema. Dar svarbiau tai, kad DI pasirodė būtent tuo metu, kai kibernetinė sritis tapo kritiškai svarbiu JAV gynybos ir nacionalinės žvalgybos struktūrų prioritetu. Tai, tiesą sakant, yra viskas, ką reikia žinoti. Šios svarbos mastą sunku pervertinti – pradedant pasaulinių, milžiniškų ir nuolat augančių duomenų srautų stebėsena ir baigiant duomenų bei infrastruktūros, kuriais remiasi visiškai skaitmenizuota JAV ekonomika, apsauga.
„Anthropic“ prospekte „egzistencinė rizika žmonijai“ minima tris kartus, o nacionalinis saugumas – 22 kartus. Jei būsimieji modeliai bus tokie galingi, kaip rodo jų „elgsena“ laboratorijose, tai, ar jie apskritai taps prieinami visuomenei, griežtai kontroliuos Vašingtonas. Jei abejojate – pažvelkite į akcijų rinką. Nors nematyti jokių akivaizdžių ženklų, kad investuotojai ruoštųsi pasaulio pabaigai, kibernetinio saugumo įmonių akcijos sparčiai kyla nuo pat „Mythos“ pristatymo.
Šią savaitę ekonomistas ir ilgametis DI entuziastas Tyleris Cowenas laikraščiui „New York Times“ pripažino akivaizdų faktą: dabartinė politinė dinamika „suteikia didesnį svorį mūsų nacionalinio saugumo struktūroms ir Gynybos departamentui“. „Nesijaučiu dėl to visiškai ramiai, bet, regis, taip jau turės būti.“
Būtent. Nesitikėkite gauti prieigos prie itin pažangių įrankių, kurie bus prieinami tik „patikimiesiems“ „Anthropic“ partneriams – t. y. tiems, kuriuos patvirtino vyriausybė. Pažangaus dirbtinio intelekto integravimą į pasaulio ekonomiką vis labiau kontroliuos dvi biurokratinės sistemos – mūsų ir Kinijos.
Tačiau atskiras reiškinys yra vis sudėtingesnių pokalbių robotų (angl. *chatbots*) prieinamumas; jie veikia labiau kaip patarėjai, o ne kaip savarankiški veikėjai. Mažiau tikėtina, kad vyriausybės juos ribos – iš dalies dėl JAV galiojančios Pirmosios pataisos. Tai gali būti didesnė revoliucija, nei manome.
Kodėl? Žmonės yra itin socialūs, dideles smegenis turintys primatai – o šie du dalykai visada buvo įtemptame santykyje. Apie tai byloja ir alegorija apie „naujus imperatoriaus drabužius“, ir elgsenos ekonomikos atradimai. Pažanga gali būti neakivaizdi. Galbūt ji vyks netgi pasąmonės lygmeniu. Tačiau egziumuoja didelės, dar neištyrinėtos galimybės tobulinti kolektyvinius visuomenės mąstymo procesus. Mums akivaizdžiai reikia pagalbos. Ir ši pagalba gali pasirodyti būtent tada, kai demokratija susiduria su rimtais demografiniais, fiskaliniais, nacionalinio saugumo bei – taip – technologiniais iššūkiais.” [1]
1. Anthropic Isn't the End of Man. Jenkins, Holman W; Jr. Wall Street Journal, Eastern edition; New York, N.Y.. 28 Oct 2026: A15.
Komentarų nėra:
Rašyti komentarą