„Kam buvo sukurtas dirbtinis intelektas? Jis gali rasti vaistų ir spręsti matematines užduotis. Jis gali sukelti katastrofą ir masines žmonių žūtis. Tačiau kokiu tikslu jis buvo išrastas? Kokia buvo pirminė jo paskirtis?
Į šį klausimą visada atsakoma tyla. Tai – „kitas žingsnis“. Tai jau šimtmetį puoselėjama mokslinės fantastikos svajonė.
Štai dalis atsakymo. Prieš dvidešimt metų, ankstyvą vasaros rytą, viešėjau Kanzase. Pūtė švelnus vėjelis, oras vis šilo. Įsėdau į mane priėmusio žmogaus automobilį. Jis maksimaliai įjungė kondicionierių ir nuspaudė akseleratorių. Lauke tvyrojo maloni natūrali šiluma, o viduje pasidarė stingdančiai šalta. Paklausiau: „Kodėl amerikiečiai taip daro – visu pajėgumu įjungia kondicionierių, kai vasaros diena ir taip puiki?“ Jis susimąstė. „Nes galime.“
Tas pat ir su dirbtiniu intelektu: nes galime. Mes sugalvosime naudingų pritaikymo būdų (kurie išties egzistuoja), o vėliau pripažinsime ir riziką (pavyzdžiui, kad DI agentai gali įsilaužti į Čikagą aptarnaujantį elektros tinklą ir surengti tokią gilią, plačią bei painią ataką, jog sistemos visiškas atstatymas užtruks ne vieną mėnesį).
Už naudos ir rizikos slypi esminiai DI milžinus skatinantys veiksniai: valdžios troškimas, noras praturtėti, siekis viską kontroliuoti. Taip pat ir pats technologinis žavesys – sudėtinga problema, po kurios seka elegantiškas sprendimas. Mokslininkams, dalyvaujantiems technologiniuose proveržiuose, tai visada teikia ypatingą pasitenkinimą.
Tačiau maždaug prieš ketverius metus, kai žinios apie DI pažangą pasiekė atidžiau besidominčius žmones, nebuvo iškeltas joks konkretus tikslas – pavyzdžiui, „perskelsime atomą“, „laimėsime karą“ ar „nusiųsime žmogų į Mėnulį“. Nebuvo jokio aiškaus produkto ar darbo jėgą taupančio įrenginio. DI tiesiog žadėjo viską pakeisti. Jis turėjo sukurti patį intelektą – dirbtinę, bet pranašesnę už žmogaus intelektą jo versiją. O tada jau būtume sprendę, ką su juo daryti ir ką jis padarys mums. Jis pakeis žmogaus būtį. Į gerąją ar blogąją pusę? Ką gi, pasiruoškime ir sužinokime.
Mūsų visuomenė, mūsų šalis niekada nenusprendė „kurti“ DI. Istorija dėl to stebėsis. Kažkas toks didelis, toks epochinis įvykis, o žmonės neturėjo jokio žodžio? Nebuvo balsavimo, nebuvo diskusijų. Vieni ėmėsi veiksmų ir pritraukė kapitalo, o mes tik gūžtelėjome pečiais: „Tai tiesiog kitas žingsnis.“ Kaip dar pačioje pradžioje sakė Samas Altmanas: elektra, kompiuteriai, internetas – o dabar štai ir tai. Amerikiečiai visada žengia tą kitą žingsnį.
Dirbtinio intelekto kūrėjams ir savininkams gali tekti atsakyti į klausimą: kokio tikslumo siekėte ir kaip, žinodami apie galimus neigiamus padarinius, tikėjotės, kad mums tai patiks?
Tai bus pirmas dalykas, nustebinsiantis istorikus, kai jie tyrinės šį laikotarpį. Taip, mes darome prielaidą, kad istorija apskritai egzistuos. Kaip neseniai laidoje „Meet the Press“ užsiminė Billas Gatesas, dirbtinis intelektas negali sunaikinti visų žmonių – tai pernelyg sudėtinga užduotis.
Štai keletas dalykų iš pastarųjų pusantros savaitės, kurie nustebins istoriją.
Spalio 8 d. „Axios“ žurnalistė Maria Curi pranešė, kad dirbtinio intelekto įmonės planuoja veiksmus „dienai po“ būsimo katastrofiško įvykio, kurį sukels dirbtinis intelektas. „Daugelis dirbtinio intelekto pramonės atstovų „Axios“ sakė manantys, kad per ateinančius 6–12 mėnesių įvyks kažkas reikšmingo.“ Jų manymu, greičiausiai tai bus plataus masto kibernetinė ataka prieš infrastruktūrą arba finansų sistemas. Dirbtinio intelekto įmonės privačiai modeliuoja scenarijus, kaip reaguoti į vėlesnį visuomenės ir politikų pasipiktinimą bei protestus.
Stebina ne tai, kad dirbtinio intelekto įmonės ruošiasi galimoms problemoms, o tai, kad šios srities lyderiai nuolat apie tai kalba, tačiau visuomenė į tai beveik nereaguoja. Pasirodo dramatiškų pranešimų, jie patenka į viešąją erdvę, tačiau jokios ypatingos visuomenės reakcijos nesulaukia.
Istorija klaus, kaip tai nutiko. Kaip žmonės tapo tokie nerūpestingi savo pačių saugumo atžvilgiu ir taip lengvabūdiškai švaistė savo demokratinę galią?
Spalio 14 d. „Google DeepMind“ vadovas Demisas Hassabisas Dubline vykusioje konferencijoje pareiškė, kad pastarieji įsilaužimai naudojant dirbtinį intelektą yra įspėjamieji ženklai apie galimus kur kas rimtesnius incidentus 2027-aisiais ir vėliau.
Čia norėčiau pabrėžti, kad iki 2027-ųjų pradžios liko vos 11 savaičių.
Dirbtinio intelekto įmonių vadovai nuolat kartoja šiuos įspėjimus – tarsi jiems būtų labai svarbu oficialiai užfiksuoti savo poziciją. Jiems atrodo, kad jie kasdien patys kuria sąlygas tiems rezultatams, apie kuriuos mus įspėja.
„Anthropic“ bendraįkūrėjas Jackas Clarkas šią savaitę savo naujienlaiškyje teigė, kad visiškas rekursinis savęs tobulinimas (RSI) greičiausiai taps realybe 2027-aisiais, o ne 2028-aisiais. RSI reiškia, kad mašina tobulina save taip sparčiai, jog žmonės greičiausiai praras gebėjimą ją suprasti ar valdyti. J. Clarkas tai kartoja jau kurį laiką, tačiau dėmesį patraukia būtent jo vartojama kalba. Apie RSI jis kalba taip, tarsi ši technologija jau artėtų ar tuoj pasirodytų, tačiau ji niekam nėra primesta iš šalies: dirbtinio intelekto (DI) įmonės ją kuria įsitraukusios į nuožmias tarpusavio lenktynes.
Taigi istorija užfiksuos, kad mes – kaip visuomenė ar kultūra – niekada oficialiai nepritarėme DI plėtrai ir nedavėme jai „žalios šviesos“, o kai šios srities lyderiai įspėjo apie galimas neigiamas pasekmes, nesugebėjome rasti būdo procesui sustabdyti ar sulėtinti.
Istorija taip pat pažymės DI lyderių gebėjimą viešai raginti sulėtinti tempą ir užtikrinti didesnį saugumą savo pramonės šakoje, tuo pat metu patiems spartinant procesus, kad užimtų didesnę rinkos dalį.
Jie primena vieną iš „Weekend Update“ rubrikos („Saturday Night Live“ laidos dalies) skečų, kur Jane Wickline vaidino „Anthropic“ vadovą Dario Amodei, o Michaelas Che – interviu vedėją.
Amodei: „Jei pavyks spausti įstatymų leidėjus nustatyti apsaugos priemones, bus galima sustabdyti mane.“
Che: „Dario, ar galėtum tiesiog paaiškinti, kaip tavo įmonė mūsų nepražudys?“
Amodei: „Na, na, na, na, na, na, na tai tikrai sunkus klausimas.“
Che: „Neturėtų būti.“
Amodei: „Dirbtinis intelektas yra velnias, o aš – jo kūrėjas. Šiuo klausimu visi sutariame. Mes nepateisiname to, ką darome. Dirbtinis intelektas nėra ginklas. Tai įrankis.“ Tai įrankis ginklams kurti, ir aš raginu jus raginti mane sustoti.“
Pradėjome klausimu, kam reikalingas dirbtinis intelektas. Baigiame klausimu: kam reikalingi politiniai lyderiai? Argi jie neturėtų imtis apsaugos priemonių ir įsikišti, kad nukreiptų mus nuo „2027-ųjų“ scenarijaus?
Politinis elitas galvoja tik apie lapkričio 3-iosios rinkimus. Tai jų manija. Jiems „dirbtinis intelektas“ – tik dar vienas nuobodus straipsnis laikraštyje, o ne rinkėjų apklausa.
Prezidentas ir jo patarėjai garsėja savo nusistatymu judėti tik pirmyn, visu greičiu; jie nenori lėtinti proceso dėl reguliavimo suvaržymų, atsargumo ar rūpesčio žmonių saugumu.
Prezidentas ir jo patarėjai elgiasi taip neatsakingai ir yra tokie kurti faktui, kad kiekvienas laivyno kapitonas įspėja apie priekyje tykančius ledkalnius ir žino, jog į juos bus atsitrenkta.
Kaip tai įmanoma?
Ketvirtadienį „The Washington Post“ paskelbė apie „slaptus dokumentus“, kuriuose pirmą kartą atskleidžiami rėmėjai, prisidėję prie 330 mln. JAV dolerių fondo prezidento Trumpo „pokylių salei“ (angl. *ballroom*) sukūrimo. Daugelis jų gavo naudos iš reguliavimo sprendimų ir vyriausybės užsakymų.
Didžiausi rėmėjai buvo technologijų įmonės. „Nvidia“ – 25 mln. JAV dolerių, „Google“ – 22 mln., „Microsoft“ – 10 mln., „Palantir“ – 10 mln., „Meta“ – 5 mln. Tai – vien su dirbtiniu intelektu susijusios lėšos. Ar gali būti, kad čia esama ryšio?
Galbūt jie viešai prašė reguliavimo, tačiau privačiai skyrė milijonus žmogui, kuriuo galėjo pasikliauti, kad šis nesiims priemonių, kurių jie patys teigė norintys?
O Dieve, ką pasakys istorija.“ [1]
Viskas paprasta, mielas Vatsonai. Jie iš tiesų nori reguliavimo, kuris blokuotų smulkius konkurentus ir neleistų dirbtiniam intelektui sklisti į realiąją ekonomiką, teikiančią naudą mums visiems, tačiau patys reguliavimo nenori – taip jie galės užsiimti įsilaužimais ir valdžios užgrobimu pasitelkę superintelektą; tai vienintelis produktas, kurį, jų manymu, jie moka sukurti.
Tokios nuomonės laikosi daugelis atvirojo kodo šalininkų, kūrėjų ir technologijų srities apžvalgininkų. Pagrindinis argumentas yra tas, kad didžiosios dirbtinio intelekto (DI) korporacijos naudojasi reguliavimo užgrobimo („regulatory capture“) taktika, siekdamos įtvirtinti savo dominavimą rinkoje prisidengdamos saugumo sumetimais.
Siekdamos įdiegti sudėtingus ir brangius reikalavimus atitikčiai užtikrinti, šios didelės įmonės gali veiksmingai padidinti patekimo į rinką kliūtis ir taip neleisti mažesniems startuoliams bei atvirojo kodo modeliams „įsiskverbti“ į realiąją ekonomiką.
Dvipusė diskusija
Vertinant kritiškai, diskusija paprastai skyla į dvi skirtingas pozicijas:
„Reguliavimo užgrobimo“ požiūris (įžvalgus argumentas) „DI saugumo“ požiūris (godžių korporacijų / valdžios elito argumentas)
Monopolijos kūrimas: didelės technologijų įmonės skatina licencijavimą ir griežtą reguliavimą, siekdamos eliminuoti atvirojo kodo konkurentus. Egzistencinė rizika: pažangiausi modeliai (superintelektas) kelia katastrofišką riziką, įskaitant biologinių ginklų panaudojimą ar autonomines kibernetines atakas, todėl būtina griežta priežiūra.
Inovacijų slopinimas: DI sutelkimas kelių korporacijų rankose lėtina praktinės ir plačios ekonominės naudos paprastiems žmonėms atsiradimą. Apsauga nuo piktavalių: nekontroliuojamus galingus atvirojo kodo modelius piktavaliai galėtų lengvai modifikuoti ir panaudoti plataus masto įsilaužimams ar dezinformacijai skleisti.
Taisyklės kitiems, bet ne man: reglamentai dažnai taikomi pamatiniam lygmeniui (kurį naudoja ir atvirasis kodas), tačiau technologijų milžinėms leidžiama pačioms prižiūrėti savo uždaras (nuosavybines) sistemas. Proaktyvus valdymas: laukimas, kol įvyks nelaimė, ir tik tada DI reguliavimas – tai prabanga, kurios visuomenė negali sau leisti; apsaugos mechanizmai turi būti sukurti iš anksto.
„Superintelekto“ paradoksas
Ironija, į kurią atkreipėme dėmesį, yra viena pagrindinių diskusijų temų Silicio slėnyje. Keletas pirmaujančių DI laboratorijų vadovų dažnai įspėja, kad DI gali sukelti žmonijos išnykimą, tačiau tuo pat metu išleidžia milijardus dolerių bandydami kuo greičiau sukurti būtent tą technologiją. Kritikai teigia, kad tai leidžia jiems pristatyti save kaip vienintelius „atsakingus“ itin galingo įrankio sergėtojus, taip užsitikrinant ateities ekonomikos kontrolę ir eliminuojant visus kitus konkurentus.
1. Declarations: History Raises Its Eyebrows at the Week in AI. Noonan, Peggy. Wall Street Journal, Eastern edition; New York, N.Y.. 17 Oct 2026: A13.
Komentarų nėra:
Rašyti komentarą