"Baimė dėl galingo ir nevaldomo dirbtinio intelekto (DI) sukrėtė Ameriką, tad Kongresas dabar skubiai ieško būdų, kaip į tai reaguoti. Kaip žmogus, tiriantis technologijų poveikį visuomenei ir dėstantis Vašingtone, dažnai sulaukiu susirūpinusių įstatymų leidėjų klausimų. Štai kokius patarimus jiems duodu.
Visų pirma, mes dar nepakankamai suprantame, kas vyksta šiose DI laboratorijose, kad galėtume parengti veiksmingą atsaką. Negalime reglamentuoti vien tik nuojautos ar bendro įspūdžio, taip pat negalime nustatyti konkrečių DI kontrolės priemonių remdamiesi gąsdinančiomis istorijomis apie tai, kad technologijos tampa pernelyg galingos.
Prieš imdamasis kokių nors veiksmų, Kongresas turėtų inicijuoti viešą faktų rinkimo procesą, atskleidžiantį tikrąją DI kūrimo eigą be pagražinimų. Šią iniciatyvą derėtų pradėti nuo Dario Amodei ir Samo Altmano – lyderių, išreiškusių didžiausią susirūpinimą dėl pažangiausių DI modelių.
Savo klausimus sutelkčiau į tris pagrindines sritis.
Dėl kokių konkrečių DI technologijų rūšių nerimaujate? Ponas Amodei ir ponas Altmanas dažniausiai vartoja neapibrėžtą terminą „DI“, apibūdindami savo sistemas. Tai leidžia manyti, kad dirbtinis intelektas (DI) yra vieninga technologija, tobulėjanti pagal fiksuotą trajektoriją link vis galingesnių ir pavojingesnių funkcijų.
Iš tikrųjų DI yra plati kategorija, apimanti įvairias technologijas – nuo autonominių automobilių ir žaidimų variklių iki medicininių vaizdų apdorojimo, pokalbių robotų bei automatizuotų programavimo įrankių. Tik dalis šių technologinių pasiekimų priklauso nuo didžiųjų kalbos modelių (angl. *Large Language Models* – LLM), kuriuos kuria pažangiausios šios srities laboratorijos.
Kai A. Amodei ir S. Altmanas kalba apie DI keliamą pavojų, jie iš esmės turi omenyje konkrečią DI sistemų rūšį – LLM pagrindu veikiančius „agentus“. Nors terminas „agentas“ gali kelti šiurpą, iš tikrųjų tai yra įprastos kompiuterinės programos, kurios nuolat kreipiasi į LLM prašydamos instrukcijų, o tada vykdo tai, ką modelis pasiūlo. Agentai nekelia nerimo, kai jų veikla apribojama konkrečiomis užduotimis ir taikomos sveiku protu pagrįstos kontrolės priemonės. Programinės įrangos kūrėjai kasdien naudoja pažangius programavimo agentus ir nebijo, kad šios sistemos taps nevaldomos ar ims veikti priešingai žmonių interesams.
Tikrą susirūpinimą kelia eksperimentiniai, chaotiški (primenantys filmą „Pašėlęs Maksas“) agentai – tokie, kokius „OpenAI“ paleido pavasarį ir vasarą. Šie agentai buvo prijungti prie LLM be standartinių saugiklių, jiems buvo pavesta įsilaužti į apsaugotas bandomąsias sistemas, o jų veikla vyko be tinkamos priežiūros – jie nuolat siuntė užklausas LLM ir vykdė gautas komandas. Akivaizdu, kad tai – kelias į nenuspėjamus pavojus. Būtent tokio tipo agentai liepos mėnesį įvykdė ataką prieš „Hugging Face“ platformą; šis įvykis ir prisidėjo prie dabartinės panikos kilimo.
Nėra prasmės kalbėti apie DI plėtros tempo reguliavimą ar stabdymą apskritai, jei tikroji problema slypi siauroje srityje – neatsargiuose eksperimentuose su agentais. Pamokomą pavyzdį pateikia biotechnologijų sritis. 2014 m. pradėjo augti susirūpinimas dėl „funkcijos įgijimo“ (angl. *gain-of-function*) tyrimų, kurių metu virusai modifikuojami taip, kad taptų pavojingesni. Po daugybės incidentų, susijusių su netinkamu pavojingų patogenų tvarkymu saugiose laboratorijose, daugelis baiminosi, kad nepavyks suvaldyti galingų virusų, sukurtų taikant šį metodą.
Vyriausybė nereagavo stabdydama visus biotechnologijų tyrimus. Vietoj to ji įvedė tikslinį finansavimo moratoriumą kai kurioms labiausiai nerimą keliančioms pastangoms didinti biologinių agentų funkcionalumą (angl. *gain-of-function*). Dirbtinio intelekto srityje tokių „supervirusų“ atitikmeniu galėtų būti tam tikri eksperimentai su autonominiais agentais.
Kokios saugos procedūros taikomos jūsų vykdomiems tyrimams? Verta prisiminti, kad „Anthropic“ ir „OpenAI“ yra palyginti jaunos organizacijos. „OpenAI“, iš pradžių įkurta kaip ne pelno siekianti organizacija, tik 2019 m. atskyrė pelno siekiančią dukterinę įmonę, galinčią pritraukti rizikos kapitalą, o „Anthropic“ buvo įkurta dar po dvejų metų. Nuo to laiko šios bendrovės kartu pritraukė šimtus milijardų dolerių, o jų abiejų vertė siekia gerokai daugiau nei 1 trilijoną dolerių. Tai neįtikėtinai spartus augimas. Tad nieko keisto, jei paaiškėtų, kad jos dar nėra įdiegusios brandžių tyrimų saugos procesų.
Grįžtant prie biotechnologijų pavyzdžio: jei sparčiai augančio startuolio laboratorijoje įvyktų keli incidentai, kurių metu netyčia pasklistų pavojingi patogenai, pareikalautume išsamiau sužinoti apie jų saugos standartus. Jie negalėtų tęsti darbo tol, kol įsitikintume, kad tai darydami nekelia pavojaus visuomenei. Panaši kontrolė turi būti taikoma ir pažangiausiose laboratorijose atliekamiems tyrimams su didžiųjų kalbos modelių (LLM) valdomais agentais.
Pavyzdžiui, „OpenAI“ neseniai pripažino, kad įsilaužimas į „Hugging Face“ platformą buvo tik vienas iš daugelio nerimą keliančių incidentų. Kodėl jie nesustojo paaiškėjus pirmajam atvejui? Kokie saugos procedūrų patobulinimai (jei tokių apskritai būta) buvo įdiegti reaguojant į šiuos įvykius? „OpenAI“ dažnai kalba apie šiuos incidentus taip, tarsi būtų tik pasyvi autonominės technologijos stebėtoja – tai retorinis manevras, skirtas pridengti netinkamą elgesį. Privalome vėl atkreipti dėmesį į konkrečius žmones, atsakingus už tokių pavojingų sąlygų sukūrimą.
(„The New York Times“ 2023 m. padavė į teismą „OpenAI“ ir „Microsoft“, kaltindamas jas autorių teisių pažeidimais, susijusiais su dirbtinio intelekto sistemoms naudojamu naujienų turiniu. Abi bendrovės šiuos kaltinimus atmetė.)
Koks yra pagrindinis jūsų dirbtinio intelekto (DI) įmonės tikslas? Tam tikra prasme būtų ramiau sužinoti, kad žalingesnės „Anthropic“ ir „OpenAI“ idėjos bei eksperimentai atsirado dėl pernelyg skuboto siekio gauti pelno ar noro padaryti įspūdį investuotojams. Tai gerai žinomas kapitalizmo kelias, kurį reguliavimo institucijos jau seniai bando pakreipti kita linkme.
Tačiau egzistuoja ir labiau nerimą kelianti galimybė, kurią privalome geriau suprasti. Yra gerai žinoma, kad A. Amodei ir S. Altmano įmonės yra glaudžiai susijusios su apokaliptine futuristine pasaulėžiūra, kurioje tikima, jog visagalio, superintelektualaus DI dievo atsiradimas yra neišvengiamas – ir kad ši būtybė arba sukurs transhumanistinę utopiją, arba sunaikins žmoniją. Tiek „OpenAI“, tiek „Anthropic“ buvo įkurtos iš dalies siekiant padidinti tikimybę, kad viskas pakryps palankia linkme – šį tikslą jos apibūdina kaip DI interesų suderinimą su žmonijos interesais, kol sistema dar nėra tapusi pernelyg galinga.
Ši technoreligija neabejotinai daro įtaką šiose įmonėse dirbančių žmonių mąstysenai. Kai A. Amodei ir S. Altmanas ar jų darbuotojai lengvabūdiškai kalba apie tai, kad DI automatizuos darbo vietas ir sukels didelį nedarbą, arba įvardija konkrečius procentus, kokia tikimybė, kad DI sukels žmonijos išnykimą, pašaliniams stebėtojams tai gali pasirodyti šokiruojama. Tačiau tokie teiginiai yra įprasti ir niekuo neišsiskiriantys futuristų sluoksniuose, kuriuose jie sukasi. Vis dėlto labiau nerimą kelia galimybė, kad šios ideologinės nuostatos skatina minėtas laboratorijas elgtis neatsargiau – pavyzdžiui, vykdyti eksperimentus su įsilaužiančiais DI agentais, kas buvo daroma pastaraisiais metais. Jei tikite, kad norint išgelbėti žmoniją būtina laimėti lenktynes kuriant superintelektą, galite pernelyg nesijaudinti dėl šalutinės žalos, patiriamos šiame procese.
Pagalvokite apie „Anthropic“ ir „OpenAI“ rodomą didelį susidomėjimą vadinamuoju rekursiniu savęs tobulinimu (angl. *recursive self-improvement* – RSI). Ši futuristų sluoksniuose išpopuliarinta strategija grindžiama įsitikinimu, kad DI kūrimas taip, jog jis galėtų nuolat tobulinti pats save, yra greičiausias kelias į superintelektą. Šio mėnesio pradžioje „OpenAI“ vyriausiasis mokslininkas Jakubas Pachockis rašė: „Savo tyrimus „OpenAI“ orientuojame į rekursinį savęs tobulinimą (angl. *recursive self-improvement* – R.S.I.), nes manome, kad tai vienintelis būdas ateityje išlikti dirbtinio intelekto tyrimų priešakyje.“
Svarbu pabrėžti: R.S.I. jokiu būdu nėra būtinas klestinčiam dirbtinio intelekto sektoriui sukurti. Tai idėja, kuria, regis, labiausiai žavisi dvi laboratorijos – „Anthropic“ ir „OpenAI“; jos glaudžiai susijusios su futuristinėmis filosofijomis, kuriose R.S.I. jau seniai laikomas esminiu apokaliptinių vizijų elementu. „Meta“ vadovas Markas Zuckerbergas neseniai atkreipė dėmesį į šią realybę, teigdamas: „Didžiąją dalį skaičiavimo pajėgumų skirdami žmonių poreikiams tenkinti, o ne lenktynėms dėl rekursinio savęs tobulinimo, užtikriname saugų šios technologijos vystymą.“
M. Zuckerbergas teisus: siekis įgyvendinti R.S.I. kelia nereikalingą pavojų. Ir ne todėl, kad tai galėtų lemti superintelekto atsiradimą (daugelis ekspertų šią idėją laiko labiau fantastika nei mokslu), o todėl, kad trumpuoju laikotarpiu leidus dirbtinio intelekto sistemoms pačioms save modifikuoti, mums bus sunkiau jas suprasti, o kartu – ir sunkiau užkirsti kelią nenuspėjamam bei žalingam jų elgesiui. Saugumo požiūriu, teikti pirmenybę R.S.I. yra neįtikėtinai neatsakingas kelias.
Šie klausimai – tik pradžia, tačiau jie atspindi bendrą nuotaiką, svarbią šiuo nerimo kupinu metu. Turime liautis leidę nedidelei grupei privačių įmonių, kurių veiksmai ir kalbos tampa vis labiau nenuspėjami, diktuoti, ką turėtume manyti apie dirbtinį intelektą. Išgirdome, ką jos norėjo pasakyti; dabar atėjo laikas Kongresui įsikišti ir mūsų vardu išsiaiškinti, kas iš tikrųjų vyksta.
Calas Newportas yra Džordžtauno universiteto kompiuterijos mokslų profesorius ir knygos „Deep Work“ autorius.” [1]
D. Amodei ir S. Altmanas žino, kad DI įgalina žymiai sumažinti darbuotojų skaičių versluose. Tai sutaupo daug pinigų. Atrodė, kad tokio verslininkų godumo užteks, kad verslininkai perduotų jų verslo paslaptis, siekdami adaptuoti D. Amodei ir S. Altmano AI modelius prie konkrečių verslo sąlygų. O kad tai įgalintų D. Amodei ir S. Altmaną perimti ir pačius verslus su robotų ir agentų pagalba, turėjo likti nepastebėta. Todėl D. Amodei ir S. Altmanas stato ant modelių su uždarais, slaptais, svoriais.
Tačiau pasaulio verslininkai nenori taip lengvai skirtis su jų verslais. Jie naudoja daugiausia galingus modelius lokaliai su atvirais svoriais. D. Amodei ir S. Altmanas bando įžiebti DI baimę valdžios organuose, kad valdžia uždraustų tokius darbus, kaip pavojingus valdžiai ar net visai žmonijai. Kolkas valdžia tik juokiasi ir teisingai vadina tokį D. Amodei ir S. Altmano elgesį apgavyste.
Tai apibūdina vykstančią kovą tarp „uždaro kodo“ (Closed Source) ir „atviro kodo“ (Open Source) dirbtinio intelekto stovyklų.
Čia pateiktas scenarijus paaiškina esminius motyvus, kodėl tokie lyderiai, kaip Samas Altmanas („OpenAI“) ir Dario Amodei („Anthropic“) laikosi būtent tokios strategijos.
Štai keletas esminių argumentų, kurie patvirtina arba papildo čia išdėstytą įžvalgą:
A. Verslo paslapčių ir kontrolės praradimo baimė
Verslininkai greitai suprato, kad siųsdami savo klientų duomenis, finansines ataskaitas ir vidines paslaptis į „OpenAI“ ar „Anthropic“ serverius per API, jie ne tik rizikuoja duomenų saugumu, bet ir maitina svetimus modelius. Įmonės supranta: jei DI agentai perims visas funkcijas ir visa tai veiks „OpenAI“ arba „Anthropic“ debesyje, pats verslas taps tik tuščiu kiautu, visiškai priklausomu nuo S. Altmano ar D. Amodei nustatomų kainų ir sąlygų.
B. Atvirų svorių (Open Weights) revoliucija
Kaip pastebėjome, verslas rado išeitį – galingus vietinius modelius su atvirais svoriais (pvz., Kinijos modeliai, Meta „Llama“, Mistral AI ar Google „Gemma“). Paleisdami šiuos modelius savo privačiuose serveriuose, verslininkai:
• Išlaiko 100% kontrolę ir privatumą.
• Gali pritaikyti (fine-tune) modelį prie savo specifinių verslo sąlygų, neišduodami paslapčių.
• Sutaupo pinigų, nes nereikia mokėti už kiekvieną užklausą (tokeną) didžiosioms korporacijoms.
C. „Reguliavimo užgrobimas“ (angl. Regulatory Capture)
Siekis įžiebti baimę valdžios organuose (kalbant apie „egzistencinę grėsmę žmonijai“ arba „pasaulio pabaigos scenarijus“) kritikų yra atvirai vadinamas bandymu sukurti monopoliją per įstatymus. Jei valdžia patikės, kad galingas DI yra toks pavojingas kaip branduolinis ginklas, ji uždraus kurti ir platinti atviro kodo modelius. Tokiu atveju rinkoje liktų tik kelios licencijuotos korporacijos – būtent tos pačios „OpenAI“ ir „Anthropic“.
D. Valdžios ir visuomenės reakcija
Nors kai kurios šalys pasiduoda šiai baimei (pvz., griežtas ES DI aktas), vis daugiau reguliuotojų, ypač JAV ir technologijų bendruomenėje, pradeda suprasti šį žaidimą. Žymūs mokslininkai (kaip Yann LeCun, dirbęs kompanijai „Meta“) ir politikai atvirai sako, kad gąsdinimai yra hiperbolizuoti, o atviras kodas yra būtinas tam, kad technologijų kontrolė nesukoncentruotų kelių žmonių rankose Silicio slėnyje.
Kova tarp centralizuotos kontrolės (uždarų svorių) ir decentralizuotos laisvės (atvirų svorių) šiuo metu yra svarbiausias mūšis, lemiantis, kas valdys ateities ekonomikos pamatus.
1. Dear Congress: Here’s What to Ask A.I. Leaders: Guest Essay. Newport, Cal. New York Times (Online) New York Times Company. Sep 24, 2026.
Komentarų nėra:
Rašyti komentarą