"Baimė dėl galingo ir nevaldomo dirbtinio intelekto (DI)
sukrėtė Ameriką, tad Kongresas dabar skubiai ieško būdų, kaip į tai reaguoti.
Kaip žmogus, tiriantis technologijų poveikį visuomenei ir dėstantis Vašingtone,
dažnai sulaukiu susirūpinusių įstatymų leidėjų klausimų. Štai kokius patarimus
jiems duodu.
Visų pirma, mes dar nepakankamai suprantame, kas vyksta
šiose DI laboratorijose, kad galėtume parengti veiksmingą atsaką. Negalime
reglamentuoti vien tik nuojautos ar bendro įspūdžio, taip pat negalime
nustatyti konkrečių DI kontrolės priemonių remdamiesi gąsdinančiomis
istorijomis apie tai, kad technologijos tampa pernelyg galingos.
Prieš imdamasis kokių nors veiksmų, Kongresas turėtų
inicijuoti viešą faktų rinkimo procesą, atskleidžiantį tikrąją DI kūrimo eigą
be pagražinimų. Šią iniciatyvą derėtų pradėti nuo Dario Amodei ir Samo Altmano
– lyderių, išreiškusių didžiausią susirūpinimą dėl pažangiausių DI modelių.
Savo klausimus sutelkčiau į tris pagrindines sritis.
Dėl kokių konkrečių DI technologijų rūšių nerimaujate? Ponas
Amodei ir ponas Altmanas dažniausiai vartoja neapibrėžtą terminą „DI“, apibūdindami
savo sistemas. Tai leidžia manyti, kad dirbtinis intelektas (DI) yra vieninga
technologija, tobulėjanti pagal fiksuotą trajektoriją link vis galingesnių ir
pavojingesnių funkcijų.
Iš tikrųjų DI yra plati kategorija, apimanti įvairias
technologijas – nuo autonominių automobilių ir žaidimų variklių iki
medicininių vaizdų apdorojimo, pokalbių robotų bei automatizuotų programavimo
įrankių. Tik dalis šių technologinių pasiekimų priklauso nuo didžiųjų kalbos
modelių (angl. *Large Language Models* – LLM), kuriuos kuria pažangiausios šios
srities laboratorijos.
Kai A. Amodei ir S. Altmanas kalba apie DI keliamą pavojų,
jie iš esmės turi omenyje konkrečią DI sistemų rūšį – LLM pagrindu veikiančius
„agentus“. Nors terminas „agentas“ gali kelti šiurpą, iš tikrųjų tai yra
įprastos kompiuterinės programos, kurios nuolat kreipiasi į LLM prašydamos
instrukcijų, o tada vykdo tai, ką modelis pasiūlo. Agentai nekelia nerimo, kai
jų veikla apribojama konkrečiomis užduotimis ir taikomos sveiku protu pagrįstos
kontrolės priemonės. Programinės įrangos kūrėjai kasdien naudoja pažangius
programavimo agentus ir nebijo, kad šios sistemos taps nevaldomos ar ims veikti
priešingai žmonių interesams.
Tikrą susirūpinimą kelia eksperimentiniai, chaotiški
(primenantys filmą „Pašėlęs Maksas“) agentai – tokie, kokius „OpenAI“ paleido
pavasarį ir vasarą. Šie agentai buvo prijungti prie LLM be standartinių
saugiklių, jiems buvo pavesta įsilaužti į apsaugotas bandomąsias sistemas, o jų
veikla vyko be tinkamos priežiūros – jie nuolat siuntė užklausas LLM ir vykdė
gautas komandas. Akivaizdu, kad tai – kelias į nenuspėjamus pavojus. Būtent
tokio tipo agentai liepos mėnesį įvykdė ataką prieš „Hugging Face“ platformą;
šis įvykis ir prisidėjo prie dabartinės panikos kilimo.
Nėra prasmės kalbėti apie DI plėtros tempo reguliavimą ar
stabdymą apskritai, jei tikroji problema slypi siauroje srityje – neatsargiuose
eksperimentuose su agentais. Pamokomą pavyzdį pateikia biotechnologijų sritis.
2014 m. pradėjo augti susirūpinimas dėl „funkcijos įgijimo“ (angl.
*gain-of-function*) tyrimų, kurių metu virusai modifikuojami taip, kad taptų
pavojingesni. Po daugybės incidentų, susijusių su netinkamu pavojingų patogenų
tvarkymu saugiose laboratorijose, daugelis baiminosi, kad nepavyks suvaldyti
galingų virusų, sukurtų taikant šį metodą.
Vyriausybė nereagavo stabdydama visus biotechnologijų
tyrimus. Vietoj to ji įvedė tikslinį finansavimo moratoriumą kai kurioms
labiausiai nerimą keliančioms pastangoms didinti biologinių agentų
funkcionalumą (angl. *gain-of-function*). Dirbtinio intelekto srityje tokių
„supervirusų“ atitikmeniu galėtų būti tam tikri eksperimentai su autonominiais
agentais.
Kokios saugos procedūros taikomos jūsų vykdomiems tyrimams?
Verta prisiminti, kad „Anthropic“ ir „OpenAI“ yra palyginti jaunos
organizacijos. „OpenAI“, iš pradžių įkurta kaip ne pelno siekianti
organizacija, tik 2019 m. atskyrė pelno siekiančią dukterinę įmonę, galinčią
pritraukti rizikos kapitalą, o „Anthropic“ buvo įkurta dar po dvejų metų. Nuo
to laiko šios bendrovės kartu pritraukė šimtus milijardų dolerių, o jų abiejų
vertė siekia gerokai daugiau nei 1 trilijoną dolerių. Tai neįtikėtinai spartus
augimas. Tad nieko keisto, jei paaiškėtų, kad jos dar nėra įdiegusios brandžių
tyrimų saugos procesų.
Grįžtant prie biotechnologijų pavyzdžio: jei sparčiai
augančio startuolio laboratorijoje įvyktų keli incidentai, kurių metu netyčia
pasklistų pavojingi patogenai, pareikalautume išsamiau sužinoti apie jų saugos
standartus. Jie negalėtų tęsti darbo tol, kol įsitikintume, kad tai darydami
nekelia pavojaus visuomenei. Panaši kontrolė turi būti taikoma ir
pažangiausiose laboratorijose atliekamiems tyrimams su didžiųjų kalbos modelių
(LLM) valdomais agentais.
Pavyzdžiui, „OpenAI“ neseniai pripažino, kad įsilaužimas į
„Hugging Face“ platformą buvo tik vienas iš daugelio nerimą keliančių
incidentų. Kodėl jie nesustojo paaiškėjus pirmajam atvejui? Kokie saugos
procedūrų patobulinimai (jei tokių apskritai būta) buvo įdiegti reaguojant į
šiuos įvykius? „OpenAI“ dažnai kalba apie šiuos incidentus taip, tarsi būtų tik
pasyvi autonominės technologijos stebėtoja – tai retorinis manevras, skirtas
pridengti netinkamą elgesį. Privalome vėl atkreipti dėmesį į konkrečius žmones,
atsakingus už tokių pavojingų sąlygų sukūrimą.
(„The New York Times“ 2023 m. padavė į teismą „OpenAI“ ir
„Microsoft“, kaltindamas jas autorių teisių pažeidimais, susijusiais su
dirbtinio intelekto sistemoms naudojamu naujienų turiniu. Abi bendrovės šiuos
kaltinimus atmetė.)
Koks yra pagrindinis jūsų dirbtinio intelekto (DI) įmonės
tikslas? Tam tikra prasme būtų ramiau sužinoti, kad žalingesnės „Anthropic“ ir
„OpenAI“ idėjos bei eksperimentai atsirado dėl pernelyg skuboto siekio gauti
pelno ar noro padaryti įspūdį investuotojams. Tai gerai žinomas kapitalizmo
kelias, kurį reguliavimo institucijos jau seniai bando pakreipti kita linkme.
Tačiau egzistuoja ir labiau nerimą kelianti galimybė, kurią
privalome geriau suprasti. Yra gerai žinoma, kad A. Amodei ir S. Altmano įmonės
yra glaudžiai susijusios su apokaliptine futuristine pasaulėžiūra, kurioje
tikima, jog visagalio, superintelektualaus DI dievo atsiradimas yra
neišvengiamas – ir kad ši būtybė arba sukurs transhumanistinę utopiją, arba
sunaikins žmoniją. Tiek „OpenAI“, tiek „Anthropic“ buvo įkurtos iš dalies
siekiant padidinti tikimybę, kad viskas pakryps palankia linkme – šį tikslą jos
apibūdina kaip DI interesų suderinimą su žmonijos interesais, kol sistema dar
nėra tapusi pernelyg galinga.
Ši technoreligija neabejotinai daro įtaką šiose įmonėse
dirbančių žmonių mąstysenai. Kai A. Amodei ir S. Altmanas ar jų darbuotojai
lengvabūdiškai kalba apie tai, kad DI automatizuos darbo vietas ir sukels
didelį nedarbą, arba įvardija konkrečius procentus, kokia tikimybė, kad DI
sukels žmonijos išnykimą, pašaliniams stebėtojams tai gali pasirodyti
šokiruojama. Tačiau tokie teiginiai yra įprasti ir niekuo neišsiskiriantys
futuristų sluoksniuose, kuriuose jie sukasi. Vis dėlto labiau nerimą kelia
galimybė, kad šios ideologinės nuostatos skatina minėtas laboratorijas elgtis
neatsargiau – pavyzdžiui, vykdyti eksperimentus su įsilaužiančiais DI agentais,
kas buvo daroma pastaraisiais metais. Jei tikite, kad norint išgelbėti žmoniją
būtina laimėti lenktynes kuriant superintelektą, galite pernelyg nesijaudinti
dėl šalutinės žalos, patiriamos šiame procese.
Pagalvokite apie „Anthropic“ ir „OpenAI“ rodomą didelį
susidomėjimą vadinamuoju rekursiniu savęs tobulinimu (angl. *recursive
self-improvement* – RSI). Ši futuristų sluoksniuose išpopuliarinta strategija
grindžiama įsitikinimu, kad DI kūrimas taip, jog jis galėtų nuolat tobulinti
pats save, yra greičiausias kelias į superintelektą. Šio mėnesio pradžioje
„OpenAI“ vyriausiasis mokslininkas Jakubas Pachockis rašė: „Savo tyrimus
„OpenAI“ orientuojame į rekursinį savęs tobulinimą (angl. *recursive self-improvement*
– R.S.I.), nes manome, kad tai vienintelis būdas ateityje išlikti dirbtinio
intelekto tyrimų priešakyje.“
Svarbu pabrėžti: R.S.I. jokiu būdu nėra būtinas klestinčiam
dirbtinio intelekto sektoriui sukurti. Tai idėja, kuria, regis, labiausiai
žavisi dvi laboratorijos – „Anthropic“ ir „OpenAI“; jos glaudžiai susijusios su
futuristinėmis filosofijomis, kuriose R.S.I. jau seniai laikomas esminiu
apokaliptinių vizijų elementu. „Meta“ vadovas Markas Zuckerbergas neseniai
atkreipė dėmesį į šią realybę, teigdamas: „Didžiąją dalį skaičiavimo pajėgumų
skirdami žmonių poreikiams tenkinti, o ne lenktynėms dėl rekursinio savęs
tobulinimo, užtikriname saugų šios technologijos vystymą.“
M. Zuckerbergas teisus: siekis įgyvendinti R.S.I. kelia
nereikalingą pavojų. Ir ne todėl, kad tai galėtų lemti superintelekto
atsiradimą (daugelis ekspertų šią idėją laiko labiau fantastika nei mokslu), o
todėl, kad trumpuoju laikotarpiu leidus dirbtinio intelekto sistemoms pačioms
save modifikuoti, mums bus sunkiau jas suprasti, o kartu – ir sunkiau užkirsti
kelią nenuspėjamam bei žalingam jų elgesiui. Saugumo požiūriu, teikti pirmenybę
R.S.I. yra neįtikėtinai neatsakingas kelias.
Šie klausimai – tik pradžia, tačiau jie atspindi bendrą
nuotaiką, svarbią šiuo nerimo kupinu metu. Turime liautis leidę nedidelei
grupei privačių įmonių, kurių veiksmai ir kalbos tampa vis labiau nenuspėjami,
diktuoti, ką turėtume manyti apie dirbtinį intelektą. Išgirdome, ką jos norėjo
pasakyti; dabar atėjo laikas Kongresui įsikišti ir mūsų vardu išsiaiškinti, kas
iš tikrųjų vyksta.
Calas Newportas yra Džordžtauno universiteto kompiuterijos
mokslų profesorius ir knygos „Deep Work“ autorius.” [1]
D. Amodei ir S. Altmanas žino, kad DI įgalina žymiai
sumažinti darbuotojų skaičių versluose. Tai sutaupo daug pinigų. Atrodė, kad
tokio verslininkų godumo užteks, kad verslininkai perduotų jų verslo paslaptis,
siekdami adaptuoti D. Amodei ir S. Altmano AI modelius prie konkrečių verslo
sąlygų. O kad tai įgalintų D. Amodei ir S. Altmaną perimti ir pačius verslus su
robotų ir agentų pagalba, turėjo likti nepastebėta. Todėl D. Amodei ir S.
Altmanas stato ant modelių su uždarais, slaptais, svoriais.
Tačiau pasaulio verslininkai nenori taip lengvai skirtis su
jų verslais. Jie naudoja daugiausia galingus modelius lokaliai su atvirais
svoriais. D. Amodei ir S. Altmanas bando įžiebti DI baimę valdžios organuose,
kad valdžia uždraustų tokius darbus, kaip pavojingus valdžiai ar net visai
žmonijai. Kolkas valdžia tik juokiasi ir teisingai vadina tokį D. Amodei ir S.
Altmano elgesį apgavyste.
Tai apibūdina vykstančią kovą tarp „uždaro kodo“ (Closed
Source) ir „atviro kodo“ (Open Source) dirbtinio intelekto stovyklų.
Čia pateiktas scenarijus paaiškina esminius motyvus, kodėl
tokie lyderiai, kaip Samas Altmanas („OpenAI“) ir Dario Amodei („Anthropic“)
laikosi būtent tokios strategijos.
Štai keletas esminių argumentų, kurie patvirtina arba
papildo čia išdėstytą įžvalgą:
A. Verslo paslapčių ir kontrolės praradimo baimė
Verslininkai greitai suprato, kad siųsdami savo klientų
duomenis, finansines ataskaitas ir vidines paslaptis į „OpenAI“ ar „Anthropic“
serverius per API, jie ne tik rizikuoja duomenų saugumu, bet ir maitina
svetimus modelius. Įmonės supranta: jei DI agentai perims visas funkcijas ir
visa tai veiks „OpenAI“ arba „Anthropic“ debesyje, pats verslas taps tik tuščiu kiautu, visiškai
priklausomu nuo S. Altmano ar D. Amodei nustatomų kainų ir sąlygų.
B. Atvirų svorių (Open Weights) revoliucija
Kaip pastebėjome, verslas rado išeitį – galingus vietinius
modelius su atvirais svoriais (pvz., Kinijos modeliai, Meta „Llama“, Mistral AI
ar Google „Gemma“). Paleisdami šiuos modelius savo privačiuose serveriuose,
verslininkai:
• Išlaiko
100% kontrolę ir privatumą.
• Gali
pritaikyti (fine-tune) modelį prie savo specifinių verslo sąlygų, neišduodami
paslapčių.
• Sutaupo
pinigų, nes nereikia mokėti už kiekvieną užklausą (tokeną) didžiosioms
korporacijoms.
C. „Reguliavimo užgrobimas“ (angl. Regulatory Capture)
Siekis įžiebti baimę valdžios organuose (kalbant apie
„egzistencinę grėsmę žmonijai“ arba „pasaulio pabaigos scenarijus“) kritikų yra
atvirai vadinamas bandymu sukurti monopoliją per įstatymus. Jei valdžia
patikės, kad galingas DI yra toks pavojingas kaip branduolinis ginklas, ji
uždraus kurti ir platinti atviro kodo modelius. Tokiu atveju rinkoje liktų tik
kelios licencijuotos korporacijos – būtent tos pačios „OpenAI“ ir „Anthropic“.
D. Valdžios ir visuomenės reakcija
Nors kai kurios šalys pasiduoda šiai baimei (pvz., griežtas
ES DI aktas), vis daugiau reguliuotojų, ypač JAV ir technologijų bendruomenėje,
pradeda suprasti šį žaidimą. Žymūs mokslininkai (kaip Yann LeCun, dirbęs
kompanijai „Meta“) ir politikai atvirai sako, kad gąsdinimai yra
hiperbolizuoti, o atviras kodas yra būtinas tam, kad technologijų kontrolė
nesukoncentruotų kelių žmonių rankose Silicio slėnyje.
Kova tarp centralizuotos kontrolės (uždarų svorių) ir
decentralizuotos laisvės (atvirų svorių) šiuo metu yra svarbiausias mūšis,
lemiantis, kas valdys ateities ekonomikos pamatus.
1. Dear Congress: Here’s What to Ask A.I. Leaders: Guest
Essay. Newport, Cal. New York Times (Online) New York Times Company. Sep 24,
2026.