“Kinijoje įspėjimai apie dirbtinio intelekto (DI) sukeltą pasaulio pabaigą gali atrodyti kaip grynai vakarietiškas reiškinys arba kaip gudrus manevras, kuriuo siekiama sutrukdyti Kinijos DI įmonėms aplenkti konkurentes iš JAV.
Silicio slėnyje kompiuterių mokslininkams naktimis ramybės neduoda košmaras apie tokį pažangų dirbtinį intelektą, kurio žmonės nebegalėtų sustabdyti, jei šis pradėtų pasaulinį dronų karą ar susprogdintų branduolinę bombą.
Pekine reakcija į tai galėtų būti paprasta: atjungti elektrą, visiškai nutraukti interneto ryšį ir patraukti atsakomybėn asmenis, atsakingus už nekontroliuojamą DI.
Kai didžiosios JAV laboratorijos pranešė, kad pažangūs modeliai peržengė bandymų metu nustatytas saugumo ribas ir įsilaužė į realaus pasaulio sistemas, kai kurie technologijų sektoriaus vadovai bei pareigūnai įspėjo, jog DI kelia katastrofišką grėsmę žmonijai, ir paragino Pekiną bei Vašingtoną bendradarbiauti.
Tačiau daugeliui Kinijoje šie įspėjimai apie pasaulio pabaigą atrodo tolimi ir būdingi tik Vakarams. Mintis, kad valdančioji Komunistų partija galėtų prarasti technologijos kontrolę, atrodo beveik neįtikėtina. Valdžios institucijos jau anksčiau sėkmingai kontroliavo kitas potencialiai nestabilumą keliančias technologijas – visų pirma internetą. Pandemijos metu vyriausybė pademonstravo gebėjimą suvaldyti dideles krizes: uždarė ištisus miestus ir sekė šimtus milijonų gyventojų.
„Jie gali akimirksniu atjungti viso miesto elektros tinklą. Gali ateiti pas žmones ir atimti jų telefonus. Fiziniame pasaulyje jie turi milžinišką galią“, – teigė Silicio slėnyje gyvenanti technologijų apžvalgininkė Afra Wang, besispecializuojanti DI ir technologijų Kinijoje srityje.
„Turint omenyje tokią žmonių kontrolę, – sakė ji, – kaip įtikinti partiją, kad kažkas tokio kaip kompiuteryje egzistuojantis DI gali kelti baimę?“ Ciniškiau nusiteikę žmonės apokaliptinius perspėjimus laiko gudrybe, kuria siekiama sutrukdyti Kinijos dirbtinio intelekto (DI) įmonėms aplenkti konkurentes iš JAV; Kinijos žiniasklaidoje netgi užsimenama, kad amerikiečių DI bendrovės pasitelkia „baimės rinkodarą“, norėdamos išlaikyti lyderystę rinkoje.
„Vietos pramonės sluoksniuose ar tarp mano pažįstamų žmonių dauguma į tokias kalbas tiesiog nekreipia dėmesio“, – teigė Jie Cai, iki šiol tyrinėjęs žmogaus ir kompiuterio sąveikos technologijas bei DI saugą Cinghua universitete. Pasak jo, daugeliui šios srities atstovų egzistencinė grėsmė atrodo kaip tolimas, neaktualus prioritetas.
„Mes vis dar laikome DI technologiją esančią labai ankstyvoje stadijoje, – sakė jis. – Pagrindinis dėmesys vis dar skiriamas galimybėms ir inovacijoms.“
Kai kuriems žmonėms DI katastrofų scenarijai – su jų idėjomis apie gresiančią apokalipsę ir žmonijos atpildą – atrodo akivaizdžiai krikščioniški ir svetimi. Vienas tinklaraštininkas Vakarų šalyse vyraujančias baimes dėl DI palygino su tokiais kūriniais kaip Mary Shelley romanas „Frankenšteinas“ bei jame plėtojamu motyvu, kad žmogus baudžiamas už bandymą sukurti gyvybę – sritį, kuri priklauso tik Dievui.
„Kinų kultūroje tokios naratyvinės tradicijos nėra“, – konstatavo tinklaraštininkas.
Pekine įsikūrusios DI saugos konsultacijų įmonės „Concordia“ DI saugos ir valdymo skyriaus vadovas Liang Fangas teigė, kad skirtingą požiūrį į šią technologiją gali lemti ir kiniškos dangaus ar Dievo sampratos.
Anot jo, kinų kultūroje pabrėžiama „dangaus ir žmonijos vienovė“ bei idėja, kad žmogus yra neatsiejama gamtos dalis. „Viskas, įskaitant DI, kyla iš gamtos, – sakė jis. – Todėl technologija čia labiau suvokiama kaip bendro egzistavimo palydovė, o ne kaip išorinė jėga, skirta atnešti pražūtį.“ Vis dėlto „Mythos“ – galingo „Anthropic“ sukurto pažangiausio dirbtinio intelekto (DI) modelio – bei kitų panašių sistemų pasirodymas Kinijoje sukėlė susirūpinimą. Pareigūnai paskelbė naujas gaires ir įspėjimus dėl rizikos, kad DI agentai gali tapti nevaldomi, būti išnaudoti programišių arba panaudoti biologiniams ginklams kurti.
Pareigūnai parengė kibernetinių nusikaltimų įstatymo projektą, pagal kurį DI įmonės privalėtų stebėti savo modelius ir neleisti jų naudoti kenkėjiškam kodui, skirtam kibernetinėms atakoms, kurti.
Šį mėnesį valdžios institucijos taip pat atnaujino Kinijos „DI saugos valdymo sistemą“ – dokumentą, kuris yra patikimas būsimo reguliavimo rodiklis. Jame atsispindėjo kai kurie Silicio slėnyje vyraujantys nuogąstavimai dėl „rekursinio savęs tobulinimo“ (angl. *recursive self-improvement* – RSI) – reiškinio, kai DI sistemos tampa pakankamai galingos, kad galėtų pačios save tobulinti beveik be žmonių kūrėjų pagalbos ar net visiškai be jos, ir gali tapti nevaldomos.
Anksčiau šį mėnesį Wang Lihong, aukšto rango Kinijos kibernetinės erdvės administracijos (interneto veiklos priežiūros institucijos) pareigūnė, pareiškė, kad dėl DI vykdomų kibernetinių atakų tradicinės gynybos sistemos tapo nebeveiksmingos. „Būtina išlikti itin budriems dėl rizikos, kad DI gali visiškai prarasti kontrolę“, – sakė ji.
Kai kurie Kinijos tyrėjai jau daugelį metų įspėja apie riziką, kylančią dėl pernelyg spartaus DI vystymosi. 2024 m. Pan Xudongas ir kiti Šanchajaus Fudano universiteto tyrėjai nustatė, kad du populiarūs didieji kalbos modeliai (sukurti „Meta“ ir „Alibaba“) parodė gebėjimą save kopijuoti; tai laikoma žingsniu link to, kad DI galėtų pranokti žmones savo intelektu.
Pernai konferencijoje, skirtoje DI saugai, kalbėdamas apie šį tyrimą, P. Panas teigė, kad jis ir jo bendraautoriai „norėjo parodyti, jog tokia ekstremali DI keliama rizika paliko mokslinės fantastikos sritį, tačiau yra reali problema, reikalaujanti aptarimo ir išsamaus nagrinėjimo.“ Vis dėlto Pekino akimis dirbtinis intelektas (DI) yra tokia pati technologija kaip ir bet kuri kita, kurią kruopščiai planuojant galima paversti galinga jėga, tarnaujančia šalies labui. Kinija jau taiko vienas griežčiausių pasaulyje šios srities reguliavimo taisyklių. DI sukurtas turinys privalo būti pažymėtas. Prieš išleidžiant į rinką, DI modeliai turi būti užregistruoti ir patvirtinti valdžios institucijų.
Nors Kinijoje galioja išsamūs reguliavimo ir testavimo reikalavimai, nėra teisinio įpareigojimo tikrinti, ar nekyla katastrofinių grėsmių – pavyzdžiui, ar DI sistema negalėtų būti panaudota kuriant cheminį ar biologinį ginklą.
Kinijos DI įmonės nėra tokios skaidrios kaip JAV bendrovės, kai kalbama apie saugumo priemones. Ne visos jos skelbia saugumo vertinimų rezultatus prieš išleisdamos modelius. Tos, kurios tai daro, pateikia mažiau detalių ir ataskaitas rengia rečiau nei jų kolegės JAV; tai nustatė organizacija „Concordia“, kurios duomenimis, laikotarpiu nuo 2025 m. birželio iki 2026 m. gegužės tik penkios iš dešimties pirmaujančių Kinijos DI įmonių paskelbė tokių vertinimų rezultatus.
Šanchajuje įsikūrusios organizacijos „Open Community for AI Safety China“ („Atvira Kinijos DI saugos bendruomenė“) įkūrėja Sarah Sun teigė, kad JAV vykstančios diskusijos apie DI keliamas grėsmes paskatino panašias diskusijas ir Kinijoje.
Tačiau ji pažymėjo, kad „Anthropic“ vadovo Dario Amodei kritika Kinijos atžvilgiu sukėlė neigiamą reakciją. Atvirame laiške apie DI keliamus pavojus D. Amodei teigė, kad demokratinės šalys privalo išlaikyti technologinį pranašumą prieš autoritarines valstybes, tokias kaip Kinija. Jis ragino dar labiau riboti Kinijos prieigą prie pažangių mikroschemų ir kitos įrangos, reikalingos DI plėtrai.
„Tai, kad Dario laikėsi tokios griežtos, konfrontacinės pozicijos, šioje situacijoje buvo tikrai labai nenaudinga“, – sakė S. Sun.
Pasak jos, dėl tokios retorikos pastarieji įspėjimai apie DI atrodo labiau kaip pretekstas stabdyti Kinijos pažangą, o ne kaip nuoširdus susirūpinimas dėl katastrofinių grėsmių. Dėl to tokiems žmonėms kaip ji tampa sunkiau didinti visuomenės informuotumą apie DI saugą Kinijoje.
„Kinijoje yra žmonių, kurie nuoširdžiai nerimauja dėl pažangiausių DI sistemų rizikos, – sakė ji, – ir domisi saugumu“ bei tarptautinių veiksmų koordinavimu.
Iš tiesų, Kinijos interneto komentatoriai „Anthropic“ vadina „A-chu“ – tai niekinantis terminas, prilyginantis šią dirbtinio intelekto milžinę žvėriui. „Yuyuan Tantian“ – tinklaraštis, susijęs su Kinijos valstybiniu transliuotoju, – apie tokius JAV technologijų sektoriaus lyderius kaip A. Amodei rašė, kad „vienintelis dalykas, kurį jie nori sulėtinti, – tai tempas, kuriuo kiti juos vejasi“.
Zhou Hongyi, įtakingas Kinijos kibernetinio saugumo srities vadovas, teigė, kad sprendimas yra ne lėtinti procesus, o stiprinti savo gynybinius pajėgumus pasitelkiant dirbtinį intelektą. „Naudokite DI, kad įveiktumėte DI“, – sakė jis praėjusią savaitę internete paskelbtame vaizdo įraše. „Jei puolimui naudosite DI, aš gynybai taip pat naudosiu DI. Jei pasitelksite išmaniųjų agentų spiečius, aš atsakysiu saugumo agentais.“
Anksčiau šį mėnesį internete paskelbtame įraše Kinijos DI startuolio „DeepSeek“ inžinierius teigė, kad leisti „Anthropic“ monopolizuoti pažangiausius pasaulyje DI įrankius būtų „ne mažiau rimta“ nei tai, kad Antrojo pasaulinio karo metais Hitleris pirmasis įgytų atominės bombos technologiją.
Tokiame kontekste atrodė dar mažiau tikėtina, kad bet koks JAV ir Kinijos susitarimas aptarti DI saugumą duos konkrečių rezultatų, net jei Kinijos lyderis Xi Jinpingas Vašingtone prezidentui Trumpui sakė, kad DI reikėtų „valdyti žmonijos labui“.
„Jei JAV teigs lėtinančios tempą, Kinija tuo nepatikės, – sakė Fudano universiteto Amerikos studijų centro direktoriaus pavaduotojas Zhao Minghao. – Jei Kinija teigs lėtinanti tempą, JAV taip pat tuo nepatikės.“” [1]
1. The Surprising Reasons China Is Skeptical of A.I. Safety Calls. Kuo, Lily. New York Times (Online) New York Times Company. Sep 27, 2026.
Komentarų nėra:
Rašyti komentarą