„Administracija ryžtingai reaguoja į dirbtinio intelekto keliamus pavojus nacionaliniam saugumui, nes Kinija, pagrindinė Amerikos technologinė ir karinė varžovė, sparčiai veržiasi į priekį.
Liepos viduryje daugelis didžiausių šalies karinių rangovų gavo laišką iš Karinių oro pajėgų su griežtu įspėjimu: iki rugsėjo 1 d. visa jų naudojama ginklų ir valdymo sistemų programinė įranga turi būti be dirbtinio intelekto bendrovės „Anthropic“ sukurtų produktų. Nesilaikymas keltų pavojų visam jų verslui su Pentagonu.
Per mėnesį tie patys rangovai sulaukė netikėto pasikeitimo: jie galėjo – kol kas – nepaisyti ankstesnių nurodymų dėl „Anthropic“ valymo.
Tai buvo dar vienas dirbtinio intelekto sutrikimų cunamio, pastaraisiais mėnesiais nusiaubusio nacionalinio saugumo įstaigą, chaoso ir prieštaravimų pavyzdys. Tokios agentūros kaip Pentagonas, kurios vis dar naudoja šeštajame dešimtmetyje suprojektuotus lėktuvus, įnirtingai stengiasi neatsilikti nuo dirbtinio intelekto modelių, kurių galia per kelis mėnesius padidėja kelis kartus.
Įtampa dar labiau padidėjo „Anthropic“ atveju, kurios generalinis direktorius Dario Amodei viešai nesutarė su gynybos sekretoriumi Pete'u Hegsethu dėl apribojimų, kuriuos bendrovė bandė įvesti galingiausioms pasaulio kariuomenėms naudojant šią technologiją.
Be galingo „Anthropic“ modelio „Mythos“, Nacionalinei saugumo agentūrai (NSA) būtų daug sunkiau rasti ir ištaisyti Pentagono sistemų pažeidžiamumus, teigė aukšti NSA pareigūnai. Ir paaiškėjo, kad nepaisant pradinio „Anthropic“ draudimo, NSA vis tiek buvo leista naudoti jos produktus.
Dabartiniai ir buvę pareigūnai teigė, kad naudojant „Mythos“ buvo atliekami kritiniai bandymai, siekiant įvertinti jo potencialą įsilaužti į labai saugomus užsienio tinklus.
Pasak vieno neseniai išėjusio aukšto rango JAV pareigūno, „Mythos“, dirbtinio intelekto modelio, kurio potencialas vykdyti puolamąsias kibernetines operacijas jau perkelia skaitmeninio ginklavimosi varžybas į per didelį pagreitį, naudojimo nutraukimas būtų prilygęs „vienašališkam nusiginklavimui“.
Nuo Gynybos departamento iki CŽV ir NSA, milijardai jau išleisti dirbtiniam intelektui, skirtam kurti ginklus, kurie galėtų veikti su mažesne žmogaus kontrole, arba išbandyti pažeidžiamus karinius tinklus ir net branduolinius kodus, siekiant įsitikinti, kad jų negali nulaužti priešiškos dirbtinio intelekto sistemos.
Dirbtinis intelektas yra labai svarbus „Auksiniam kupolui“ – prezidento Trumpo vizijai, kuri daugeliui ekspertų atrodo fantastiška – apie kosminį raketų skydą.
Tačiau mažai kas iš šių darbų numatė „Mythos“ ir jo dirbtinio intelekto atitikmenų galią arba perspektyvą, kad Kinija gali už kelių mėnesių turėti savo įspūdingas ir pigesnes versijas. Tai galėtų dar labiau sustiprinti Kinijos gebėjimą infiltruotis į Amerikos ryšių tinklus, vandens sistemas ir elektros tinklus, panašius į tuos, kuriuos ji sėkmingai pramušė Bideno administracijos laikais per du didelio masto išpuolius, vadinamus „Volt Typhoon“ ir „Salt Typhoon“.
„Apie tokius dalykus kalbėjome ir nerimavome dar prieš tai, kai dirbtinis intelektas tapo kasdiene antrašte“, – sakė Jen Easterly, kuri Bideno administracijos laikais vadovavo Kibernetinio saugumo ir infrastruktūros saugumo agentūrai. „Dabar kitaip ir tai, kas daro problemą dar aktualesnę, yra dirbtinio intelekto potencialas sustiprinti šiuos pajėgumus.“
Iki šiol Trumpo administracija reagavo drastiškai, iš pradžių atsisakydama savo nesikišimo požiūrio į pramonės reguliavimą, tada trumpam užblokuodama prieigą užsieniečiams iš „Mythos“, įskaitant kai kuriuos jos išradėjus, o galiausiai panaikindama šį draudimą.
Anksčiau šį mėnesį administracija pasikvietė didžiausių „fronto“ kūrėjų, įskaitant „OpenAI“ ir „Anthropic“, vadovus ir pasakė jiems, kad vyriausybė peržiūrės naujus modelius, siekdama užtikrinti, kad jie negalėtų būti naudojami biologiniams ginklams gaminti arba įsilaužti į įslaptintas Amerikos sistemas ar ryšių tinklus, kurie valdo branduolinius ginklus.
(„The New York Times“ padavė į teismą „OpenAI“ ir „Microsoft“, teigdami, kad pažeidžiamos autorių teisės į naujienų turinį, susijusį su dirbtinio intelekto sistemomis. Abi bendrovės šiuos teiginius neigė.)
Tačiau vyriausybės peržiūros procesas atleidžia „atvirus“ modelius, įskaitant daugelį tų, kuriuos dabar kuria Kinijos įmonės, kurių kodą gali pritaikyti vartotojai.
Vienas vyresnysis bendrovės vadovas, informuotas apie naująją politiką, teigė, kad ji neturi prasmės, pažymėdamas, kad atviri modeliai gali būti tokie pat pavojingi. Kaip ir daugelis pramonės atstovų, vadovas nebus cituojamas, bijodamas supykdyti administraciją. pareigūnai.
Pentagono pareigūnai atmeta mintį, kad jie nėra pakankamai lankstūs. Jie teigia, kad JAV kariuomenė, nepaisant antropogeninio draudimo, išlaikė tiesioginę prieigą prie pažangiausių pasaulyje dirbtinio intelekto sistemų. Pareigūnas, kuris aptarė Pentagono politiką su anonimiškumo sąlyga, teigė, kad Gynybos departamentas neseniai, per keturias dienas nuo komercinio išleidimo, integravo „Google Gemini“ modelio versiją.
Daugiau nei 1300 dirbtinio intelekto darbuotojų paragino šalį sulėtinti plėtrą. Tačiau kiti, įskaitant ir Trumpo administracijos viduje, į šį raginimą atsakė klausimu: „O kaip dėl Kinijos?“ Jie baiminasi prarasti maždaug šešių mėnesių persvarą, kurią, jų manymu, turi Jungtinės Valstijos.
Šis susirūpinimas sukėlė diskusijas apie tai, ar kai kurių galingiausių „Nvidia“, pirmaujančios Amerikos gamintojos, pagamintų lustų eksporto kontrolė yra veiksminga, kad Kinija negalėtų sukurti skaičiavimo galios, kurios jiems reikia, kad pasivytų. Kontrolė taip pat gali paskatinti Kinijos gamintojus įsigyti lustus juodojoje rinkoje arba padvigubinti savo lustų kūrimą.
Šį Amerikos nacionalinio saugumo momentą lengva palyginti su pirmosiomis Šaltojo karo dienomis, kai Jungtinės Valstijos buvo vienintelė tauta, turėjusi branduolinius ginklus, ir jai buvo sunku atidėti dieną, kada Sovietų Sąjunga pakartos šį pasiekimą. (Pirmoji sovietinė bomba buvo išbandyta 1949 m. rugpjūčio pabaigoje, praėjus ketveriems metams po Hirošimos ir Nagasakio.) CŽV direktorius Johnas Ratcliffe'as neseniai pateikė būtent tokį palyginimą, sakydamas, kad „būtų neteisinga“ vadinti dirbtinio intelekto galimybes „panašiomis į skaitmeninius branduolinius ginklus“.
Tačiau, kaip ir dauguma tokių istorinių analogijų, ši turi savo ribas. Anuomet branduoliniai ginklai buvo išimtinai valstybės rankose. O pagrindinė jų kūrimo ir pristatymo technologija per 80 metų mažai pasikeitė.
Dirbtinis intelektas kuriamas privačiame sektoriuje ir yra prieinamas visiems. Daugelis galingiausių modelių atnaujinami kas savaitę, o jų galia ir nenuspėjamumas atrandami pakeliui. JAV ekspertų vertinimu, Kinija nuo Jungtinių Valstijų pagal pažangiausių modelių kūrimą atsilieka galbūt šešiais mėnesiais ar mažiau, nors pagal pažangių puslaidininkių, reikalingų dirbtinio intelekto kūrimui, gamybą ji tikriausiai atsilieka metais.
Tačiau jau yra įrodymų, kad pagrindinis Amerikos technologinis ir ekonominis konkurentas yra sutrikęs dėl išlaisvintų galių. Privačiai kai kurie Kinijos pareigūnai jau kalbėjo apie kai kurias ginklų kontrolės formas, net jei niekas nežino, kaip tai galėtų veikti.
„Jie supranta, kad yra pajėgumų spraga, kuri gali būti naudinga mūsų stiprybėms“, – sakė Džordžtauno universiteto profesorius ir buvęs Nacionalinio saugumo tarybos pareigūnas Evanas S. Medeirosas. „Dėl branduolinių ginklų kontrolės ir raketinės gynybos negalime priversti jų įsitraukti. Tačiau jie, regis, labiau domisi dirbtinio intelekto atveju.“
Ponas Trumpas teigė, kad tai bus dar viena diskusijų tema, kai rugsėjo pabaigoje Vašingtone susitiks su prezidentu Xi Jinpingu. Šie du vyrai planuoja dar du kartus susitikti vėliau šiais metais.
Tačiau kalbėdamas apie dirbtinį intelektą, ponas Trumpas pastarosiomis savaitėmis nepaaiškino savo tikslų ir neišreiškė jokio susirūpinimo, kad dirbtinio intelekto agentai randa būdų, kaip išsiveržti iš savo ribų arba veikia autonomiškai, kad įsilaužtų į išorines įmones ar tinklus. Kai pasirodė žinia, kad dirbtinis intelektas buvo panaudotas kuriant naują virusą, kurio gamtoje nėra – atradimą, kuris galėtų pranašauti tikrą medicinos pažangą arba biologinį ginklą – Baltieji rūmai nieko nesakė.
Tačiau vienas dalykas aiškus: daugelis hipotetinių scenarijų, kurie prieš metus neramino nacionalinio saugumo bendruomenę, jau pradėjo pildytis.
Pentagone baudžiant „Anthropic“ kodą nuklysta nuo kelio
Gynybos pramonėje pono Hegsetho ir jo padėjėjų sukeltas chaosas dėl „Anthropic“ kodo pašalinimo tik pagilėjo. Praėjus mėnesiui po to, kai Karinės oro pajėgos nurodė savo rangovams ištrinti visą „Anthropic“ kodą, jos išsiuntė dar vieną pranešimą, ragindamos juos „palaukti“, bent jau kol kas.
„Šiuo metu jums nereikia iš savo inventoriaus pašalinti „Anthropic“ produktų ar paslaugų, kurie sąveikauja su Karinių oro pajėgų departamento sistemomis ir tinklais“, – rašoma atnaujinime, kurio kopiją matė „The Times“. Jame įspėjama, kad naujausios gairės gali būti dar kartą panaikintos, priklausomai nuo bylinėjimosi baigties.
Atvirkštinės instrukcijos atspindėjo pono Hegsetho dilemą: jis bando nubausti pirmaujančią dirbtinio intelekto milžinę, giliai įsitvirtinusią gynybos pramonės komplekse, nepakenkdamas kariuomenės nacionalinio saugumo misijai.
Paklaustas apie akivaizdų pokytį, Pentagono pareigūnas naujas oro pajėgų gaires pavadino laikinomis ir teigė, kad įgaliojimas išvalyti „Anthropic“ iš viso Gynybos departamento yra absoliutus.
Viesai Pentagonas atsisakė pasiduoti. Interviu Pentagono pareigūnai teigė, kad priešiškumas tarp jų departamento ir „Anthropic“ prasidėjo, kai Silicio slėnio įmonė pradėjo kelti tai, ką kariuomenė laikė absurdiškais reikalavimais dėl to, kaip bus naudojamas „Claude for Government“ modelis – populiaraus, viešai prieinamo dirbtinio intelekto modelio versija. Vyresnieji pareigūnai teigė, kad „Anthropic“ pateikė jiems 25 puslapių apribojimų.
Po kelių ginčytinų mėnesių tie 25 puslapiai buvo suvesti į du apribojimus. Vasario mėnesį vykusiame susitikime Pentagone ponas Amodei ponui Hegsethui pasakė, kad įmonė neteiks jokių produktų kariuomenei, nebent jis būtų įsitikinęs, kad jie nebus naudojami amerikiečių stebėjimui šalies viduje arba visiškai autonominių ginklų gamybai.
To nepakako. Gynybos sekretorius sureagavo, pažymėdamas, kad „Raytheon“ nenustato apribojimų, kaip jos gaminamos raketos gali būti naudojamos prieš priešininkus; šie sprendimai, pasak p. Hegsetho, yra visiškai vyriausybės pareigūnų, o ne įmonių vadovų, kompetencija. Kai p. Amodei atsisakė pasiduoti, Pentagonas paskelbė, kad bendrovė kelia „tiekimo grandinės riziką“ ir uždraudė jos naudojimą kariniams tikslams.
Gegužės mėnesį gynybos tyrimų ir inžinerijos pavaduotojas Emilis Michaelas „Times“ žurnalistui sakė, kad „Anthropic“ nusipelnė to, ką gavo, ir kad Pentagonas padarė klaidą, pernelyg pasikliaudamas vienu dirbtinio intelekto programų gamintoju – net ir tuo, kurio produktai, regis, lenkia tiek konkurentus, tiek Kiniją. Paklaustas, ar bendrovė galėtų ką nors padaryti, kad susigrąžintų departamento palankumą, p. Michaelas atsakė: „ne Karo departamente“.
Pentagono pareigūnai teigia, kad jie beveik visiškai pašalino „Anthropic“ iš karinių skaičiavimo sistemų. Pasak pareigūnų, beveik 100 procentų karinių sistemų, kurios anksčiau naudojo „Claude for Government“ (Klaudas vyriausybei), pataisytą naudoti įslaptintuose tinkluose, dabar pakeitė „Anthropic“ produktą kitais pasienio modeliais. Be to, Pentagonas nustojo naudoti visus „Anthropic“ įrankius savo „Maven“ sistemoje, kuri padeda analizuoti žvalgybos duomenis ir siūlo oro smūgių taikinius kare su Iranu.
Kariniai rangovai, kuriems taikomas draudimas, nenoriai apie tai kalbėjosi, galbūt bijodami supykdyti savo didžiausią klientą. Pareiškime „Lockheed“ atstovė spaudai atsisakė tiesiogiai komentuoti gautą laišką, kuriame raginama pašalinti „Anthropic“ iš jos sistemų, tačiau teigė, kad „mes laikomės prezidento ir Karo departamento nurodymų“. Atstovė spaudai pridūrė, neįvardindama „Anthropic“, kad tikimasi „minimalaus poveikio“ jos verslui, nes jokioje savo darbo dalyje nesiremia vienu didelio kalbos modeliu.
Tačiau Pentagono nutraukimas su šia bendrove vargu ar yra akivaizdus.
Praėjus vos dviem mėnesiams po pono Amodei ir pono Hegsetho konflikto, „Anthropic“ paskelbė apie „Mythos“ – dirbtinio intelekto produktą, unikaliai pritaikytą programinės įrangos pažeidžiamumams aptikti ir išnaudoti. Trumpo administracija trumpam laikui, dabar atrodo kaip perdėta reakcija, uždraudė visiems užsieniečiams liesti programą – tačiau galiausiai viskas pasikeitė.
Tai paliko Pentagoną keblioje padėtyje: jis tiesiog uždraudė sau naudoti tai, kas gali būti galingiausias naujas kibernetinis ginklas istorijoje.
„Kilo panika“, – sakė buvęs pareigūnas, neseniai palikęs administraciją.
Nors Pentagonas neleidžia naudoti Claude'o žvalgybos analizei ar kodo rašymui, NSA buvo leista naudoti pažangios „Anthropic“ „Mythos“ modelio versijas „eksperimentiniu“ pagrindu, teigė pareigūnai. Ji testuoja JAV kariuomenės kompiuterių tinklų apsaugą ir ieško galimų silpnųjų vietų priešiškuose tinkluose – nuo Kinijos iki Rusijos, Šiaurės Korėjos ir Irano.
Permąstant opoziciją dirbtiniam intelektui. Reglamentavimas
Neatitikimas neapsiriboja Pentagonu; jo buvo daug Prekybos ir Iždo departamentuose bei Baltuosiuose rūmuose. Kadangi pono Trumpo padėjėjai ateina ir išeina, o departamentai vieni kitus bando užimti didesnes pareigas, administracijos sprendimai dėl visko, pradedant eksporto kontrole ir baigiant dirbtinio intelekto modelių nacionalinio saugumo peržiūromis, buvo labiau sprendžiami pagal užgaidas ir įtaką, o ne aiškiai suformuluotus principus.
Pirmaisiais metais administracijos požiūris buvo nesikišantis, vadovaujantis rizikos kapitalisto Davido Sackso, kuris iki šių metų pradžios vadovavo dirbtinio intelekto ir kriptovaliutų politikai, argumentais.
Praėjusiais metais paskelbusi dirbtinio intelekto veiksmų planą, Trumpo administracija sumažino reglamentavimą ir skatino eksportą, tikėdamasi padaryti pasaulį priklausomą nuo to, ką ponas Sacksas pavadino „amerikietišku technologijų rinkiniu“. Gegužę ponas Trumpas atšaukė vykdomojo įsakymo, reikalaujančio dirbtinio intelekto, projektą. bendrovės pateikė savo modelius vyriausybei saugos peržiūrai, įtikintos pono Sackso ir kitų, kad 90 dienų peržiūros reikalavimas yra per griežtas ir suteiktų pranašumą Kinijos konkurentams.
Tačiau pareigūnai ir kiti asmenys teigė, kad „Mythos“ įgaliojimai išgąsdino administracijos darbuotojus. Iki birželio mėnesio vyriausybė įvedė griežčiausią visų laikų dirbtinio intelekto pramonės kontrolę, užkirsdama kelią užsienio piliečiams, įskaitant kai kuriuos jį sukūrusius inžinierius, prieiti prie „Anthropic“ modelio. Po dviejų savaičių ji panaikino draudimą užsieniečiams be viešo paaiškinimo.
Panašus sukrėtimas buvo surengtas ir sprendžiant „Nvidia“ lustų, kurie yra labai svarbūs kuriant naujus modelius ir statant duomenų centrus, klausimus. Praėjusių metų balandį Trumpo administracija nutraukė vieno iš paskutiniųjų dirbtinio intelekto lustų, kuriuos „Nvidia“ galėjo siūlyti Kinijoje, pardavimus.
Tačiau prezidentas Trumpas liepą pakeitė kursą po pono Trumpo ir „Nvidia“ generalinio direktoriaus Jenseno Huango susitikimo Ovaliajame kabinete teigė, kad pardavimai, kurie anksčiau buvo laikomi grėsme nacionaliniam saugumui, bus tinkami, jei tik JAV vyriausybė gaus dalį jų pajamų.
Panašiai administracija atšaukė Bideno administracijos nustatytą taisyklę, kuri užtikrino, kad galingiausi lustai gali būti laisvai parduodami tik artimiems Amerikos sąjungininkams, ir apribojo pardavimus kitoms šalims. Trumpo pareigūnai teigė, kad pakeis šią priemonę, tačiau dėl pakeitimo kilo nesutarimų. Tuo tarpu kai kurios Amerikos bendrovės padarė išvadą, kad panaikinus taisykles, jos gali laisvai parduoti pažangius lustus kai kurioms Kinijos įmonėms, veikiančioms už Kinijos ribų.
Vėliau ponas Trumpas atsivežė poną Huangą į Kiniją vizitui pas Xi Jinpingą kartu su kitais pramonės vadovais.
Administracija dabar susiduria su prieštaringomis saugumo ir politinėmis srovėmis. Jei ji pernelyg kontroliuos besikuriančias dirbtinio intelekto pionierių laboratorijas ir grasins nutraukti užsienio prieigą, ji gali paskatinti europiečius rinktis Kinijos modelius. Jei ji nepakankamai reguliuos, ji gali sukelti katastrofą, ypač jei bus daugiau incidentų, dėl kurių visuomenė baiminsis, kad technologija tampa nevaldoma.
Chrisas McGuire'as, vyresnysis Užsienio santykių tarybos bendradarbis ir buvęs Bideno pareigūnas, teigė, kad Trumpo administracijos pozicija eksporto kontrolės klausimu buvo „nenuosekli“.
Administracija dabar nerimauja dėl konkurencijos iš atvirojo kodo modelių iš Kinijos, tačiau, pasak jo, atšaukė daugelį priemonių, kurios trukdė Kinijos dirbtinio intelekto plėtrai. Griežčiausius apribojimus ji taikė Amerikos, o ne Kinijos bendrovei „Anthropic“.
„Jūs švelninate eksporto kontrolę Kinijai, paliekate spragų, o pirmą kartą naudodami eksporto kontrolę dirbtiniam intelektui, siekiate sutriuškinti Amerikos bendrovę?“ – paklausė ponas McGuire'as. [1]
Nobelio premijos laureatai, sukūrę šiuolaikines dirbtinio intelekto rūšis, bijojo, kad JAV suteiks autonominiam dirbtiniam intelektui galią valdyti ginklus. Todėl jie įkūrė savo pirmąją dirbtinio intelekto laboratoriją Kanadoje. Dabar JAV klesti dirbtinio intelekto naudojimas atakoms, kaip kibernetinėms ar tai pir kinetinėms. Tačiau tai tik šalutinis dalykas. Žmonijos ateitį lemia Kinijos atvirojo svorio dirbtinis intelektas, kurį vartotojai visame pasaulyje gali laisvai modifikuoti, pritaikyti realios ekonomikos problemoms spręsti, taip pat naudoti didžiausių robotų spiečių gamybai didinti. Dirbtinio intelekto naudojimas įsilaužimui į svetimus kompiuterius ar „Auksinio kupolo“ raketų paleidimui kosmose jau yra pasenęs. Ką „Auksinis kupolas“ darys su, spiečiais atplaukiančiais, povandeniniais dronais, ginkluotais branduoliniais ginklais?
1. The U.S. Military Wants A.I. Dominance. Feuds and China May Thwart It. Sanger, David E; Volz, Dustin; Swanson, Ana; Barnes, Julian E. New York Times (Online) New York Times Company. Aug 16, 2026.
Komentarų nėra:
Rašyti komentarą