Autonominiai dirbtinio intelekto ginklai – XXI amžiaus branduolinė bomba

„Naujoje Wyntono Hallo knygoje „Raudona raudona spalva: kairė, dešinė ir lenktynės kontroliuoti dirbtinį intelektą“ pateikiamas blaivus žvilgsnis į sparčiai besivystantį autonominių ginklų keliamą pavojų, kurie, atrodo, XXI amžiaus karybą pakeis taip pat giliai, kaip branduoliniai ginklai XX amžiuje – ir dirbtinio intelekto džiną išlaikyti buteliuose bus daug sunkiau, nei buvo apriboti branduolinių bombų plitimą.

 

Problema ta, kad, skirtingai nei urano sodrinimas ir tarpžemyninių balistinių raketų projektavimas, dirbtinis intelektas yra pigus ir vis labiau paplitęs. Autonominių ginklų fiziniai komponentai nėra labai brangūs ar sunkiai pagaminami. Hallas knygoje „Raudona spalva“ pažymi, kad pirmasis patvirtintas autonominių ginklų, medžiojančių ir žudančių žmonių taikinius be tiesioginės žmogaus kontrolės, pavyzdys, matyt, įvyko 2020 m. Libijoje, naudojant Turkijos gynybos įmonės pagamintą įrangą. Dirbtinio intelekto karyba nėra išskirtinis žaidimas, kurį gali sau leisti žaisti tik pasaulio supervalstybės.

 

„Mirtino dirbtinio intelekto demokratizavimo ginklai reiškia, kad technologijos, kurios anksčiau buvo išskirtinė supervalstybių sritis, vis labiau taps prieinamos daugeliui veikėjų – tiek valstybinių, tiek nevalstybinių“, – pažymi Hallas.

 

Žinoma, didžiosios valstybės naudos niokojančius ginklus, kad pasiektų didesnių statymų. Izraelio dirbtinio intelekto panaudojimas Gazos kare buvo stulbinantis pavyzdys, kaip mašininis mokymasis gali apdoroti žvalgybos informaciją ir užrakinti taikinius daug greičiau nei žmonės. Pasak Izraelio gynybos pajėgų (IDF) pareigūnų, trys dirbtinio intelekto sistemos, kurias jie naudojo „Hamas“ teroristams sekti, buvo dešimtis kartų greitesnės nei itin efektyvūs Izraelio žmonių žvalgybos analitikai.

 

Tokių galingų duomenų apdorojimo sistemų prijungimas prie autonominių ginklų priartina žmoniją prie hiperkaro ribos – visiško konflikto tarp galingų tautų, kurios abi remiasi dirbtiniu intelektu. Kaip pabrėžia CODE RED, autonominiai ginklai turi greičio pranašumą, kuris pasirodys esąs triuškinantis žaibiškuose rytojaus mūšio laukuose. Jokia armija negali leisti savo priešams monopolizuoti sistemų, kurios gali greičiau nustatyti ir pašalinti taikinius, naudojimo, lygiai taip pat, kaip senas šaulys nepripiltų klijų į savo dėklą prieš susišaudymą.

 

„Kovos realybėje, kurioje vyrauja „žudyk arba būsi nužudytas“, nanosekundės delsa gali padėti amerikiečių kareiviui grįžti namo vėliava uždengtame karste, o ne gyvam“, – pastebi Hallas. „Nors išmintinga išlaikyti žmogaus dalyvavimo grandinėje galimybę, lygiai taip pat svarbu leisti dirbtinio intelekto ginklams veikti autonomiškai, jei tą patį daro priešas.“

 

Ši neišvengiama logika neišvengiamai priartina mus prie dienos, kai autonominiai ginklai kovos tarpusavyje, ir nė viena pusė negalės sau leisti sulėtinti savo veiksmų leisdama žmonėms valdyti savo dronus. Žmonių pirštų uždėjimas ant gaidukų būtų savižudybė. Žmonių išskyrimas iš karo ciklo yra siaubingas.

 

 

Kitas iššūkis, su kuriuo susiduria Jungtinės Valstijos, yra tai, kad mūsų priešininkai nesusiduria su jokia kita moraline panika ar aktyvistinėmis kliūtimis, su kuriomis susiduriame mes. „KODAS RED“ pasakoja, kaip JAV technologijų pramonės darbuotojai sukilo prieš karines sutartis ir reikalavo garantijų, kad jų kodas niekada nebus parduotas Pentagonui, net kai jų nelankstumas kelia pavojų Amerikos karių gyvybėms.

 

 

„Galite būti tikri, kad Kinijos komunistų partija (KKP) nesusiduria su tokiu pasipriešinimu savo civilinės ir karinės sąjungos atžvilgiu.“ „Ir Rusijos technologijų sektorius neprieštarauja Vladimirui Putinui dėl jo karinės modernizavimo darbotvarkės“, – sausai pabrėžia Hallas.

 

„CODE RED“ suteikia šiek tiek optimizmo, kad ši padėtis keičiasi, nes net ir labiausiai kairiųjų pažiūrų, Kamalą Harris remiantys Silicio slėnio kapitonai supranta, kad padėti brutaliems autoritariniams režimams įgyti kokybinį pranašumą militarizuoto dirbtinio intelekto srityje prieš paskutinį tikrosios laisvės bastioną Žemėje būtų pavojinga rizika.

 

Skyrius apie dirbtinio intelekto ginklus prasideda citata, kad „kas taps lyderiu šioje srityje, tas taps ir pasaulio valdovu“. Šios citatos autorius buvo Rusijos prezidentas Vladimiras Putinas.

 

Atrodo, kad didžiosios technologijų kompanijos girdi tolimus ankstyvojo perspėjimo signalus.

 

Esminis dalykas yra tas, kad dirbtinis intelektas yra įrankis kaip ir bet kuris kitas: jis atpigina ir pagreitina darbą. Dirbtinis intelektas stengiasi, kad viskas būtų pigiau ir greičiau nei bet kuris kitas žmogaus sukurtas įrankis – galbūt visi ankstesni žmogaus sukurti įrankiai kartu sudėjus.

 

Hallas primena mums, kad pirmieji „autonominiai ginklai“ buvo sausumos minos, sukurtos Amerikos pilietinio karo metu. Pagrindiniai naujųjų autonominių ginklų principai nėra tokie skirtingi – išskyrus tai, kad sausumos minos neseka savo aukų namo įsilauždamos į jų socialinės žiniasklaidos profilius ir nepriima nanosekundžių sprendimų, ką žudyti, o ką pasigailėti.

 

Pritaikius šią galią ginkluotų konfliktų ir informacinio karo sferoje, žiaurūs nevalstybiniai veikėjai netrukus turės prieigą prie tų pačių žudikiškų dronų, kibernetinių ginklų, propagandos mašinų ir verbavimo įrankių kaip ir supergalios. Titanų galia bus prieinama žemiausiems piktadariams gaisrų gesinimo metu. RAUDONAS KODAS įspėja mus, kad negalima gaišti nė akimirkos, siekiant užtikrinti, kad Amerika naujose ginklavimosi varžybose turėtų neįveikiamą persvarą.“

 

Dirbtinio intelekto įrenginiai eina spiečiais. Didesnis spiečius – laimi. Pradėjote užsiimti finansine inžinerija, paslaugų ekonomika ar kuo nors kitu – pralaimite, nes neturite retųjų žemių elementų, tiekimo grandinių ir tinkamos pramonės.

 

Spiečiaus dirbtinio intelekto sistemos (keli decentralizuoti, išmanūs agentai) keičia dirbtinį intelektą, užtikrindamos didesnį prisitaikomumą ir atsparumą, palyginti su centralizuotomis sistemomis, o didesni spiečiai suteikia didesnį konkurencinį pranašumą tokiose užduotyse kaip gynyba ir duomenų analizė. Strateginė retųjų žemių elementų, tiekimo grandinių ir pramonės pajėgumų kontrolė yra labai svarbi norint išlaikyti šį technologinį pranašumą.

 

Pagrindiniai „Spiečiaus“ dirbtinio intelekto eros aspektai:

 

Decentralizuota galia: „Spiečiaus“ intelektas pasižymi tuo, kad paskirsto užduotis daugeliui mažesnių, specializuotų agentų, o ne vienam centriniam modeliui.

 

Strateginė pramoninė svarba: sėkmė vis labiau siejama su fizine dirbtinio intelekto aparatinės įrangos, įskaitant retųjų žemių komponentus, gamyba, taip pat su tiekimo grandinės valdymu.

 

Dvejopo naudojimo technologijos: šalys, ypač Kinija, naudoja „spiečiaus“ technologiją pažangioms programoms, įskaitant gynybą, kurioms reikalinga tvirta pramonės bazė.

 

Sistemos atsparumas: „Spiečiaus“ architektūros pagerina efektyvumą ir prisitaikomumą svarbiausiose programose, užtikrindamos, kad vieno įrenginio gedimas nesustotų. visą tinklą.

Besikeičianti vertė: Vertė vis labiau perkeliama organizacijų ir tautų, kurios gali išlaikyti didžiulę infrastruktūrą, reikalingą šiems dirbtinio intelekto spiečių kūrimui ir valdymui, link, o ne tik paslaugomis pagrįstų ekonominių modelių. 

 

Nors paslaugų ekonomika ir dirbtinio intelekto finansinės programos išlieka svarbios, uždirbant pinigus, gebėjimas fiziškai gaminti ir diegti dirbtinį intelektą laikomas dominuojančiu veiksniu ilgalaikėje strateginėje konkurencijoje. Tam nėra gero pakaitalo.

 

Tik didelės, protingos šalys valdys dirbtiniu intelektu pagrįstą pasaulį. Kvailos užsiims finansine inžinerija ir paslaugų ekonomika.