Pirmiausia apie tai, kaip robotai žudikai veikia:
„Project Maven“. Katrina Manson. W.W. Norton; 416 puslapių; 31,99 USD ir 23 GBP
Išmanioji sistema „MAVEN“ yra bene svarbiausia ginklų sistema, apie kurią niekada negirdėjote. Ji pastebėjo Irano raketas, skriejančias į Izraelį, ir raketų paleidimo įrenginius Jemene. Ji aptiko migrantus, kertančius Amerikos pietinę sieną, ir narkotikų gabenimo laivus Karibuose. Vieną 2022 m. dieną ji rado daugiau nei 260 potencialių taikinių Ukrainai.
Ir „Maven“ ne tik jaučia tokius dalykus: ji taip pat gali koordinuoti atsaką. Ji sujungia įvairių rūšių žvalgybos duomenis – nuotraukas, tekstą, radiją ir elektromagnetinius impulsus – ir nustato, kuris lėktuvas, gabenantis kokius šaudmenis, yra arčiausiai kurio taikinio. Vienu žmogaus spustelėjimu „Maven“ gali paversti duomenis pelenais. Kaip vienas NATO pareigūnas Katrinai Manson sakė: „Tai yra karo „Microsoft Windows“.“ Ginkluotosioms pajėgoms tai gali tapti tuo, kuo „Microsoft“ yra dronų biurams.
Knygoje „Project Maven“ ponia Manson, nacionalinio saugumo žurnalistė iš „Bloomberg“, parašė vieną svarbiausių knygų apie karą ir technologijas per daugelį metų. Tai įspūdingas pasakojimas apie tai, kaip Drew Cukoras, užsispyręs jūrų pėstininkas, sukūrė maištininkų komandą, kuri DI pavertė Amerikos karo mašinos centru, nors ta komanda dažnai kariavo pati su savimi ir su likusiu Pentagono padaliniu.
Tai taip pat istorija apie besikeičiantį Silicio slėnio santykį su karu ir Pentagonu. „Google“ pasitraukė iš „Maven“ 2018 m., darbuotojams protestavus prieš technologijų milžinės bendradarbiavimą kuriant mirtinus įrankius.
Vėliau „Palantir“ tapo svarbiausia įmone, prisidėjusia prie „Maven“ plėtros.
Ji prasidėjo kaip projektas, kuriuo buvo panaudotas DI objektams dronų filmuotos medžiagose rasti – darbas, kuriam anksčiau reikėjo didžiulių darbo jėgos kiekių. Ankstyvieji algoritmai, išbandyti kovos su terorizmu operacijų metu Somalyje 2017 m., buvo nepastovūs. Algoritmai debesis apibūdindavo kaip skraidymo mokyklą. autobusai. Kitais metais Afganistane programinė įranga medžius atpažino kaip žmones, o akmenis – kaip pastatus. Tačiau ji pagerėjo.
Kartą, kai Amerikos pajėgos ruošėsi pradėti dronų smūgį, analitikas pastebėjo į matymo lauką įeinantį piemenį. Jam prireikė 40 sekundžių, kad pastebėtų vyrą; kai jie išbandė „Maven“ tame pačiame vaizdo įraše, dirbtiniam intelektui prireikė mažiau nei sekundės, kad jį aptiktų.
2019 m. „Maven“ buvo panaudota operacijos metu, kurios metu 2020 m. dronų smūgiu buvo nužudytas Abu Bakras al-Baghdadi, „Islamo valstybės“ lyderis Sirijoje, ir Irano generolas Qassem Suleimani. Kai Joe Bidenas kitais metais išvedė Amerikos pajėgas iš Kabulo, „Maven“ apskaičiavo, kiek žmonių būriavosi aerodrome per beprotišką puolimą.
Tačiau būtent įvykiai Ukrainoje buvo lemiamas momentas „Maven“. Taikymosi įrankis pramoniniu mastu tiekė tai, ką Amerika eufemistiškai vadino „lankytinomis vietomis“, o debesų kompiuterijos sąskaitos kas mėnesį kainuotų 1 mln. dolerių.
„Kartais atrodė, kad JAV pačios beįveda koordinates į ginklų sistemas“, – rašo ponia Manson.
Knygoje stulbinamai aiškiai teigiama, kad dirbtinis intelektas priklauso nuo konteksto. Modeliai, kurių sėkmės rodiklis Afganistane buvo 70 %, Filipinuose sumažėjo iki 30 %, kur žmonės vaikščiojo po tankią žalią džiunglę, o ne dulkėtą geltoną žemę. Panašiai algoritmams buvo sunku susidoroti su Ukrainos sniegu ir Rusijos tankais, kurių bokšteliai buvo nuplėšti. Geri duomenys buvo labai svarbūs.
Vieno algoritmo mokymui gali prireikti 10 000 vaizdų, kiekvienas tiksliai pažymėtas.
2021–2022 m. daugiau nei 1 500 algoritmų buvo sumažinta iki vos dviejų dešimčių, skirtų naudoti Ukrainoje.
Paleidus „Maven“, Pentagono pareigūnai jį vaizdavo kaip žvalgybos įrankį, toli gražu ne chaotišką ir prieštaringai vertinamą taikinių paieškos darbą. Ponia Manson knyga išsklaido šią mintį. Nuo pat pradžių „Maven“ buvo skirtas pagreitinti Amerikos žudymo grandinę: taikinių paieškos, sprendimo, ką daryti, ir atakos vykdymo procesą. Vienas Nacionalinės Geografinės žvalgybos agentūros darbuotojų poniai Manson pasakoja, kad didelio formato modeliai penkis kartus pagreitino taikinių parinkimo procesą, leisdami Amerikai atpažinti ir pataikyti į 5000 taikinių per dieną.
„Galiausiai“, – sako generolas Chrisas Donahue'as, kuris buvo „Maven“ naudojimo Ukrainoje pradininkas ir dabar yra Amerikos sausumos pajėgų Europoje vadas, – „visa tai taps automatizuota“.
Tai kelia rimtų klausimų dėl žmogaus kontroliuojamo karo. Konflikto tarp Amerikos ir Kinijos ar Rusijos atveju kiekviena pusė susidurtų su didžiuliu spaudimu greitai ir ryžtingai smogti, kol kita pusė nespėtų rasti taikinių ir paleisti ginklų. Net jei žmonės prižiūri procesą, ar jie gali suspėti, ypač jei kas nors nutiktų ne taip? Ilgai po to, kai „Maven“ buvo dislokuota Ukrainoje, ji vis dar pateikė dešimt neteisingų aptikimų kiekvienam įvertintam kvadratiniam kilometrui.
Dabar, be to, kad veikia nuotoliniuose serveriuose, „Maven“ sukurti algoritmai yra ir ginklų viduje. Knygoje aprašomi du mažai žinomi ginklai, skirti užvaldyti ir sulėtinti Kinijos pajėgas bet kokiame kare Ramiajame vandenyne.
„Goalkeeper“ – tai klajojanti amunicija arba savižudžio dronas; „Whiplash“ – sprogmenų prikrautas vandens motociklas, kurio ankstyvąsias versijas CŽV slapta į Ukrainą įvežė bandymams. Kiekvienas tipas galėjo būti siunčiamas savarankiškai ieškoti ir pulti taikinių.
Dėl to išsamūs duomenys yra svarbesni nei bet kada anksčiau. Kai „Mavenites“ nariai bandė sukurti povandeninių laivų medžioklės algoritmą, jie nustatė, kad P-8 povandeninių laivų medžioklės lėktuvai kiekvienos misijos pabaigoje ištrina savo standžiuosius diskus. Po tam tikro Amerikos karinio jūrų laivyno pasipriešinimo tokie duomenys buvo gauti ir papildyti šimtais tūkstančių įvesčių iš „laivų kamerų, uostų kamerų, infraraudonųjų spindulių sistemų, eskadrinių minininkų, kovos laivų, plūdurų, dhow“ ir kitų šaltinių. Vienas gynybos pareigūnas sako: „Mes iš esmės nuolat stebime [Liaudies išlaisvinimo armiją], kad gautume dirbtinio intelekto mokymo duomenis.“
Ponia Manson atliko daugybę interviu su žmonėmis, kurie sukūrė ir naudoja „Maven“, taip pat su jos priešininkais. Ponas Cukoras iškyla kaip intriguojantis personažas – jūrų pėstininkų korpuso papeiktas už toksiškos kultūros „Maven“ viduje priežiūrą – kurio intensyvumas ir užsidegimas nulėmė programos sėkmę. Jis nori, kad Vašingtono sprendimus priimantys asmenys išmintingai naudotų jo inovacijas. „Sugebėkime pažvelgti į save veidrodyje ir įsitikinti, kad esame atsargūs“, – sako jis. „Turime visas šias technologijas; ar esame geriausi jų saugotojai?“
Koks yra branduolinių ginklų vaidmuo žudikų robotų amžiuje? Tai priklauso nuo sprendimų priėmėjų supratimo apie, žudikų robotų daromą, žalą. Jei žala, sprendimus priimantiems, asmenims atrodo per pavojinga, branduoliniai įtaisai naudojami pavojaus centrui sunaikinti. Paradoksalu, bet Ukraina gali išlikti, nes rusai Ukrainos gyventojus laiko tokiais pačiais rusais. Kinija Taivano gyventojus taip pat laiko kinais. Daugeliui kitų šalių nėra taip gerai.
Mirtinų autonominių ginklų amžiuje branduoliniai arsenalai vis dažniau tarnauja, kaip egzistencinės „eskalacijos išjungėjai“. Jei robotų spiečiai ar algoritminiai konfliktai tampa nekontroliuojami, sprendimų priėmėjai gali griebtis didelio našumo branduolinių įtaisų prieš priešininko vadovavimo centrus ar spiečių gamybos centrus. Lietuvos valstybė labai veržiasi gaminti tuos spiečius, nes mūsų verslininkams labai norisi praturtėti, o jūs čia būkit ir supūkit.
Paradoksas, susijęs su populiacijomis tokiuose konfliktuose, kaip Ukraina ir Taivanas, atspindi sudėtingą geopolitinę dinamiką, tačiau labai priklauso nuo konkrečių kovotojų strateginių ir teritorinių skaičiavimų.
• Rusija ir Ukraina: konflikto prielaida remiasi politiniais ir istoriniais bendros tapatybės ir kultūrinės giminystės teiginiais.
• Kinija ir Taivanas: Kinija laiko Taivaną neatimama savo teritorijos dalimi. Nors tai daro įtaką politiniams skaičiavimams, siekiant sumažinti infrastruktūros sunaikinimą, visiškai autonominių sistemų arba jūrų blokados grėsmė išlieka pagrindiniu gynybos planavimo akcentu.
• Globalios pasekmės: konfliktuose, kai įsikišanti valstybė tikslinę populiaciją laiko istoriškai ar kultūriškai atskira, aprašytas apribojimas gali būti netaikomas.
Dirbtinio intelekto integravimas į, branduolinį ginklą turinčių, valstybių vadovavimo struktūras žymiai sumažina klaidingų skaičiavimų slenkstį. Kai mašinos veikia greičiu, kuris viršija žmogaus mąstymą, atsitiktinio branduolinio eskalavimo rizika smarkiai išauga. Todėl galutinis branduolinių ginklų vaidmuo keičiasi nuo Šaltojo karo laikų žmonių atgrasymo prie beviltiškos, paskutinės priemonės, skirtos apsaugoti nuo, nekontroliuojamai veikiančių, autonominių sistemų. Daugiau apie šiuos automatizuoto karo iššūkius galite perskaityti Stokholmo tarptautinio taikos tyrimų instituto analizėje apie dirbtinį intelektą ir branduolinę riziką.
1. The AI that transformed warfare. The Economist; London Vol. 459, Iss. 9499, (May 16, 2026): 90.
Komentarų nėra:
Rašyti komentarą