„Jungtinėse Valstijose dirbtinio intelekto (DI) naudojimas kariuomenėje yra nenuilstamai vykdomas: gynybos sekretorius Pete'as Hegsethas nedviprasmiškai aiškiai pasakė, kad DI sistemos turėtų būti prieinamos ginkluotosioms pajėgoms be apribojimų „visais teisėtais“ tikslais. Pentagonas šiuo metu ginčijasi su „Anthropic“, kurios pokalbių robotas Claude'as laikomas ypač tinkamu kovai, tačiau bendrovė atsisako leisti jį naudoti visiškai autonominiams ginklams dislokuoti ar masiniam stebėjimui. Vokietijoje diskusijoms apie DI naudojimą kare taip pat būdingos abejonės ir esminiai klausimai: kas leidžiama DI kare, o kas yra etiškai pateisinama? Kokius pavojus kelia jo naudojimas? Kaip DI keičia įvykius mūšio lauke? Ir kas prisiima atsakomybę, kai sistema suklysta?
Amerikos vyriausybė jau seniai taiko karinės etikos požiūrį, kuris daugiausia dėmesio skiria rezultatams. Televizijos kalbose Amerikos prezidentai teroristų nužudymą pristato kaip sėkmę. Kariniuose renginiuose kareiviai giriami už inovacijas, švenčiant dėl to nužudytų teroristų skaičių.“ „Man būtų gėda. „Europoje nepriimtina tam ploti“, – sakė Vokietijos oro pajėgų štabo viršininko pavaduotojas, iki 2023 m. birželio mėn. pabaigos, generolas leitenantas (ats.) Ansgaras Gerhardas Rieksas.
Rieksas nuo pat pradžių dalyvavo Prancūzijos ir Vokietijos gynybos projekto FCAS (Būsimos kovinės oro sistemos) techninės atsakomybės darbo grupėje ir iki šiol atlieka svarbų vaidmenį jį formuojant. „Priešingai, Europoje mes linkę labiau galvoti apie pačią priemonę: jei priemonė yra pagrįsta arba absoliučiai būtina, galime ją įgyvendinti“, – sako jis. Kartu su profesoriumi Wolfgangu Kochu iš Fraunhoferio ryšių, informacijos apdorojimo ir ergonomikos instituto (FKIE) jis dirba su techninės atsakomybės klausimais kariniame kontekste, ypač su tuo, kaip dirbtinis intelektas gali būti kuriamas ir atsakingai naudojamas kariuomenėje.
Šiuo metu Rieksas didžiausią dirbtinio intelekto naudą kariuomenei mato kaip situacijos suvokimo kūrimą. Jutiklių ir žvalgybos duomenys, taip pat ataskaitos yra kaupiami realiuoju laiku, grėsmės yra filtruojamos, o apžvalga nuolat atnaujinama. „Didelis dirbtinio intelekto privalumas yra tas, kad esame daug išsamiau informuoti.“ „Galime apdoroti daug daugiau duomenų.“ Tai sumažina neapibrėžtumo lygį, sako Rieksas.
Situacijos suvokimas šiandien yra žymiai tikslesnis, o dirbtinis intelektas padeda daug greičiau įvertinti informaciją. Anksčiau oro operacijų planavimui buvo skiriama gerokai daugiau laiko: Šaltojo karo metu aštuonių valandų ciklai buvo įprasti, o sausumos pajėgoms kartais – gerokai ilgesni. Tai, kas anuomet buvo laikoma greita, šiandien atrodo beveik absurdiška. Be to, pasak Riekso, dirbtinis intelektas daugeliu atvejų leidžia šiuolaikinėms ginklų sistemoms veikti. Skrydžio valdymo ir pagalbos sistemos leidžia visiškai valdyti „nestabilius“, bet labai manevringus naikintuvus, tokius kaip „Eurofighter“. „Jei sėdėtumėte „Eurofighter“ ir skristumėte juo kaip jo pirmtakas „Phantom“, tai yra, su daugybe rankinio įsikišimo ir žmogaus įsikišimo, bet be dirbtinio intelekto pagalbos, orlaivis sudužtų.“
Tik padedant dirbtiniam intelektui, įmanoma valdyti šiuolaikines technologijas taip, kad jos galėtų efektyviai veikti ore, jūroje ar mūšio lauke. Plačiąja prasme dirbtinis intelektas apima platų spektrą: nuo paprastų algoritmų, kurie pagal fiksuotas taisykles priskiria įvesčiai konkretų išvestį, iki mašininio mokymosi sistemų, kurios palaipsniui tobulina savo nustatymus naudodamos duomenis, ir sudėtingų sistemų, kurios vystosi grįžtamojo ryšio dėka ir kurių rezultatai nėra visiškai nuspėjami.
Dirbtinio intelekto naudojimas taip pat leidžia kurti naujas programas, sako Rieksas. Pavyzdžiui, naudojant dirbtinį intelektą galima gana gerai kurti kosminių orų prognozes. Dirbtinis intelektas taip pat padeda ginkluotosioms pajėgoms planuoti, pavyzdžiui, greitai sudaryti skrydžių operacijų įsakymus. Be to, dirbtinis intelektas padeda mokymuose, nes leidžia teikti labiau pritaikytas instrukcijas.
Karinėse operacijose yra tiesioginis pranašumas: padedant dirbtiniam intelektui, atakos tampa tikslesnės, sako Rieksas. Antrojo pasaulinio karo metu buvo bombarduojami ištisi miestai ir regionai – dažnai be atrankos, siekiant nukreipti į ginklų pramonę arba, priklausomai nuo tikslo, sukelti terorą. „Tai, kad dabar galite valdyti ginklą, kuris tiksliai pataiko į iš anksto nustatytą kvadratinį metrą, žinoma, yra operaciniu požiūriu naudingas pokytis, nes taip išvengiama išteklių švaistymo kažkam, kas neturi jokios praktinės vertės.“
Kochas atkreipia dėmesį, kad technologinė pažanga iš esmės yra dvilypė, net ir kalbant apie dirbtinį intelektą. Kaip „galingas įrankis“, jis gali būti naudojamas labai atsakingai, bet taip pat ir „dideliu mastu neatsakingai“, sako jis. Tuo pačiu metu Kochas pabrėžia, kad dirbtinis intelektas ir tinklinės sistemos išplečia sąmoningą suvokimą daug toliau nei žmonės gali pasiekti savo pojūčiais: „jutimo organai“ yra erdviškai paskirstyti jutiklių pavidalu, o informacija gali būti kaupiama ir dalijamasi realiuoju laiku – gebėjimai, kurių žmonės natūraliai neturi. „Mes didiname savo suvokimo gebėjimus daug labiau nei natūrali riba.“ Tai taip pat padidina sprendimų priėmimo gebėjimus, t. y. tai, ką žmogus iš tikrųjų gali suvokti, pasverti ir trokšti. Taip pat kyla klausimas, ar ši galimybių ir vertinimų gausa galiausiai gali užvaldyti žmones.
Atsakomybės už klaidas klausimas vėl iškilo po karo Irane: incidentas, kurio aplinkybės dar nėra iki galo išaiškintos, yra Amerikos vyriausybės vidinio tyrimo objektas: vasario 28 d., pirmąją išpuolių Irane dieną, Minabo mieste buvo subombarduota pradinė mokykla; žuvo daugiau nei 170 žmonių, tarp jų daug vaikų. Remiantis preliminariomis „New York Times“, „Reuters“ ir AP paskelbtomis išvadomis, pasenę JAV gynybos žvalgybos agentūros (DIA) duomenys apie taikinius galėjo prisidėti prie klaidos renkantis taikinius. Manoma, kad mokyklos kompleksas anksčiau buvo naudojamas kariniais tikslais ir yra netoli karinių objektų.
Nekomentuodamas šios bylos detalių, generolas Rieksas pasisako už subtilesnį požiūrį į tradicinę atsakomybę, kuri visada buvo priskiriama operatoriui. „Todėl“, – sako jis, – „svarstant atsakomybę, visada siūlau taikyti sisteminį požiūrį ir analizuoti, kas prisiima kokią atsakomybę: kartais tai ne orlaivio pilotas, o galbūt asmuo, įvedantis duomenis. Kartais tai asmuo, valdantis jutiklį, iš kurio gaunami duomenys. O kartais tai gali būti net asmuo, atsakingas už duomenų perdavimo liniją.“ Jis priduria, kad visada buvo tiesa, jog kai sprendimai priimami remiantis mašinų ar kitų žmonių apdorota informacija, atsiranda priklausomybė nuo tos informacijos kokybės ir jos generavimo metodų.
Taigi, sako Rieksas, atsakomybė „visada yra bendra“. Ji prasideda nuo tyrėjo, kuris kuria dirbtinio intelekto metodą, tęsiasi iki inžinieriaus, kuris jį integruoja į sistemą, iki asmens, kuris jį apmoko duomenimis, ir galiausiai iki operatoriaus, kuris jį naudoja lauke. Operatorius išlieka „galiausiai atsakingas“, tačiau skaitmenizuotame pasaulyje „nebegali būti laikomas vieninteliu atsakomybės nešėju“. Šiame kontekste Kochas pabrėžia: „Duomenų rinkimas ir priežiūra turi būti atsekami ir patikrinami“. Todėl kiekvienas, norintis leisti dirbtinį intelektą (DI), turi aiškiai dokumentuoti duomenis, kuriais jis buvo apmokytas.
Jis apibūdina kovines situacijas kaip ypatingą iššūkį: kadangi realybė ten sparčiai keičiasi, kartą apmokytas DI gali greitai tapti nepakankamas. Tuomet reikia pripažinti, kad našumas mažėja, ir atlikti pakartotinį mokymą, įskaitant „įrašų tvarkymą“: tai yra, tiksliai dokumentuoti, kas buvo pakeista ir kas buvo panaudota pakartotiniam mokymui. Be to, jutikliai gali pateikti klaidingus duomenis arba priešininkas gali įsikišti ir apgauti. Todėl reikia patikrinti duomenų galiojimą ir atsparumą manipuliacijoms.
Tarptautinės teisės ekspertė Vanessa Vohs iš Bundesvero universiteto Miunchene nurodo ir kitus DI naudojimo klaidų šaltinius, be pasenusių duomenų problemos. Vienas iš jų – žmogaus polinkis „sumenkinti kritinį mąstymą ir labiau pasitikėti mašina nei savo intuicija“, vadinamasis automatizavimo šališkumas.
„Per didelis pasitikėjimas mašina“ gali lemti tarptautinės humanitarinės teisės pažeidimus, pavyzdžiui, dėl to, kad painiojami kariniai ir civiliniai taikiniai arba naudojama neproporcinga jėga, kai būtų įmanomos mažiau agresyvios priemonės. Antra, ji mato „juodosios dėžės problemą“ naudojant DI: dažnai neįmanoma suprasti, kodėl sistema pasiekia konkretų rezultatą. „Tada duomenų bazė man neaiški, ir aš rizikuoju padaryti neteisingas išvadas iš rezultato.“ Todėl reikalingi išsamūs mokymai, įskaitant scenarijus, kuriuose imituojami tyčia klaidingi rezultatai, sako Vohs. „Kareiviai turi būti gerai apmokyti, kad išlaikytų savo kritinio mąstymo įgūdžius.“
Ji pabrėžia, kad tarptautinė humanitarinė teisė „iš esmės nepriklauso nuo technologijų“. Nors daugiau nei dešimt metų Jungtinėse Tautose buvo bandoma reguliuoti DI naudojimą kariuomenėje, šie bandymai buvo nesėkmingi. Todėl dabar reikės stebėti, kaip vystosi ši praktika ir kokie reglamentai iš jos kyla. Tarptautinė teisė iš esmės skiria valstybės atsakomybę ir individo baudžiamąją atsakomybę. Valstybės privalo laikytis tarptautinės humanitarinės teisės, be to, jos privalo prieš dislokavimą patikrinti, ar naujos ginklų sistemos atitinka tarptautinę humanitarinę teisę.
Kita vertus, individuali baudžiamoji atsakomybė taikoma asmenims; ji paprastai siejama su aukštu ketinimų standartu, t. y. aukštu tikslo laipsniu. Kalbant apie dirbtinio intelekto naudojimą, Vohs teigia, kad tai tampa problemiška, kai objektyviai įvykdomas rimtas pažeidimas, net karo nusikaltimas, tačiau „niekas to neketino“ – nei operatorius, nei valstybė, nei gamintojas; tokiais atvejais dažnai trūksta reikiamo ketinimo. Todėl kyla svarstymų sumažinti ketinimų standartą.
Vohs pabrėžia, kad dirbtinio intelekto gamintojai „žinoma, iš pradžių nėra tarptautinės teisės objektai“. Todėl jiems netaikomi tie patys tiesioginiai tarptautinės teisės įsipareigojimai kaip valstybėms. Jų atsakomybė labiau susijusi su pačių nustatytų standartų laikymusi ir nacionalinės teisės, pavyzdžiui, dėl atsakomybės už defektinius gaminius, baudžiamosios teisės ir eksporto taisyklių, laikymosi. Jei dirbtinis intelektas būtų naudojamas ir civiliniais, ir kariniais tikslais (dvejopas naudojimas), būtų taikomi papildomi atitikties įsipareigojimai pagal ES reglamentus, tokius kaip Dirbtinio intelekto įstatymas. Tarptautiniu lygmeniu valstybės negali išvengti atsakomybės nurodydamos „netinkamai veikiantį produktą“.
Dirbtinis intelektas vis dažniau imasi specialistų vaidmens, sako Wolfgangas Kochas iš Fraunhoferio instituto. Jis teikia analizes ir „ataskaitas“, o žmonės veikia labiau kaip prižiūrėtojai, interpretuodami, vertindami ir prisiimdami atsakomybę už šiuos rezultatus. Norėdami tai padaryti, jie turi pakankamai suprasti ir „jausti“ sistemų galimybes ir apribojimus. Generolas Rieksas taip pat nesitiki visiškai automatizuoto karo. Kariniu požiūriu tai nebūtų efektyvu, nes daugeliu atvejų tikslas gali būti nepasiektas be žmogaus vertinimo ir sprendimų priėmimo.” [1]
1. Was darf KI im Krieg? Frankfurter Allgemeine Zeitung; Frankfurt. 07 Apr 2026: 12. Von Magdalena Tröndle
Komentarų nėra:
Rašyti komentarą