„Susirūpinusios dėl robotų karo pavojaus kai kurios šalys nori naujų teisinių suvaržymų, tačiau JAV ir kitos didžiosios valstybės tam priešinasi.
Atrodo, kad tai kažkas iš mokslinės fantastikos: spiečiai robotų žudikų, kurie patys medžioja taikinius ir gali skristi nužudyti be jokio žmogaus sutikimo.
Tačiau tai artėja prie tikrovės, nes Jungtinės Valstijos, Kinija ir keletas kitų tautų daro sparčią pažangą, kurdamos ir diegdamos naujas technologijas, kurios gali pakeisti karo pobūdį, sprendimus dėl gyvybės ir mirties pavesdamos autonominiams dronams, aprūpintiems dirbtiniu intelektu (AI).
Ši perspektyva taip kelia nerimą daugeliui kitų vyriausybių, kad jos bando sutelkti dėmesį į tai Jungtinių Tautų pasiūlymais įvesti teisiškai privalomas taisykles dėl kariškių vadinamų mirtinų autonominių ginklų naudojimo.
„Tai tikrai vienas reikšmingiausių žmonijos posūkio taškų“, – interviu sakė vyriausiasis Austrijos derybininkas šiuo klausimu Alexanderis Kmenttas. „Koks yra žmonių vaidmuo, naudojant jėgą – tai absoliučiai esminė saugumo, teisinė ir etinė problema“.
Tačiau nors JT sudaro platformą vyriausybėms išreikšti savo susirūpinimą, panašu, kad procesas nesukels esminių naujų teisiškai privalomų apribojimų. Jungtinės Valstijos, Rusija, Australija, Izraelis ir kiti tvirtino, kad kol kas nereikia jokios naujos tarptautinės teisės, o Kinija nori apibrėžti bet kokią teisinę ribą taip siaurai, kad tai turėtų mažai praktinio poveikio, teigia ginklų kontrolės šalininkai.
Dėl to diskusijos buvo surištos į procedūrinį mazgą ir mažai tikėtina, kad artimiausiu metu bus pasiekta pažanga dėl teisiškai privalomo įgaliojimo.
„Mes nematome, kad dabar tikrai tinkamas laikas“, – neseniai JT būstinės Niujorke rūsyje esančiame konferencijų salėje diplomatams sakė Rusijos delegacijos Jungtinėse Tautose vadovo pavaduotojas Konstantinas Voroncovas.
Diskusijos dėl dirbtinio intelekto rizikos pastarosiomis dienomis sulaukė naujo dėmesio, kai kovojama dėl OpenAI, galbūt, pirmaujančios pasaulyje A.I. bendrovės, kurios vadovai pasirodė nesutarę dėl to, ar įmonė pakankamai atsižvelgia į technologijos keliamus pavojus.
O praėjusią savaitę Kinijos ir JAV pareigūnai aptarė susijusią problemą: galimus A.I. naudojimo apribojimus, priimant sprendimus dėl branduolinių ginklų panaudojimo.
Tokiomis aplinkybėmis klausimas, kokius apribojimus reikėtų apriboti mirtinų autonominių ginklų naudojimui, tapo aktualus, o kol kas iškilo klausimas, ar pakanka, kad JT paprasčiausiai priimtų neįpareigojančias gaires, kaip to nori Jungtinės Valstijos.
„Mūsų delegacijai bus labai sunku priimti žodį „privaloma“, – sakė Valstybės departamento vyriausiasis tarptautinių susitarimų pareigūnas Joshua Dorosinas per gegužę vykusius debatus dėl siūlomų apribojimų kalbos kitiems derybininkams.
G. Dorosinas ir JAV delegacijos, kurią sudaro Pentagono atstovas, nariai tvirtino, kad vietoj naujos tarptautinės teisės JT turėtų paaiškinti, kad esami tarptautiniai žmogaus teisių įstatymai jau draudžia tautoms naudoti ginklus, nukreiptus prieš civilius arba sukeliančius konfliktą, kur jiems padaryta neproporcingai didelė žala.
Tačiau didžiųjų valstybių pozicija tik padidino mažesnių valstybių nerimą, nes jos teigia nerimaujančios, kad mirtini autonominiai ginklai gali tapti įprasti mūšio lauke, kol nebus susitarta dėl jų naudojimo taisyklių.
„Pasitenkinimas nebeatrodo išeitis“, – per susitikimą JT būstinėje sakė Pakistano ambasadorius Khalilas Hashmi. „Galimybių veikti langas sparčiai mažėja, kai ruošiamės technologiniam proveržiui.
Sparti dirbtinio intelekto pažanga ir intensyvus bepiločių orlaivių naudojimas konfliktuose Ukrainoje ir Artimuosiuose Rytuose kartu padarė šią problemą daug aktualesnę. Iki šiol dronai dažniausiai pasikliauja žmonių operatoriais, kad galėtų atlikti mirtinas misijas, tačiau kuriama programinė įranga, kuri netrukus leis jiems patiems rasti ir pasirinkti taikinius.
Intensyvus radijo ryšio ir GPS trukdymas Ukrainoje tik paspartino pamainą, nes autonominiai bepiločiai orlaiviai dažnai gali veikti net ir nutraukus ryšį.
„Tai ne distopinio romano siužetas, o gresianti realybė“, – neseniai vykusiame JT susitikime pareigūnams sakė Antigvos ir Barbudos ministras pirmininkas Gastonas Browne'as.
Pentagono pareigūnai aiškiai pasakė, kad ruošiasi plačiai dislokuoti autonominius ginklus.
Gynybos sekretorės pavaduotoja Kathleen Hicks šią vasarą paskelbė, kad JAV kariuomenė per ateinančius dvejus metus „paleis patrauklias, autonomines sistemas, kurių mastas sieks kelis tūkstančius“, sakydama, kad pastangos konkuruoti su pačios Kinijos investicijomis į pažangius ginklus Jungtinėms Valstijoms reikėjo „naudoti platformas, kurios yra mažos, protingos, pigios ir jų yra daug“.
Autonominio ginklo koncepcija nėra visiškai nauja. Sausumos minos, kurios detonuoja automatiškai, buvo naudojamos nuo pilietinio karo laikų. Jungtinės Valstijos turi raketų sistemas, kurios remiasi radarų jutikliais, kad galėtų savarankiškai užsifiksuoti ir pataikyti į taikinius.
Keičiasi dirbtinio intelekto įdiegimas, kuris galėtų suteikti ginklų sistemoms galimybę pačioms priimti sprendimus, gavus ir apdorojus informaciją.
Jungtinės Valstijos jau priėmė savanorišką politiką, nustatančią dirbtinio intelekto ir mirtinų autonominių ginklų naudojimo apribojimus, įskaitant šiais metais peržiūrėtą Pentagono politiką, pavadintą „Autonomija ginklų sistemose“ ir susijusią Valstybės departamento „Politinę deklaraciją dėl atsakingo intelekto ir autonomijos naudojimo “, kurios ji ragino kitas tautas priimti.
Amerikos politikos pareiškimai „leis valstybėms panaudoti potencialią AI sistemų naudą karinėje srityje, tuo pačiu skatinant imtis veiksmų, kad būtų išvengta neatsakingo, destabilizuojančio ir neapgalvoto elgesio“, – sakė Valstybės departamento sekretorė Bonnie Denise Jenkins.
Pentagono politika draudžia naudoti bet kokius naujus autonominius ginklus ar net juos kurti, nebent jiems pritarė aukščiausi Gynybos departamento pareigūnai. Tokie ginklai turi būti naudojami apibrėžtoje geografinėje vietovėje ribotą laiką. Ir jei ginklus valdo A.I., karinis personalas turi išlaikyti „galimybę atjungti arba išjungti dislokuotas sistemas, demonstruojančias nenumatytą elgesį“.
Prieš imantis mirtinų veiksmų, bent jau iš pradžių reikės žmogaus pritarimo, interviu sakė oro pajėgų generolai.
Tačiau Frenkas Kendalas, oro pajėgų sekretorius, atskirame interviu sakė, kad šios mašinos, galiausiai, turės turėti galią pačios imtis mirtinų veiksmų, tik jų dislokavimą prižiūrės žmogus.
„Individualūs sprendimai ir individualių sprendimų nepriėmimas yra skirtumas tarp laimėjimo ir pralaimėjimo – ir jūs nepralaimėsite“, – sakė jis. Jis pridūrė: „Nemanau, kad žmonės, su kuriais susidurtume, taip elgtųsi, ir tai suteiktų jiems didžiulį pranašumą, jei apribotume save“.
Thomas X. Hammesas, išėjęs į pensiją jūrų pėstininkų karininkas, kuris dabar yra Pentagono Nacionalinio gynybos universiteto mokslinis bendradarbis, interviu ir neseniai Atlanto tarybos paskelbtoje esė sakė, kad „Jungtinės Valstijos ir kitos demokratinės valstybės teigia, kad yra „moralinis reikalavimas. „kurti ir naudoti autonominius ginklus.
Jis tvirtino, kad „to nepadarius dideliame konvenciniame konflikte įvyks daug kariškių ir civilių žūčių, o konfliktas gali būti pralaimėtas“.
Kai kurie ginklų kontrolės šalininkai ir diplomatai nesutinka, teigdami, kad A.I. kontroliuojami mirtini ginklai, kuriuose nėra žmonių, leidžiančių atlikti individualius smūgius, pakeis karo pobūdį, pašalindami tiesioginį moralinį vaidmenį, kurį žmonės atlieka, priimant sprendimus dėl gyvybės atėmimo.
Šie kritikai teigia, kad ginklai kartais veiks nenuspėjamai ir gali padaryti klaidų atpažindami taikinius, kaip, pavyzdžiui, automobiliai be vairuotojo, kurie patenka į avariją.
Naujieji ginklai taip pat gali padidinti mirtinos jėgos panaudojimo tikimybę karo metu, nes juos paleidžianti kariuomenė iš karto nesukeltų pavojaus savo kariams arba gali paskatinti greitesnį eskalavimą, tvirtina oponentai.
Ginklų kontrolės grupės, tokios kaip Tarptautinis Raudonojo Kryžiaus komitetas ir Stop Killer Robots, kartu su nacionalinėmis delegacijomis, įskaitant Austriją, Argentiną, Naująją Zelandiją, Šveicariją ir Kosta Riką, pasiūlė įvairius apribojimus.
Kai kurie sieks visame pasaulyje uždrausti mirtinus autonominius ginklus, kurie aiškiai nukreipti į žmones. Kiti reikalautų, kad šie ginklai liktų „prasmingai žmogaus valdomi“ ir kad jie turi būti naudojami ribotose vietose tam tikrą laiką.
Ponas Kmenttas, Austrijos diplomatas, viename interviu pripažino, kad JT turėjo sunkumų vykdydama esamas sutartis, kurios nustato karų vykdymo ribas. Tačiau vis dar reikia sukurti naują teisiškai privalomą standartą, sakė jis.
„Vien todėl, kad kažkas visada įvykdys žmogžudystes, tai nereiškia, kad jums nereikia įstatymų, kad tai uždraustų“, – sakė jis. „Šiuo metu visa ši sritis yra visiškai nereguliuojama.
Tačiau D. Dorosinas ne kartą prieštaravo siūlomiems reikalavimams, kuriuos Jungtinės Valstijos laiko per daug dviprasmiškais arba kurie nenori abstraktūs, pavyzdžiui, raginimui, kad ginklai būtų „prasmingai kontroliuojami žmogaus“.
JAV delegacijos pageidaujama kalba yra „atsakingoje žmogaus komandų grandinėje“.
Jis sakė, kad Jungtinėms Valstijoms svarbu, kad derybininkai „vengtų neaiškios, visa apimančios terminijos“.
V. Voroncovas, Rusijos diplomatas, per vieną iš debatų kalbėjo po D. Dorosino ir pritarė jo pozicijai, remdamas JAV.
„Suprantame, kad daugeliui delegacijų prioritetas yra žmogaus kontrolė“, – sakė V. Voroncovas. „Rusijos Federacijos prioritetai yra kiek kitokie."
Jungtinės Valstijos, Kinija ir Rusija taip pat tvirtino, kad dirbtinis intelektas ir autonominiai ginklai gali būti naudingi, nes sumažina civilių aukų skaičių ir nereikalingą fizinę žalą.
„Įrodyta, kad išmanieji ginklai, naudojantys kompiuterius ir autonomines funkcijas, kad galėtų tiksliau ir efektyviau panaudoti jėgą, sumažina žalos civiliams ir civiliniams objektams riziką“, – teigė JAV delegacija.
Lapkričio pradžioje Kmentas sulaukė plataus pritarimo peržiūrėtam planui, pagal kurį JT generalinio sekretoriaus biuro buvo paprašyta parengti ataskaitą apie mirtinus autonominius ginklus, tačiau jame buvo aiškiai nurodyta, kad, gerbiant didžiąsias galias, išsamūs svarstymai šiuo klausimu liks su JT komitetu Ženevoje, kur bet kuri tauta gali veiksmingai blokuoti pažangą arba priversti kalbą sušvelninti.
Praėjusią savaitę Ženevoje įsikūręs komitetas sutiko Rusijos ir kitų didžiųjų valstybių raginimu iki 2025 metų pabaigos toliau nagrinėti šią temą, sakė vienas diskusijoje dalyvavęs diplomatas.
„Jei lauksime per ilgai, tikrai gailėsimės“, – sakė M. Kmenttas. „Kai tik toks ginklas bus pigus, lengvai prieinamas ir bus visur. Ir žmonės klaus: kodėl nepasielgėme pakankamai greitai, kad pabandytume apriboti, kai turėjome galimybę?“" [1]
1. Killer Robots in the Sky? Arguing Over the Rules.: [Foreign Desk]. Lipton, Eric. New York Times, Late Edition (East Coast); New York, N.Y.. 22 Nov 2023: A.1.
Komentarų nėra:
Rašyti komentarą