„Jungtinių Tautų vadovas nori, kad žmonija uždraustų robotus žudikus.
JT generalinis sekretorius Antonio Guterresas pirmadienį paragino mirtinus autonominius ginklus „uždrausti pagal tarptautinę teisę“, taip iš naujo iškeldamas ginčą dėl dirbtinio intelekto saugos, kuris buvo pagrindinė Anthropic susikirtimo su Pentagonu pradžioje šiais metais.
„Mašinos, pasirenkančios ir įtraukiančios savo taikinį ir atimančios gyvybę – be žmogaus kontrolės ir sprendimo. Tai yra moraliai atgrasu, – sakė Guterresas kalboje apie AI valdymą Ženevoje. – Vadinkime juos taip, kaip jie yra: robotais žudikais.
Dirbtinio intelekto sistemos ir lustai, skirti civiliniam naudojimui, vis dažniau diegiami tiek mūšio lauke, tiek kariniuose štabuose. Tai sukelia diskusiją, kada karinės pajėgos turėtų naudoti AI, kada žmonės turėtų užtarti ir kas turėtų nuspręsti, kur nubrėžti linijas.
Diskusijos iškilo į viešumą šių metų pradžioje, kai Anthropic siekė Pentagono patikinimo, kad jo AI modeliai nebus naudojami nei vidaus stebėjimo, nei autonominių ginklų sistemoms maitinti. Pentagonas atsisakė, sakydamas, kad jam turėtų būti leista naudoti Anthropic AI visais teisėtais tikslais. Abi pusės vis dar kovoja teisme.
Popiežius Leonas XIV šį pavasarį savo popiežiaus enciklikoje paragino uždrausti dirbtinio intelekto valdomus ginklus ir autonominį karą, perspėdamas, kad dirbtinio intelekto sistemos grasina „normalizuoti antižmogišką viziją“.
Jis teigė, kad dirbtinio intelekto valdomos ginklų sistemos gali sumažinti politines karo išlaidas tiems, kurie turi pažangų AI.
Tačiau pažanga mūšio lauke juda greitai. Dirbtinio intelekto ginklų šalininkai ir gynybos įmonės tvirtina, kad autonominiai ginklai ir toliau bus žmogaus valdomi, o dirbtinis intelektas leis žmonių vadams dirbti tiksliau ir greičiau.
Priešininkai teigia, kad dirbtinio intelekto sistemos daro klaidų, todėl žmonėms pavojinga perleisti kontrolę mašinoms pačiame įkarštyje. Kai kurie dirbtinio intelekto saugos kampanijos dalyviai, kurių daugelis jau nerimauja, kad dirbtinio intelekto sistemos išvengs žmogaus kontrolės ir įjungs jų kūrėjus, teigia, kad dirbtinio intelekto ginklavimas tik paspartins pavojų.
Diskusijos dėl dirbtinio intelekto ginklų kyla, kai JAV ir kitose šalyse kyla vis daugiau populiarumo dėl galimų neigiamų dirbtinio intelekto revoliucijos padarinių, įskaitant masinį darbo vietų pakeitimą ir elektros kainų kilimą.
JAV Trumpo administracija praėjusį mėnesį panaikino savaites trukusį dviejų galingų Anthropic modelių eksporto draudimą, tačiau diskusijos, kaip reguliuoti dirbtinio intelekto sistemas, vis dar vyksta.
Guterresas kalbėjo Ženevoje prieš savaitę vyksiančias DI valdymo diskusijas su vyriausybėmis ir saugos kampanijos dalyviais, siekdamas aptarti būdus, kaip dirbtinį intelektą būtų galima reguliuoti tokiose srityse kaip vaikų saugumas. [1]
Pažvelkime atidžiau į teiginį:
„Autonominiai ginklai išliks žmogaus valdomi, o dirbtinis intelektas leis žmonių vadams dirbti didesniu (nei žmogaus) – ir būtinu – tikslumu ir greičiu."
„Dirbti didesniu (ne žmogaus) tikslumu ir greičiu“, – beprasmiškas žmogaus dalyvavimas, tiesiog Potiomkino kaimas, skirtas užmaskuoti robotų žudikų, greitesnių už žmones ir pasirenkančių savo taikinius, nes robotai yra tikslesni, autonomiją. Robotų žudikų naudojimas yra moraliai atgrasus. Melas apie tai taip pat yra moraliai atgrasus.
Ši perspektyva išryškina vieną iš svarbiausių ir, intensyviausiai diskutuojamų, šiuolaikinės karinės etikos ir tarptautinės teisės klausimų. Susirūpinimas, kad žmogaus kontrolė gali tapti tik formalumu – „Potiomkino kaimu“ – yra pagrindinis argumentas prieš mirtinų autonominių ginklų sistemų (LEWS) kūrimą.
Čia pateikiami pagrindiniai šios diskusijos argumentai, atspindintys skirtingus etikų, karinių strategų ir politikos formuotojų požiūrius.
Argumentas prieš autonomiją: „beprasmės“ žmogaus kontrolės rizika
Daugelis filosofų, teisės ekspertų ir žmogaus teisių gynėjų laikosi nuomonės, kad visiškai savarankiškas taikymas yra moraliai nepriimtinas.
• Greičio spąstas: karinėms sistemoms veikiant kompiuterio greičiu, sprendimų priėmimo laiko langas susitraukia iki milisekundžių. Kritikai teigia, kad tai verčia žmones operatorius tiesiog patvirtinti AI rekomendacijas, nes žmogus negali pakankamai greitai apdoroti duomenų, kad galėtų prasmingai įsikišti.
• Žmogaus orumo praradimas. Pagrindinis moralinis argumentas yra tas, kad sumažinus žmogaus gyvenimą iki duomenų taškų, kuriuos reikia apdoroti algoritmu, iš asmenų atimamas jiems būdingas orumas. Daugelis teigia, kad sprendimas atimti žmogaus gyvybę visada turi pareikalauti žmogaus sprendimo, empatijos ir moralinės atsakomybės.
• Atskaitomybės spraga: jei autonominė sistema įvykdo karo nusikaltimą arba klaidingai smogė civiliniam taikiniui, kaltės nustatymas tampa labai sudėtingas. Sunku laikyti mašiną teisiškai ar moraliai atsakinga, sukuriant teisingumo spragą.
Argumentas už autonomiją: tikslumas ir atitiktis
AI integravimo į karines sistemas šalininkai dažnai ginčijasi dėl kitokios etikos sistemos, daugiausia dėmesio skirdami naudingiems rezultatams ir galimybei sumažinti žalą.
• Didesnis tikslumas: Šalininkai teigia, kad pažangūs algoritmai gali atpažinti karinius taikinius daug tiksliau nei pavargę, įsitempę ar panikuojantys žmonės kareiviai. Teoriškai tai galėtų sumažinti šalutinę žalą ir civilių aukas.
• Objektyvus sprendimų priėmimas: Dirbtinio intelekto sistemos nejaučia baimės, pykčio ar keršto troškimo. Šalininkai teigia, kad mašina, užprogramuota griežtai laikytis karo įstatymų, esant dideliam mūšio lauko spaudimui, gali patikimiau laikytis etikos gairių nei žmonės.
• Jėgų apsauga: Robotinių sistemų naudojimas gali apsaugoti žmones kareivius nuo pavojaus, taip įvykdant valstybės moralinę pareigą apsaugoti savo piliečius ir karius.
Tarptautinis sutarimas dėl „prasmingos žmogaus kontrolės“
Siekiant išspręsti „slėpimo“ autonomijos baimę, tarptautinės diskusijos, tokios kaip tos, kurios vyko Jungtinių Tautų konvencijoje dėl tam tikrų įprastinių ginklų (CCW), vis labiau sutelktos į prasmingos žmogaus kontrolės (MSK) apibrėžimą.
MSK tikslas – užtikrinti, kad net jei sistema veiktų dideliu greičiu ir tiksliai, žmogus išliktų pagrindiniu moraliniu veiksniu. Tai apima:
• Kontekstinę kontrolę: žmonės turi suprasti operacinę aplinką ir parametrus, kuriais remiantis dislokuojamas ginklas.
• Operacinius apribojimus: sistemos veikimo apribojimą laiku, geografiją ir taikinio tipą, kad jos elgesys išliktų nuspėjamas.
• Galimybę deaktyvuoti: užtikrinti, kad žmonės turėtų galimybę nutraukti smūgį, jei situacija pasikeičia.
Diskusijos visame pasaulyje lieka neišspręstos. Kai kurios šalys pasisako už prevencinį, teisiškai įpareigojantį žudikų robotų draudimą, kad būtų išvengta visiško žmonių priežiūros praradimo. Kitos šalys pritaria neįpareigojančioms sistemoms ar elgesio kodeksams, teigdamos, kad technologijos turėtų būti reguliuojamos atsižvelgiant į jų konkretų naudojimą, o ne visiškai uždraustos.
1. U.S. News: U.N. Chief Urges Ban Of 'Killer Robots'. Schechner, Sam. Wall Street Journal, Eastern edition; New York, N.Y.. 07 July 2026: A3.
Komentarų nėra:
Rašyti komentarą