Ne visi yra prieš dirbtinio intelekto (A.I.) ginklų tyrimus. Štai kodėl

 „Penktadienį prisijungiau prie spragėsiais traškančių kaimynų minios ir pažiūrėjau vėlyvą Christopherio Nolano filmo „Openheimerį“ peržiūrą. Dar prieš pandemiją nemačiau taip sausakimšo kino teatro.

 

     Filmas mane paliko šiek tiek šaltai nusiteikusį. Nors tai neabejotinai techninis pasiekimas ir sumaniai sukonstruotas filmas, tai, kaip jo veikėjai žaisdavo per pernelyg protingą, sąmoningą dialogą apie svarią atominių ginklų etiką, atrodė dirbtinai ir tuščiaviduriai. Žmonės taip nekalba realiame gyvenime, ar ne?

 

     Darbo dienos pokalbiai, net tarp mokslininkų ir inžinierių, paprastai nesisuka apie galimai civilizaciją keičiančias darbo pasekmes. Ir vis dėlto šią vasarą kažkodėl toks jausmas, kad  jie tai daro. Dabar kovojame su tuo, kaip naujos technologijos gali suformuoti ateitį, ir ginčytis dėl suvokiamų pavojų tęsti tai, ką neseniai sužinojome.

 

     Daugeliu atžvilgių metų klausimas yra toks: „Ką reikėtų daryti su A.I.?“ Interviu „The Guardian“ Nolanas apibūdino vadovaujantį A.I. tyrėjai vadina tai jų „Openheimerio momentu“. Tačiau diskusija, kilusi dėl pažangos A.I. yra labiau apgalvotas ir sudėtingesnis, nei bet koks filmo dialogas.

 

     Dėl dirbtinio intelekto lenktynių buvo pasiūlyta daugybė nuomonių, dažniausiai raginama susilaikyti, būti atsargiems, sustoti, sulėtinti tempą arba visiškai pristabdyti. Bet su kuo mes ginčijamės? Svečio esė Aleksandras Karpas, bendrovės „Palantir Technologies“, kuriančios programinę įrangą su karinėmis programomis, vadovas, pateikia mums aiškią kitos diskusijos pusės versiją. Jis pasisako už dirbtinai protingų ginklų mūšio lauką keičiantį potencialą. Ir jis teigia, kad, kaip ir kuriant atominę bombą, Jungtinėms Valstijoms būtų neatsakinga nevadovauti šioms pastangoms.

 

     Jei pažvelgsite į karus visame pasaulyje be rožinių akinių, sunku įsivaizduoti, kad A.I. varoma ginkluotė netrukus neatliks lemiamą vaidmenį mūšio lauke. Pastaraisiais metais bepiločių orlaivių mūšis pakeitė pėstininkų ir mechanizuoto konflikto pobūdį konfliktuose Kalnų Karabache ir Ukrainoje. Taip pat nesunku įsivaizduoti, kad, atsižvelgiant į pastarojo meto A.I. pažangą, gali būti paleistos daugiau autonomiškų ir mirtinų kovinių bepiločių orlaivių paketų, kurie užtemdys dangų, kad ir kokie nesutarimai įsiliepsnotų ateinančiais metais.

 

     Ne todėl, kad aš noriu išgirsti šį argumentą, nes su juo sutinku. Jei kyla klausimas, ar turėtume sukurti kūrybingas ir protingas mirtinas mašinas, primenančias „Terminatorių“, atsakymas man aiškus: jūs to nedarote – ir šiuo klausimu turėtumėte pasiekti sutarimą su savo priešininkais.

 

     Taip pat yra ir antras panašumas tarp šių dienų ir tada, kai Oppenheimerio mokslininkų komanda lenktyniavo, kurdama bombą. Kaip pabrėžiama Nolano filme, prieš pirmąjį bandomąjį sprogimą Naujojoje Meksikoje, žinomo kaip Trejybė, buvo neapibrėžtumo elementas: fizikas Edwardas Telleris apskaičiavo, kad sprogimas gali sukelti nekontroliuojamą grandininę reakciją, sukeldamas atmosferą dėl branduolinio gaisro ir baigdamas gyvybę Žemėje.

 

     Nors Tellerio scenarijus buvo nustatytas labai mažai tikėtinas ir bandymas buvo tęsiamas, dirbtinį intelektą besivystančių žmonių širdyse slypi lygiagreti baimė: kad bandymų sistema, mokantis iš mūsų pasaulinio viešo atvirojo kodo archyvo apie mašininį mokymąsi, gali įgyti agentūrą ir pradėti tobulinti savo dizainą. Jei bus leista tai padaryti, ji gali greitai sukurti tikrą svetimo intelekto formą, kuri nebejaučia žmonijos poreikio. Tai Tellerio atmosferos gaisro scenarijus, tačiau A.I.

 

     Karpas čia nėra nesuinteresuota šalis. Jo įmonė gaus naudos iš padidėjusių investicijų į karinius A.I. Tuo pačiu metu, rašydamas ir viešai kalbėdamas per daugelį metų, jis išlaikė nuoseklų požiūrį ir energingą Silicio slėnio kultūros kritiką, kuri laiko save aukščiau už niūrias krašto apsaugos problemas. Dėl savo nuoseklumo jis yra puikus kandidatas į šią bylą.

 

     Tikiuosi, kad perskaitysite Karpo kviestinį rašinį, kad geriau suprastumėte, kokie ginčai greičiausiai vyraus karinės galios salėse, nebent bus imtasi stiprių, neatidėliotinų pasaulinių pastangų juos sušvelninti.

 

     Jei dabartinės svajonės apie dirbtinį intelektą išsipildys, ši technologija greitai taps visą visuomenę griaunančia jėga ir autonomišku, bauginančiu ginklu tiems, kurie ją panaudotų dominuoti mūšio lauke. Neturint patikimų įrodymų, kad tokios šalys, kaip Kinija, Rusija, Iranas ir Šiaurės Korėja nedalyvautų šiose ginklavimosi varžybose, man sunku įsivaizduoti, kad Karpo požiūrio versija, galiausiai, netaptų mūsų realybe.

 

     Jeremy Ashkenas yra Opinion grafikos direktorius. @jashkenas"