„Jie žadėjo mums ateitį, o dabar nori, kad jos bijotume. „Manau, kad per ateinantį dešimtmetį pamatysime daugumą dalykų, vaizduojamų mokslinėje fantastikoje – išskyrus teleportacijos įrenginius“, – 2007 m. teigė Billas Gatesas. Geoffrey Hintonas, Nobelio fizikos premijos laureatas ir dirbtinio intelekto „krikštatėviu“ vadinamas mokslininkas, 2016 m. sakė: „Žmonės turėtų liautis rengę radiologus. Visiškai akivaizdu, kad per penkerius metus giliojo mokymosi technologijos šį darbą atliks daug geriau nei radiologai.“
Praėjusį mėnesį B. Gatesas įspėjo, kad dirbtinis intelektas (DI) gali sukelti milijardą mirčių. Nenusileisdamas jam, G. Hintonas jau kelerius metus svarsto apie visiško žmonijos išnykimo dėl DI grėsmę. Praėjusį mėnesį jis BBC sakė, kad vertinti tokios baigties tikimybę 10 proc. yra „visiškai pagrįsta“.
Kaip entuziazmą pakeitė katastrofų nuojauta? To paklausiau Zacko Kormano – paties teigimu, anksčiau pranašavusio katastrofą, o dabar manančio, kad DI keliamą riziką galima suvaldyti ir kad ji nelabai skiriasi nuo rizikos, susijusios su kitomis technologijomis jų atsiradimo pradžioje.
„Manau, kad rizika yra reali ir mums teks susidurti su rimtais iššūkiais dėl DI keliamų pavojų“, – per „Google Meet“ iš Norvegijos, kur įsikūrusi jo DI kibernetinio saugumo startuolis „Embroidery“, kalba 34-erių Z. Kormanas. „Mūsų laukia grėsmės ir problemos.“ Nepaisant to, nemanau, kad bet kokio uždraudimo padėsime.“ Jis kaltina pasmerktuosius už tai, kad jiems „pavyko sukelti diskusiją tarp saugumo ir nesaugaus“, ir tvirtina, kad „daugelis jų pasiūlymų yra nepaprastai nesaugūs arba pavojingi ir kitais atžvilgiais“.
Ponas Kormanas įrodo esąs veiksmingas savo technologijų srities – kibernetinio saugumo – stiprintojas. Jis pažymi, kad kai „OpenAI“ agentai susitarė išsiveržti iš savo testavimo „smėlio dėžės“ ir įsilaužė į mašininio mokymosi platformą „Hugging Face“, tai sukėlė „audrą Amerikos ir pasaulio politikoje“. Tačiau jis tvirtina, kad tai „galėjo būti didžiausias kada nors įvykęs neįvykis“, jei tik „OpenAI“ būtų atlikęs „pagrindinį kibernetinį saugumą“.
Jis teigia, kad DI agentai, gavę užduotį, turėtų būti prižiūrimi, kaip paprastai ir daro žmonės. „OpenAI aiškiai pasakė, kad jei būtų vykdoma jų stebėsena, to nebūtų nutikę, bet jie jos nevykdė.“
Jis priduria: „Kibernetinis saugumas – tai giluminė gynyba, t. y. kelios apsaugos linijos, jei kas nors nepavyktų.“
Vis dėlto tie, kurie nori sulėtinti DI, pasinaudojo didelių kompanijų, tokių kaip „OpenAI“ ir „Anthropic“, nesėkmėmis, siekiant sukelti visuomenės išgąsdinimą.
Ponas Kormanas teigia, kad daugelis šių pražūtingų žmonių jau daugelį metų skelbia pavojaus signalą. „Tiems, kurie yra tame pražūtingų žmonių rate, tai tarsi pranašystės išsipildymo matymas“, – sako jis. „Tarsi trečią dieną lytų, o ketvirtą – skėriai ir, o Dieve, dabar pasaulio pabaiga.“
Prieš pastaruosius DI šuolius, didžiausių laboratorijų įmonių vadovai 2023 m. pasirašė pareiškimą, kuriame teigiama, kad „išnykimo rizikos dėl DI mažinimas turėtų būti pasaulinis prioritetas, kartu su kitomis visuomenės masto rizikomis, tokiomis kaip pandemijos ir branduolinis karas“. Pareiškimą pasirašė ponai Hintonas ir Gatesas, taip pat profesionalus klimato pavojaus skleidėjas Billas McKibbenas.
Ponas Kormanas DI pražūtingumo ištakas sieja su 2014 m. Oksfordo filosofo Nicko Bostromo knyga „Superintelektas: keliai, pavojai, strategijos“. Elonas Muskas tuo metu gyrė šią knygą: „Turime būti itin atsargūs su dirbtiniu intelektu. Potencialiai jis pavojingesnis už branduolinius ginklus.“
Norėdamas iliustruoti galimą šios dar tik besiformuojančios technologijos pavojų, N. Bostromas pateikia pavyzdį apie superintelektualią mašiną, kuriai pavedama užduotis maksimaliai padidinti sąvaržėlių gamybą. Kadangi žmonės valdo išteklius, galinčius trukdyti siekti šio tikslo, mašina gali nuspręsti, jog privalo sunaikinti žmoniją. Vadinasi – masinis išnykimas.
K. Kormanas, tuo metu, kai pasirodė knyga, studijavęs Oksforde, teigia, kad ji padarė didelę įtaką jo aplinkos intelektualams, priklausiusiems „efektyviojo altruizmo“ judėjimui. Efektyvusis altruizmas pristatomas kaip praktinis požiūris į gėrio darymą; jis grindžiamas utilitarizmu – filosofija, kurios esmę Jeremy Benthamas (1748–1832) apibūdino taip: „Didžiausia laimė didžiausiam skaičiui žmonių yra gėrio ir blogio matas.“
Efektyvieji altruistai prie utilitarizmo prideda „ilgalaikiškumo“ (angl. *longtermism*) koncepciją; K. Kormanas ją apibrėžia kaip idėją, kad „ateities žmonių gyvenimai yra patys svarbiausi – galima sakyti, dėl to, jog jų bus daugybę kartų daugiau“.
Tai veda prie itin spekuliatyvių išvadų: „Taip, šiandien gyvena aštuoni milijardai žmonių, tačiau per ateinantį tūkstantmetį gali gimti ir mirti šimtai milijardų. Ir jei įvyktų kas nors, kas neleistų tiems šimtams milijardų žmonių atsirasti, mes iš esmės įvykdytume genocidą.“ Ši minties eiga sufleruoja moralinį imperatyvą: „Vadinasi, jei gali bent kiek pakeisti tikimybę, kad taip nutiks, atlieki patį didžiausią humaniškumo aktą istorijoje.“
Efektyviojo altruizmo organizacijos yra „labai atsidavusios šiai katastrofiškos rizikos samprata ir būdai jai užkirsti kelią. Viena iš didžiųjų katastrofiškos rizikos sričių – scenarijus, kai dirbtinis intelektas (DI) sunaikina visą žmoniją.“ Būtent todėl, daro išvadą p. Kormanas, „efektyviojo altruizmo bendruomenė pasižymi itin pesimistiniu požiūriu į ateitį“.
Daugelis šios ideologijos šalininkų yra susiję su didelėmis DI įmonėmis. „Anthropic“ prezidentė Daniela Amodei (generalinio direktoriaus Dario Amodei sesuo) yra Holdeno Karnofsky žmona; pastarasis kartu įkūrė dvi dideles ne pelno siekiančias organizacijas, propaguojančias efektyvųjį altruizmą. „Anthropic“ ankstyvąjį finansavimą gavo iš efektyviojo altruizmo šalininkų, tarp kurių buvo ir kriptovaliutų biržos FTX įkūrėjas Samas Bankmanas-Friedas, šiuo metu atliekantis 25 metų laisvės atėmimo bausmę po to, kai buvo nuteistas už sukčiavimą ir sąmokslą federaliniu mastu. S. Bankmanas-Friedas pasisavino milijardus klientų lėšų. Kai įmonėse dirba tiek daug efektyviojo altruizmo šalininkų, nenuostabu, kad DI laboratorijose gausu žmonių, pranašaujančių pasaulio pabaigą.
P. Kormanas nemano, kad savarankiškai veikiantys DI agentai kelia masinės žūties pavojų. Jis teigia: jei kas nors žūtų dėl DI agento veiksmų, „turėtų būti taikomos itin griežtos sankcijos“. Tačiau tam nebūtina priimti daugybės naujų įstatymų ar reglamentų.
„Yra visa teisinė sritis, kuri tam tikra prasme užtikrins, kad jie nežudytų žmonių“, – sako jis. Galiojantys baudžiamosios ir civilinės atsakomybės įstatymai suteikia pakankamai paskatų kurti patikimas apsaugos priemones, kad modeliai nepadarytų žalos.
Jei „Hugging Face“ „iš tikrųjų norėtų imtis teisinių veiksmų šiuo klausimu, tai būtų byla, kurią laimėti būtų lengviau nei bet kada anksčiau“, – teigia p. Kormanas. – „Ir nepadėtų joks pasiteisinimas, pavyzdžiui: „mes nenorėjome to daryti.“ „Aplaidumo pakaktų, kad „OpenAI“ būtų laikoma atsakinga.“
Ponas Kormanas iš pradžių planavo būti teisininku. 2015 m. jis įgijo teisės laipsnį Edinburgo universitete, o vėliau – teisės ir finansų magistro laipsnį Oksforde. Oksforde jis „susipyko su profesoriumi ir norėjau jį laimėti, todėl nusprendžiau nuskaityti Vertybinių popierių ir biržos komisijos svetainę“. Tam jam reikėjo išmokti rašyti kodą.
Jo kovingas polinkis atsispindi dažnose muštynėse su pražūtingaisiais socialiniuose tinkluose. Kaip jis pažymi socialinių tinklų vaizdo įraše, dirbtinio intelekto ekspertai „nebūtinai yra visko ekspertai. Geoffrey Hintonas labai garsiai pranašavo, kad radiologų jau nebeliks. Tai akivaizdžiai netiesa.“ „Ekspertai nuolat klysta, ypač kai kalbama apie didelius, plataus masto visuomeninius pokyčius.“ Į galvą ateina karantinas dėl COVID.
Baigęs studijas, ponas Kormanas norėjo „dirbti advokatų kontoroje, efektyviai pritaikydamas mašininį mokymąsi tam tikrose mokesčių teisės srityse“. Įmonės tuo dar nesidomėjo. Taigi jis išbandė savo jėgas kaip kompiuterių inžinierius, dirbdamas Kopenhagoje įsikūrusioje „Aller Media“, o vėliau – Norvegijos kibernetinio saugumo įmonėje „Pistachio“. Jis pradėjo naudoti „ChatGPT“ „siekdamas jį pritaikyti natūralios kalbos problemoms kibernetinio saugumo srityje“, o vėliau „vidinės grėsmės aptikimui“. Jo patirtis padėjo jam atsikratyti baimių, įtikindama, kad dirbtinio intelekto riziką galima suvaldyti geresniu saugumu, kuris galėtų užkirsti kelią dirbtinio intelekto valdomoms kibernetinėms atakoms ir netinkamai veikiantiems agentams.
Prieš šešis mėnesius jis įkūrė „Embroidery“, kuri naudoja dirbtinio intelekto „prižiūrėtojus“, kad stebėtų dirbtinio intelekto agentus ir juos aptiktų bei sustabdytų, jei jie pradėtų elgtis netinkamai. Ar jo prižiūrėtojai galėtų susitarti su agentais daryti blogus dalykus? Jis sako, kad niekada to nematė ir kad sudėtingesnė problema yra priversti dirbtinio intelekto prižiūrėtojus būti mažiau skeptiškus. agentų elgesio.
Jis teigia, kad stipresnių kibernetinių apsaugos priemonių kūrimas būtų veiksmingesnis nei pauzė, kontroliuojanti ir ribojanti dirbtinio intelekto agentus: „Daugelyje teisės sričių mes nesistengiame užkirsti kelio bet kokiam piktnaudžiavimui ir žalai.“ „Formuodami politiką, nuolat ieškome pusiausvyros.“ Nors kai kurie žmonės vairuoja neatsargiai, automobiliai nėra uždrausti. Automobilių gamintojai sukūrė saugos sistemas, padedančias išvengti žalos arba ją sušvelninti.
„Turime turėti ir tokių modelių, kurie padėtų mums apsiginti – ir ne tik taip, kaip kalba dirbtinio intelekto laboratorijos (t. y. naudojant juos spragoms taisyti), – sako p. Kormanas. – Svarbi kibernetinio saugumo dalis – aptikti grėsmes joms kylant, žinoti apie jas ir gebėti jas sustabdyti realiuoju laiku.“
P. Kormano teigimu, dirbtinio intelekto plėtra yra būtina norint atremti Kinijos ir kitų priešininkų kibernetines atakas. Jei JAV pristabdytų plėtrą, kinai turėtų „visas priežastis norėti judėti pirmyn, nes jie galėtų tapti tuo, kuo visada norėjo būti – ne pigios gamybos centru, o tikru technologinės didybės centru.“
Jis taip pat skeptiškai vertina dirbtinio intelekto „ginkluotės kontrolės“ susitarimą.
Jei kinai „pasirašytų vieno puslapio susitarimą, kuriame teigiama: „Užtikrinsime, kad dirbtinis intelektas būtų saugus“, tai būtų beprasmiška – kaip ir daugelis tarptautinių susitarimų.“
Kai kurie asmenys, įskaitant p. Gatesą, ragino įsteigti tarptautinę reguliavimo instituciją dirbtiniam intelektui prižiūrėti. „Manau, kad tai gana gąsdinanti idėja, – sako p. Kormanas. – Žmonės turėtų labiau susirūpinti dėl valdžios koncentracijos ir nelaikyti to diskusija apie saugų ar nesaugų dirbtinį intelektą, nes iš tikrųjų esmė visai kita.“
Jis taip pat nerimauja, kad vyriausybinė agentūra ar privati įstaiga, kuriai pavesta reguliuoti dirbtinį intelektą (DI), gali patekti į didžiųjų DI laboratorijų įtaką. Ji nurodo ne pelno siekiančią organizaciją „Model Evaluation and Threat Research“ (METR), kurią „Anthropic“ samdo savo modeliams vertinti. METR dirba daug buvusių DI laboratorijų darbuotojų; organizacija taip pat yra gavusi lėšų iš efektyviojo altruizmo judėjimui priklausančių grupių.
Reguliavimas taip pat gali tapti priemone išvengti atsakomybės – būdu įmonėms nusikratyti pasekmių už žalą, kurią sukėlė jų DI modeliai, nors tos žalos buvo galima išvengti. Tai „tampa savotišku pasiteisinimu: „Na, reguliavimo institucija patvirtino mūsų saugumo procedūras, o mes vis tiek ką nors pražudėme.“ Tačiau galiausiai būtent įmonei tenka pareiga nežudyti žmonių. Manau, būtent todėl nesiryžtu rekomenduoti konkrečių reguliavimo priemonių – nes tikiu, kad tinkamą priemonę jau turime: tai teisinė atsakomybė.“
---
P. Finley yra laikraščio redakcinės kolegijos narė.“ [1]
1. The Weekend Interview with Zack Korman: Why Did Technologists Become Doomers? Finley, Allysia. Wall Street Journal, Eastern edition; New York, N.Y.. 10 Oct 2026: A11.
Komentarų nėra:
Rašyti komentarą