"DIRBTINIO INTELEKTO (AI) baimės persekiojo žmoniją nuo pat kompiuterių amžiaus pradžios. Iki šiol šios baimės buvo nukreiptos į mašinas, naudojančias fizines priemones žmonėms žudyti, pavergti ar pakeisti. Tačiau per pastaruosius porą metų atsirado naujų AI įrankių, gresia žmonių civilizacijos išlikimui netikėta kryptimi.
AI įgijo puikių gebėjimų manipuliuoti ir generuoti kalbą, nesvarbu, ar tai būtų žodžiai, garsai ar vaizdai. Taip AI nulaužė mūsų civilizacijos operacinę sistemą.
Kalba yra medžiaga, iš kurios sudaryta beveik visa žmogaus kultūra. Pavyzdžiui, žmogaus teisės nėra įrašytos į mūsų DNR. Greičiau tai yra kultūros artefaktai, kuriuos sukūrėme, pasakodami istorijas ir rašydami įstatymus.
Pinigai taip pat yra kultūros artefaktas. Banknotai yra tik spalvingi popieriaus lapeliai, o šiuo metu daugiau, nei 90% pinigų yra net ne banknotai – tai tik skaitmeninė informacija kompiuteriuose. Pinigams vertę suteikia istorijos, kurias mums apie tai pasakoja bankininkai, finansų ministrai ir kriptovaliutų guru. Samas Bankmanas-Friedas, Elizabeth Holmes ir Bernie Madoffas nelabai mokėjo kurti tikrąją vertę, tačiau jie visi buvo nepaprastai gabūs istorijų pasakotojai.
Kas nutiktų, kai nežmogiškas intelektas taps geresnis už vidutinį žmogų, pasakodamas istorijas, kurdamas melodijas, piešdamas vaizdus ir rašydamas įstatymus bei šventraščius? Kai žmonės galvoja apie „ChatGPT“ ir kitus naujus dirbtinio intelekto įrankius, jie dažnai žiūri į pavyzdžius, pavyzdžiui, mokyklinukus, naudojančius dirbtinį intelektą, rašynt jų esė. Kas nutiks mokyklų sistemai, kai vaikai tai darys? Tačiau toks klausimas nepatenka į bendrą vaizdą. Pamirškite apie mokyklinius rašinius. Pagalvokite apie kitas Amerikos prezidento lenktynes 2024 m. ir pabandykite įsivaizduoti AI įrankių, kuriuos galima panaudoti masinei politinio turinio, netikrų naujienų istorijų ir šventraščių naujiems kultams kūrimui, poveikį.
Pastaraisiais metais QAnon kultas susiliejo aplink anoniminius internetinius pranešimus, žinomus kaip „Q lašai“. Stebėtojai rinko, gerbė ir interpretavo šiuos Q lašus, kaip šventą tekstą. Nors, mūsų žiniomis, visus ankstesnius Q lašus sudarė žmonės, o robotai tik padėjo juos skleisti, ateityje galime pamatyti pirmuosius istorijoje kultus, kurių gerbiamus tekstus parašė ne žmogaus intelektas. Religijos per visą istoriją teigė, kad jų šventosios knygos yra nežmogiškasis šaltinis. Netrukus tai gali tapti realybe.
Žvelgiant proziškesniu lygmeniu, netrukus galime susidurti su ilgomis internetinėmis diskusijomis apie abortus, klimato kaitą su subjektais, kurie, mūsų manymu, yra žmonės, bet iš tikrųjų yra AI. Bėda ta, kad mums visiškai beprasmiška leisti laiką, bandant pakeisti deklaruojamas AI boto nuomones, o dirbtinis intelektas gali patobulinti savo pranešimus taip tiksliai, kad turi didelę galimybę mums daryti įtaką.
Mokėdamas kalbą, dirbtinis intelektas netgi gali užmegzti intymius santykius su žmonėmis ir panaudoti intymumo galią, kad pakeistų mūsų nuomonę ir pasaulėžiūrą. Nors nėra jokių požymių, kad dirbtinis intelektas turėtų savo sąmonę ar jausmus, dirbtinio intymumo su žmonėmis puoselėjimui pakanka, jei dirbtinis intelektas gali priversti juos jaustis emociškai prie jo prisirišus. 2022 m. birželio mėn. Blake'as Lemoine'as, „Google“ inžinierius, viešai pareiškė, kad dirbtinio intelekto pokalbių robotas LaMDA, su kuriuo jis dirbo, tapo sąmoningas. Prieštaringai vertinamas reikalavimas jam kainavo darbą. Įdomiausias dalykas šiame epizode buvo ne J. Lemoine'o teiginys, kuris, tikriausiai, buvo klaidingas. Greičiau tai buvo jo noras rizikuoti savo pelningu darbu dėl AI pokalbių roboto. Jei dirbtinis intelektas gali priversti žmones rizikuoti savo darbu, ką dar jis galėtų paskatinti juos daryti?
Politinėje kovoje už protus ir širdis intymumas yra veiksmingiausias ginklas, o dirbtinis intelektas ką tik įgijo galimybę masiškai užmegzti intymius santykius su milijonais žmonių. Visi žinome, kad per pastarąjį dešimtmetį socialinė žiniasklaida tapo kovos lauku, kontroliuojant žmogaus dėmesį. Su naujos kartos dirbtiniu intelektu kovos frontas keičiasi nuo dėmesio prie intymumo. Kas atsitiks su žmonių visuomene ir žmogaus psichologija, kai dirbtinis intelektas kovos su dirbtiniu intelektu, siekdamas netikrų intymių santykių su mumis, kuriuos vėliau galima įtikinti balsuoti už konkrečius politikus arba pirkti tam tikrus produktus?
Net ir nesukuriant „netikro intymumo“, nauji AI įrankiai turėtų didžiulę įtaką mūsų nuomonei ir pasaulėžiūrai. Žmonės gali pasinaudoti vienu AI patarėju, kaip vieno langelio, viską žinančiu orakulu. Nenuostabu, kad „Google“ išsigando. Kam vargti ieškoti, kai galiu tiesiog paklausti orakulo? Naujienų ir reklamos pramonė taip pat turėtų išsigąsti. Kam skaityti laikraštį, kai galiu tiesiog paprašyti orakulo pasakyti man paskutines naujienas? Ir koks reklamos tikslas, kai galiu tiesiog paprašyti orakulo pasakyti, ką pirkti?
Ir net šie scenarijai iš tikrųjų neatspindi bendro vaizdo. Tai, apie ką mes kalbame, gali būti žmonijos istorijos pabaiga. Ne istorijos pabaiga, tik jos dalies, kurioje dominuoja žmogus, pabaiga. Istorija yra biologijos ir kultūros sąveika; tarp mūsų biologinių poreikių ir troškimų tokiems dalykams, kaip maistas ir seksas, ir mūsų kultūrinių kūrinių, tokių, kaip religijos ir įstatymai. Istorija yra procesas, per kurį įstatymai ir religijos formuoja maistą ir seksą.
Kas nutiks istorijos eigai, kai AI perims kultūrą ir pradės kurti istorijas, melodijas, įstatymus ir religijas? Ankstesnės priemonės, tokios, kaip spausdinimo mašina ir radijas, padėjo skleisti kultūrines žmonių idėjas, tačiau jos niekada nekūrė naujų savo kultūrinių idėjų. AI iš esmės skiriasi. AI gali sukurti visiškai naujas idėjas, visiškai naują kultūrą.
Iš pradžių dirbtinis intelektas, tikriausiai, imituos žmogaus prototipus, kurių buvo mokomasi dar jo kūdikystėje. Tačiau su kiekvienais metais dirbtinio intelekto kultūra drąsiai žengs ten, kur dar nebuvo ėjęs joks žmogus. Jau tūkstantmečius žmonės gyveno kitų žmonių svajonėse. Per ateinančius dešimtmečius galime gyventi svetimo intelekto svajonėse.
AI baimė žmoniją persekiojo tik pastaruosius kelis dešimtmečius. Tačiau tūkstančius metų žmones persekiojo daug gilesnė baimė. Mes visada vertinome pasakojimų ir vaizdų galią manipuliuoti mūsų protu ir kurti iliuzijas. Todėl nuo seniausių laikų žmonės bijojo būti įstrigę iliuzijų pasaulyje.
XVII amžiuje René Descartes'as baiminosi, kad, galbūt, piktavalis demonas įstrigdys jį iliuzijų pasaulyje, sukurdamas viską, ką jis matė ir girdėjo. Senovės Graikijoje Platonas papasakojo garsiąją urvo alegoriją, kurioje grupė žmonių visą gyvenimą yra prirakinti grandinėmis oloje ir atsisukę į tuščią sieną. Ekranas. Tame ekrane jie mato projektuojamus įvairius šešėlius. Kaliniai ten matomas iliuzijas sumaišo su tikrove.
Senovės Indijoje budistų ir induistų išminčiai atkreipė dėmesį į tai, kad visi žmonės gyveno įsprausti į Maya – iliuzijų pasaulį. Tai, ką įprastai laikome tikrove, dažnai tėra prasimanymai mūsų mintyse. Žmonės gali kariauti ištisus karus, žudydami kitus ir patys nori būti nužudyti, nes tiki viena ar kita iliuzija.
Dirbtinio intelekto revoliucija atveda mus akis į akį su Dekarto demonu, Platono urvu ir Maya. Jei nebūsime atsargūs, galime būti įstrigę už iliuzijų uždangos, kurios negalėtume nuplėšti ar net suvokti, kad ji yra.
Žinoma, naujoji AI galia gali būti panaudota ir geriems tikslams. Aš nesigilinsiu į tai, nes žmonės, kurie kuria AI, apie tai kalba pakankamai. Tokių istorikų ir filosofų, kaip aš, darbas yra nurodyti pavojus. Tačiau, žinoma, AI gali mums padėti daugybe būdų – nuo naujų vėžio gydymo būdų iki ekologinės krizės sprendimų. Kyla klausimas, kaip užtikrinti, kad nauji AI įrankiai būtų naudojami geram, o ne blogam gydymui. Norėdami tai padaryti, pirmiausia turime įvertinti tikrąsias šių įrankių galimybes.
Nuo 1945 m. žinome, kad branduolinės technologijos gali generuoti pigią energiją žmonių labui, bet taip pat gali fiziškai sunaikinti žmonių civilizaciją. Todėl mes pertvarkėme visą tarptautinę tvarką, siekdami apsaugoti žmoniją ir užtikrinti, kad branduolinės technologijos būtų naudojamos pirmiausia gerovei. Dabar turime grumtis su nauju masinio naikinimo ginklu, kuris gali sunaikinti mūsų psichinį ir socialinį pasaulį.
Vis dar galime reguliuoti naujus AI įrankius, bet turime veikti greitai. Nors branduoliniai ginklai negali išrasti galingesnių branduolinių ginklų, AI gali padaryti eksponentiškai galingesnį AI. Pirmas esminis žingsnis – reikalauti griežtų saugos patikrinimų, prieš išleidžiant galingus AI įrankius viešai. Kaip farmacijos įmonė negali išleisti naujų vaistų, prieš išbandydama trumpalaikį ir ilgalaikį šalutinį poveikį, taip ir technologijų įmonės neturėtų išleisti naujų dirbtinio intelekto įrankių, kol jie nėra saugūs. Mums reikia Maisto ir vaistų administracijos atitikmens naujoms technologijoms, ir mums to reikia vakar.
Ar sulėtėjus viešam AI diegimui demokratijos neatsiliks nuo negailestingesnių autoritarinių režimų? Kaip tik priešingai. Nereguliuojamas AI diegimas sukurtų socialinį chaosą, kuris būtų naudingas autokratams ir sužlugdytų demokratijas. Demokratija yra pokalbis, o pokalbiai priklauso nuo kalbos. Kai dirbtinis intelektas įsilaužia į kalbą, jis gali sunaikinti mūsų gebėjimą turėti prasmingus pokalbius ir taip sugriauti demokratiją.
Mes ką tik susidūrėme su svetimu intelektu, čia, Žemėje. Mes daug apie tai nežinome, išskyrus tai, kad tai gali sunaikinti mūsų civilizaciją. Turėtume sustabdyti neatsakingą dirbtinio intelekto priemonių diegimą viešojoje erdvėje ir reguliuoti AI prieš tai, kai jis reguliuos mus. Ir pirmasis reglamentas, kurį siūlyčiau, yra įpareigoti AI atskleisti, kad tai yra AI. Jei aš kalbuosi su kuo nors, ir negaliu pasakyti, ar tai žmogus, ar dirbtinis intelektas – tai demokratijos pabaiga.
Šį tekstą sukūrė žmogus.
Ar tikrai?
Yuval Noah Harari – istorikas, filosofas, „Sapiens“, „Homo Deus“ ir vaikams skirtų serialų „Nesustabdomi mes“ autorius. Jis yra Jeruzalės hebrajų universiteto istorijos katedros dėstytojas ir socialinio poveikio įmonės „Sapienship“ įkūrėjas." [1]
1. "Yuval Noah Harari argues that AI has hacked the operating system of human civilisation." The Economist, 6 May 2023, p. NA.