"Neseniai valgydamas vienas pažįstamas pasakė kažką sulaikančio. Kalbėjome, kaip daro laimingi pesimistai, apie tai, kur XXI amžius paklydo. Jau beveik ketvirtį amžiaus, jis jau įgavo tam tikrą bendrą pavidalą ir charakterį, ir aš nesu tikra, kad matau tame daug gerų dalykų, išskyrus medicinos ir mokslo pažangą. Jis teigė, kad kuria teoriją: XXI amžius iki šiol buvo atvirkštinis Y2K.
Iki 1999-12-31 pasaulį apėmė baimė, kad visi jo galingi kompiuteriai išprotės, nes 23:59:59 spustelėjo iki 0:00:00. Jie negalėtų perkelti į 2000. Visa sistema turėtų žagsėjimą ir šviesos užges. Taip neatsitiko. Gynimo priemonės buvo išrastos ir, galbūt, išgelbėjo dieną.
Būtent nuo 2000 metų, anot pažįstamo, pasaulio kompiuteriai sukėlė chaosą socialinėje, kultūrinėje ir politinėje srityse. Nedaug žmonių nerimavo, žiūrėjo ar ėmėsi atsakomųjų veiksmų. Galų gale, 2000 pasirodė gerai, todėl, tikriausiai, bus taip pat. Mes priėmėme visą dumblą – algoritmus, skirtus mus suskaldyti, perduoti vaikams destruktyvias žinutes, pritraukti juos prie, narkotinį poveikį turinčio, produkto – pasyviai, be pavojaus suvokimo.
Dirbtinį intelektą (AI) priimame taip pat, pasyviai ir tikimės, kad jo pažadėta nauda (vėl medicinoje ir moksle) nusvers rimtą ir akivaizdžią grėsmę. Ši grėsmė yra viena, apie kurią Henry Kissingeris įspėjo šiuose puslapiuose šių metų pradžioje. „Kas nutiks, jei šios technologijos nepavyks visiškai suvaldyti? – paklausė jis ir jo bendraautoriai. „O jei AI atsiras piktumo elementas? Kissingeris buvo puikus diplomatas ir istorikas, tačiau turėjo menininko vaizduotę. AI ir branduolinio karo galimybė buvo dvi pagrindinės pastarųjų metų priežastys. Jis nerimavo, kur veda visa šita šiuolaikinė gudrybė.
Rašiau, kad puiki epochos ikona, Apple logotipas – obuolys su nukąstu kąsniu – man atrodė sąmoninga ar nesąmoninga išraiška, kurią suprato tie, kurie dalyvauja mūsų šiuolaikinio technologijų pasaulio kūrime, kad jų pastangos nuvedė mus atgal į Edeną, į lemiamą akimirką, kai Ieva ir Adomas valgė uždraustą vaisių. Gyvatė pasakė Ievai, kad jie taps visažiniais, kaip Dievas, iš tikrųjų lygūs Dievui, todėl Dievas nenorėjo, kad jie tai turėtų. Ji įkando, o žmonės buvo ištremti iš malonaus sodo ir įmesti į šiurkštų žiaurų pasaulį.
Manau, kad tie, kurie kuria, skatina ir finansuoja AI, galbūt, nesąmoningai nori būti Dievu ir tam tikru lygmeniu galvoja, kad jie yra Dievas.
Daugelis įspėjo apie žalingas AI galimybes, tačiau apie tai svarbių minčių yra naujausiame New Yorker kūrinyje apie Geoffrey Hintoną, garsiai vadinamą AI krikštatėviu. Tai puikiai parašytas ir apgalvotas Joshua Rothman profilis.
75 metų G. Hintonas, Turingo premijos laureatas, 30 metų dirbo kompiuterių mokslų profesoriumi Toronto universitete. Jis studijavo neuroninius tinklus. Vėliau jis įkūrė nedidelę tyrimų įmonę, kurią nupirko „Google“, ir dirbo joje iki šių metų pradžios. Netrukus iš jos išvykęs, jis pradėjo įspėti apie „egzistencinę grėsmę“, kurią kelia AI. Kuo daugiau jis naudojosi ChatGPT, tuo labiau jis pasidarė neramesnis. Jis nerimauja, kad dirbtinio intelekto sistemos gali pradėti galvoti pačios; jie gali bandyti perimti žmonių civilizaciją arba ją panaikinti.
P. Hintonas pasakė J. Rothmanui, kad kartą, savo tyrimų pradžioje, jis pamatė „nusivylusį AI“. Tai buvo kompiuteris, prijungtas prie dviejų televizijos kamerų ir roboto rankos. Kompiuteriui buvo liepta surinkti keletą blokų, išdėliotų ant stalo. Jis bandė, bet žinojo tik, kaip atpažinti atskirus blokus. Krūva jų paliko jį supainiotą. „Jis šiek tiek atsitraukė ir susitrenkė“, – trenkė juos aplinkui. „Jis negalėjo susitvarkyti su tuo, kas vyksta, todėl smarkiai tai pakeitė“.
Hintonas sako, kad nesigaili dėl savo darbo, tačiau baiminasi, ką galingi žmonės padarys su AI. Kai kurie gali sukurti „autonominį mirtiną ginklą“ – savireguliuojančią žudymo mašiną. M. Hintonas mano, kad tokie ginklai turėtų būti uždrausti. Tačiau net ir gerybinės autonominės sistemos gali būti destruktyvios.
Jis mano, kad dirbtinį intelektą galima spręsti vienu iš dviejų požiūrių – neigimo arba stoicizmo. Pirmą kartą išgirdę apie jo potencialą sunaikinti, žmonės sako, kad neverta, turime tai sustabdyti. Tačiau sustabdyti tai yra fantazija. „Turime pagalvoti, kaip padaryti, kad tai nebūtų taip baisu žmonijai, kaip galėtų būti?"
Kodėl, klausia ponas Rothmanas, tiesiog neatjunkite jo? AI reikalingi milžiniški serveriai ir duomenų centrai, kurie visi veikia elektra.
Man buvo malonu pamatyti šį klausimą, nes man taip pat buvo įdomu.
Hintonas sakė, kad verta paklausti, ar mums nebūtų geriau be AI. "Bet tai neįvyks. Dėl to, kokia yra visuomenė. Ir dėl konkurencijos tarp skirtingų tautų." Jei Jungtinės Tautos veiktų, galbūt, tai galėtų sustabdyti. Tačiau Kinija nesiruošia.
Man pasirodė, kad šis argumentas, kurį AI entuziastai visada pateikia, yra labiau loginis pagrindas, negu mintis. Jei Kinija imtųsi medžioti vaikus dėl sporto, ar mes tai darytume? (Kažkas, kas skaitote tai Silicio slėnyje, pasakykite: "ne".)
Mane labiausiai neramina tai, kad jei Amerika paspartins dirbtinį intelektą, žmonijos likimą atiduos į Silicio slėnio vyrų ir moterų rankas, kurie išrado internetą tokį, koks jis yra, įskaitant visą jo dumblą. Ir kažkas su jais negerai. Jie yra kažkokie naujos rūšies žmonės, puikūs giliai, bet siaurai, kalbantys apie ryšį ir užuojautą, bet šalti iš esmės. Jie atrodo atskirti nuo didžiųjų praėjusių tūkstantmečių tikėjimų, nuo tradicinių moralinių ar etinių sistemų ar gyvenimo prielaidų. C.S.Lewisas kartą pasakė žodžius, kad imperijos kyla ir žlunga, kultūros ateina ir išeina, bet padavėjas, kuris šįryt išpylė kavą į puodelį, yra nemirtingas, nes jo siela nemirtinga. Tokia mintis būtų pažįstama daugeliui skaitytojų, tačiau Silicio slėnis mirksėtų iš sutrikimo. Jie modernūs ir ne tik. Šis, siekdamas ilgaamžiškumo, įsilieja 20 metų žmonių kraują; kitas apima ekstremalų badavimą. Šią vasarą žurnalas pranešė apie Silicio slėnio vadovus: „Įprastas narkotikų vartojimas iš veiklos po darbo valandų visiškai perėjo į įmonės kultūrą“. Jie psichodelinius vaistus – ketaminą, haliucinogeninius grybus – vertina kaip „vartus į verslo proveržį“.
Taip, pasaulio likimą būtinai atiduokite į jų rankas. Jie nėra ypač pastovūs. „OpenAI“ atstovas Samas Altmanas (38 m.), judėjimo veidas, praėjusią savaitę buvo garsiai atleistas iš darbo, o po kelių dienų vėl priimtas į darbą, ir atrodo, kad niekas tiksliai nežino, apie ką tai buvo. Jūs manote, kad mes turime teisę žinoti. Buvo istorija, kurią lėmė vidinis pranešimas, įspėjantis valdybą apie pavojingą naują AI plėtrą. Didelis investuotojas sakė, kad tai netiesa, todėl aš jaučiuosi daug geriau.
Mes atiduodame žmonijos likimą į žmonių, kurie negali jo išlaikyti, rankas. Turime sutelkti dėmesį taip, lyg tai būtų Y2K, tik realu.“ [1]
1. Declarations: AI Is the Y2K Crisis, Only This Time It's Real. Noonan, Peggy. Wall Street Journal, Eastern edition; New York, N.Y.. 02 Dec 2023: A.15.
Komentarų nėra:
Rašyti komentarą