„Per pastaruosius kelerius metus socialinis judėjimas, žinomas, kaip efektyvus altruizmas, suskaldė dirbtinio intelekto (AI) įmonių darbuotojus ir vadovus visame Silicio slėnyje, supriešindamas tikinčiuosius su netikinčiaisiais.
OpenAI sprogimas parodė jo įtaką, o triumfuojantis generalinio direktoriaus Samo Altmano sugrįžimas atskleidė griežtas ribas ir baigė siaubingus metus supriešinančios filosofijos atžvilgiu.
Praėjus vos kelioms savaitėms po to, kai žymiausias veiksmingo altruizmo rėmėjas Samas Bankmanas-Friedas buvo nuteistas už sukčiavimą, OpenAI žlugimas buvo dar vienas smūgis judėjimui, kuris tiki, kad kruopščiai sukurtos dirbtinio intelekto sistemos, persmelktos teisingų žmogiškųjų vertybių, duos teigiamą poveikį, aukso amžių – ir to nepadarymas gali turėti apokaliptinių pasekmių.
„OpenAI“, prieš metus išleidusi „ChatGPT“, iš dalies buvo suformuota, remiantis efektyvaus altruizmo principais – plačia socialine ir moraline filosofija, kuri daro įtaką AI tyrimų bendruomenei Silicio slėnyje ir už jos ribų. Kai kurie pasekėjai gyvena privačiuose grupių namuose, kur gali kurti idėjas, įsitraukti į filosofines diskusijas ir atsipalaiduoti, žaisdami šachmatų variantą, vadinamą Bughouse (durnių namai, angl.). Judėjimas apima žmonių, atsidavusių gyvūnų teisėms ir klimato kaitai, idėjų semiasi iš racionalistų filosofų, matematikų ir ateities prognozuotojų.
Turėdami šimtus milijonų dolerių, technologijų titanų paaukotų, efektyvūs altruistai mano, kad staigus veržimasis į dirbtinį intelektą gali sunaikinti žmoniją. Kuriant dirbtinį intelektą, jie teikia pirmenybę saugumui, o ne greičiui. Judėjimas, į kurį įeina žmonės, prisidėję prie generatyvinio AI bumo formavimo, yra izoliuotas ir daugialypis, tačiau tiki, kad pasaulyje darytina gera – net jei tai reiškia tiesiog uždirbti daug pinigų ir atiduoti juos vertingiems gavėjams.
Altmanas, kurį valdyba atleido praėjusį penktadienį, susikirto su bendrovės vyriausiuoju mokslininku ir valdybos nariu Ilja Sutskeveriu dėl dirbtinio intelekto saugos problemų, kurios atspindėjo susirūpinimą, išaugusį veiksmingo altruizmo pagrindu, teigia su ginču susipažinę žmonės.
Kartu su Sutskeveriu, kuris vadovavo perversmui, balsavo valdybos nariai Tasha McCauley, technologijų vykdomoji ir efektyvaus altruizmo labdaros organizacijos „Effective Ventures“ valdybos narė, ir Helen Toner, Džordžtauno universiteto Saugumo ir naujų technologijų centro, kurį remia filantropija, skirta efektyvaus altruizmo priežastims. Jie sudarė tris iš keturių balsų, reikalingų, norint nušalinti Altmaną, sakė su šiuo klausimu susipažinę žmonės. Valdyba teigė, kad jis nesugebėjo būti „nuosekliai atviras“.
Bendrovė trečiadienį paskelbė, kad Altmanas grįš į generalinio direktoriaus pareigas, o Sutskeveris, McCauley ir Toneris bus pakeisti. Emmettas Shearas, technologijų vadovas, pasisakantis už AI plėtros sulėtėjimą ir įdarbintas laikinuoju generaliniu direktoriumi, pasitraukė.
Altmano atleidimas sukėlė įmonės maištą, kuris kėlė grėsmę OpenAI ateičiai. Daugiau nei 700 iš maždaug 770 darbuotojų ragino Altmaną grąžinti ir grasino peršokti į „Microsoft“, didžiausią OpenAI investuotoją. Sutskeveris pirmadienį pareiškė apgailestaujantis dėl jo balsavimo.
„OpenAI valdybos narių „veiksmingo altruizmo“ religija ir netinkamas jos taikymas galėjo pakreipti pasaulio kelią tolyn nuo didžiulės dirbtinio intelekto naudos“, – rašė rizikos kapitalistas ir OpenAI investuotojas Vinodas Khosla savo nuomonėje „The Information“.
Šį pavasarį Altmanas apkeliavo pasaulį, perspėdamas, kad dirbtinis intelektas gali sukelti rimtą žalą. Jis taip pat pavadino veiksmingą altruizmą „neįtikėtinai ydingu judėjimu“, kuris parodė „labai keistą atsirandantį elgesį“.
Efektyvaus altruizmo bendruomenė išleido didžiules sumas, propaguodama idėją, kad AI kelia egzistencinę riziką. Tačiau būtent „ChatGPT“ išleidimas atkreipė didelį dėmesį į tai, kaip greitai AI pažengė į priekį, sakė Scottas Aaronsonas, kompiuterių mokslininkas iš Teksaso universiteto Ostine, dirbantis su AI sauga OpenAI. Pasak jo, stebinančios pokalbių roboto galimybės kėlė nerimą žmonėms, kurie ir anksčiau nerimavo.
Judėjimas išplito tarp technologijų pramonės mokslininkų armijų, investuotojų ir vadovų, kurie lenktyniauja, kurdami dirbtinio intelekto sistemas, imituojančias ir galiausiai pranokstančias žmogaus gebėjimus. AI gali atnešti pasaulinę gerovę, bet pirmiausia reikia užkirsti kelią tam, kad jis nesukeltų sumaišties, teigia judėjimo dalyviai.
„Google“ ir kitos įmonės bando būti pirmosios, kurios įdiegs dirbtinio intelekto sistemas, kurios atitiktų žmogaus smegenis. Jie iš esmės mano, kad dirbtinis intelektas yra įrankis, leidžiantis pagerinti darbą ir ekonomiką, gaunant didelį pelną.
Tarp garsių judėjimo rėmėjų yra vienas iš „Facebook“ įkūrėjų Dustinas Moskovitzas ir „Skype“ įkūrėjas milijardierius Jannas Tallinn, kurie pažadėjo milijardus dolerių efektyvaus altruizmo tyrimams. Prieš kritimą Bankmanas-Friedas taip pat pažadėjo milijardus. Elonas Muskas veiksmingo altruizmo įkūrėjo Williamo MacAskillo raštus pavadino „artimais mano filosofijos atitikmenimis“.
Marcas Andreessenas, vienas iš rizikos kapitalo įmonės Andreessen Horowitz įkūrėjų ir startuolių inkubatoriaus „Y Combinator“ vadovas Garry Tanas kritikavo judėjimą. Tanas tai pavadino nereikšminga „dorybės signalo filosofija“, kurios reikėtų atsisakyti, siekiant „išspręsti tikras problemas, kurias kuria žmonių gausa“.
Neatidėliotina efektyvių altruistų baimė, kad dirbtinis intelektas sunaikins žmoniją, „užtemdo jų gebėjimą priimti kritiką iš už kultūros ribų“, – sakė tyrėjas Shazeda Ahmedas, vadovavęs Prinstono universiteto grupei, kuri tyrinėjo šį judėjimą. "Tai niekada nėra naudinga jokiai bendruomenei, bandančiai išspręsti bet kokią rimtą problemą."
„OpenAI“ neramumai atskleidžia Silicio slėnio užkulisinį konkursą tarp žmonių, kurie tiki rinkomis, ir efektyvių altruistų, kurie tiki, kad etika, protas, matematika ir tiksliai suderintos mašinos turėtų lemti ateitį.
Šis judėjimo aprašymas paremtas interviu su daugiau, nei 50, vadovų, tyrėjų, investuotojų, esamų ir buvusių efektyvių altruistų, taip pat viešais pokalbiais, akademiniais darbais ir kita publikuota efektyvaus altruizmo bendruomenės medžiaga.
Vieną praėjusių metų rudens dieną tūkstančiai OpenAI logotipo formos sąvaržėlių atkeliavo į bendrovės biurą San Franciske. Atrodė, kad niekas nežinojo, iš kur jos kilę, bet visi žinojo, ką jos reiškia.
Popieriaus segtukas tapo AI bendruomenėje pražūties simboliu. Idėja yra ta, kad dirbtinio intelekto sistema, liepta sukurti kuo daugiau sąvaržėlių, gali sunaikinti visą žmoniją, siekdama maksimaliai padidinti gamybą.
Išdaigą padarė vienas iš kaimyninių mieste konkurentų Anthropic, kuris pats kilo iš nesutarimų dėl dirbtinio intelekto saugumo, darbuotojas.
Dario Amodei, geriausias OpenAI tyrinėtojas, atsiskyrė nuo įmonės, o 2021 m. pradžioje prisijungė keli įmonės vadovai. Jie įkūrė Anthropic – dirbtinio intelekto tyrimų įmonę, draugišką efektyviems altruistams.
Bankman-Fried buvo vienas didžiausių „Anthropic“ investuotojų ir palaikė bendrovės misiją, kuri buvo palankesnė dirbtinio intelekto saugumui, o ne augimui ir pelnui.
Futuristinių dirbtinio intelekto sistemų baimė nesutrukdė net tų, kurie nerimauja dėl saugumo, bandyti sukurti dirbtinį bendrąjį intelektą arba AGI – pažangias sistemas, atitinkančias žmogaus smegenis arba pranokstančias jas.
Per OpenAI šventinį vakarėlį praėjusį gruodį Sutskeveris kreipėsi į šimtus darbuotojų ir jų svečių Kalifornijos mokslų akademijoje San Franciske, netoli nuo muziejaus iškamšytų zebrų, antilopių ir liūtų dioramų.
„Mūsų tikslas – sukurti žmoniją mylintį AGI“, – sakė vyriausiasis bendrovės mokslininkas Sutskeveris.
„Pajusk AGI“, – pasakė jis. "Pakartokite po manęs. Pajusk AGI."
Veiksmingi altruistai teigia galintys sukurti saugesnes AI sistemas, nes yra pasirengę investuoti į tai, ką jie vadina suderinimu, kad užtikrinti, jog darbuotojai galėtų kontroliuoti jų kuriamas technologijas ir užtikrinti, kad jos atitiktų tam tikras žmogiškąsias vertybes. Iki šiol nė viena dirbtinio intelekto įmonė nepasakė, kokios tos vertybės turėtų būti.
„OpenAI“ neseniai paskelbė, kad per ateinančius ketverius metus penktadalį savo skaičiavimo išteklių skirs tam, ką bendrovė pavadino „suderinimu“, kuriai vadovauja Sutskever.
Nusivylę darbuotojai teigė, kad dėl dėmesio AGI ir derinimui liko mažiau išteklių, sprendžiant neatidėliotinas problemas, tokias, kaip kūrėjų piktnaudžiavimas, sukčiavimas ir nedoras AI naudojimas, galintis turėti įtakos 2024 m. rinkimams. Jie sako, kad išteklių skirtumai atspindi veiksmingo altruizmo įtaką.
Nors „OpenAI“ kuria automatizuotus įrankius, kad sugautų piktnaudžiavimą, pasak žmonių, susipažinusių su įmone, šiam darbui ji nesamdė daug tyrėjų. Jame taip pat nedaug darbuotojų, stebinčių jos kūrėjų platformą, kuria naudojasi daugiau, nei du milijonai, tyrėjų, įmonių ir kitų kūrėjų, sakė žmonės.
Bendrovė neseniai pasamdė žmones, kad apsvarstyti OpenAI technologijos vaidmenį 2024 m. rinkimuose. Ekspertai perspėja, kad dirbtinio intelekto sukurti vaizdai gali suklaidinti rinkėjus.
„Esame vertybėmis besivadovaujanti įmonė, pasiryžusi kurti saugų, naudingą AGI, o efektyvus altruizmas nėra viena iš jų“, – sakė OpenAI. „Turime komandas, kurios tiria trumpalaikes rizikas, tokias kaip kibernetinis saugumas, ekonominis poveikis ir sistemų suderinimas su žmogiškosiomis vertybėmis."
Pasak esamų ir buvusių darbuotojų, šiais metais „Google“ sujungus du dirbtinio intelekto padalinius – „DeepMind“ ir „Google Brain“ – atsirado nesutarimų dėl efektyvaus altruizmo principų taikymo.
„DeepMind“ įkūrėjas Demisas Hassabis, ilgą laiką samdęs judėjimui priklausančius žmones, yra atsakingas už jungtinius padalinius.
„Google Brain“ darbuotojai teigia, kad iš esmės ignoravo veiksmingą altruizmą, o nagrinėja praktinius dirbtinio intelekto panaudojimo būdus ir galimą piktnaudžiavimą dirbtinio intelekto įrankiais, teigia su šiuo klausimu susipažinę žmonės.
Vienas buvęs darbuotojas susijungimą su „DeepMind“ palygino su priverstine santuoka, kuri „daugelį žmonių privertė nerimauti dėl Brain“.
21 metų dirbtinio intelekto saugos tyrinėtojas Arjunas Panicksery gyvena su kitais efektyviais altruistais Andromedos name, penkių miegamųjų trijų aukštų namuose, esančiuose keli kvartalai nuo Kalifornijos universiteto Berklio miestelyje. Jie rengia vakarienes, o lankytojų kartais prašoma atskleisti savo P (doom) – AI katastrofos tikimybės įvertinimus.
Berklis, Kalifornija, yra veiksmingo altruizmo epicentras Bay Area, sakė Panicssery. Kai kurie namai skiria „ne-AI“ zonas, kad žmonės galėtų pabėgti nuo temos.
„Open Philanthropy“ svetainėje teigiama, kad tuometinis „Open Philanthropy“ generalinis direktorius Holdenas Karnofsky kažkada gyveno su dviem vyresniais „OpenAI“ vadovais. Nuo 2015 m. „Open Philanthropy“, ne pelno siekianti veiksmingo altruizmo organizacija, skyrė 327 mln. dolerių su dirbtiniu intelektu susijusioms priežastims, įskaitant 30 mln. dolerių „OpenAI“, rodo jos svetainė.
Kai Karnofsky buvo susižadėjęs su Daniela Amodei, dabar „Anthropic“ prezidente, jie buvo Amodei brolio Dario, dabar „Anthropic“ generalinio direktoriaus, kambariokai.
2017 m. rugpjūtį Karnofsky ir Daniela Amodei susituokė per veiksmingo altruizmo temos ceremoniją.
Vestuvių svečiai buvo raginami paaukoti Karnofsky efektyvaus altruizmo labdaros organizacijos „GiveWell“ rekomenduojamiems tikslams ir iš anksto perskaityti 457 puslapių vokiečių filosofo Jurgeno Habermaso knygą.
„Tai būtinas kontekstas norint suprasti mūsų vestuves“, – renginio svetainėje rašė pora.
Efektyvaus altruizmo judėjimas atsirado maždaug prieš du dešimtmečius, kai grupė Oksfordo universiteto filosofų ir tų, kuriuos jie įvardijo, kaip „super kietus geradarius“, ieškojo rinkodaros termino, kuriuo reklamuotų jų utilitarinę filantropijos versiją.
Pasekėjai tiki, kad su jų laiku jie turi daryti kuo daugiau gero. Jie gali uždirbti kuo daugiau pinigų, tada didžiąją jų dalį atiduoti, kad užpultų problemas, kurių vyriausybė ir tradicinės ne pelno organizacijos ignoruoja arba kurių neišsprendžia. Jie sutelkia dėmesį į idėjas, kurios daro didžiausią poveikį arba padeda didžiausiam žmonių skaičiui už išleistą dolerį.
Bankmanas-Friedas, kuris šį mėnesį buvo nuteistas, teigė, kad savo turtą kuria tik tam, kad atiduotų didžiąją jo dalį.
Pradedant maždaug 2014 m., efektyvūs altruistai susidūrė su pažangios AI sistemos keliama rizika, kad žmogus susinaikins. Šis apreiškimas sutapo su švedų filosofo Nicko Bostromo knygos „Superintelektas“ publikacija, kuri išpopuliarino sąvaržėlę, kaip AI pavojaus simbolį.
Nuo to laiko veiksmingi altruistai sukūrė internetinių bendruomenių tinklus, kur keičiasi darbo patarimais, ginčijasi dėl filosofijos ir siūlo prognozes. Susijusios ne pelno organizacijos ir studentų grupės organizuoja vietinius susitikimus ir konferencijas, kurių tikslas – pasitelkti protą, ekonomiką ir matematiką, sprendžiant didžiausias pasaulio problemas.
Visame pasaulyje vykstantys susibūrimai ir renginiai dažnai būna uždari pašaliniams asmenims. Neseniai Niujorke vykusios efektyvaus altruizmo konferencijos organizatoriai atmetė „Wall Street Journal“ žurnalisto prašymą dalyvauti, elektroniniame laiške teigdami, kad yra „aukšta priėmimo kartelė“.
El. laiške buvo pasiūlyta, kad reporteriui būtų „naudinga praleisti daugiau laiko, bendraujant su veiksmingo altruizmo bendruomene.“" [1]
1. How a
Philosophy Split Silicon Valley --- Debate over social movement called
effective altruism fueled OpenAI blowup. McMillan, Robert; Seetharaman,
Deepa. Wall Street Journal, Eastern edition; New York, N.Y.. 24 Nov 2023: A.1.
Komentarų nėra:
Rašyti komentarą