"SAN FRANCISCO. Praėjusiais metais Samas Altmanas atvedė OpenAI prie technologijų pramonės suaugusiųjų stalo. Dėl itin populiaraus ChatGPT pokalbių roboto San Francisko startuolis buvo dirbtinio intelekto bumo centre, o Altmanas, OpenAI generalinis direktorius, tapo vienu iš labiausiai atpažįstamų žmonių technologijų srityje.
Tačiau ši sėkmė padidino įtampą įmonės viduje. Ilja Sutskeveris, gerbiamas dirbtinio intelekto tyrinėtojas, kartu su Altmanu ir dar devyniais žmonėmis įkūręs OpenAI, vis labiau nerimavo, kad OpenAI technologija gali būti pavojinga ir kad Altmanas nekreipia pakankamai dėmesio į šią riziką, pasak trijų žmonių, susipažinusių su jo mąstymu. Sutskeveris, bendrovės direktorių valdybos narys, taip pat prieštaravo, jo nuomone, sumažėjusiam vaidmeniui įmonėje, anot dviejų žmonių.
Šis konfliktas tarp greito augimo ir dirbtinio intelekto saugos iškilo penktadienio popietę, kai Altmaną iš darbo išstūmė keturi iš šešių OpenAI valdybos narių, vadovaujami Sutskeverio. Šis žingsnis sukrėtė „OpenAI“ darbuotojus ir likusią technologijų pramonės dalį, įskaitant „Microsoft“, kuri į įmonę investavo 13 mlrd. dolerių. Kai kurie pramonės atstovai teigė, kad skilimas buvo toks pat reikšmingas kaip tada, kai Steve'as Jobsas buvo priverstas pasitraukti iš „Apple“ 1985 m.
Tačiau šeštadienį Altmanas diskutavo su OpenAI valdyba dėl grįžimo į įmonę.
38 metų Altmano nušalinimas penktadienį atkreipė dėmesį į ilgalaikę atotrūkį AI bendruomenėje tarp žmonių, manančių, kad dirbtinis intelektas yra didžiausia verslo galimybė vienos kartos gyvenime, ir kitų, kurie nerimauja, kad judėjimas per greitai gali būti pavojingas. Ir balsavimas už jo pašalinimą parodė, kaip filosofinis judėjimas, skirtas AI baimei, tapo neišvengiama technologijų kultūros dalimi.
Nuo tada, kai ChatGPT buvo išleista beveik prieš metus, dirbtinis intelektas patraukė visuomenės vaizduotę, tikintis, kad jį bus galima panaudoti svarbiems darbams, pavyzdžiui, vaistų tyrimams arba padėti mokyti vaikus.
Tačiau kai kurie dirbtinio intelekto mokslininkai ir politiniai lyderiai nerimauja dėl jo keliamų pavojų, pvz., dėl automatizuotų darbo vietų arba autonominių karo ginklų, kurių žmogus nekontroliuoja.
Baimė, kad dirbtinio intelekto tyrėjai kuria pavojingą dalyką, buvo pagrindinė OpenAI kultūros dalis. Jos įkūrėjai tikėjo, kad, supratę šią riziką, jie buvo tinkami žmonės tą dirbtinį intelektą kurti.
„OpenAI“ valdyba nepateikė konkrečios priežasties, kodėl ji išstūmė Atmaną, išskyrus tai, kad dienoraščio įraše parašė, kad netiki, kad jis su jais bendrauja sąžiningai. „OpenAI“ darbuotojams šeštadienio rytą buvo pranešta, kad jo pašalinimas neturi nieko bendra su „neteisėtais veiksmais ar bet kuo, kas susiję su mūsų finansine, verslo, saugos ar saugumo / privatumo praktika“, teigiama pranešime, kurį peržiūrėjo „The New York Times“.
Gregas Brockmanas, kitas vienas iš įkūrėjų ir bendrovės prezidentas, penktadienio vakarą protestuodamas atsistatydino. Taip padarė OpenAI tyrimų direktorius. Šeštadienio rytą bendrovėje buvo chaosas, pasak pusšimčio esamų ir buvusių darbuotojų, o maždaug 700 jos darbuotojų sunkiai suprato, kodėl valdyba ėmėsi tokio žingsnio.
„Esu tikras, kad jūs visi jaučiate sumišimą, liūdesį ir, galbūt, tam tikrą baimę“, – „OpenAI“ darbuotojams sakė Bradas Lightcapas, „OpenAI“ operacijų vadovas. „Esame visiškai susitelkę į tai, kaip tai išspręsti, siekti sprendimo ir aiškumo ir grįžti į darbą."
Altmano buvo paprašyta prisijungti prie valdybos posėdžio per vaizdo įrašą penktadienio vidurdienį San Franciske. Ten 37 metų Sutskeveris perskaitė scenarijų, kuris labai panašus į tinklaraščio įrašą, kurį bendrovė paskelbė po kelių minučių, pasak su tuo susipažinusio asmens. Pranešime teigiama, kad Altmanas „nebuvo nuolat atviras, bendraudamas su valdyba, trukdydamas jai vykdyti jos pareigas“.
Tačiau sekančiomis valandomis „OpenAI“ darbuotojai ir kiti sutelkė dėmesį ne tik į tai, ką galėjo padaryti Altmanas, bet ir į tai, kaip San Francisko startuolis yra struktūrizuotas ir į ekstremalias nuomones apie AI keliamus pavojus, įtrauktus į įmonės darbą nuo tada, kai jis buvo sukurtas 2015 m.
Su Sutskeveriu ir Altmanu šeštadienį nepavyko susisiekti dėl komentarų.
Pastarosiomis savaitėmis Jakubas Pachockis, padėjęs prižiūrėti GPT-4, pagrindinę ChatGPT technologiją, buvo paaukštintas į bendrovės tyrimų direktoriaus darbą. Anksčiau užėmęs pareigas žemiau Sutskeverio, jis buvo pakeltas į pareigas šalia Sutskeverio, pasak dviejų žmonių, susipažinusių su šiuo klausimu.
Pachockis išėjo iš įmonės vėlai penktadienį, sakė žmonės, netrukus po Brockmano. Anksčiau tą dieną OpenAI pranešė, kad Brockmanas buvo pašalintas iš valdybos pirmininko pareigų ir atsiskaitys naujajai laikinajai generalinei direktorei Mirai Murati. Kiti Altmano sąjungininkai, įskaitant du vyresniuosius mokslininkus Szymoną Sidorą ir Aleksandrą Madry, taip pat paliko įmonę.
Brockmanas X, anksčiau žinomo, kaip Twitter, įraše sakė, kad nors jis buvo valdybos pirmininkas, jis nebuvo valdybos narių susitikime, kuriame Altmanas buvo nušalintas. Ten liko Sutskever ir dar trys valdybos nariai: Adamas D'Angelo, klausimų ir atsakymų svetainės Quora generalinis direktorius; Tasha McCauley, „Rand Corp.“ vyresnioji vadybos mokslininkė; ir Helen Toner, Džordžtauno universiteto Saugumo ir naujų technologijų centro strategijos ir pagrindinių mokslinių tyrimų stipendijų direktorė.
Šeštadienį su jais susisiekti nepavyko.
McCauley ir Toner palaiko ryšius su Racionalistų ir Efektyvių altruistų judėjimais – bendruomene, kuri yra labai susirūpinusi, kad AI vieną dieną gali sunaikinti žmoniją. Šiandieninė AI technologija negali sunaikinti žmonijos. Tačiau ši bendruomenė mano, kad technologijai augant vis galingesnei, iškils šių pavojų.
2021 m. tyrėjas Dario Amodei, kuris taip pat turi ryšių su šia bendruomene, ir maždaug 15 kitų „OpenAI“ darbuotojų paliko įmonę, kad sukurtų naują AI įmonę „Anthropic“.
Sutskeveris vis labiau atitiko tuos įsitikinimus. Gimęs Sovietų Sąjungoje, savo formavimosi metus praleido Izraelyje ir paauglystėje emigravo į Kanadą. Baigęs Toronto universiteto bakalauro studijas, jis padėjo sukurti AI technologijos, vadinamos neuroniniais tinklais, proveržį.
2015 m. Sutskeveris paliko darbą „Google“ ir padėjo įkurti OpenAI kartu su Altmanu, Brockmanu ir „Tesla“ generaliniu direktoriumi Elonu Musku. Jie sukūrė laboratoriją kaip ne pelno siekiančią įmonę, sakydami, kad, skirtingai nei „Google“ ir kitos bendrovės, ji nebus skatinama komercinių paskatų. Jie pažadėjo sukurti vadinamąjį dirbtinį bendrąjį intelektą arba AGI – mašiną, galinčią padaryti viską, ką gali smegenys.
2018 m. Altmanas „OpenAI“ pavertė pelno siekiančia bendrove ir iš „Microsoft“ susitarė dėl 1 mlrd. dolerių. Tokios didžiulės pinigų sumos yra būtinos, kuriant tokias technologijas, kaip GPT-4, kuri buvo išleista šiais metais. Nuo pradinės investicijos „Microsoft“ į bendrovę skyrė dar 12 mlrd. dolerių.
Įmonei vis dar vadovavo ne pelno siekianti valdyba. Investuotojai, tokie, kaip „Microsoft“, gauna pelną iš „OpenAI“, tačiau jų pelnas yra ribojamas. Visi pinigai, viršijantys viršutinę ribą, grąžinami atgal į ne pelno organizaciją.
Matydamas GPT-4 galią, Sutskeveris padėjo įmonėje sukurti naują Super Alignment komandą, kuri ištirtų būdus, kaip užtikrinti, kad būsimos technologijos versijos nepadarytų žalos.
Altmanas buvo atviras šiems rūpesčiams, tačiau jis taip pat norėjo, kad „OpenAI“ išliktų prieš savo daug didesnius konkurentus. Pasak dviejų žmonių, susipažinusių su šiuo klausimu, rugsėjo pabaigoje Altmanas išskrido į Artimuosius Rytus susitikti su investuotojais. Jis siekė net 1 milijardo dolerių finansavimo iš Japonijos technologijų investuotojo SoftBank, vadovaujamo Masayoshi Son, potencialiai OpenAI įmonei, kuri sukurtų aparatinę įrangą dirbtinio intelekto technologijoms, tokioms, kaip ChatGPT, paleisti.
OpenAI taip pat derasi dėl „konkurso pasiūlymo“ finansavimo, kuris leistų darbuotojams išsigryninti įmonės akcijas. Pagal šį sandorį OpenAI būtų įvertinta daugiau nei 80 milijardų JAV dolerių, ty beveik trigubai daugiau, nei prieš šešis mėnesius.
Tačiau bendrovės sėkmė, atrodo, tik padidino susirūpinimą, kad su AI gali nutikti kažkas ne taip.
„Neatrodo visiškai neįtikėtina, kad turėsime kompiuterius – duomenų centrus – kurie yra daug protingesni už žmones“, – lapkričio 2 d. podcast'e sakė Sutskeveris. „Ką darytų tokie AI? Aš nežinau.“ [1]
1.The Fear and Tension That Led to Sam Altman’s Ouster at OpenAI. Metz, Cade. New York Times, Late Edition (East Coast); New York, N.Y.. 19 Nov 2023.
Komentarų nėra:
Rašyti komentarą