"2023 m. lapkričio vidurio vakarą milijardierius rizikos kapitalistas Peteris Thielis surengė gimtadienį YESS – avangardiniame japonų restorane, esančiame šimtmečio senumo rekonstruotame banko pastate Los Andželo menų rajone. Šalia jo sėdėjo jo draugas Samas Altmanas.
Thielas palaikė pirmąjį Altman rizikos fondą daugiau, nei prieš dešimtmetį ir liko jaunesnio investuotojo mentorius, kai Altmanas tapo dirbtinio intelekto (AI) revoliucijos veidu, kaip OpenAI vadovas. 2022 m. lapkritį „OpenAI“ iš karto paleido „ChatGPT“ ir pavertė technologijų akcijas vienomis geriausių per pastaruosius dešimtmečius. Tačiau Thielis buvo susirūpinęs.
Daug metų prieš susitikdamas su Altmanu, Thielis paėmė po savo sparnu kitą dirbtinio intelekto apsėstą vunderkindą Eliezerį Yudkowsky, finansuodamas jo institutą, kuris pastūmėjo užtikrinti, kad bet koks AI, protingesnis už žmones, būtų draugiškas jo kūrėjui. Tą kovą Yudkowsky žurnale „Time“ tvirtino, kad jei dabartinė AI tyrimų banga nebus sustabdyta, „visi Žemėje mirs“.
„Jūs nesuprantate, kaip Eliezeris užprogramavo pusę jūsų įmonės žmonių patikėti tokiais dalykais“, – perspėjo Thielis Altmanui. – “Reikia į tai žiūrėti rimčiau.”
Altmanas rinko savo vegetarišką patiekalą ir stengėsi neparodyti paniekos. Tai nebuvo pirmoji vakarienė, kai Thielis jį įspėjo, kad įmonę perėmė „EA“, turėdamas omenyje žmones, kurie pritarė veiksmingam altruizmui. EA pastaruoju metu keitėsi nuo bandymo panaikinti pasaulinį skurdą ir bandė užkirsti kelią pabėgusiam AI nuo žmonijos išžudymo. Thielis ne kartą prognozavo, kad „AI saugos žmonės“ „sunaikins“ OpenAI.
„Na, tai buvo kažkaip tiesa apie Eloną, bet mes atsikratėme Elono“, – per vakarienę atsakė Altmanas, turėdamas galvoje 2018-ųjų netvarkingą išsiskyrimą su savo įkūrėju Elonu Musku, kuris bandymą sukurti dirbtinį intelektą kadaise vadino „demono iškvietimu“.
Beveik 800 OpenAI darbuotojų važiavo raketiniu laivu ir netrukus turėjo galimybę nusipirkti antruosius namus paplūdimyje, nes netrukus bus baigtas konkursas, po kurio įmonės vertė siekia 86 mlrd. dolerių. Panikuoti nereikėjo.
38 metų Altmanas baigė geriausius žavingos karjeros metus, metus, kai jis tapo žinomas, susitiko su prezidentais ir ministrais pirmininkais visame pasaulyje ir, svarbiausia Silicio slėnio vertybių sistemoje, pristatė naują technologiją, kuri, regis, viską pakeis.
Tačiau kai du investuojantys partneriai šventė po atviromis karščiausio naujojo LA restorano gegnėmis, keturi OpenAI šešių asmenų valdybos nariai, iš kurių du turi tiesioginių ryšių su EA bendruomene, surengė slaptus vaizdo susitikimus. Ir jie sprendė, ar atleisti Samą Altmaną, nors ne dėl EA.
Ši istorija paremta interviu su daugybe žmonių, išgyvenusių vieną drąsiausių visų laikų verslo istorijų – staigų karščiausios planetos technologijų įmonės generalinio direktoriaus atleidimą ir jo grąžinimą po kelių dienų. Centre buvo gyvastingas lyderis, kuris visus aplinkinius įkvėpė savo technologine vizija, bet kartais sumišęs ir neramus dėl savo paslapčių ir klaidingų krypčių tinklo.
Nuo pat pradžių OpenAI buvo sukurta, kaip kitokia technologijų įmonė, valdoma ne pelno siekiančios valdybos, kurios pareiga ne akcininkams, o „žmonijai“. Anksčiau tais metais Altmanas šokiravo įstatymų leidėjus, kai prisiekęs pasakė, kad jam nepriklauso bendrovės, kurią įkūrė kartu, akcijos. Jis sutiko su precedento neturinčiu susitarimu būti valdyboje, pagal kurį dauguma direktorių neturėtų turėti finansinių ryšių su bendrove. 2023 m. birželį jis televizijai Bloomberg pasakė: „Valdyba gali mane atleisti. Tai svarbu“.
Užkulisiuose valdyba, vis labiau nusivylusi, pastebėjo, kad Altmanas tikrai valdė viską.
Praėjusiais metais valdyba buvo įstrigusi dėl to, kurį AI saugos ekspertą papildyti į savo gretas. Valdyba apklausė EA labdaros organizacijos „Open Philanthropy“ AI saugos ekspertę Ajeya Cotra, tačiau procesas įstrigo, daugiausia dėl Altmano ir jo įkūrėjo Grego Brockmano, kuris taip pat buvo valdyboje, vilkinimo. Altmanas priešinosi su savo pasiūlymais.
„Buvo šiokia tokia kova dėl valdžios“, – sakė Brianas Chesky, „Airbnb“ generalinis direktorius, vienas iš būsimų valdybos narių, siūlytas Altmano. „Buvo toks pagrindinis dalykas, kad jei Semas pasakė vardą, jie turi būti lojalūs Semui, todėl, kaip jie sakys ne.”
Dėl įvairių interesų konfliktų 2023 m. pradžioje dinamika tapo dar labiau ginčytina. Dėl to šeši žmonės liko, ne pelno siekiančios, organizacijos valdyboje, kuri valdė, pelno siekiantį, dirbtinio intelekto juggernautą: Altmanas, jo artimas sąjungininkas Brockmanas, jų kolegą įkūrėją Ilja Sutskeveris ir trys nepriklausomi direktoriai. Tai buvo Adamas D'Angelo, „Quora“ generalinis direktorius ir buvęs „Facebook“ vadovas; Helen Toner, Džordžtauno saugumo ir naujų technologijų centro strategijos direktorė ir Atviros filantropijos veteranė; ir Tasha McCauley, buvus technologijų vadovė ir EA labdaros organizacijos „Effective Ventures“ JK valdybos narė.
Susirūpinimas dėl įmonės valdymo ir valdybos galimybės prižiūrėti Altmaną tapo daug aktualesnis keliems valdybos nariams po to, kai 2022 m. vasarą jie pamatė GPT-4, galingesnio AI, galinčio įveikti AP biologijos testą, demonstracinę versiją.
„Tokie dalykai, kaip ChatGPT ir GPT-4, buvo reikšmingi poslinkiai valdybos link, suvokiant, kad statymai čia didėja“, – sakė Toneris. „Nėra taip, kad rytoj visi mirsime, bet valdyba turi gerai veikti“.
Toneris ir McCauley jau pradėjo prarasti pasitikėjimą Altmanu. Siekdama peržiūrėti naujus produktus, ar jie rizikuoja, prieš juos išleidžiant, „OpenAI“ sukūrė bendrą saugos tarybą su „Microsoft“, pagrindine OpenAI rėmėja, turėjusia specialią prieigą savo gaminiuose naudoti jų technologijas.
Per vieną 2022 m. žiemos susitikimą, kai valdyba svarstė, kaip išleisti tris šiek tiek prieštaringus GPT-4 patobulinimus, Altmanas tvirtino, kad visus tris patvirtino jungtinė saugos taryba. Toneris paprašė įrodymų ir nustatė, kad tik vienas buvo patvirtintas.
Maždaug tuo pačiu metu „Microsoft“ pradėjo dar neišleisto GPT-4 testavimą Indijoje – pirmąjį revoliucinio kodo egzempliorių, kuris buvo išleistas laukinėje gamtoje be bendros saugos tarybos patvirtinimo. Ir niekas nesivargino pranešti OpenAI valdybai, kad saugos patvirtinimas buvo praleistas. Nepriklausomi valdybos nariai sužinojo, kai vieną iš jų koridoriuje, išeinant iš šešias valandas trukusio valdybos posėdžio, sustabdė OpenAI darbuotojas. Niekada per tą susitikimą Altmanas ar Brockmanas nebuvo užsiminęs apie pažeidimą.
Tada vieną 2023 m. vasaros naktį OpenAI valdybos narys per vakarienę išgirdo žmogų, kuris diskutavo apie OpenAI Startup Fund. Fondas buvo įkurtas 2021 m., siekiant investuoti į su AI susijusius startuolius, o OpenAI paskelbė, kad jį „valdys“ OpenAI. Tačiau valdybos narys išgirdo skundus, kad fondo pelnas nebuvo skirtas OpenAI investuotojams.
Tai buvo naujiena valdybai, todėl jie paklausė Altmano. Per kelis mėnesius direktoriai sužinojo, kad Altmanui asmeniškai priklauso šis fondas. „OpenAI“ vadovai iš pradžių sakė, kad tai įvyko dėl mokesčių priežasčių, o, galiausiai, paaiškino, kad Altmanas įsteigė fondą tokiu būdu, nes jis buvo greitesnis ir tik „laikinas“. OpenAI teigė, kad Altmanas iš fondo neuždirbo jokių mokesčių ar pelno – tai neįprasta tvarka.
Nepriklausomų valdybos narių nuomone, administracinė priežiūra nepaisė tikėjimo ir ankstesnes klaidas laikė galimo tyčinio apgaulės modelio dalimi. Pavyzdžiui, jie taip pat nebuvo įspėti praėjusį rudenį, kai OpenAI išleido ChatGPT, tuo metu laikytą „tyrimų peržiūra“, kurioje buvo naudojamos esamos technologijos, tačiau galiausiai pasaulį užvaldė audra. („News Corp“, „The Wall Street Journal“ savininkas, bendradarbiauja su „OpenAI“ turinio licencijavimo srityje.)
Rugsėjo pabaigoje Sutskever atsiuntė Toner el. laišką, paklausdamas, ar ji turi laiko pasikalbėti kitą dieną. Tai buvo labai neįprasta. Jie tikrai nekalbėjo už valdybos posėdžių ribų.
Sutskeveris pasikalbėjo telefonu, prieš atkosėdamas užuominą: „Turėtum daugiau pasikalbėti su Mira“.
2022 m. gegužę Mira Murati buvo paaukštinta į OpenAI vyriausiąją technologijų pareigūnę ir nuo to laiko efektyviai vykdė kasdienę veiklą. Kai Toneris jai paskambino, Murati papasakojo, kaip toks Altmano valdymo stilius, jos nuomone, daugelį metų kėlė problem, ir kaip dinamika tarp Altmano ir Brockmano, kuris jai atsiskaitydavo, bet eidavo pas Altmaną bet kuriuo metu, kai tik ji bandys jį suvaldyti, padarė jai beveik neįmanomu atlikti savo darbą.
Kai kuriuos iš šių klausimų Murati iškėlė tiesiogiai su Altmanu prieš kelis mėnesius, o Altmanas kelias savaites vesdavo personalo skyriaus vadovą į jų asmeninius susitikimus, kol galiausiai ji jam pasakė, kad neketina dalytis jos atsiliepimais su valdyba.
Toneris grįžo pas Sutskeverį, bendrovės orakulinį vyriausiąjį mokslininką. Jis aiškiai pasakė, kad prarado pasitikėjimą Altmanu dėl daugelio priežasčių, įskaitant polinkį supriešinti vyresniuosius darbuotojus.
2021 m. Sutskeveris suplanavo ir subūrė komandą kitai OpenAI tyrimų krypčiai, tačiau po kelių mėnesių kitas OpenAI tyrėjas Jakubas Pachockis pradėjo siekti kažko labai panašaus. Komandos susijungė ir Pachockis perėmė valdžią po to, kai Sutskever sutelkė dėmesį į AI saugumą. Vėliau Altmanas pakėlė Pachockį į tyrimų direktorių ir privačiai pažadėjo, kad jie abu galės vadovauti įmonės tyrimų krypčiai, o tai lėmė kelis mėnesius prarastą produktyvumą.
Sutskeveris laukė akimirkos, kada valdybos dinamika įgalins, ir Altmanas bus pakeistas generalinio direktoriaus poste.
Atsargiai žingsniuodami, bijodami, kad Altmanas apie juos sužinos, Murati ir Sutskeveris per kelias ateinančias savaites kalbėjosi su kiekvienu nepriklausomu valdybos nariu. Tik todėl, kad jie kasdien palaikė ryšį, nepriklausomi režisieriai Altmaną užklupo ypač šiurkščiame mele.
Spalio mėn. Toneris paskelbė dokumentą, kuriame pakartotinai kritikuojamas OpenAI požiūris į saugą. Altmanas buvo susierzinęs. Jis pasakė Sutskeveriui, kad McCauley sakė, kad Toneris turėtų palikti valdybą dėl straipsnio. McCauley nustebo, kai išgirdo šį Sutskeverio pasakojimą – ji žinojo, kad nieko panašaus nesakė.
Sutskeveris ir Murati rinko įrodymus, o dabar Sutskeveris norėjo pasidalinti. Jis el. paštu išsiuntė Toner, McCauley ir D'Angelo du ilgus PDF dokumentus, naudodamas Gmail savaiminio naikinimo el. pašto funkciją.
Vienas buvo apie Altmaną, kitas apie Brockmaną. Altmano dokumentą sudarė dešimtys jo melo ir kito toksiško elgesio pavyzdžių, daugiausia paremtų ekrano kopijomis iš Murati's Slack kanalo. Viename iš jų Altmanas pasakė Murati, kad bendrovės teisės skyrius teigė, kad GPT-4 Turbo nereikia atlikti bendros saugos tarybos peržiūros. Kai Murati pasikonsultavo su geriausiu bendrovės teisininku, jis pasakė, kad to nesakė. Dokumente apie Brockmaną daugiausia dėmesio buvo skiriama jo tariamoms patyčioms.
Sutskeveris perspėjo, kad jei jie ketino veikti, jie turėjo veikti greitai.
Taigi 2023 m. lapkričio 16 d., ketvirtadienio, popietę jis ir trys nepriklausomi valdybos nariai prisijungė prie vaizdo skambučio ir balsavo už Altmano atleidimą. Žinodami, kad Murati greičiausiai nesutiks būti laikinąja generaline direktore, jei ji turės atsiskaityti Brockmanui, jie taip pat balsavo už Brockman pašalinimą iš valdybos. Po balsavimo nepriklausomi valdybos nariai sakė Sutskeveriui nerimaujantys, kad jis buvo išsiųstas, kaip šnipas patikrinti jų lojalumo.
Tą vakarą Murati dalyvavo konferencijoje, kai keturi valdybos nariai jai paskambino ir pasakė, kad kitą dieną atleidžia Altmaną ir paprašė jos užimti laikinosios generalinės direktorės postą. Ji sutiko. Kai ji paklausė, kodėl jį atleido, jie jai nesakė.
Altmano netikėtas sušaudymas akimirksniu tapo sprogstama antrašte visame pasaulyje.
Tačiau valdyba neturėjo atsakymų nei darbuotojams, nei platesnei visuomenei, kodėl Altmanas buvo atleistas, be to teginio, kad jis nebuvo „nuosekliai atviras“ valdybai.
Penktadienio vakarą OpenAI valdyba ir vykdomoji komanda surengė daug ginčų susitikimų. Murati ėmė susirūpinti, kad valdyba kelia pavojų OpenAI, nes geriau nepasiruošė Altmano atleidimo pasekmėms. Vienu metu ji ir kiti vykdomosios komandos nariai davė valdybai 30 minučių terminą paaiškinti, kodėl jie atleido Altmaną arba atsistatydinti – kitaip vykdomoji komanda masiškai pasitrauktų.
Valdyba manė, kad negalėjo atskleisti, kad būtent Murati jiems pateikė keletą detaliausių Altmano valdymo nesėkmių įrodymų. Ieškodami generalinio direktoriaus, jie siekė, kad Murati nuramintų darbuotojus. Vietoj to ji vedė jos kolegas į maištą prieš valdybą.
Tarp Altmano sąjungininkų ėmė plisti pasakojimas, kad visa tai buvo Sutskeverio „perversmas“, kurį paskatino jo pyktis dėl Pachockio paaukštinimo ir sustiprino Tonerio pyktis, kad Altmanas bandė jį nustumti iš valdybos.
Sutskeveris nustebo. Jis tikėjosi, kad „OpenAI“ darbuotojai nudžiugs.
Iki pirmadienio ryto beveik visi jie pasirašė laišką, kuriame grasino išeiti iš pareigų, jei Altmanas nebus grąžintas į pareigas. Tarp parašų buvo Murati ir Sutskeverio parašai. Tapo aišku, kad vienintelis būdas neleisti įmonei žlugti buvo grąžinti Altmaną.
---
Adaptuotas iš Keacho Hagey „Optimistas: Samas Altmanas, OpenAI ir lenktynės į ateitį“, kurį išleis W.W. Nortonas gegužės 20 d.“ [1]
Puiku, kad „DeepSeek“ dabar yra AI tyrimų viršūnėje. Godumas privertė OpenAI darbuotojus laikytis vagies Samo Altmano.
1. EXCHANGE --- The Real Reasons Sam Altman Got Fired --- Secrets, misdirection and broken trust. The inside story of how the CEO of the hottest tech company in the world was ousted and, just as quickly, resurrected. Keach Hagey. Wall Street Journal, Eastern edition; New York, N.Y.. 29 Mar 2025: B1.
Komentarų nėra:
Rašyti komentarą