„Praėjusį penktadienį Ilja Sutskeveris išsiuntė trumpąją žinutę jo viršininkui ir kolegai valdybos nariui Semui Altmanui. Ar jis galėtų vidurdienį įsijungti į vaizdo pokalbį?
Skambino ir kiti „OpenAI“ valdybos nariai, tačiau naujienas pranešė vyriausiasis bendrovės mokslininkas ir vienas iš įkūrėjų Sutskeveris. Altmanas buvo atleistas, „ir naujienos pasirodys labai greitai“.
Susitikime prasidėjo neramumų savaitgalis, OpenAI darbuotojų maištas ir galiausiai Sutskeverio atsiprašymas. Pirmadienį jis X, anksčiau buvusiame „Twitter“, parašė: „Labai apgailestauju, kad dalyvavau valdybos veiksmuose“.
Sutskeveriui tai buvo dramatiškos 72 valandos, bet kartu ir 15 metų trukusios kelionės kulminacija, kurios metu jis išsivystė iš jauno magistranto, besiblaškančio su mažai žinomais algoritmais, iki valdybos perversmo, nuvertusio vieną ryškiausių pasaulio veikėjų.
Sutskeveris yra labai vertinamas techninis vizionierius dirbtinio intelekto srityje. Po darbo Izraelio atvirajame universitete jis persikėlė į Toronto universitetą. Iš pradžių jo darbas atrodė labai eksperimentinis. 2010 m. Toronto universiteto žurnalo profilyje aprašoma Sutskeverio programinė įranga, kurianti nesąmoningus į Vikipediją panašius įrašus.
Tačiau 2012 m. jis išgarsėjo kartu parašydamas dokumentą, kuriame demonstruojamos nepaprastos „gilaus mokymosi“ algoritmų, su kuriais dirbo Sutskeveris ir jo kolegos Toronto universiteto mokslininkai, galimybes. Šis darbas, parašytas kartu su Geoffrey Hintonu ir Alexu Krizhevsky, parodė, kad gilus mokymasis gali būti naudojamas, sprendžiant atpažinimo problemas tokiu lygiu, kuris anksčiau atrodė neįsivaizduojamas. Tai pradėjo lenktynes, ieškant naujų gilaus mokymosi panaudojimo būdų, o po metų visi trys mokslininkai dirbo „Google“.
Iki 2016 m. Sutskeveris buvo vyriausiasis OpenAI mokslininkas, kur jis sutelkė dėmesį į dvi idėjas. Pirma, idėja, kad AI sistemos gali pasiekti žmogaus lygio mąstymą, dar žinomą, kaip dirbtinis bendrasis intelektas arba AGI. Ir antra, kad šios sistemos būtų pavojingos, jei jos nebūtų kažkaip „suderintos“ su žmogiškosiomis vertybėmis.
Esami ir buvę darbuotojai apibūdina Sutskeverį, kaip AI problemas nagrinėjantį su beveik religiniu užsidegimu. „Jei pabudę ir užmigdami nejaučiate AGI, neturėtumėte būti šioje įmonėje“, – sakė jis darbuotojams per visų rankų susitikimą praėjusių metų pabaigoje.
Sutskeveris darbuotojams sakė nerimaujantis, kad galiausiai AGI sistemos elgsis su žmonėmis taip, kaip žmonės šiuo metu elgiasi su gyvūnais, sakė su šiuo klausimu susipažinę žmonės.
Šių metų pradžioje interviu podcast'as, Teksaso universiteto Ostine kompiuterių mokslininkas Scottas Aaronsonas, šiuo metu dirbantis su sauga OpenAI, apibūdino savo savaitinius pokalbius su Sutskever. „Papasakojau jam apie savo pažangą... o jis sakydavo: „Na, tai puiku, Scottai, ir tu turėtum dirbti toliau. Tačiau mes tikrai norime žinoti, kaip formalizuoti, ką tai reiškia, kad AI gali mylėti žmoniją? “
„OpenAI“ Sutskeveris vadovavo „Superalignment“ komandai, kuri buvo sukurta naudoti 20% įmonės skaičiavimo galios, kad būtų užtikrinta, jog jos sukurtos AI sistemos nepakenks žmonėms.
Nors tiksli priežastis, kodėl Altmanas buvo nušalintas, neaiški, šaltiniai, susipažinę su valdybos mąstymu, teigia, kad Sutskeveris ir Altmanas susikirto dėl saugumo. Sekmadienio vakarą OpenAI darbuotojams atsiųstame rašte likę keturi bendrovės valdybos nariai teigė, kad tai nebuvo Altmano atleidimo priežastis. „Samo elgesys ir skaidrumo trūkumas, bendraujant su valdyba, pakenkė valdybos gebėjimui veiksmingai prižiūrėti įmonę“, – rašė jie.
Vyras, kurį Sutskeveris ir kiti valdybos nariai pasirinko eiti Altmano įpėdinį, Emmettas Shearas rugsėjį pareiškė, kad jis pasisako už AI plėtros tempo sulėtinimą saugumo sumetimais.
Iki pirmadienio ryto Sutskeveris išsiuntė X pranešimą, kuriame atsisako savo veiksmų ir įsipareigojo padaryti „viską, ką galiu, kad suvienytų įmonę“. Altmanas greitai perpublikavo jį dviem milijonams savo pasekėjų kartu su trimis raudonomis širdimis." [1]
1. The OpenAI Genius Who Told Altman He Was Fired. McMillan, Robert. Wall Street Journal, Eastern edition; New York, N.Y.. 22 Nov 2023: A.10.
Komentarų nėra:
Rašyti komentarą