„ChatGPT kūrėja stengiasi tapti pelno siekiančia įmone, tenkindama susirūpinimą dėl dirbtinio intelekto (A.I) saugumo.
„OpenAI“, dažnai nerami technologijų pramonės veržimosi į dirbtinį intelektą standarto nešėja, iš esmės keičia jos valdymo komandą ir netgi jos organizavimą, nes investuoja kai kurios turtingiausios pasaulio įmonės.
Per pastaruosius kelis mėnesius „OpenAI“, internetinio pokalbių roboto „ChatGPT“ kūrėja, pasamdė technologijų vadovus, dezinformacijos ekspertus ir A.I. saugos tyrinėtojai. Ji taip pat papildė septynis valdybos narius, įskaitant keturių žvaigždučių armijos generolą, kuris vadovavo Nacionalinei saugumo agentūrai, atnaujindama pastangas užtikrinti, kad jos A.I. technologijos nedaro didelės žalos.
„OpenAI“ taip pat derasi su investuotojais, tokiais, kaip „Microsoft“, „Apple“, „Nvidia“ ir investicine įmone „Thrive“, dėl sandorio, po kurio jos vertė būtų 100 mlrd. dolerių. O bendrovė svarsto keisti įmonės struktūrą, kuri leistų lengviau pritraukti investuotojus.
San Francisko startuolis, po ilgus metus trukusio viešo konflikto tarp vadovybės ir kai kurių jos geriausių tyrėjų, bando atrodyti labiau, kaip nepripažįstanti kvailysčių įmonė, pasirengusi vadovauti technologijų pramonės žygiui į dirbtinį intelektą. OpenAI taip pat bando nustumti į antrą planą praėjusių metų didelio atgarsio sulaukusią, kovą dėl Samo Altmano, jos generalinio direktoriaus, valdymo.
Tačiau interviu su daugiau, nei 20 esamų ir buvusių OpenAI darbuotojų ir valdybos narių rodo, kad perėjimas yra sunkus. Ankstyvieji darbuotojai ir toliau išeina iš darbo, net kai atsiranda naujų darbuotojų ir naujų vadovų.
Spartus augimas neišsprendė esminio klausimo, koks turėtų būti OpenAI: ar tai pažangiausia A.I. laboratorija, sukurta žmonijos labui, ar galios siekianti pramonės gigantė, skirta pelnui?
Šiandien OpenAI dirba daugiau, nei 1700 darbuotojų ir 80 procentų jų pradėjo po ChatGPT išleidimo 2022 m. lapkritį. Ponas Altmanas ir kiti vadovai vadovavo samdomų vadovų įdarbinimui, o naujasis pirmininkas Bretas Tayloras, buvęs Facebook vadovas, prižiūrėjo valdybos išplėtimą.
„Nors pradedančios įmonės turi natūraliai vystytis ir prisitaikyti, augant jų poveikiui, mes pripažįstame, kad OpenAI ši transformacija vyksta precedento neturinčiu tempu“, – sakoma pono Tayloro pareiškime, atsiųstame „The New York Times“. „Mūsų valdyba ir atsidavusi OpenAI komanda ir toliau siekia saugiai kurti A.I. kuris gali išspręsti sunkias problemas kiekvienam“.
Nemažai naujų vadovų atliko svarbius vaidmenis kitose technologijų įmonėse. Sarah Friar, naujoji OpenAI vyriausioji finansų pareigūnė, buvo „Nextdoor“ vykdomoji direktorė. Kevinas Weilas, naujasis OpenAI vyriausiasis produktų pareigūnas, buvo vyresnysis „Twitter“ produktų viceprezidentas. Benas Nimmo vadovavo „Facebook“ kovai su apgaulingomis socialinės žiniasklaidos kampanijomis. Joaquinas Candela prižiūrėjo „Facebook“ pastangas sumažinti dirbtinio intelekto riziką. Dabar abu vyrai OpenAI atlieka panašius vaidmenis.
„OpenAI“ penktadienį taip pat pranešė darbuotojams, kad Chrisas Lehane'as, Klintono Baltųjų rūmų veteranas, einantis aukštas pareigas Airbnb ir šiais metais prisijungęs prie OpenAI, bus jos pasaulinės politikos vadovas.
Tačiau iš 13 žmonių, padėjusių 2015 m. pabaigoje įkurti OpenAI, kurios misija buvo sukurti dirbtinį bendrąjį intelektą arba A.G.I. - mašina, galinti padaryti viską, ką gali padaryti žmogaus smegenys - lieka tik trys. Vienas, bendrovės prezidentas Gregas Brockmanas, išėjo atostogų iki metų pabaigos, motyvuodamas tuo, kad po beveik dešimtmetį trukusio darbo reikia laisvo laiko.
„Gana dažnai matome tokius papildymus, o taip pat ir atimtis, bet esame tokioje ryškioje šviesoje“, – sakė OpenAI vyriausiasis strategijos pareigūnas Jasonas Kwonas. „Viskas tampa padidinta“.
Nuo pat pirmųjų dienų, kai OpenAI buvo ne pelno siekianti tyrimų laboratorija, ji kovojo su ginčais dėl jos tikslų. 2018 m. Elonas Muskas, pagrindinis jos rėmėjas, pasitraukė po ginčo su kitais įkūrėjais. 2022 m. pradžioje grupė pagrindinių tyrėjų, susirūpinę, kad komercinės jėgos stumia OpenAI technologijas į rinką, kol dar nebuvo įrengti tinkami apsauginiai turėklai, liko suformuoti varžovą - A.I. įmonę Anthropic.
Panašių rūpesčių vedama, OpenAI valdyba praėjusių metų pabaigoje netikėtai atleido poną Altmaną. Po penkių dienų jis buvo grąžintas į darbą.
OpenAI atsiskyrė nuo daugelio darbuotojų, kurie abejojo dėl pono Altmano, ir nuo kitų, kurie buvo mažiau suinteresuoti įprastos technologijų įmonės kūrimu, nei pažangių tyrimų atlikimu. Atkartodamas kitų darbuotojų skundus, vienas tyrėjas pasitraukė dėl OpenAI pastangų susigrąžinti iš darbuotojų OpenAI akcijas, kurių vertė gali siekti milijonus dolerių, jei jie viešai pasisakytų prieš OpenAI. Nuo to laiko OpenAI pakeitė šią praktiką.
OpenAI skatina dvi jėgos, kurios ne visada suderinamos.
Viena vertus, įmonę skatina pinigai – daug jų. Dabar metinės pajamos viršijo 2 mlrd. dolerių, pasak asmens, susipažinusio su jos pajamomis. „ChatGPT“ kiekvieną savaitę turi daugiau nei 200 milijonų vartotojų – dvigubai daugiau, nei prieš devynis mėnesius. Neaišku, kiek bendrovė išleidžia kiekvienais metais, nors pagal vieną apskaičiavimą šis skaičius siekia 7 mlrd. „Microsoft“, kuri jau yra didžiausia OpenAI investuotoja, skyrė 13 mlrd. įmonei.
Tačiau „OpenAI“ svarsto galimybę atlikti didelius savo struktūros pakeitimus, nes ieško daugiau investicijų. Šiuo metu pradinės OpenAI valdyba, suformuota, kaip ne pelno organizacija, kontroliuoja organizaciją be oficialaus investuotojų indėlio. Kaip teigia trys su derybomis susipažinę žmonės, dalyvaudama naujose diskusijose dėl finansavimo, OpenAI svarsto pakeitimus, dėl kurių jos struktūra taptų patrauklesnė investuotojams. Tačiau ji dar nesusitvarkė su nauja struktūra.
OpenAI taip pat skatina technologijos, kurios kelia nerimą daugeliui A.I. mokslininkų, įskaitant kai kuriuos OpenAI darbuotojus. Jie teigia, kad šios technologijos gali padėti skleisti dezinformaciją, paskatinti kibernetines atakas ar net sunaikinti žmoniją. Ši įtampa sukėlė sprogimą lapkritį, kai keturi valdybos nariai, įskaitant vyriausiąjį mokslininką ir įkūrėją Ilją Sutskeverį, pašalino poną Altmaną.
P. Altmanui vėl patvirtinus savo kontrolę, virš įmonės pakibo debesis. Daktaras Sutskeveris į darbą nebuvo grįžęs.
(„The Times“ gruodį padavė į teismą OpenAI ir „Microsoft“ dėl naujienų turinio, susijusio su A.I., autorių teisių pažeidimo.)
Su kitu tyrėju Janu Leike daktaras Sutskeveris sukūrė OpenAI „Superalignment“ komandą, kuri ištyrė būdus, kaip užtikrinti, kad ateities technologijos nepadarytų žalos.
Gegužės mėnesį daktaras Sutskeveris paliko OpenAI ir įkūrė savo A.I. įmonę. Po kelių minučių daktaras Leike taip pat išėjo ir prisijungė prie Anthropic. „Saugos kultūra ir procesai nukrypo į blizgančius gaminius“, – sakė jis. Dr. Sutskeveris ir daktaras Leike neatsakė į prašymus pakomentuoti.
Kiti juos išsekė pro duris.
„Vis dar bijau, kad OpenAI ir kiti A.I. įmonės neturi tinkamo plano valdyti žmogiškojo ir ne žmogaus lygio A.I riziką, nors sistemoms jie surenka milijardus dolerių, kad jas sukurtų“, – sakė neseniai įmonę palikęs mokslininkas Williamas Saundersas.
Dr. Sutskeveriui ir dr. Leikei išvykus, OpenAI perdavė savo darbą kitam įkūrėjui Johnui Schulmanui. Nors „Superalignment“ komanda daugiausia dėmesio skyrė žalai, kuri gali atsirasti ateityje, naujoji komanda ištyrė tiek trumpalaikę, tiek ilgalaikę riziką.
Tuo pačiu metu OpenAI pasamdė ponią Friar, kaip savo vyriausiąją finansų pareigūnę (anksčiau ji ėjo tą patį vaidmenį Square) ir poną Weilą kaip vyriausią produktų pareigūną. Ponia Friar ir ponas Weilas į prašymus pakomentuoti neatsakė.
Kai kurie buvę vadovai, kurie kalbėjo anonimiškai, nes buvo pasirašę neatskleidimo susitarimus, išreiškė skeptišką nuomonę, kad už to slypi nerami OpenAI praeitis. Trys iš jų nurodė Aleksandrą Madry, kuris kadaise vadovavo OpenAI pasirengimo komandai, kuri tyrinėjo katastrofišką A.I. riziką. Po nesutarimų, kaip jis ir jo komanda tilptų į didesnę organizaciją, daktaras Madry perėjo prie kito tyrimo projekto.
Kai kuriems darbuotojams pasitraukus, jų buvo paprašyta pasirašyti teisinius dokumentus, kuriuose teigiama, kad jie praras OpenAI akcijas, jei pasireikš prieš įmonę. Tai sukėlė naujų darbuotojų susirūpinimą net po to, kai bendrovė atšaukė šią praktiką.
Birželio pradžioje tyrėjas Todoras Markovas paskelbė pranešimą bendrovės vidinėje pranešimų sistemoje, kuriame paskelbė apie savo atsistatydinimą dėl šios problemos, remiantis pranešimo kopija, kurią peržiūrėjo „The Times“.
Jis sakė, kad OpenAI vadovybė ne kartą klaidino darbuotojus šiuo klausimu. Dėl šios priežasties, jo teigimu, įmonės vadovybe negalima patikėti, kad ji statys A.G.I. - atgarsis to, ką pasakė bendrovės valdyba, kai atleido poną Altmaną.
„Jūs dažnai kalbate apie mūsų atsakomybę plėtoti A.G.I. saugiai ir plačiai paskirstyti naudą“, – rašė jis. „Kaip tikitės, kad jums patikėtų šią atsakomybę?
Po kelių dienų OpenAI paskelbė, kad į jos valdybą prisijungė į pensiją išėjęs JAV armijos generolas Paulas M. Nakasone. Neseniai po pietų jo paklausė, ką jis mano apie aplinką, į kurią pateko, atsižvelgiant į tai, kad A.I. jis buvo naujokas.
„Naujas A.I.? Aš nesu naujokas A.I.“, – interviu telefonu sakė jis. „Aš vadovavau N.S.A. Su šiais dalykais susiduriu daugelį metų“.
Praėjusį mėnesį Dr. Schulmanas, vienas iš įkūrėjų, padėjęs prižiūrėti naujas OpenAI saugos pastangas, taip pat atsistatydino iš bendrovės, sakydamas, kad nori grįžti prie „praktinio“ techninio darbo. Jis taip pat prisijungė prie Anthropic.
„Įmonę padidinti yra tikrai sunku. Jūs turite nuolat priimti kompromisinius sprendimus. Ir kai kuriems žmonėms tie sprendimai gali nepatikti“, – sakė J. Kwonas. „Daiktai yra daug sudėtingesni.“" [1]
Tai jauko ir perjungimo įmonė. Ji žadėjo nepadaryti daug blogo, tuo pritraukdama daug talentingų žmonių. Dabar ji pradėjo veržtis į didelius pinigus, velniop rūpesčius dėl blogo. Talentingi žmonės išvyksta masiškai. Jauko ir perjungimo veiksmai paprastai yra neteisėti.
1. OpenAI, Still Haunted by Its Chaotic Past, Is Trying to Grow Up. Metz, Cade; Isaac, Mike. New York Times (Online) New York Times Company. Sep 3, 2024.
Komentarų nėra:
Rašyti komentarą