„ChatGPT kūrėja
stengiasi tapti pelno siekiančia įmone, tenkindama susirūpinimą dėl dirbtinio
intelekto (A.I) saugumo.
„OpenAI“, dažnai
nerami technologijų pramonės veržimosi į dirbtinį intelektą standarto nešėja,
iš esmės keičia jos valdymo komandą ir netgi jos organizavimą, nes investuoja
kai kurios turtingiausios pasaulio įmonės.
Per pastaruosius
kelis mėnesius „OpenAI“, internetinio pokalbių roboto „ChatGPT“ kūrėja, pasamdė
technologijų vadovus, dezinformacijos ekspertus ir A.I. saugos tyrinėtojai. Ji
taip pat papildė septynis valdybos narius, įskaitant keturių žvaigždučių armijos
generolą, kuris vadovavo Nacionalinei saugumo agentūrai, atnaujindama pastangas
užtikrinti, kad jos A.I. technologijos nedaro didelės žalos.
„OpenAI“ taip pat
derasi su investuotojais, tokiais, kaip „Microsoft“, „Apple“, „Nvidia“ ir
investicine įmone „Thrive“, dėl sandorio, po kurio jos vertė būtų 100 mlrd. dolerių. O bendrovė
svarsto keisti įmonės struktūrą, kuri leistų lengviau pritraukti investuotojus.
San Francisko
startuolis, po ilgus metus trukusio viešo konflikto tarp vadovybės ir kai kurių
jos geriausių tyrėjų, bando atrodyti labiau, kaip nepripažįstanti kvailysčių įmonė, pasirengusi
vadovauti technologijų pramonės žygiui į dirbtinį intelektą. OpenAI taip pat
bando nustumti į antrą planą praėjusių metų didelio atgarsio sulaukusią, kovą
dėl Samo Altmano, jos generalinio direktoriaus, valdymo.
Tačiau interviu su
daugiau, nei 20 esamų ir buvusių OpenAI darbuotojų ir valdybos narių rodo, kad
perėjimas yra sunkus. Ankstyvieji darbuotojai ir toliau išeina iš darbo, net
kai atsiranda naujų darbuotojų ir naujų vadovų.
Spartus augimas neišsprendė
esminio klausimo, koks turėtų būti OpenAI: ar tai pažangiausia A.I.
laboratorija, sukurta žmonijos labui, ar galios siekianti pramonės gigantė, skirta
pelnui?
Šiandien OpenAI dirba
daugiau, nei 1700 darbuotojų ir 80 procentų jų pradėjo po ChatGPT išleidimo 2022
m. lapkritį. Ponas Altmanas ir kiti vadovai vadovavo samdomų vadovų
įdarbinimui, o naujasis pirmininkas Bretas Tayloras, buvęs Facebook vadovas,
prižiūrėjo valdybos išplėtimą.
„Nors pradedančios
įmonės turi natūraliai vystytis ir prisitaikyti, augant jų poveikiui, mes
pripažįstame, kad OpenAI ši transformacija vyksta precedento neturinčiu tempu“,
– sakoma pono Tayloro pareiškime, atsiųstame „The New York Times“. „Mūsų
valdyba ir atsidavusi OpenAI komanda ir toliau siekia saugiai kurti A.I. kuris
gali išspręsti sunkias problemas kiekvienam“.
Nemažai naujų vadovų
atliko svarbius vaidmenis kitose technologijų įmonėse. Sarah Friar, naujoji
OpenAI vyriausioji finansų pareigūnė, buvo „Nextdoor“ vykdomoji direktorė.
Kevinas Weilas, naujasis OpenAI vyriausiasis produktų pareigūnas, buvo
vyresnysis „Twitter“ produktų viceprezidentas. Benas Nimmo vadovavo „Facebook“
kovai su apgaulingomis socialinės žiniasklaidos kampanijomis. Joaquinas Candela
prižiūrėjo „Facebook“ pastangas sumažinti dirbtinio intelekto riziką. Dabar abu
vyrai OpenAI atlieka panašius vaidmenis.
„OpenAI“ penktadienį
taip pat pranešė darbuotojams, kad Chrisas Lehane'as, Klintono Baltųjų rūmų
veteranas, einantis aukštas pareigas Airbnb ir šiais metais prisijungęs prie
OpenAI, bus jos pasaulinės politikos vadovas.
Tačiau iš 13 žmonių,
padėjusių 2015 m. pabaigoje įkurti OpenAI, kurios misija buvo sukurti dirbtinį
bendrąjį intelektą arba A.G.I. - mašina, galinti padaryti viską, ką gali
padaryti žmogaus smegenys - lieka tik trys. Vienas, bendrovės prezidentas
Gregas Brockmanas, išėjo atostogų iki metų pabaigos, motyvuodamas tuo, kad po
beveik dešimtmetį trukusio darbo reikia laisvo laiko.
„Gana dažnai matome
tokius papildymus, o taip pat ir atimtis, bet esame tokioje ryškioje šviesoje“,
– sakė OpenAI vyriausiasis strategijos pareigūnas Jasonas Kwonas. „Viskas tampa
padidinta“.
Nuo pat pirmųjų
dienų, kai OpenAI buvo ne pelno siekianti tyrimų laboratorija, ji kovojo su ginčais dėl jos tikslų. 2018 m. Elonas Muskas, pagrindinis jos rėmėjas,
pasitraukė po ginčo su kitais įkūrėjais. 2022 m. pradžioje grupė pagrindinių
tyrėjų, susirūpinę, kad komercinės jėgos stumia OpenAI technologijas į rinką,
kol dar nebuvo įrengti tinkami apsauginiai turėklai, liko suformuoti varžovą -
A.I. įmonę Anthropic.
Panašių rūpesčių
vedama, OpenAI valdyba praėjusių metų pabaigoje netikėtai atleido poną Altmaną.
Po penkių dienų jis buvo grąžintas į darbą.
OpenAI atsiskyrė nuo
daugelio darbuotojų, kurie abejojo dėl pono Altmano, ir nuo kitų, kurie buvo
mažiau suinteresuoti įprastos technologijų įmonės kūrimu, nei pažangių tyrimų
atlikimu. Atkartodamas kitų darbuotojų skundus, vienas tyrėjas pasitraukė dėl
OpenAI pastangų susigrąžinti iš darbuotojų OpenAI akcijas, kurių vertė gali
siekti milijonus dolerių, jei jie viešai pasisakytų prieš OpenAI. Nuo to laiko
OpenAI pakeitė šią praktiką.
OpenAI skatina dvi
jėgos, kurios ne visada suderinamos.
Viena vertus, įmonę
skatina pinigai – daug jų. Dabar metinės pajamos viršijo 2 mlrd. dolerių, pasak
asmens, susipažinusio su jos pajamomis. „ChatGPT“ kiekvieną savaitę turi
daugiau nei 200 milijonų vartotojų – dvigubai daugiau, nei prieš devynis
mėnesius. Neaišku, kiek bendrovė išleidžia kiekvienais metais, nors pagal vieną
apskaičiavimą šis skaičius siekia 7 mlrd. „Microsoft“, kuri jau yra didžiausia
OpenAI investuotoja, skyrė 13 mlrd. įmonei.
Tačiau „OpenAI“
svarsto galimybę atlikti didelius savo struktūros pakeitimus, nes ieško daugiau
investicijų. Šiuo metu pradinės OpenAI valdyba, suformuota, kaip ne pelno
organizacija, kontroliuoja organizaciją be oficialaus investuotojų indėlio.
Kaip teigia trys su derybomis susipažinę žmonės, dalyvaudama naujose
diskusijose dėl finansavimo, OpenAI svarsto pakeitimus, dėl kurių jos struktūra
taptų patrauklesnė investuotojams. Tačiau ji dar nesusitvarkė su nauja
struktūra.
OpenAI taip pat
skatina technologijos, kurios kelia nerimą daugeliui A.I. mokslininkų,
įskaitant kai kuriuos OpenAI darbuotojus. Jie teigia, kad šios technologijos
gali padėti skleisti dezinformaciją, paskatinti kibernetines atakas ar net
sunaikinti žmoniją. Ši įtampa sukėlė sprogimą lapkritį, kai keturi valdybos
nariai, įskaitant vyriausiąjį mokslininką ir įkūrėją Ilją Sutskeverį, pašalino
poną Altmaną.
P. Altmanui vėl
patvirtinus savo kontrolę, virš įmonės pakibo debesis. Daktaras Sutskeveris į
darbą nebuvo grįžęs.
(„The Times“ gruodį
padavė į teismą OpenAI ir „Microsoft“ dėl naujienų turinio, susijusio su A.I.,
autorių teisių pažeidimo.)
Su kitu tyrėju Janu
Leike daktaras Sutskeveris sukūrė OpenAI „Superalignment“ komandą, kuri ištyrė
būdus, kaip užtikrinti, kad ateities technologijos nepadarytų žalos.
Gegužės mėnesį
daktaras Sutskeveris paliko OpenAI ir įkūrė savo A.I. įmonę. Po kelių minučių
daktaras Leike taip pat išėjo ir prisijungė prie Anthropic. „Saugos kultūra ir
procesai nukrypo į blizgančius gaminius“, – sakė jis. Dr. Sutskeveris ir daktaras
Leike neatsakė į prašymus pakomentuoti.
Kiti juos išsekė pro
duris.
„Vis dar bijau, kad
OpenAI ir kiti A.I. įmonės neturi tinkamo plano valdyti žmogiškojo ir ne
žmogaus lygio A.I riziką, nors sistemoms jie surenka milijardus dolerių, kad
jas sukurtų“, – sakė neseniai įmonę palikęs mokslininkas Williamas Saundersas.
Dr. Sutskeveriui ir
dr. Leikei išvykus, OpenAI perdavė savo darbą kitam įkūrėjui Johnui Schulmanui.
Nors „Superalignment“ komanda daugiausia dėmesio skyrė žalai, kuri gali
atsirasti ateityje, naujoji komanda ištyrė tiek trumpalaikę, tiek ilgalaikę
riziką.
Tuo pačiu metu OpenAI
pasamdė ponią Friar, kaip savo vyriausiąją finansų pareigūnę (anksčiau ji ėjo tą
patį vaidmenį Square) ir poną Weilą kaip vyriausią produktų pareigūną.
Ponia Friar ir ponas Weilas į prašymus pakomentuoti neatsakė.
Kai kurie buvę
vadovai, kurie kalbėjo anonimiškai, nes buvo pasirašę neatskleidimo
susitarimus, išreiškė skeptišką nuomonę, kad už to slypi nerami OpenAI
praeitis. Trys iš jų nurodė Aleksandrą Madry, kuris kadaise vadovavo OpenAI
pasirengimo komandai, kuri tyrinėjo katastrofišką A.I. riziką. Po nesutarimų,
kaip jis ir jo komanda tilptų į didesnę organizaciją, daktaras Madry perėjo
prie kito tyrimo projekto.
Kai kuriems
darbuotojams pasitraukus, jų buvo paprašyta pasirašyti teisinius dokumentus,
kuriuose teigiama, kad jie praras OpenAI akcijas, jei pasireikš prieš įmonę.
Tai sukėlė naujų darbuotojų susirūpinimą net po to, kai bendrovė atšaukė šią
praktiką.
Birželio pradžioje
tyrėjas Todoras Markovas paskelbė pranešimą bendrovės vidinėje pranešimų
sistemoje, kuriame paskelbė apie savo atsistatydinimą dėl šios problemos,
remiantis pranešimo kopija, kurią peržiūrėjo „The Times“.
Jis sakė, kad OpenAI
vadovybė ne kartą klaidino darbuotojus šiuo klausimu. Dėl šios priežasties, jo
teigimu, įmonės vadovybe negalima patikėti, kad ji statys A.G.I. - atgarsis to,
ką pasakė bendrovės valdyba, kai atleido poną Altmaną.
„Jūs dažnai kalbate
apie mūsų atsakomybę plėtoti A.G.I. saugiai ir plačiai paskirstyti naudą“, –
rašė jis. „Kaip tikitės, kad jums patikėtų šią atsakomybę?
Po kelių dienų OpenAI
paskelbė, kad į jos valdybą prisijungė į pensiją išėjęs JAV armijos generolas
Paulas M. Nakasone. Neseniai po pietų jo paklausė, ką jis mano apie aplinką, į
kurią pateko, atsižvelgiant į tai, kad A.I. jis buvo naujokas.
„Naujas A.I.? Aš nesu
naujokas A.I.“, – interviu telefonu sakė jis. „Aš vadovavau N.S.A. Su šiais
dalykais susiduriu daugelį metų“.
Praėjusį mėnesį Dr.
Schulmanas, vienas iš įkūrėjų, padėjęs prižiūrėti naujas OpenAI saugos
pastangas, taip pat atsistatydino iš bendrovės, sakydamas, kad nori grįžti prie
„praktinio“ techninio darbo. Jis taip pat prisijungė prie Anthropic.
„Įmonę padidinti yra
tikrai sunku. Jūs turite nuolat priimti kompromisinius sprendimus. Ir kai
kuriems žmonėms tie sprendimai gali nepatikti“, – sakė J. Kwonas. „Daiktai yra
daug sudėtingesni.“" [1]