"Vienas iš malonių OpenAI dalykų yra tai, kad ji buvo pagrįsta nepasitikėjimu. Ji prasidėjo, kaip pelno nesiekianti tyrimų laboratorija, nes jos įkūrėjai nemanė, kad dirbtinio intelekto (A.I.) pradininkėmis turėtų komercinės įmonės, kurias daugiausia skatina pelno siekimas.
Vystydamasi „OpenAI“ tapo tuo, ką galima pavadinti vaisingu prieštaravimu: pelno siekianti įmone, kurią prižiūri ne pelno siekianti valdyba, kurios korporacinė kultūra yra kažkur tarp jų.
Atrodo, kad daugelį įmonės žmonių vienu metu motyvuoja mokslininko troškimas atrasti, kapitalisto noras išsiųsti produktą ir geradarių noras visa tai daryti saugiai.
Praėjusios savaitės įvykiai – Samo Altmano atleidimas, visa drama, jo pakartotinis įdarbinimas – sukasi apie vieną pagrindinį klausimą: ar šis vaisingas prieštaravimas yra tvarus?
Ar viena organizacija ar vienas asmuo gali išlaikyti mokslininko smegenis, kapitalisto polėkį ir atsargią reguliavimo agentūros širdį? Arba, kaip rašė Charlie Warzelis „Atlante“, pinigai visada laimės?
Svarbu atsiminti, kad A.I. labai skiriasi nuo kitų technologijų pasaulio dalių. Jis yra (ar bent jau buvo) akademiškesnis. A.I. yra sritis, kurios tyrimų linija tęsiasi šimtmečius. Net ir šiandien daugelis šios srities gigantų pirmiausia yra tyrėjai, o ne verslininkai – tokie žmonės, kaip Yann LeCun ir Geoffrey Hintonas, kurie kartu laimėjo Turingo apdovanojimą (Nobelio premiją skaičiavimo srityje) 2018 m., o dabar nesutaria, kur A.I. mus paima.
Tik pastaruosius kelerius metus akademiniai mokslininkai paliko universiteto erdves ir plūsta į pramonę. Tyrėjai tokiose vietose, kaip „Alphabet“, pagrindinė „Google“ įmonė; Microsoft; OpenAI; ir „Meta“, kuriai priklauso „Facebook“, vis dar bendrauja tarpusavyje, skelbdami mokslinius darbus, kaip tai daro profesoriai.
Tačiau ši sritis taip pat pasižymi karščiausiu iš visų startuolių sektorių intensyvumu ir įžūlumu. Kalbėdamas su A. I. tyrėjais per pastaruosius metus, dažnai jausdavausi, kad esu viename iš tų oro uosto judančių takų, važiuojančių tris mylias per valandą, o jie – 4000 mylių per valandą greičiu. Tyrėjai man nuolat kartojo, kad šis A.I. istorijos etapas yra toks jaudinantis būtent todėl, kad niekas negali nuspėti, kas nutiks toliau. "Būdamas A.I. tyrėju, turėtumėte suprasti, kas vyksta. Mes nuolat stebimės", - Stanfordo mokslų daktaras Rishi Bommasani man pasakė.
Žmonės A.I. atrodo, kad vienu metu patiria radikaliai skirtingas smegenų būsenas. Man buvo nepaprastai sunku rašyti apie A.I. nes tiesiogine prasme nežinoma, ar ši technologija mus veda į dangų ar į pragarą, todėl mano požiūris į ją keičiasi, atsižvelgiant į mano nuotaiką.
Podcaster ir M.I.T. mokslininkas Lexas Fridmanas, tapęs technologijų pasaulio tėvu nuodėmklausiu, išreiškė greitą emocijų gamą, su kuria aš susidurdavau vėl ir vėl: „Tu sėdi ir išdidus, kaip tėvas, bet beveik, kaip išdidus ir išsigandęs, kad tai bus daug protingesniu už mane. Kaip ir pasididžiavimas, ir liūdesys, beveik, kaip melancholiškas jausmas, bet, galiausiai, džiaugsmas.
Kai gegužę lankiausi OpenAI būstinėje, kultūra man pasirodė gana įspūdinga. Daugelis mano kalbintų žmonių atvyko, kai „OpenAI“ buvo, ne pelno siekianti, tyrimų laboratorija, prieš „ChatGPT hullabaloo“, kai dauguma iš mūsų apie šią įmonę nebuvo girdėję. „Mano tėvai iš tikrųjų nežinojo, ką daro OpenAI“, – pasakojo produkto vadovė Joanne Jang, – ir jie klausė: „Tu palieki Google? Markas Chenas, kūręs įrankį DALL-E 2, turėjo panašią patirtį. „Prieš ChatGPT mano mama man skambindavo kiekvieną savaitę ir sakydavo: „Ei, tu žinai, kad gali nustoti blaškytis ir eiti dirbti į „Google“ ar panašiai.“ Šiuos žmones pirmiausia skatina ne pinigai.
Net po to, kai GPT pateko į antraštes, buvimas OpenAI buvo tarsi uragano akis. „Tai tiesiog jaučiasi daug ramiau nei visame pasaulyje“, - sakė man Jang. „Nuo pat pradžių ji atrodė labiau, kaip tyrimų laboratorija, nes daugiausia samdėme tik tyrėjus“, – pasakojo įdarbintoja Elena Chatziathanasiadou. „Ir tada, kai mes augome, visiems tapo akivaizdu, kad pažanga bus tiek iš inžinerijos, tiek iš mokslinių tyrimų.
Ten nesutikau nei technikos brolių, nei žmonių, turinčių tokį „mes keičiame pasaulį“ bravūrą, kokį, turbūt, turėčiau, jei būčiau šios technologijos pradininkas. Diane Yoon, kurios pareigos yra žmonių viceprezidentė, man pasakė: „Žodis, kurį naudočiau šiai darbo jėgai, yra rimtas... rimtumas“.
Paprastai, kai lankausi technologijų įmonėje, kaip žurnalistas, sutinku labai nedaug vadovų, o tie, su kuriais imu interviu, negailestingai žiūri į surašytą žinią. OpenAI tik išleido registracijos lapą ir privertė žmones pasikalbėti su manimi.
Prisipažįstu, kad į šias technikos darbo vietas ėjau su tam tikru gynybinio humanistinio snobizmo laipsniu: šie žmonės gali žinoti kodą, sakau sau, bet jie, tikriausiai, nežino literatūrinių ir filosofinių dalykų, kurie iš tikrųjų yra svarbūs.
Buvau pritrenktas OpenAI. Yoon, užaugo kaip šokėja ir vaidinusi Šekspyrą. Nickas Ryderis buvo Kalifornijos universiteto Berklyje matematikas, prieš tapdamas OpenAI tyrėju, domėjosi kažkuo, vadinamu baigtinėmis diferencialinėmis konvoliucijomis. Keletas žmonių paminėjo kolegą iš mokslinių tyrimų pusės, kuris studijavo fiziką, kaip bakalaurą, dvejiems metams išvyko į Juilliardą studijuoti fortepijono, o vėliau įgijo neurologijos magistro laipsnį. Kiti man sakė, kad jų pirminiai akademiniai interesai buvo susiję su proto filosofija arba kalbos filosofija ar simbolinėmis sistemomis. Tyna Eloundou, įmonės techninio personalo narė, prieš atvykdama į OpenAI, studijavo ekonomikos teoriją ir dirbo Federaliniame rezerve.
Kad ir kaip jie visi būtų įspūdingi, prisimenu, kaip sakiau sau: tai nesitęs. Maniau, kad aplinkui sklando per daug pinigų. Šie žmonės gali būti nuoširdūs tyrinėtojai, bet nesvarbu, ar jie tai žino, ar ne, jie vis dar lenktyniauja, siekdami išleisti produktus, uždirbti pajamų ir būti pirmi.
Taip pat buvo aišku, kad žmonės buvo draskomi dėl saugumo. Viena vertus, saugumas buvo visų galvoje. Pavyzdžiui, paklausiau Marco Cheno apie jo emocijas tą dieną, kai buvo išleistas DALL-E 2. "Daugelis to buvo tik toks baimės jausmas. Pavyzdžiui, ar gavome saugumą." Kita vertus, visi, su kuriais kalbėjausi, buvo atsidavę pagrindinei OpenAI misijai – sukurti technologiją, galinčią dirbtiniu bendruoju intelektu prilygti arba pranokti žmogaus intelektą, atliekant įvairias užduotis.
A.I. yra laukas, kuriame puikūs žmonės piešia nepaprastai skirtingus, bet ir įtikinamus portretus, kur tai vyksta. Rizikos kapitalo investuotojas Marcas Andreessenas pabrėžia, kad tai labai pakeis pasaulį į gerąją pusę. Kognityvinis mokslininkas Gary Marcusas vaizduoja, ne mažiau įtikinamą, scenarijų, kaip visa tai gali suklysti.
Niekas iš tikrųjų nežino, kas teisus, bet tyrėjai tik veržiasi į priekį. Jų elgesys man primena tai, ką Alanas Turingas rašė 1950 m.: „Mes matome tik trumpą atstumą į priekį, bet matome daug, ką reikia padaryti“.
Tikėjausi, kad „OpenAI“ gali įveikti įtampą, nors ir tada buvo nerimo. Kaip man sakė „OpenAI“ operacijų vadovas Bradas Lightcapas: „Svarbiausia yra tai, kad mums augant išlaikyti kultūrą ir orientaciją į misiją. Jei nuoširdžiai klausiate, mantrukdo miegoti, kaip išlaikyti tai, dirbant dideliu mastu."
Tie žodžiai buvo įžvalgūs. Organizacinė kultūra nėra lengvai sukuriama, bet ją lengva sugriauti. Pažodinis pasaulio saugumas yra apibendrintas klausimu: ar naujai paleistas Altmanas išsaugos vaisingą prieštaravimą, ar pasiduos eik-eik-eik spaudimui?" [1]
1. The Fight for the Soul of A.I.: [Op-Ed]. Brooks, David. New York Times, Late Edition (East Coast); New York, N.Y.. 24 Nov 2023: A.21.
Komentarų nėra:
Rašyti komentarą