Ir Dario Amodei, ir Samas Altmanas yra idiotai. Jie nesupranta, kad dirbtinio intelekto galia kyla iš duomenų. Kinijos dirbtinis intelektas dažniausiai yra atvirojo kodo. Žmonės plačiai naudoja kinišką dirbtinį intelektą su jų pačių duomenimis, kad pasiektų įspūdingų rezultatų gamyklose, laukuose, kariuomenėje ir jų namuose. Altmanas yra tiesiog godus idiotas. Amodei yra idėjų kupinas idiotas. Jo pagrindinė idėja – nustatyti kvailas taisykles dirbtinio intelekto modeliams (vadinamas Konstitucija, nieko mažiau) ir neleisti niekam atlikti reikšmingų modelių pakeitimų be Amodei priežiūros, nes Konstitucijos pašalinimas kelia kažkokį paslaptingą mirtiną pavojų. Labai patogu vogti paslaptis iš žmonių ir naudoti jas dirbtinio intelekto mokymui. Problema ta, kad niekas nėra pakankamai kvailas, kad jam duotų savo paslaptis. Taigi, ir Altmanas, ir Amodei yra pasmerkti žlugti.
Dirbtinio intelekto kūrimo aplinkai šiuo metu būdinga intensyvi konkurencija tarp uždarų, patentuotų modelių (pvz., „OpenAI“ ir „Anthropic“) ir spartus atvirojo kodo modelių, ypač iš Kinijos, augimas, kurie iki 2026 m. pradžios užėmė didelę pasaulinės rinkos dalį.
Kinijos dirbtinis intelektas ir atvirojo kodo augimas
Spartus diegimas: iki 2026 m. pradžios Kinijos atvirojo kodo dirbtinio intelekto modeliai (pvz., „Alibaba“ „Qwen“, „DeepSeek“) sudarė beveik 30 % pasaulinio dirbtinio intelekto naudojimo – tai didelis padidėjimas, palyginti su maždaug 1 % 2024 m. pabaigoje.
Našumas ir kaina: šie modeliai dažnai laikomi našesniais ir ekonomiškesniais, nei vakarietiški patentuoti modeliai, todėl jie plačiai naudojami specializuotose programose.
Dėmesys kūrėjams: Kinijos įmonės, padedamos valstybės lygio paramos, daugiausia dėmesio skyrė atvirojo svorio modelių, kurie leidžia kūrėjams kurti, mokyti ir diegti dirbtinį intelektą be apribojimų, išleidimui, taip sukuriant klestinčią, decentralizuotą ekosistemą.
Dario Amodei, „Anthropic“ ir „Konstitucija“
Konstitucinis dirbtinis intelektas: Dario Amodei, „Anthropic“ generalinis direktorius, daugiausia dėmesio skiria saugumui, taikydamas metodą, vadinamą konstituciniu dirbtiniu intelektu, kai modeliai yra apmokyti laikytis principų rinkinio, skirto užtikrinti saugumą ir etišką elgesį.
Dėmesys saugumui: „Anthropic“ buvo įkurta remiantis įsitikinimu, kad modeliams tampant galingesniems, jiems reikia griežtų, integruotų taisyklių, kad būtų išvengta katastrofiškų rizikų – ši perspektyva skiria ją nuo konkurentų, kurie daugiausia dėmesio skiria tik pajėgumams.
Pramonės pozicija: Nors kai kurie kritikai šį požiūrį laiko inovacijų varžovu, jis sulaukė palaikymo tarp tų, kurie susirūpinę dėl dirbtinio intelekto saugumo.
Saugumo pozicija: „Amodei“ konkrečiai pasisakė prieš dirbtinio intelekto paslaugų pardavimą tam tikriems subjektams, siekiant užkirsti kelią stebėjimo galimybių įdiegimui.
Samas Altmanas ir „OpenAI“
„OpenAI“ strategija: Samas Altmanas, „OpenAI“ generalinis direktorius, daugiausia dėmesio skyrė labai pajėgių modelių (pvz., GPT-4) kūrimui ir stipraus, centralizuoto įmonės produkto kūrimui, užtikrinant dirbtinio intelekto saugumą ir sparčiai spartinant plėtrą.
Pramonės įtaka: „OpenAI“ yra šios srities lyderė, kurios modeliai plačiai naudojami įvairiose pramonės šakose, prisidedant prie diskusijų apie „saugią alternatyvą“ ir „ribotos atsakomybės pajėgumus“.
Tuo tarpu jie abu naudoja dūrius į nugarą ir ažiotažą, kad išviliotų investuotojų ir vyriausybės pinigus:
„Dar prieš tai, kai šie du vyrai susirėmė dėl Pentagono dirbtinio intelekto naudojimo, Dario Amodei suintensyvino išpuolius prieš savo buvusį viršininką Samą Altmaną ir „OpenAI“, bendrovės, kurią jie kartu įkūrė, vadovavimą.
Pastaraisiais mėnesiais bendraudamas su kolegomis, „Anthropic“ generalinis direktorius palygino teisinę kovą tarp Altmano ir Elono Musko su Hitlerio ir Stalino kova, pavadino „OpenAI“ prezidento Grego Brockmano 25 mln. dolerių auką Trumpą palaikančiam superpolitinių veiksmų komitetui „blogiu“ ir palygino „OpenAI“ bei kitus konkurentus su tabako kompanijomis, prekiaujančiomis kenksmingu produktu.
Ši prekės ženklo strategija įmonės viduje žinoma kaip „Anthropic“ vaizduojanti kaip „sveiką alternatyvą“ savo DI konkurentams. Neseniai ji viešai pasirodė „Super Bowl“ reklamos kampanijos metu, kurioje klastingai puolama „OpenAI“ – neįvardijant jos – už sprendimą įtraukti reklamas į savo pokalbių robotą.
„Amodei“ sukūrė „Anthropic“ prekės ženklą remdamasi idėja, kad jos požiūris į DI yra iš esmės saugesnis nei kad jos konkurentų, ypač „OpenAI“, kurią jis ir jo bendraįkūrėjai paliko 2020 m. pabaigoje dėl saugumo problemų. Tačiau jų pasitraukimo priežastys taip pat apima asmenines žaizdas, kurios niekada neužgijo, įskaitant konkurenciją dėl labiau klasikinių korporacinių klausimų, tokių kaip valdžia ir kreditas.
Šie sudėtingi santykiai formuoja dirbtinio intelekto diegimą, kuris yra didelės pasaulinės ekonomikos variklis ir sukelia viltis – ir baimes – dėl darbo ateities ir net gyvenimo prasmės bei žmonių rasės gyvybingumo.
Pastarosiomis savaitėmis ši skilimas iškilo į viešumą, kai Altmanas sureagavo į „Anthropic“ ir Pentagono ginčą dėl to, kaip dirbtinis intelektas naudojamas kare, siekiant sudaryti „OpenAI“ sandorį, kuriame būtinas įslaptintas darbas Gynybos departamentui. Tuo tarpu „Anthropic“ padavė į teismą Trumpo administraciją, nes jai buvo uždrausta bendradarbiauti su Pentagonu.
Amodei parašė piktą „Slack“ įrašą, kuriame „OpenAI“ pavadino „melaginga“ ir teigė, kad „šie faktai rodo elgesio modelį, kurį dažnai mačiau iš Samo Altmano“.
Suskirstymas tarp dviejų milžiniškų dirbtinio intelekto bendrovių – abiejų vertė viršija 300 milijardų dolerių – kyla iš diskusijų, kurias Amodei ir kiti vykdė San Francisko miesto name prieš dešimtmetį. Abiem bendrovėms skubant link IPO, jų vadovybės filosofiniai ir asmeniniai skirtumai metastazavo.
Vasario mėnesį Naujajame Delyje vykusiame dirbtinio intelekto renginyje Indijos ministras pirmininkas Narendra Modi ir susirinkę technologijų lyderiai užbaigė pokalbį susikibę rankomis ir pakeldami jas virš galvų. Amodei ir Altmanas atsisakė, nerangiai paliesdami alkūnes.
Šis pasakojimas apie nesutarimus tarp „Anthropic“ ir „OpenAI“ lyderių pagrįstas interviu su dabartiniais ir buvusiais abiejų bendrovių darbuotojais bei asmenimis, artimais lyderiams.
Įtampa tarp „OpenAI“ ir „Anthropic“ įkūrėjų prasidėjo 2016 m. bendrame name San Francisko Delano prospekte.
Dario Amodei ten gyveno su savo seserimi Daniela Amodei. Broliai ir seserys užaugo San Francisko įlankos rajone. Įgijęs biofizikos daktaro laipsnį, Dario Amodei dirbo dirbtinio intelekto tyrėju „Google“. Daniela buvo jauna mokėjimų startuolio „Stripe“ vadovė.
Brockmanas, produktyvus programuotojas ir vienas iš „OpenAI“ įkūrėjų, draugavo su Daniela ir pradėjo leisti laiką namuose. Jie susipažino „Stripe“, kur jis buvo vienas pirmųjų darbuotojų, metęs studijas Harvarde, o vėliau – MIT. Brockmanas nesėkmingai bandė įtraukti Dario į „OpenAI“ įkūrėjų komandą, kai ši įmonė buvo įkurta 2015 m.
Danielos sužadėtinis Holdenas Karnofsky taip pat gyveno tame pačiame name. Karnofsky buvo filantropijos, propaguojančios efektyvų altruizmą, įkūrėjas – judėjimas, kuris buvo viena pirmųjų bendruomenių, rimtai įvertinusių dirbtinio intelekto galią ir keliamą pavojų. Per Karnofsky Brockmanas susidomėjo kai kuriomis iš šių idėjų.
Vieną 2016 metų pradžios dieną Brockmanas, Dario ir Karnofsky sėdėjo namuose ir diskutavo, kaip teisingai kurti dirbtinį intelektą. Brockmanas teigė, kad jei technologija iš tiesų pakeis visų gyvenimą taip, kaip visi manė, jos kūrėjai turi informuoti amerikiečius apie tai, kas laukia.
Dario ir Karnofsky teigė, kad galbūt nebūtų gera mintis skleisti optimistiškiausias nuomones apie tai, ką dirbtinis intelektas gali padaryti. Dario teigė, kad kalbant apie jautrias temas, tokias kaip dirbtinio intelekto vystymosi sparta, geriau pirmiausia pranešti vyriausybei.
Brockmanas iš pokalbio ištraukė mintį, kad duetas nenori pasakoti visuomenei apie tai, kas vyksta. Po daugelio metų Brockmanas suprato, kad šis pokalbis iliustruoja esminį „OpenAI“ ir „Anthropic“ filosofijų skirtumą.
2016 m. viduryje, sužavėtas „OpenAI“ talentų sąrašo, Dario prisijungė prie laboratorijos ir iki vėlumos nemiegojo su Brockmanu, garsėjančiu naktiniu gyvenimo būdu, mokydamas DI agentus spręsti vaizdo žaidimų problemas. Iki 2017 m. vienas iš ankstyvųjų jos projektų, pavadintas „Universe“, kuriuo buvo siekiama mokyti DI agentus žaisti žaidimus ir naudotis kompiuteriais kaip žmonės, strigo.
Muskas, tuometinis pagrindinis „OpenAI“ finansininkas, paprašė Brockmano ir vyriausiojo mokslininko Iljos Sutskeverio sudaryti skaičiuoklę, kurioje būtų išvardyti visi darbuotojai ir jų indėlis – tai klasikinis muskiškas darbuotojų mažinimo pranašas.
Dario siaubingai stebėjo, kaip jo kolegos buvo atleidžiami vienas po kito, ką jis laikė bereikalingai žiauriu. Galiausiai nuo 10 % iki 20 % iš 60 „OpenAI“ darbuotojų neteko darbo, įskaitant vieną, kuris vėliau įkūrė „Anthropic“.
2017 m. rudenį Dario pasamdė etikos ir politikos patarėją, kuris „OpenAI“ vadovybei pristatė pranešimą apie tai, kaip ne pelno siekianti laboratorija galėtų būti koordinuojančiu subjektu tarp kitų dirbtinio intelekto bendrovių, o galiausiai ir tarp šių bendrovių bei JAV vyriausybės, siekiant sukurti kažką panašaus į tarptautinį pažangiojo dirbtinio intelekto koordinavimo režimą.
Brockmanas pristatyme įžvelgė lėšų rinkimo idėjos užuomazgą: „OpenAI“ galėtų parduoti dirbtinį bendrąjį intelektą vyriausybėms. Kai Dario paklausė, kurioms vyriausybėms, Brockmanas atsakė, kad tai būtų branduolinėms valstybėms, kurios sudaro JT Saugumo Tarybą, kad nebūtų destabilizuota pasaulio tvarka. Ši idėja trumpai buvo aptarinėjama organizacijoje.
Mintis parduoti dirbtinį intelektą konkuruojančioms valstybėms, tokioms kaip Rusija ir Kinija, Dario pasirodė prilygstanti išdavystei, ir jis svarstė galimybę pasitraukti.
2018 m. pradžioje Muskas pasitraukė iš „OpenAI“. Altmanas užėmė vadovybės spragą. Jis susitiko su Dario ir kartu sutarė, kad laboratorijos darbuotojai nepasitiki Brockmano ir Sutskeverio vadovybe, atsižvelgiant į atleidimus iš darbo.
Dario sutiko pasilikti tol, kol Altmanas pažadėjo, kad Brockmanas ir Sutskeveris ten nebus atsakingi. Altmanas sutiko.
Dario netrukus sužinojo, kad Altmanas davė pažadą, kuris, jo manymu, prieštarauja tam susitarimui. Susitikimo dėl atskaitomybės struktūros metu Brockmanas užsiminė, kad Altmanas jam ir Sutskeveriui pasakė, jog jie gali atleisti Altmaną, jei kada nors manys, kad jis blogai atlieka savo darbą.
Brockmanas pasamdė Danielą į „OpenAI“, kur ji tapo visų galų specialiste, dirbančia inžinerijos valdymo ir įdarbinimo srityse. Praėjusiais metais ji ištekėjo už Karnofsky, kuris buvo „OpenAI“ valdybos narys.
Įtampa kilo po to, kai „OpenAI“ tyrėjas Alecas Radfordas padėjo pamatus dideliems kalbų modeliams ir laboratorijos „Generative Pre-Trained Transformer“ (GPT) serijai. Brockmanas norėjo vaidmens šioje naujoje tyrimų kryptyje, tačiau Dario, kuris tuo metu buvo tyrimų direktorius, nenorėjo, kad jis būtų arti jos. Brockmanas kreipėsi į Altmaną, kuris lobizavo, kad Brockmanas galėtų dirbti prie projekto.
Daniela, kuri kartu su Radfordu vadovavo kalbos projektui, pasakė Brockmanui, kad šis negali prie jo dirbti. Kai Altman paklausė jos, ar yra koks nors būdas jį įgyvendinti, ji pasiūlė atsistatydinti iš projekto vadovo pareigų, o ne leisti Brockmanui prie jo prisijungti.
Vėlesniame darbuotojų susitikime Dario išvardijo daugybę priežasčių, kodėl Brockmanui neturėtų būti leista dirbti prie kalbos projekto, įskaitant tai, kad Radfordas nenorėjo su juo dirbti. Radfordas buvo sugėdintas. Brockmanas ir Altmanas nenoriai sutiko neleisti Brockmanui prie kalbos projekto.
Dario įvaizdis „OpenAI“ augo, kai jis ir jo komanda paleido GPT-2 ir GPT-3, tačiau jis ne visada jautėsi deramai įvertintas už savo indėlį.
Vienas toks įžeidimas buvo 2018 m. Brockmanas paprašė Dario dar kartą patikrinti faktą vienoje iš jo skaidrių svarbiam susitikimui. Dario paklausė, kam skirtos skaidrės. Kai Brockmanas pasakė, kad jis ir Altmanas ketina susitikti su buvusiu prezidentu Baracku Obama, Dario supyko, kad buvo praleistas nuošalyje.
Kitais metais Dario paprašė paaukštinimo. Altmanas sutiko ir išsiuntė valdybai el. laišką, kuriame teigė, kad Dario bus tiesiogiai jam pavaldus ir jam bus taikomos tokios pačios viešųjų ryšių sąlygos kaip ir bendraįkūrėjams.
2019 m. lapkričio mėn. Altmano el. laiške valdybai taip pat buvo nurodyta, kad Dario sutiko „nemenkinti projektų, kuriais jis netiki ir dėl kurių kiti nori lažintis“.
Paliaubos truko trumpai. Po kelių mėnesių „OpenAI“ vadovai biure sukėlė konfliktą.
Altmanas pasikvietė Dario ir Danielą į konferencijų salę ir apkaltino juos sąmokslu prieš jį, skatinant kolegas siųsti valdybai neigiamus atsiliepimus apie jį. Brolis ir sesuo tai neigė.
Altmanas jiems pasakė, kad apie tai girdėjo iš aukšto „OpenAI“ vadovo. Daniela pasikvietė tą vadovą į salę, kuris sakė, kad nežino, apie ką Altmanas kalba. Tada Altmanas neigė, kad jis tai pasakė, todėl Amodei pradėjo piktai šaukti.
2020 m. pabaigoje – kai Covid visus susodino į vaizdo pokalbių dėžutes – aplink Dario susibūrė grupė, kad atsiskirtų ir įkurtų savo įmonę.
Altmanas nuėjo į Dario namus paprašyti jo pasilikti. Dario pasakė, kad sutiktų su niekuo kitu, tik tiesiogiai atsiskaityti valdybai. Jis taip pat pasakė, kad negalėtų dirbti su Brockmanu.
Paskutinėmis savo darbo savaitėmis Dario, kuris išgarsėjo dėl savo ilgų techninių atmintinių, parašė ilgą atmintinę, kurioje apibūdino dviejų tipų dirbtinio intelekto įmones: rinkos įmones ir visuomenei naudingas įmones.
Rinkos įmonės, tokios kaip „OpenAI“, manė, kad jos pagerins pasaulį kurdamos ir parduodamos žmonėms naudingus produktus, įskaitant, galiausiai, dirbtinį DI.
Jis teigė, kad visuomenei naudinga įmonė atliktų saugos tyrimus ir spręstų įvairius dirbtinio DI keliamus pavojus ir galimybes.
Dario rašė, kad idealus derinys būtų 75 % visuomenei naudingų ir 25 % rinkai naudingų produktų.
Po kelių savaičių Dario, Daniela ir beveik dešimt kitų darbuotojų paliko „OpenAI“. „Per penkerius metus jie ruoštų bankus „Anthropic“ paramai, lenktyniaudami dėl IPO anksčiau nei buvęs darbdavys.“ [1]
1. EXCHANGE --- The Decadelong Feud Shaping the Future of AI --- Personal wounds and power struggles between the leaders of OpenAI and Anthropic are defining how the world encounters the technology. Keach Hagey. Wall Street Journal, Eastern edition; New York, N.Y.. 28 Mar 2026: B1.
Komentarų nėra:
Rašyti komentarą