„Meta daro tai, ko Markas Zuckerbergas nemėgsta: bando pasivyti.
Prieš dešimtmetį įmonės įkūrėjas ir generalinis direktorius įžvelgė dirbtinio intelekto (AI) pažadą ir investavo dideles pinigų sumas į jo pažangą. Jis pasamdė vieną iš pirmųjų jo vizionierių Yann LeCun vadovauti vystymui. Dabar, praėjus vos mėnesiams po OpenAI ChatGPT įsiveržimo į vartotojų rinką, Meta atsilieka nuo tos pačios technologijos pritaikymų.
„Meta“ dabar stengiasi perorientuoti savo išteklius, kad sukurtų tinkamus dirbtinio intelekto produktus ir funkcijas, įskaitant savo pokalbių robotus, po to, kai daugelį metų skyrė pirmenybę akademiniams atradimams ir laisvai dalinosi jais, stengdamasi išnaudoti savo komercinį potencialą.
Tai didelis užsakymas, nes daugelis geriausių Meta dirbtinio intelekto darbuotojų išvyko, o pati bendrovė daug atleido iš darbo tuo laiku, kurį Zuckerbergas pavadino „efektyvumo metais“. Remiantis „Wall Street Journal“ analize, maždaug trečdalis „Meta“ darbuotojų, kurie buvo tarp bendraautorių, paskelbė AI tyrimus, susijusius su didelių kalbų modeliais – sudėtingomis sistemomis, kurios maitina AI sistemas, tokias, kaip „ChatGPT“.
Pats Zuckerbergas ir kiti aukščiausio lygio vadovai ėmė labiau kontroliuoti bendrovės AI strategiją. Jie sukūrė naują generuojančią dirbtinio intelekto grupę, kuri yra tiesiogiai atskaitinga vyriausiajam produktų pareigūnui Chrisui Coxui, vienam ilgiausiai dirbančių ir patikimiausių „Meta“ vadovų. Grupė moko generatyvius dirbtinio intelekto modelius, kurie sukuria turinį, pvz., tekstą, vaizdus ar garsą, skirtą įterpti į „kiekvieną mūsų produktą“, sakė Zuckerbergas.
Jis paminėjo „Meta“ pavyzdinį dirbtinio intelekto kalbos modelį, vadinamą LLaMA, kuris, nutekėjus jo kodui, paskatino vietinių įrankių, kurie vieną dieną galėtų konkuruoti su produktais, kuriuos bando parduoti „Google“ ir „OpenAI“, atsiradimą.
Jei Meta pavyks komercializuoti savo dirbtinio intelekto pastangas, tai gali padėti padidinti vartotojų įsitraukimą, sukurti geresnę metaversiją ir padaryti įmonę patrauklesnę jauniems vartotojams, kuriuos dabar sunkiau pritraukti. Jei Meta negalės pakankamai greitai pasinaudoti šia technologija, ji rizikuoja prarasti savo aktualumą, nes konkurentai, įskaitant, sparčiai augantį, mažų dirbtinio intelekto įmonių skaičių, žengs į priekį.
Joelle Pineau, „Meta“ AI tyrimų viceprezidentė, pareiškime teigė, kad bendrovė neatsilieka nuo dirbtinio intelekto ir gynė savo dėmesį tyrimams ir struktūrai, sakydama, kad tai padės „Meta“ siekti sėkmės. „Meta“ AI tyrimų padalinys „yra viena iš pirmaujančių pasaulio AI tyrėjų ir atvirojo mokslo vietų, o jo tyrimų rezultatai vien per pastaruosius metus labai išaugo“, – sakė Pineau. "Mūsų mokslinių tyrimų laimėjimai suteikė didžiulį pagrindą, kuriuo galime remtis, nes į savo programų šeimą pristatome naują generatyvaus dirbtinio intelekto patirties klasę. Didžiuojamės buvusių ir dabartinių Meta AI tyrinėtojų indėliu, skirtu formuoti pažangaus modernaus AI ateitį.
Zuckerbergas penktadienį paskelbė apie dirbtinio intelekto modelį, pavadintą „Voicebox“, kuris gali įvairiais būdais garsiai perskaityti teksto raginimus arba koreguoti garso įrašus, naudodamas tekstinius raginimus, kad pašalintų foninį triukšmą, pavyzdžiui, šuns lojimą. Kada tyrimo projektas taps prieinamas visuomenei, Meta nesakė.
Šis straipsnis paremtas interviu su daugiau nei tuzinu esamų ir buvusių Meta darbuotojų, „LinkedIn“ ir socialinių tinklų profilių apžvalgomis bei startuolių naujienų pranešimais.
M. Zuckerbergas ir kiti vadovai AI pavadino trečiąja Meta ištakų koja, manydami, kad tai būtina ilgalaikiam įmonės augimui ir aktualumui, kartu su pasauliniu ryšiu ir virtualia bei papildyta realybe. Atsilikimas dirbtinio intelekto srityje kelia grėsmę, kad Meta atrodys nevykusi ir lėta, o ne vikrus, agresyvus pakilimas, sukūręs frazę „greitai judėkite ir sulaužykite dalykus“, kas nustatė naujovių tempą Silicio slėnyje.
Gegužės mėnesį Baltieji rūmai nekvietė Metos į AI lyderių susitikimą, kuris buvo vadinamas „įmonių, kurios pirmaujančios dirbtinio intelekto srityje“, susitikimas.
„Meta“ ėmėsi staigių posūkių ir anksčiau, kai buvo atsilikus, pavyzdžiui, kai „Facebook“ iš stalinio kompiuterio į mobiliesiems skirtų skelbimų verslą arba 2016 m., kai „Instagram“ paleido „Istorijų“ funkciją, kad atitrauktų žmones nuo „Snapchat“, kuris panašią funkciją pristatė prieš dešimtmetį.
Meta susiduria su kitais strateginiais, politiniais ir finansiniais iššūkiais. Ilgą laiką didelis dėmesys originaliems tyrimams Meta AI padalinyje atgrasino darbą su generuojamuoju AI, tokiomis sistemomis kaip ChatGPT, kurios kuria žmonėms patinkantį tekstą ir mediją. Vadovai suklydo, kurdami aparatinę įrangą, reikalingą tokioms AI programoms vykdyti, o dabar bandoma tai ištaisyti. Ilgametis įmonės vartotojų duomenų tvarkymo ir žmogaus teisių pažeidimų tyrimas privertė kai kuriuos vadovus neryžtingais ir siekiančiais atsargiai pristatyti vartotojams naujus AI produktus.
Meta pradėjo investuoti į dirbtinį intelektą 2013 m. Zuckerbergas ir tuometinis technologijų vadovas Mike'as Schroepferis asmeniškai siekė įdarbinti vieną iš pirmaujančių dirbtinio intelekto protų, kad jis vadovautų naujam tyrimų padaliniui, kad būtų tobulinama technologija. Jie rado savo leitenantą LeCune, kuris dirbo Niujorko universiteto profesoriumi, kurio proveržis šioje srityje buvo žinomas.
LeCun, kurio šaknys yra akademinės bendruomenės ir fundamentiniai tyrimai, padėjo sukurti kultūrą, atspindinčią jo prioritetus: samdyti mokslininkus, o ne inžinierius, ir akcentuoti akademinius rezultatus, pavyzdžiui, mokslinius darbus, o ne produkto kūrimą įmonės galutiniams vartotojams. Dėl šios strategijos Metos fundamentinė AI tyrimų laboratorija, bėgant metams, tapo labai patraukli geriausiems talentams, tačiau ginčijo bendrovės gebėjimą komercializuoti savo pažangą, sakė su šiuo klausimu susipažinę žmonės.
Tai taip pat paskatino išsklaidytą, „iš apačios į viršų“ požiūrį į mokslinių tyrimų kryptį ir išteklių paskirstymą. Pasak žmonių, mokslininkai vadovavosi savo darbotvarkėmis, siekdami nepriklausomų projektų skirtingomis kryptimis, o ne siekdami darnios visos įmonės strategijos. „Meta“ kiekviename projekte suskirstė aparatinę įrangą į mažus telkinius: kai kurie tyrėjai, gavę daugiau kompiuterių lustų, nei reikėjo, surišdavo juos į nereikalingas užduotis, kad jų neatsisakytų, sakė kai kurie žmonės.
Tuo tarpu „Meta“ vangiai aprūpino savo duomenų centrus galingiausiais kompiuterių lustais, reikalingais dirbtinio intelekto plėtrai. Net kai bendrovė įsigijo daugiau šių lustų, ji neturėjo geros sistemos, kaip juos gauti inžinieriams ir tyrėjams. Kai kurie žmonės sakė, kad kartais tūkstančiai geidžiamos ir brangios aparatūros dalių stovėjo nenaudojamos.
„Meta“ šiuo metu atlieka kapitalinį duomenų centrų remontą, o tai galėjo prisidėti prie trukdžių. Gegužės mėn. naujausias „Meta“ superkompiuteris, skirtas dirbtinio intelekto projektams, turi 16 000 tokių lustų, rašoma bendrovės tinklaraščio įraše.
2020 m., kai dideli kalbų modeliai pradėjo rodyti vis įspūdingesnius gebėjimus, Meta AI tyrimų padalinyje kilo įtampa tarp tų, kurie ragino bendrovę rimtai investuoti į naują pramonės kryptį, ir tų, įskaitant LeCuną, kurie manė, kad tokie modeliai yra mados, kurioms trūksta mokslo vertės, sakė su šiuo klausimu susipažinę žmonės. LeCun stipriai priešinosi dideliems kalbos modeliams (jo manymu, jie nepriartina dirbtinio intelekto prie žmogaus lygio intelekto) tiek viduje, tiek viešai, todėl priešingų pažiūrų mokslininkams buvo sunku sukaupti paramą ir didžiulius išteklius, reikalingus tokio pobūdžio projektams. “, – sakė kai kurie žmonės.
Kai kurie „Meta“ tyrėjai vis tiek veržėsi į priekį, turėdami mažiau išteklių, naudodami maždaug 1 000 lustų, kad 2022 m. sukurtų didelį kalbos modelį, žinomą kaip OPT arba Open Pretrained Transformer, ir apie 2 000 lustų, kad 2023 m. būtų sukurtas pavyzdinis Meta modelis, vadinamas LLaMA. priešingai, yra nuo 5 000 iki 10 000 žetonų.
Iš pradžių „Meta“ leido ribotai išorinių tyrėjų grupei prieiti prie LLaMA, kol jis nepateko į internetą, sukeldama naujovių pliūpsnį, kurį vadovai mini kaip puikų „Meta“ tikslo dalytis dirbtinio intelekto technologija pavyzdį.
Nuo to laiko Meta neteko daugybės dirbtinio intelekto tyrėjų, kurie per pastaruosius metus dirbo su šiais ir kitais pagrindiniais generuojančiais AI projektais, daugelis jų nurodė perdegimą arba nepasitikėjimą Meta, kad ji gali neatsilikti nuo konkurentų. Šeši iš 14 autorių, išvardytų LLaMA moksliniame darbe, išvyko arba paskelbė, kad išvyks, atsižvelgiant į jų „LinkedIn“ profilius ir žmones, susipažinusius su šiuo klausimu. Aštuoni iš 19 OPT bendraautorių taip pat paliko.
Išvykimai paspartėjo po to, kai praėjusių metų lapkritį OpenAI išleido ChatGPT. Kai kuriuos suviliojo AI paleidimo karštligė, kuri paskatino darbuotojų kaitą visose Silicio slėnio įmonėse, įskaitant „Google“. Profesionalus socialinis tinklas „The Wall Street Journal“ pranešė, kad kovo mėn. „LinkedIn“ darbo skelbimų, kuriuose minimas GPT, skaičius per metus išaugo 79%.
„Meta“ atstovas sakė, kad bendrovė toliau įdarbino ir pritraukė naujų AI talentų.
Po „ChatGPT“ debiuto Zuckerbergas ir Coxas kartu su vyriausiuoju technologijų pareigūnu Andrew Bosworthu prižiūrėjo visas su AI susijusias įmonės pastangas. Trys vadovai dabar valandų per savaitę skiria dirbtiniam intelektui, dalyvauja susitikimuose ir tvirtina AI projektus.
Naujoji generacinio AI grupė yra orientuota tik į tinkamų produktų ir įrankių kūrimą, o ne į mokslinius tyrimus. Ji gavo daugiau, nei 2000 vidinių paraiškų ir greitai surinko šimtus žmonių iš skirtingų komandų. Aparatinės įrangos ištekliai buvo perkelti iš AI tyrimų skyriaus ir naudojami naujiems generuojantiems AI modeliams mokyti, sakė su darbu susipažinę žmonės.
Kovo mėn. Zuckerbergas sakė, kad „AI tobulinimas ir jo įtraukimas į kiekvieną mūsų produktą“ buvo didžiausia bendrovės investicija. Kalbėdamas per metinį „Meta“ akcininkų susirinkimą gegužę, Zuckerbergas sakė, kad bendrovė taip pat tikisi išplėsti technologiją ir į metaverse.
Anksčiau šį mėnesį vykusiame miesto rotušės susitikime su darbuotojais Zuckerbergas paskelbė apie daugybę generatyvių AI produktų, kuriuos bendrovė šiuo metu dirba, sakė „Meta“ atstovas. Iniciatyvos apima AI agentus, skirtus „Messenger“ ir „WhatsApp“, AI lipdukus, kuriuos vartotojai gali generuoti iš teksto raginimų ir bendrinti savo pokalbiuose, ir nuotraukų generavimo funkciją, kuri leis „Instagram“ vartotojams keisti savo nuotraukas, naudodami tekstinius raginimus ir bendrinti jas „Instagram Stories“.
Zuckerbergas taip pat pasidalijo kai kuriais tik vidiniais generuojančiais dirbtinio intelekto įrankiais, skirtais darbuotojams, įskaitant vieną, vadinamą Metamate, produktyvumo asistentu, kuris renka informaciją iš vidinių šaltinių, kad galėtų atlikti užduotis darbuotojų prašymu. „Metamate“ neseniai buvo pristatytas didelei darbuotojų grupei, kaip bandomojo laikotarpio dalis, sakė „Meta“ atstovas.
„Praėjusiais metais matėme tikrai neįtikėtinų proveržių – kokybinių – generatyvaus dirbtinio intelekto srityje“, – miesto rotušėje sakė Zuckerbergas.
Meta vis dar susiduria su dideliais iššūkiais. Bendrovės vis žemesnis tolerancija rizikai po septynerius metus trukusios intensyvios vyriausybės ir žiniasklaidos vartotojų privatumo praktikos kontrolės sukėlė trintį dėl to, kaip ir kada pristatyti dirbtinio intelekto produktus, sakė su šiuo klausimu susipažinę žmonės.
Anksčiau Meta turėjo atsižvelgti į savo viešą reputaciją, kurdama ir išleisdama didelius kalbos modelius, kurie gali būti linkę į neteisingus atsakymus ar įžeidžiančias pastabas.
Prieš kelerius metus dirbtinio intelekto tyrėjai dirbo su pokalbių robotu, pavadintu Tamagobot, pagrįstą ankstyva didelės kalbos modelio sistemos versija, pasak žmonių, susipažinusių su šiuo klausimu. Komanda buvo sužavėta savo veiklos rezultatais, tačiau padarė išvadą, kad neverta to pradėti, kol bendrovė susilaukė aštrios kritikos dėl to, kad per 2016 m. prezidento rinkimus leido jos platformoje klestėti dezinformacijai, sakė vienas iš žmonių.
Susirūpinimas dėl visuomenės dėmesio taip pat buvo parodytas, kai 2022 m. rugpjūčio mėn. Meta išleido savo „BlenderBot 3“ pokalbių robotą. Per savaitę nuo „BlenderBot 3“ paleidimo buvo apkaltintas melagingais pareiškimais, įžeidžiančiomis pastabomis ir rasistiniais komentarais.
Sistema taip pat pavadino Zuckerbergą „baisiu ir manipuliuojančiu“.
„Meta“ atstovas sakė, kad projektas dar buvo paliktas daugiau, nei metus iki tyrimo pabaigos, o bendrovė išlaikė atvirą ir skaidrų požiūrį per visą savo gyvavimo ciklą. Jis pridūrė, kad „Meta“ išleido ir išbandė daugybę kitų projektų, kurie rodo įmonės norą rizikuoti.
Tačiau scenarijus pasikartojo 2022 m. lapkritį, kai bendrovė išleido „Galactica“ – į mokslą orientuotą didelės apimties kalbos modelį. Sistemą „Meta“ išjungė per tris dienas nuo jo išleidimo, kai dėl neteisingų ir šališkų atsakymų juos užklupo mokslininkų kritikos banga.
Po dviejų savaičių „OpenAI“ išleido „ChatGPT“." [1]
1. EXCHANGE --- Zuckerberg Takes More Control of AI Efforts --- A more academic approach put Meta behind. Hao, Karen; Rodriguez, Salvador; Seetharaman, Deepa.
Wall Street Journal, Eastern edition; New York, N.Y. [New York, N.Y]. 17 June 2023: B.1.
Komentarų nėra:
Rašyti komentarą