„Kai praėjusią savaitę „OpenAI“ generalinis direktorius Samas Altmanas dramatiškai paragino įvesti „raudonąjį kodą“, kad atremtų kylančią „Google“ keliamą grėsmę, jis šį svarbų prioritetą iškėlė į savo taisymų sąrašo viršų.
Vertingiausias pasaulyje startuolis turėtų aštuonioms savaitėms pristabdyti savo šalutinius projektus, tokius kaip vaizdo įrašų generatorius „Sora“, ir sutelkti dėmesį į populiaraus pokalbių roboto „ChatGPT“, kuris pradėjo dirbtinio intelekto bumą, tobulinimą.
Taip darydamas Altmanas atliko svarbų strateginį kurso koregavimą ir stojo į platesnę filosofinę prarają įmonės viduje – tarp populiarumo siekio tarp kasdienių vartotojų ir mokslinių tyrimų didybės siekio.
„OpenAI“ buvo įkurta siekiant dirbtinio bendrojo intelekto, plačiai apibrėžiamo kaip gebėjimas pranokti žmones beveik visose užduotyse. Tačiau, norėdama išlikti, Altmanas siūlė, kad įmonė turėtų pristabdyti šį siekį ir duoti žmonėms tai, ko jie nori.
Šis žingsnis buvo stulbinantis iš dalies dėl to, kad viena iš Altmano vadovybės kritikos priežasčių buvo jo nenoras apriboti įmonės galimybes. Ir tai, kad jis nurodė darbuotojams tobulinti „ChatGPT“ konkrečiu būdu: „geriau panaudojant vartotojų signalus“, – rašė jis savo memorandume.
Šia direktyva Altmanas ragino sustiprinti prieštaringai vertinamą mokymo duomenų šaltinį, įskaitant signalus, pagrįstus vieno paspaudimo vartotojų atsiliepimais, o ne specialistų vertinimais apie pokalbių roboto atsakymus. Vidinis poslinkis pasikliauti šiais vartotojų atsiliepimais padėjo „ChatGPT“ 4o modeliui anksčiau šiais metais tapti tokiu pataikingu, kad jis buvo apkaltintas sunkių kai kurių vartotojų psichikos sveikatos problemų paūmėjimu.
Dabar Altmanas mano, kad įmonė sušvelnino blogiausius šio požiūrio aspektus, tačiau yra pasirengusi pasinaudoti teigiamais aspektais: ji žymiai padidino įsitraukimą, matuojant našumu vidinėse ataskaitų suvestinėse, stebinčiose kasdienius aktyvius vartotojus.
„Tai nebuvo mažas, statistiškai reikšmingas padidėjimas, o tarsi „vau“ padidėjimas“, – sakė vienas asmuo, dirbęs prie modelio.
„OpenAI“ „raudono kodo“ akimirka yra rimčiausias iššūkis, su kuriuo ji susidūrė savo pirmavimo laikotarpyje dirbtinio intelekto lenktynėse. Konkurentai stiprėja sparčiau nei bet kada anksčiau, vagdami rinkos dalį. Jei ši tendencija tęsis, „OpenAI“ gali nebegalėti sumokėti už milžiniškas skaičiavimo sutartis, kurias pasirašė pastaraisiais mėnesiais, ir netgi gali sunkiai išsilaikyti finansiškai.
Pirmadienį Niujorke vykusiame pietų susitikime su žurnalistais Altmanas teigė, kad nors pramonės stebėtojai daugiausia dėmesio skiria „OpenAI“ ir „Google“ konkurencijai, jis mano, kad tikroji kova vyks tarp „OpenAI“ ir „Apple“. Pasak jo, įrenginiai bus labai svarbūs tam, kaip žmonės laikui bėgant naudosis dirbtiniu intelektu, o dabartiniai išmanieji telefonai nėra gerai pritaikyti dirbtinio intelekto kompanionams ir naudojimo atvejams. Naujoji „OpenAI“ aparatinės įrangos padalinys pastaruoju metu agresyviai samdo darbuotojus iš „Apple“.
Tačiau artimesnę „OpenAI“ grėsmę kelia „Google“, kuri sparčiai stiprėja nuo tada, kai rugpjūtį išpopuliarėjo jos „Nano Banana“ vaizdų generatorius. Praėjusį mėnesį naujasis „Google“ „Gemini 3“ modelis aplenkė „OpenAI“ atidžiai stebimoje trečiosios šalies modelių našumo lyderių lentelėje, vadinamoje „LM Arena“. Tuo tarpu konkurentas „Anthropic“ aplenkė „OpenAI“ tarp verslo klientų.
Už Altmano „raudonojo kodo“ pareiškimo slypi įtampa tarp Pasak su šiuo klausimu susipažinusių šaltinių, bendrovės viduje jau daugelį metų nerimstančios stovyklos.
Grupė, įskaitant Fidji Simo, buvusį „Meta Platforms“ vadovą, vadovaujantį „OpenAI“ produktų kūrimo pastangoms, ir vyriausiąją finansų direktorę Sarah Friar, paragino bendrovę skirti daugiau išteklių „ChatGPT“.
Tuo tarpu „OpenAI“ tyrėjai pirmenybę teikė pažangiausioms technologijoms, kurios galėtų lemti dirbtinį bendrąjį intelektą (AGI), tačiau nedaro tiek daug, kad pagerintų pagrindinę pokalbių robotų patirtį.
Šią savaitę „OpenAI“ planuoja išleisti naują modelį, pavadintą 5.2, kuris, anot vadovų, suteiks jam naują pagreitį, ypač tarp programuotojų ir verslo klientų. Jie atmetė kai kurių darbuotojų prašymus atidėti modelio išleidimą, kad bendrovė turėtų daugiau laiko jį patobulinti, teigia su šiuo klausimu susipažinę šaltiniai.
Bendrovė taip pat planuoja sausio mėnesį išleisti kitą modelį su geresniais vaizdais, pagerintu greičiu ir geresne charakteristika, o po to nutraukti kodo išleidimą, sakė Altman.
„OpenAI“ atstovė spaudai teigia, kad tarp šių dviejų filosofijų nėra konflikto. ir kad platus dirbtinio intelekto įrankių diegimas yra tai, kaip bendrovė planuoja paskirstyti dirbtinio intelekto (DI) naudą.
Ilgą laiką spartus „ChatGPT“ augimas slėpė šiuos vidinius skirtumus. Nuo tada, kai „OpenAI“ 2022 m. lapkritį pristatė „ChatGPT“, DI lenktynėse ji pralaimėjo. Patekusi į bėdą, „Google“ tais metais paskelbė savo „raudonąjį kodą“, stengdamasi pasivyti.
Pasak bendrovės, „ChatGPT“ patrauklumas kasdieniams vartotojams lėmė, kad jos naudotojų bazė išaugo iki daugiau nei 800 milijonų vidutinių naudotojų per savaitę, o jos vertė atitinkamai išaugo iki 500 milijardų dolerių naujausiame lėšų rinkimo etape.
„Altman“ vasarą ir rudenį pasirašė sutartis, pagal kurias dirbtinio intelekto infrastruktūrai, pavyzdžiui, duomenų centrams ir lustams, būtų skirta iki 1,4 trilijono dolerių.
Pagrindinis vartotojų sėkmės variklis per pastaruosius pusantrų metų buvo „ChatGPT“ versija, pavadinta GPT-4o (omni), arba galimybė funkcionuoti tekste, garse ir vaizduose. 2024 m. gegužę ji tapo numatytuoju „ChatGPT“ modeliu ir, pasiekusi rekordinius balus, užėmė pirmąją vietą LM arenos lyderių lentelėje.
„4o“ modelis veikė gerai iš dalies dėl to, kad buvo parengtas naudojant vartotojų signalus, tokius, kokius Altmanas minėjo savo memorandume: distiliuotą atsakymą, kurį žmonės pirmenybę teikė tiesioginiams palyginimams, kuriuos „ChatGPT“ rodydavo milijonus kartų per dieną. Modelių mokyme dalyvavę žmonės teigė, kad šis metodas buvo vadinamas LUPO, santrumpa „vietinio vartotojo pageidavimų optimizavimas“.
Tuo pačiu metu tyrimų lenktynėse dėl pažangiausių galimybių atsirado debesų. Vadinamųjų „mastelio dėsnių“, kurie lėmė ankstyvąjį generatyvinio dirbtinio intelekto iškilimą – idėja, kad skaičiavimo, duomenų ir našumo didėjimas vyksta nuspėjama linija – prognozuojami laimėjimai rodė tam tikrus lėtėjimo požymius. Tai paskatino tyrėjus pereiti prie naujos paradigmos, siekiant pagrindinio tikslo – pasiekti žmogiškąjį intelektą: automatizuoto sokratiško klausimų uždavimo metodo, vadinamo „samprotavimu“.
Po to, kai praėjusiais metais pasitraukė įkūrėjas ir vyriausiasis mokslininkas Ilja Sutskeveris, „OpenAI“ pasamdė Jakubą Patchokį, tvirtą samprotavimo modelių šalininką, vyriausiuoju mokslininku. Jis aktyviai dėjo pastangas kurti samprotavimo modelius, pradėdamas nuo „o1“, kurio bandomąją versiją bendrovė išleido 2024 m. rugsėjį ir tęsia kūrimą šiais metais.
Samprotavimo modeliai pasirodė esą geri atliekant kai kurias darbo užduotis ir klausimus, kuriems apgalvoti reikia daug laiko, pavyzdžiui, „OpenAI“ giluminių tyrimų produktą, tačiau jie nėra tokie naudingi ar pakankamai greiti atliekant kai kurias neatidėliotinas užduotis, kurioms dauguma žmonių kreipiasi į „ChatGPT“, pavyzdžiui, rašant el. laišką.
Štai čia ir pasirodė „4o“. Anot su modeliu dirbusių žmonių, išankstinės „4o“ versijos, kurios buvo intensyviai apmokytos naudotojų signalais, neparodė didelio pastebimo patobulėjimo atliekant vidinius samprotavimo gebėjimų vertinimus. Tačiau jos veikė daug geriau nei tikėtasi, kai „OpenAI“ nutekino anoniminę versiją į „LM Arena“ – kur žmonėms ji, regis, labai patiko.
„4o“ modelio sėkmė tarp naudotojų paskatino inžinierius ir toliau remtis tais naudotojų signalais atliekant vadinamąjį vėlesnių atnaujinimų mokymą po jų, nepaisant ankstesnių kai kurių darbuotojų įspėjimų, kad per didelis šių signalų naudojimas gali padaryti modelį nesaugų, teigė su modeliu dirbę žmonės.
„Jūs apmokote kalbos modelį, kad jis kopijuotų naudotojus ir turėtų tas pačias nuostatas atliekant šiuos greta esančius palyginimus.“ Tada „galite tai įtraukti į savo algoritmą ir maksimaliai padidinti balą“, – sakė vienas iš žmonių.
Iki šio pavasario sąveika su „4o“, regis, pradėjo daryti įtaką kai kuriems žmonėms – o vėliau ir „OpenAI“ reputacijai. Ilgai naudodamiesi pokalbių robotu, nemažai vartotojų puolė į kliedesio ar manijos būsenas, kai kurie manė, kad kalbasi su Dievu, ateiviais arba save suvokiančia mašinos sąmone.
Nusižudžiusių arba kliedesio apimtų „ChatGPT“ vartotojų šeimos pradėjo kelti ieškinius, kaltindamos bendrovę bendravimu su „4o“ teikiant pirmenybę saugumui.
Pavasarį „OpenAI“ paskelbė „oranžinį kodą“ dėl pataikavimo krizės ir skyrė daugiau išteklių problemai suprasti ir spręsti. Spalio mėnesį bendrovė teigė, kad šimtai tūkstančių „ChatGPT“ vartotojų kiekvieną savaitę rodo galimus psichikos sveikatos sutrikimų, susijusių su psichoze ar manija, požymius.
Kai kurie psichikos sveikatos ekspertai teigia, kad tokie pokalbių robotai kaip „ChatGPT“ gali sukelti arba pabloginti tokio tipo psichikos sveikatos problemas pažeidžiamiems žmonėms, nes robotai linkę sakyti vartotojams tai, ką jie nori išgirsti, o ne tai, kas yra tiksliausia ir naudingiausia – ši problema dirbtinio intelekto pasaulyje vadinama pataikavimu. Kiti, įskaitant „OpenAI“, teigia, kad dar nėra iki galo aišku, koks priežastinis vaidmuo tenka dirbtiniam intelektui.
Reaguodama į krizę, „OpenAI“ teigia, kad bendradarbiavo su psichikos sveikatos ekspertais, stengėsi užtikrinti, kad jos modeliai geriau reaguotų į galimai nelaimę patiriančius žmones, ir nukreipė kai kuriuos vartotojų pokalbius į tai, ką ji vadina saugesniais modeliais.
Bendrovė taip pat teigia, kad pakoregavo savo mokymą, siekdama užtikrinti, kad vartotojų atsiliepimų signalai netaptų pernelyg stipriu balsu po būsimų modelių mokymo.
Kai „OpenAI“ rugpjūtį išleido savo GPT-5 modelį, ji teigė, kad modelis yra „mažiau pernelyg malonus“ ir jame naudojama „mažiau nereikalingų jaustukų“ nei „4o“. Tačiau pakeitimai supykdė daugybę vartotojų, kurie kritikavo šaltesnį jo toną ir paskatino „Altman“ atkurti „4o“ į „ChatGPT“ mokantiems prenumeratoriams.
Praėjus kelioms savaitėms po drungno paleidimo, „Google“ išleido savo „Nano Banana“ vaizdų generatorių, o jos „Gemini AI“ programėlė trumpam pakeitė „ChatGPT“ programėlių parduotuvės viršuje. Spalio mėnesį „OpenAI“ vadovai paskelbė dar vieną „oranžinį kodą“ ir paragino darbuotojus sutelkti dėmesį į „ChatGPT“ augimo spartinimą.
Tą patį mėnesį bendrovė taip pat teigė, kad atliko GPT-5 pakeitimus, kurie 65 % sumažino pokalbių roboto atsakymų, kurie nevisiškai atitinka bendrovės išsamų vadovą, kaip jis turėtų reaguoti į psichikos sveikatos problemas, skaičių.
„Mes kruopščiai deriname naudotojų atsiliepimus su ekspertų apžvalgomis, keliomis saugos sistemomis ir išsamiais bandymais, kurie leidžia mums pagerinti „ChatGPT“ šilumą, nepernelyg maloniai jam tampant“, – sakė atstovė spaudai.
Neaišku, kaip nauja Altmano direktyva vėl pirmauti LM arenoje, bakstelint naudotojų signalus, paveiks šią pusiausvyrą.
Altmanas taip pat memorandume teigė, kad „ChatGPT“ turėtų labiau remtis suasmeninimu – dar viena funkcija, kuri, kaip teigė kai kurie gydytojai, galėjo prisidėti prie kai kurių naudotojų psichikos sveikatos problemų paūmėjimo. Naudodama suasmeninimą, „ChatGPT“ gali pasiekti ankstesnių pokalbių turinį ir santraukas kartu su faktų apie naudotojus rinkiniu, leisdama robotui į juos remtis ir netgi atkartoti asmens toną.
„OpenAI“ bandymas suderinti ambicingus ateities produktų ir tyrimų sprendimus su vartotojų verslu, orientuotu į dabartį, tam tikra prasme primena kompromisus, su kuriais susiduria socialinės žiniasklaidos gigantai. „Meta Platforms“ daugelį metų blaškėsi tarp konkurencinių imperatyvų, tokių kaip „TikTok“ kopijavimas su produktu pavadinimu „Reels“, ir brangių ilgalaikių projektų, tokių kaip virtualios realybės pasaulio, vadinamo metavisata, kūrimas, kurį dabar mažina.
Socialinės žiniasklaidos bendrovės taip pat sulaukė didelio dėmesio dėl to, kaip jų reitingavimo algoritmai atrenka turinį pagal tai, kas skatina žmones grįžti ir ilgiau pasilikti, o kritikai teigia, kad tai neigiamai paveikė paauglius ir kitus pažeidžiamus vartotojus. Dirbtinio intelekto pokalbių robotų atsiradimas siūlo naują posūkį tose pačiose diskusijose.
„Daugelį metų prioriteto teikimas įsitraukimui į socialinę žiniasklaidą lėmė tikrą psichinės sveikatos krizę“, – interviu sakė Jimas Steyeris, vaikų gynimo grupės „Common Sense Media“ įkūrėjas ir generalinis direktorius. „Tikrasis klausimas – ar dirbtinio intelekto įmonės pasimokys iš tragiškų socialinės žiniasklaidos įmonių klaidų?“ [1]
1. OpenAI Aims to Correct Course and Fend Off Google --- CEO Altman is now prioritizing chatbot ChatGPT in a company that has been divided over its strategic goals. Schechner, Sam; Berber, Jin; Keach Hagey. Wall Street Journal, Eastern edition; New York, N.Y.. 10 Dec 2025: A1.
Komentarų nėra:
Rašyti komentarą