„Kaip programinės įrangos inžinierius, dirbantis „The Wall Street Journal“ redakcijoje, aš dievinu dirbtinį intelektą. Taip pat nekenčiu, kaip mūsų dirbtinio intelekto įmonės jį pateikė.
Naudojau dirbtinį intelektą, kad apibendrinčiau didžiulius dokumentų kiekius ir ištraukčiau adatas iš milžiniškų šieno kupetų. Sukūriau mažus modelius ir tobulinau pažangiausius, kad gaučiau reikiamus rezultatus. Mano patirtis rodo, kad dirbtinis intelektas geriausiai veikia, kai galiu prisiliesti prie naudojamo modelio esmės, kai galiu apčiuopti mokymo duomenis, vizualizuoti matematinius skaičiavimus, kurie suteikia jam struktūrą, ir pakoreguoti kodą, kuris generuoja rezultatus.
Dauguma didelių kalbos modelių naudotojų neturi tokios galimybės, nes dirbtinio intelekto įmonės to nepadaro lengvu – ar net įmanomu.
Daugybė dalykų mūsų gyvenime veikia, mums nežinant, kaip tiksliai tai padaryti. Kai įjungiu skalbimo mašiną, mano žinios apie tai, kaip ji veikia, iš tikrųjų neturi daug bendro su išskalbtų drabužių švara. Tačiau jei nesuprantame, kaip veikia dirbtinio intelekto modeliai, rizika yra daug didesnė. Mes neatiduodame šioms mašinoms purvinų kelnių; tai mūsų kūrybinis ir pažintinis darbas.
Įmonės lenktyniauja, kurdamos būdus integruoti dirbtinio intelekto technologijas į visų rūšių produktus, įskaitant tuos, kurie susiję su pagrindinėmis žmogaus veiklos sritimis: skaitymu ir rašymu, menu ir mokslu.
Finišo tiesiojoje laukia „dirbtinio bendrojo intelekto“ prizas – miglotas terminas, kurį „OpenAI“ generalinis direktorius Samas Altmanas apibrėžė kaip „labai autonomiškas sistemas, kurios pranoksta žmones, ekonomiškai vertingiausiame, darbe“. Pažadas yra tas, kad pasiekus šį superintelektą, jis galės išgydyti vėžį arba išspręsti klimato kaitos problemą ir, tikėtina, padaryti jo savininkus fantastiškai turtingus.
Altmano apibrėžimas turi pranašumą tuo, kad visiškai apeina painią, sunkiai apibrėžiamą intelekto sąvoką, o vietoj to apeliuoja į sistemos gebėjimą generuoti pajamas. Pagal šį apibrėžimą mano skalbimo mašina, kuri pranoksta mano žmogaus gebėjimą pašalinti dėmes ir teikia didžiulę ekonominę vertę, yra savotiškas dirbtinis specifinis intelektas. Galbūt, skalbimo mašina, galinti kurti svetaines ir skaityti mano el. laiškus, yra „bendrasis intelektas“. O galbūt, verta ištirti, kas iš tikrųjų yra intelektas, prieš bandant jį pagaminti.
Jei žvilgtelėsite į protą modelio, tai, ką rasite, nebus atpažįstamai žmogiška; tai iš tikrųjų yra statistikos tankmė, kurianti žodžius, skaidant kalbą į ilgas vektorių sekas.
Vektorių galite įsivaizduoti kaip tašką grafike, kurį žymi du skaičiai: vienas nubraižytas horizontaliai (X ašyje), o kitas vertikaliai (Y ašyje).
Vietoj dviejų dimensijų, didelis kalbos modelis (LLM) paverčia žodžius vektoriais, turinčiais šimtus dimensijų – daugiau, nei įmanoma vizualizuoti.
Žodžių braižymas „vektorinėje erdvėje“ leidžia LLM aptikti ryšius tarp jų: atstumas yra lengvai apskaičiuojama savybė vektorinėje erdvėje, o artumas apima ryšius.
Turėdamas pakankamai duomenų, LLM gali išmokti šiuos ryšius, kad, turėdamas bet kurį žodį, galėtų numatyti, koks turėtų būti kitas žodis ir dar vienas po jo. Šis nuspėjamumas leidžia pokalbių robotams sklandžiai kalbėtis su žmonėmis.
Norėdami iliustruoti, kaip tai veikia, įsivaizduokite, kad pateikiate LLM šias eilutes iš Seamuso Heaney eilėraščio „Blackberry-Picking“: „Nukritęs nuo krūmo / Vaisius fermentuojasi, saldus minkštimas rūgsta.“
(Labai supaprastintas) kalbos modelis „skaitytų“ šias eilutes, perskaitydamas jas vėl ir vėl, kiekvieną kartą „paslėpdamas“ nuo savęs vieną žodį ir bandydamas atspėti, kaip užpildyti tuštumą. Po kiekvieno perskaitymo modelis įvertintų, kiek jo spėjimas nukrypo nuo teisingo žodžio, pakoreguotų savo skaičiavimus ir bandytų dar kartą.
Jei jis perskaitytų pakankamai poezijos, galiausiai, išsiaiškintų, kad „saldus“ ir „rūgštus“ turi susijusias reikšmes – kad jų vektoriai abu yra „skonio“ klasteryje vektorinėje erdvėje, o „nes“ ir „fermentuotas“ – ne. Modeliui reikšmės gali būti sudėtos ir vidurkinamos, padalytos ir atimtos.
Štai ta eilutė, kai pastumiau kiekvieno žodžio vektorių link vektoriaus, reiškiančio „piktas“: „Sukėlęs piktas supykęs / Piktos daržovės fermentuojasi, piktas kartus minkštimas skatina įsiutusį rūgštų.“ „Vaisius“ transformuojasi į „daržoves“. „Saldus“ tampa „kartus“. Užpildo žodžiai – „kartą“ ir „būtų“ – nepaaiškinamai tapo „raginančiu“.
Kai suprantame, kad modeliui piktas vaisius iš tikrųjų yra daržovė, mes ne tik sužinome apie modelį, bet ir apie reikšmes, kurios buvo užkoduotos visuose tekstuose, su kuriais modelis buvo apmokytas. Trumpai tariant, sužinome, kaip modelis mąsto.
2017 m., gerokai prieš tai, kai „OpenAI“ išleido savo internetą pralaužusį didelės kalbos modelį „ChatGPT“, tyrinėjau šį procesą, koduodamas labai mažai kalbos turintį modelį. Jo misija buvo kurti prozą Hermano Melville'o garsiosios istorijos „Bartleby the Scrivener“ stiliumi apie biuro darbuotoją, kuris reaguoja į savo viršininko prašymus su „Aš nenorėčiau“.
Aš savo modeliui įvedžiau 140 simbolių „Bartleby“ fragmentus ir išmokiau jį nuspėti, koks žodis ateis toliau. Tada paprašiau parašyti sakinį istorijos stiliumi, pradedant „Aš norėčiau“.
Po pirmųjų 50 bandymų DI modelis suprato, kad tarp raidžių fragmentų reikia dėti tarpus. „Aš norėiau darti tai, ką nriu“, – jis iškraipė žodžius. Po 500 bandymų jis žinojo, kaip rašyti. „Aš, manau, įkalinčiau“, – jis parašė.
Maždaug po 5000 bandymų jis vos nesugeneravo garsiojo Bartleby atsisakymo, pareiškęs: „Aš norėčiau taip“.
DI niekada iki galo neatsakė – tai žmogiškiausia jo elgesyje.
Jei daugiau vartotojų galėtų giliau ir prasmingiau bendrauti su modeliais, galbūt, jiems DI jaustųsi taip jaudinančiai, kaip aš žinau. Mano Melville'o modelis čia siūlo keletą pamokų. Tekstas, su kuriuo jis buvo apmokytas, yra viešai prieinamas, todėl jį gali pamatyti visi. Dauguma dirbtinio intelekto bendrovių neatskleidžia savo mokymo duomenų šaltinio, todėl sunkiau suprasti, kaip ir kodėl modeliai elgiasi taip, kaip elgiasi.
Už kiekvieną dolerį, kurį dirbtinio intelekto bendrovės skiria skaičiavimo galiai, kad padidintų savo modelius, kodėl gi neišleidus nė cento paaiškinimui, kaip tie modeliai veikia? Atverkite mokymo duomenis. Paverskite programavimo „žaidimų aikštelėmis“, kuriose galima koreguoti modelio parametrus. Leiskite mums kartu su jūsų mašinomis keliauti vektorinėje erdvėje.“ [1]
1. REVIEW --- I've Seen How AI 'Thinks.' I Wish Everyone Could. --- Experimenting with the math and data behind large language models can be exhilarating -- and revealing. West, John. Wall Street Journal, Eastern edition; New York, N.Y.. 18 Oct 2025: C3.
Komentarų nėra:
Rašyti komentarą