„Iš pradžių vyravo tendencija, kurią galima pavadinti „tokenmaxxing“ (angl. *token* – žetonas, *maxxing* – maksimalus išnaudojimas): JAV įmonės skatino darbuotojus kuo daugiau naudotis dirbtiniu intelektu. Vėliau teko apmokėti sąskaitas.
Įmonės suprato, kad turi atidžiau skaičiuoti „žetonus“ (angl. *tokens*) – vienetus, pagal kuriuos matuojamas dirbtinio intelekto naudojimas.
Tačiau tai padaryti sunku: neseniai atliktas tyrimas parodė, kad tik 11 proc. iš beveik 400 apklaustų įmonių sugebėjo tiksliai prognozuoti išlaidas dirbtiniam intelektui.
Skirtingai nei tradicinė programinė įranga, dirbtinis intelektas elgiasi labiau kaip žmogus: jis imasi veiksmų, priima sprendimus ir kartais net daro klaidų – ir visa tai vyksta realiuoju laiku, naudojant resursus.
Nors pažangesnių modelių vieno žetono kaina paprastai yra didesnė, jie kartais gali atlikti užduotis efektyviau, todėl bendros išlaidos sumažėja. Ir atvirkščiai – pavedus „pigiam“ modeliui užduotį, kuriai jis nepritaikytas, žetonų sąnaudos gali smarkiai išaugti.
Anksčiau šiais metais Stanfordo, Carnegie Mellon ir Kalifornijos (Berklyje) universitetų bei „Microsoft Research“ tyrėjai tai patikrino praktiškai: jie išbandė modelius atliekant daugiau nei 6 800 užduočių matematikos, programavimo, mokslo ir kitose srityse.
32 proc. atvejų pigesni modeliai iš tikrųjų kainavo brangiau nei brangesni modeliai.
„Praktinė išvada aiški, – teigė viena iš tyrėjų Lingjiao Chen. – Vien tik kaina neturėtų būti kriterijus sprendžiant, kuris modelis iš tikrųjų yra pigesnis.“
Pavyzdžiui, ta pati užklausa buvo pateikta dviem „Google“ modeliams: „Gemini 3.1 Pro“ (paprastai naudojamam užduotims, reikalaujančioms loginio mąstymo ir gebėjimo vertinti) bei pigesniam, lengvesniam ir spartesniam „Gemini 3 Flash“.
Brangesnis „Pro“ modelis užduotį atliko per 85 žingsnius, o pigesnis „Flash“ modelis atliko beveik 1 000 žingsnių ir galiausiai patyrė nesėkmę.
Pigesnis modelis patyrė nesėkmę sunaudojęs žetonų už 14 JAV dolerių, o brangesnis sėkmingai atliko užduotį vos už 1 dolerį.
Nors šis rezultatas galėjo būti išimtis, tokia situacija gali pasitaikyti ir įprastai naudojant modelius.
Net ir tas pats modelis, atlikdamas tą pačią užduotį, kiekvieną kartą gali sunaudoti skirtingą žetonų kiekį.
Tarkime, vejos pjovimo paslauga kainuoja 20 USD per valandą. Pirmą savaitę tai trunka dvi valandas ir kainuoja 40 USD. Po savaitės darbas trunka aštuonias valandas ir kainuoja 160 USD. Trečią savaitę darbas trunka penkias valandas, bet nupjaunama tik pusė vejos.
„Alphabet“ priklausančios „Google“, „Anthropic“ ir „OpenAI“ – kurių modelius tyrėjai naudojo šiam bandymui – nuo to laiko išleido naujus modelius, kurie geriau veikia pramonės lyginamuosiuose testuose.
„Tam tikras signalo lygio svyravimas yra būdingas dirbtiniam intelektui, ir mūsų bandymai rodo, kad tai pasireiškia esant dideliam realaus pasaulio, įvairių darbo krūvių kiekiui“, – pareiškime teigė „Google“ atstovė spaudai.
„Bendros išlaidos priklauso nuo daugelio veiksnių, susijusių su tam tikra užduotimi“, – pridūrė ji, „todėl gali būti sunku tiksliai prognozuoti naujas ir besivystančias technologijas“. Ji teigė, kad bendrovė siūlo klientams daugiau kontrolės per išlaidų ribas ir lanksčią kainodarą.
Vis daugiau įmonių įtraukia dirbtinį intelektą į savo kasdienius darbo eigą, todėl joms taip pat reikės strategijų, kaip valdyti jo naudojimą, pavyzdžiui, apmokyti darbuotojus, kurį modelį naudoti konkrečiai užduočiai atlikti. Priešingu atveju jie gali gauti IT sąskaitas, kurios bus tiesiog juodosios dėžės.
„News Corp“, „The Wall Street Journal“ savininkė, yra sudariusi turinio licencijavimo partnerystę su „OpenAI“.“ [1]
1. Cost of an AI Task Hard to Calculate. Vordick, Jillian; Stamm, Stephanie. Wall Street Journal, Eastern edition; New York, N.Y.. 05 Oct 2026: B1.
Komentarų nėra:
Rašyti komentarą