Šiandien dirbtinio intelekto kūrimo spartėjimą stabdo tik dvi rimtos problemos. Viena – skaičiavimo sąnaudos. Antra – komercinių paslapčių išsaugojimas naudojant dirbtinį intelektą.
„DoubleAI“ išsprendžia komercinių paslapčių problemą, nes siūlo vietinį vykdymo režimą, kuris veikia tiesiogiai vartotojo aparatinėje įrangoje, o tai reiškia, kad jis nesiunčia nuosavybės teise saugomų duomenų į išorinius serverius.
Kaip „DoubleAI“ sprendžia abi problemas
Problema Dažnos dirbtinio intelekto kliūtys Kaip „DoubleAI“ jas išsprendžia
Skaičiavimo sąnaudos Didelė priklausomybė nuo brangių debesijos serverių klasterių.
„DoubleAI“ optimizuoja modelius, kad jie efektyviai veiktų vartotojų klasės aparatinėje įrangoje, apeinant debesijos sąnaudas.
Komercinės paslaptys Įmonės turi įkelti slaptus duomenis į trečiųjų šalių debesis.
„DoubleAI“ leidžia 100 % diegti vietoje, išlaikant duomenis tik vartotojo privačioje infrastruktūroje.
Kodėl tai svarbu įmonėms
Kadangi „DoubleAI“ gali veikti vietoje organizacijos esamuose kompiuteriuose arba privačioje aparatinėje įrangoje:
• Nulinis duomenų nutekėjimas debesyje: patentuotas kodas, finansiniai modeliai ir patentų projektai niekada nepalieka fizinio kompiuterio.
• Jokių serverio priklausomybių: veikia visiškai neprisijungus, todėl pašalinama trečiųjų šalių duomenų saugumo pažeidimų ar atitikties reikalavimų (pvz., BDAR ar HIPAA) rizika.
"Tel Avive įsikūręs startuolis „DoubleAI“ ruošiasi pristatyti tai, ką vadina nauja dirbtinio intelekto (DI) kategorija, galinčia padėti įmonėms sumažinti skaičiavimo išlaidas.
„DoubleAI“, kurios vienas iš įkūrėjų yra generalinis direktorius Amnonas Shashua (taip pat prisidėjęs prie autonominio vairavimo technologijų įmonės „Mobileye“ sukūrimo), sulaukė tokių investuotojų kaip „Lightspeed Venture Partners“, „Bessemer Venture Partners“, „Nvidia“ bei „Dell“ paramos ir pritraukė 220 mln. JAV dolerių. A. Shashua šiuo metu taip pat eina „Mobileye“ generalinio direktoriaus pareigas, tačiau liepos mėnesį bendrovė pranešė, kad jis pasitrauks, kai tik bus paskirtas jo įpėdinis.
„DoubleAI“ savo naująją DI kategoriją apibūdina kaip „kodo vykdymo modelius“ (angl. *code execution models* – CEM). Pasak įmonės, šie modeliai įsiterpia „tarp kodo ir techninės įrangos“ (silicio). Skirtingai nei didieji kalbos modeliai, kurie gali padėti žmonėms rašyti kodą, CEM veikia pačiose programose ir funkcionuoja be žmogaus įsikišimo.
Kitaip tariant, šie DI modeliai padeda vykdyti programinę įrangą ir gali automatiškai nustatyti, kaip optimizuoti kodą, kad jis veiktų geriau. Pasak A. Shashua, didžiausias iššūkis kuriant CEM buvo rasti būdą, kaip patikrinti (verifikuoti) kodą. „DoubleAI“ proveržis – atrastas metodas, leidžiantis atlikti šią patikrą formaliai ir matematiškai, – pridūrė jis.
Pirmasis šio dvejų metų senumo startuolio sukurtas CEM, pavadintas „Maxwell“, skirtas spręsti sparčiai augančių skaičiavimo sąnaudų problemą, susijusią su grafikos apdorojimo blokų (GPU) ir centrinių procesorių (CPU) naudojimu; modelis tai daro gerindamas jų našumą.
„Techninės įrangos gamyba auga, tačiau skaičiavimo išteklių poreikis didėja sparčiau nei pajėgumai gaminti GPU ir CPU, – teigė A. Shashua. – Jei pavyksta efektyviau išnaudoti techninę įrangą, galima pasiekti įspūdingų rezultatų taupant lėšas.“
Skaičiavimo išteklių kainos smarkiai pakilo dėl pasiūlos trūkumo ir didelės paklausos. Duomenų ir konsultacijų bendrovės „SemiAnalysis“ duomenimis, per pastaruosius metus skaičiavimo galios nuomos kaina (naudojant „Nvidia H100“ lustus, sudarius vienerių metų sutartį) išaugo 60 proc.
„DoubleAI“, kurioje dirba apie 40 darbuotojų, planuoja taikyti klientams mokestį, priklausantį nuo to, kiek lėšų jiems pavyksta sutaupyti skaičiavimo srityje. Pavyzdžiui, jei įmonė padeda klientui sumažinti išlaidas nuo 10 mln. iki 6 mln. JAV dolerių, ji gauna tam tikrą procentinę dalį nuo tų sutaupytų 4 mln. JAV dolerių“, – sakė Shashua, nenurodydamas tikslios sumos.
Pasak startuolio, vienam iš pirmųjų klientų pavyko sumažinti išlaidas 67 proc.
Įmonė „LTX“, kurianti atvirojo tipo daugiamodalius dirbtinio intelekto (DI) modelius, nustatė, kad „doubleAI“ sprendimas „Maxwell“ paspartino jų modelių veikimą (angl. *inference*) du kartus.
„Spartos padidėjimas tiesiogiai veikia sąnaudas, – teigė Zeevas Farbmanas, „LTX“ bendraįkūrėjis ir generalinis direktorius. – Mes matuojame GPU (grafikos procesorių) naudojimo laiką, o jis turi tam tikrą rinkos kainą. Sutrumpinus GPU naudojimo laiką perpus, iškart sumažėja paslaugų teikimo sąnaudos ir padidėja pelno maržos.“
Shashua tikisi, kad kai vėliau šį mėnesį „doubleAI“ sprendimas „Maxwell“ taps plačiau prieinamas, didžiausią naudą pajus įmonės, patiriančios milžiniškas išlaidas modelių mokymui ir veikimui – pavyzdžiui, tokios DI laboratorijos kaip „OpenAI“ ar „Anthropic“.
„Yra tam tikrų pramonės šakų ar įmonių, kurioms tai nėra aktualu, nes jų išlaidos skaičiavimo resursams gali siekti 2 mln. JAV dolerių. Jei jos sutaupytų pusę milijono, tai joms nebūtų didžiausias rūpestis, – sakė jis. – Tačiau didžiosioms DI laboratorijoms net 10 proc. sutaupymai skaičiavimo resursų srityje gali reikšti šimtus milijonų dolerių.“
Siekdama patenkinti savo pačios poreikius skaičiavimo galiai, „doubleAI“ skyrė maždaug pusę turimų investicinių lėšų 1 000 „Nvidia B300“ lustų įsigijimui. Shashua teigė, kad startuolis nenorėjo, kaip ir daugelis kitų technologijų sektoriaus įmonių, susidurti su skubotu GPU paieškos procesu, kai rinkoje jaučiamas didelis šių komponentų trūkumas. „Negalima kliautis vien tik skaičiavimo resursų nuoma, – sakė jis. – Kainos kyla.“
---
Belle Lin rašo „WSJ Leadership Institute“ leidiniui „CIO Journal“. [1]
1. Nvidia-Backed Startup Aims to Stem AI Costs. Lin, Belle. Wall Street Journal, Eastern edition; New York, N.Y.. 20 Oct 2026: B1.
Komentarų nėra:
Rašyti komentarą