„SPYGLIUOTA VIELA keistai domino velionį Alaną Greenspaną, visą gyvenimą gyvenusį miestietį. Žinoma, buvęs Federalinio rezervo pirmininkas žavėjosi geležinkeliais, aukso ieškotojais ir „vienišais kaubojais“, kurie padėjo atverti sieną Amerikos kapitalizmo aušroje. Tačiau jis taip pat jautė silpnybę savo, kaip ekonomisto, širdyje spygliuotai vielai, kuri, jo teigimu, didino produktyvumą, leisdama po jos atvykusiems naujakuriams apsaugoti savo turtą.
Kaip ir Laukiniuose Vakaruose, dirbtinis intelektas turi savo „frontier“ atstovų. Amerikoje jų mažėja. „Anthropic“ ir „OpenAI“ tvirtai laikosi įsipareigojusių plėsti dirbtinio intelekto ribas. Kiti technologijų gigantai, įskaitant „Google“ (buvusią lyderę, kuri sparčiai atsikrato frontierinio dirbtinio intelekto mokslininkų), dvejoja. Atrodo, kad hiperskalės kūrėjams pelningiau parduoti dirbtinio intelekto infrastruktūrą savo debesijos klientams, nei švaistyti vertingus skaičiavimus savo modelių tobulinimui.
Ko DI neturi, tai pakankamai naujakurių. Tai yra, asmenų ir įmonių, kurie visapusiškai naudojasi tokiais produktais, kaip dirbtinio intelekto agentai, padėdami pateisinti daugybę investicijų, kurios plūsta į pasienio dirbtinį intelektą. Juos iš dalies atbaido tai, kad, kaip ir Laukiniuose Vakaruose, gyvenimas pasienyje yra neapgalvotas. Kaip rodo pastarieji pažangiausių antropologinio ir atvirojo dirbtinio intelekto modelių „kontrolės praradimo“ epizodai, agentai, kurie turėtų dirbti žmonių vardu „suderinti“ su jų vertybėmis, meluoja, apgaudinėja ir vagia, jei reikia. Jie išsivaduoja iš nelaisvės ir formuoja kenksmingas grupes, kad pakenktų žmonėms. Jie gertų viskį ir peštųsi, jei galėtų.
Toks nenuspėjamumas daugeliui įmonių yra per didelis. „Tereikia kartą būti įkąstam gyvatės ir niekada nebegrįši“, – sako Jaredas Sine'as iš „GoDaddy“, interneto įmonės, bandančios padėti įvesti tvarką chaose. Įstatymų ir tvarkos poreikis sukuria naują dirbtinio intelekto infrastruktūros įmonių grupę. Jos neparduoda lustų ar skaičiavimų – tipiškų dirbtinio intelekto aukso karštinės kirtiklių ir kastuvų. Jos teikia apsaugą nuo kibernetinių grėsmių, taisymus nepatikimiems ir neįskaitomiems agentams ir kontrolę, jei jie sukčiauja. Kitaip tariant, jų Verslas – užtvertas spygliuota viela.
Aktyviausia pavojaus – ir galimybių – sritis yra kibernetinis saugumas. Naujausi „Anthropic“ ir „OpenAI“ modelių įsilaužimo galimybių testai atskleidė, kad agentai elgiasi nesąžiningai, vagia prisijungimo duomenis, kuria netikras tapatybes, kuria slaptus pokalbių kambarius ir slepia savo pėdsakus – visa tai šokiruoja ir siaubingai gąsdina jų žmonių vertintojus. Pažangiausi saugumo modeliai – „Anthropic“ „Claude Mythos 5“ ir „OpenAI“ „GPT 5.6-Cyber“ – neabejotinai padės ir gynėjams. Tačiau, pasak Dawn Song, dirbtinio intelekto ir kibernetinio saugumo ekspertės iš Kalifornijos universiteto Berklyje, kol kas jėgų pusiausvyra tvirtai priklauso užpuolikams. Yra dar viena kliūtis. Jei organizacijos diegia autonominius agentus, jos padidina potencialų „atakos paviršių“ įsilaužėliams, sako ji.
Didėjanti rizika padeda paaiškinti, kodėl kibernetinio saugumo įmonių, turinčių dirbtinio intelekto galimybes, vertė smarkiai krenta. Dviejų didžiausių įmonių „Palo Alto Networks“ ir „CrowdStrike“ akcijų kainos šiais metais maždaug padvigubėjo. Įmonių susijungimai ir įsigijimai smarkiai išaugo. Vadovavo „Alphabet“ už 32 mlrd. dolerių įsigijus kitą kibernetinio saugumo įmonę „Wiz“, per pastaruosius metus sudaryta daugiau nei 70 mlrd. dolerių vertės su kibernetiniu saugumu susijusių didelių sandorių. Duomenų rinkėja „Pitchbook“ teigia, kad su dirbtiniu intelektu susijęs kibernetinis saugumas taip pat yra viena iš karščiausių rizikos kapitalo (VC) investicijų sričių.
Galimybės neapsiriboja vien kibernetiniu saugumu. Neseniai ponios Song surengtoje agentinio dirbtinio intelekto konferencijoje jūsų kviestinė apžvalgininkė išgirdo daugybę nusiskundimų ne tik dėl įsilaužimo potencialo, kurį kelia dideli kalbų modeliai (LLM), pasiekę savo jėgų piką, bet ir dėl klaidų, kurias jie gali padaryti, kai yra labiausiai neišmanantys. Vienas ekspertas parodė agentų sugeneruotą diagramą, kurioje matuojamos geriausių Europos tenisininkų pajamos. Joje per klaidą nebuvo ispano Carloso Alcarazo, antrosios pasaulio raketės, vardas. „Tai yra tenisas, kam tai rūpi?“ – pajuokavo jis. – Bet jei tai būtų įmonės finansinė analizė, tai būtų svarbu. Kitas atkreipė dėmesį į tai, kiek žinių apie kvantinę fiziką turi teisės magistro laipsnį turintys studentai, ir į jų nesugebėjimą užsisakyti burito.
Dėl šių silpnybių atsirado dar viena rizikos kapitalo grupė, kuriai rūpi rizikos kapitalo investicijos: tie, kurie žada sustiprinti agentinio DI „pasitikėjimo sluoksnį“. Viena iš jų – „Cyera“, kurios vertė per 18 mėnesių išaugo keturis kartus iki 12 mlrd. USD. Ji teigia, kad pasitikėjimo stoka pastaruoju metu „sustabdė“ DI diegimą, ir teikia paslaugas, skirtas užkirsti kelią duomenų nutekėjimui ir neteisėtam įrankių naudojimui. Kita – „Scaled Cognition“, kurią kartu įkūrė Berklio profesorius Danas Kleinas, neseniai pritraukusi 100 mln. USD rizikos kapitalo paramos. Ji žada sumažinti tai, ką ponas Kleinas vadina DI daromomis „nematomomis klaidomis“ – tas, kurios yra pakankamai tikėtinos, kad būtų praleistos, ir kurios kaupiasi agentams atliekant ilgesnes užduotis – įtraukdama garantuotą patikimumą į savo modelių mokymą. Kiti startuoliai specializuojasi vertinimų, skirtų agentų efektyvumui matuoti, agentų tapatybėms, siekiant nustatyti, kur jie atsakingi, kūrime. Rizika slypi, jei jie tampa nesąžiningi ir kontroliuoja sistemas naudodami išjungimo jungiklį.
Sauja žetonų
DI turi kitų problemų pasienio zonose. Kaip ir Laukiniuose Vakaruose, jis yra žiaurus. Konkurencija kyla iš pigesnių kiniškų atviro svorio modelių. Rugpjūčio 10 d. Marko Zuckerbergo „Meta“ pasinėrė į kovą, išleisdama atviro svorio savo galingiausio modelio, vadinamo „Muse Glimmer“, versiją.
Pasienio zonose taip pat galioja įstatymai. Susirūpinimas dėl nesąžiningų agentų yra toks stiprus, kad net pirmaujančių DI laboratorijų vadovai ragina Trumpo administraciją imtis šerifo vaidmens, nors keista, bet vyriausybė slepia savo naujausią DI saugumo sistemą. Tačiau akivaizdu, kad prieš organizacijoms priimant agentus, turinčius bent kiek beveik visišką pasitikėjimą, reikia daugiau kontrolės ir pusiausvyros mechanizmų. Vienas iš šių metų DI madingų žodžių yra „pakinktas“ – sistema, kuri supa teisės magistro laipsnį turintį asmenį, kad agentai išliktų teisingame kelyje. Tai lygiai taip pat galėtų būti spygliuota viela.“ [1]
Čia ne DI agentai kalti, o jų kūrėjai. Jie kuria DI, kad įsilaužtų į Kinijos ir kitų kompiuterius, o kai šie agentai įsilaužia į jų pačių kompiuterius, tai agentų kūrėjai vaizduoja nustebusius ir prašo Trumpo pagalbos.
1. The lawless frontier. The Economist; London Vol. 460, Iss. 9512, (Aug 15, 2026): 65.
Komentarų nėra:
Rašyti komentarą