„KIBERSAUGUMAS DIRBTINIO INTELEKTO amžiuje tam tikra prasme primena šiuolaikinę karybą. Jis yra asimetriškas: mažos užpuolikų grupės, ginkluotos naujausiomis technologijomis, gali prasiskverbti pro galingiausius gynybos įrenginius. Be to, ginkluotė tampa vis labiau autonomiška. Kaip teigia didelės kibernetinio saugumo įmonės „Palo Alto Networks“ (PAN) vadovas Nikeshas Arora: „DI turi kovoti su DI.“ Gerieji ne visada laimi.
Pastarosiomis savaitėmis „Anthropic“ ir „OpenAI“ pristatė dirbtinio intelekto modelius – atitinkamai „Mythos Preview“ ir „5.5-Cyber“ – kurie taip geba prasiskverbti į silpnas kibernetinės gynybos vietas, kad dirbtinio intelekto laboratorijos juos išleido tik patikimoms įmonėms. Tačiau tai negarantuoja saugumo. Nuolat atsiranda naujų modelių, o įsilaužėliai jau naudoja ankstesnes versijas. Be to, kaip sako p. Arora, tai nėra sąžininga kova. Su dirbtiniu intelektu vieniši vilkai gali vykdyti atakas, kurioms anksčiau reikėjo ištisų komandų, ir jie turi būti teisūs tik kartą, kad pasisektų. Priešingai, gynėjai turi būti teisūs kiekvieną kartą.
Štai kodėl kibernetinio saugumo įmonės, taip pat ir visos įmonės, stengiasi pasiruošti dirbtinio intelekto valdomų kibernetinių nusikaltimų bangai. Šioje pramonės šakoje PAN ir pagrindiniai konkurentai, tokie kaip „CrowdStrike“, sudarė aljansus, siekdami užtikrinti saugesnį naujausių modelių diegimą. Tarp jų klientų, tiesioginė reakcija į tokius modelius kaip „Mythos“ ir „5.5-Cyber“ buvo „panika ir išsigandimas“, sako Adamas Meyersas. „CrowdStrike“. Tačiau modelių pasirodymas taip pat buvo žadinantis skambutis. Kibernetinio pasirengimo vertinimai persikelia iš IT skyrių į vadovaujančius vadovus ir valdybas. Kol kas jie greičiausiai yra labiau pesimistiški nei optimistiški.
Blogiausia žinia ta, kad kad ir kaip griežtai dirbtinio intelekto laboratorijos ribotų prieigą prie savo pavojingiausių kūrinių, nusikaltėliai jas pasivys. Netrukus po to, kai „Anthropic“ pristatė „Mythos“, „OpenAI“ sukūrė savo 5.5 seriją, kuri, pasak Didžiosios Britanijos vyriausybės Dirbtinio intelekto saugumo instituto, gali būti dar stipresnė.
Daugelis tikisi, kad kiti modelių kūrėjai, pavyzdžiui, atvirojo kodo ar kinų įmonės, greitai sukurs ilgalaikį samprotavimą [1] ir kitas galimybes, dėl kurių „Mythos“ ir „5.5-Cyber“ yra tokie veiksmingi. Džinas išlaisvintas iš butelio.
Dar prieš išleidžiant naujus modelius, senesni modeliai leido įsilaužėliams įsilaužti greičiau ir dažniau. „CrowdStrike“ teigė, kad dirbtinio intelekto sustiprintų atakų skaičius 2025 m., palyginti su ankstesniais metais, išaugo 89 %. PAN nustatė, kad aprūpintas dirbtiniu intelektu, Greičiausias užpuolikų kvartilis praėjusiais metais sugebėjo pavogti duomenis iš programinės įrangos sistemos, į kurią įsilaužė, per kiek daugiau nei valandą, palyginti su beveik penkiomis 2024 m. Įprastai įmonei gali prireikti kelių dienų, kad aptiktų pažeidimą.
Autonominių dirbtinio intelekto agentų, galinčių savarankiškai atlikti kelias užduotis, atsiradimas dar labiau padidina riziką. Kaip teigia p. Arora, įsilaužėliai gali naudoti agentinius įrankius, kad būtų dar grėsmingesni. Kuo daugiau įmonių naudoja agentus kodavimui, klientų aptarnavimui ir pan., tuo didesnė teritorija įsilaužėliams atakuoti. Numatydama tai, praėjusio mėnesio pabaigoje PAN pranešė, kad įsigis „Portkey“ – įmonę, kuri padeda valdyti ir apsaugoti dirbtinio intelekto agentus. Įmonės „kuria daugiau programinės įrangos nei bet kada anksčiau, todėl mes labiau save pažeidžiame“, – sako Jeremy D'Hoinne iš IT konsultacijų įmonės „Gartner“.
Įmonės jau dabar patiria perkrovą, bandydamos ištaisyti klaidas, kurias padeda atskleisti dirbtinio intelekto įrankiai. Saugumo spragos žymimos kaip „dažni pažeidžiamumai ir atotrūkiai“ (CVE), apie kuriuos pranešama arba programinę įrangą gaminančioms įmonėms, arba specializuotoms organizacijoms. Praneštų CVE skaičius buvo pastaruoju metu smarkiai išaugo (žr. diagramą). Ponas Meyersas iš „CrowdStrike“ teigia, kad kai kurie spėja, jog metinis skaičius netrukus gali išaugti dešimt kartų iki 480 000, nes galingesni dirbtinio intelekto modeliai aptinka dar daugiau klaidų. „Daroma prielaida, kad dirbtinis intelektas ras pažeidžiamumus greičiau, nei bus galima parašyti pataisymus“, – sako Erikas Nostas iš kitos konsultacinės įmonės „Forrester“.
Geros naujienos yra tai, kad nors dirbtinis intelektas apginkluoja užpuolikus, jis taip pat padeda ir gynėjams. Kai kurios įmonės, laikomos ypač svarbiomis interneto infrastruktūrai, pavyzdžiui, hiperskalės kūrėjai ir kibernetinio saugumo įmonės, gavo prieigą prie riboto leidimo „Anthropic“ ir „OpenAI“ „Mythos“ ir „5.5-Cyber“ modelių, kad galėtų išbandyti savo sistemas. Dvi dirbtinio intelekto laboratorijos taip pat turi žemesnius lygius, kurių nariams suteikiama prieiga prie modelių, kurie yra šiek tiek mažiau liberalūs nei „Mythos“ ir „5.5-Cyber“, tačiau turi daugiau kibernetinių galimybių nei tie, kurie yra plačiai išleisti. Gavėjai yra panašūs į pandemijos laikų pagrindinius darbuotojus, gaunančius ankstyvas vakcinų dozes.
„Mozilla“, žiniatinklio naršyklės „Firefox“ kūrėja, neseniai pateikė optimistišką Pavyzdžiui: ankstyva „Mythos“ versija padėjo nustatyti 271 naujos „Firefox“ versijos pažeidžiamumą. Teigiama, kad modelis geba atpažinti kiekvieną klaidą, kurią gali aptikti žmogus, o tai nebuvo įmanoma vos prieš kelis mėnesius. Tai padėjo sudaryti lygias sąlygas užpuolikams. „Gynėjai pagaliau turi galimybę laimėti, ir tai užtikrintai“, – teigiama tinklaraščio įraše.
Tačiau gynėjams padeda ne tik patobulintos pažangiausių modelių galimybės. Kibernetinio saugumo įmonės taip pat kuria savo įrankius, kuriuos jie vadina apsaugos diržais, kad visi modeliai būtų veiksmingesni.
Gegužės 12 d. IT milžinė „Cisco“, turinti prieigą prie „Mythos“ ir „5.5-Cyber“, pareiškė, kad paskelbs atvirojo kodo nuoseklų vadovą, kaip sukurti kibernetinio saugumo apsaugos diržus, kurie padės įmonėms naudoti bet kokį modelį savo gynybai sustiprinti.
Yra daug vilčių, kad pramonė galės įveikti dirbtinio intelekto iššūkį, jei tik susitelks. „Anthropic“ ir „OpenAI“ sulaukė plačių pagyrų už bendradarbiavimo principų įgyvendinimą. Tačiau nors ponas Arora joms skiria A+ už ketinimus, PAN vadovas mano, kad nei laboratorijos, nei kibernetinio saugumo pramonė nenusipelno daugiau nei B+ už vykdymą. Iš dalies taip yra todėl, kad dirbtinio intelekto grėsmės vis dar yra tokios naujos, kad visi mokosi iš karto. „Nėra stebuklingos priemonės. Nėra panacėjos. Mes dar nežinome, koks yra teisingas atsakymas.“ Be jokios abejonės, tai muzika įsilaužėlių ausims.“ [2]
1. Ilgalaikis samprotavimas – tai dirbtinio intelekto sistemos gebėjimas planuoti, išlaikyti kontekstą ir vykdyti sudėtingas, daugiapakopes užduotis ilgose sąveikose neprarandant darnos. Tam reikalinga nuolatinė atmintis ankstesnei patirčiai saugoti ir gebėjimas abstrakčius tikslus suskaidyti į valdomus, nuoseklius veiksmus.
Šiuolaikinės dirbtinio intelekto sistemos tai pasiekia peržengdamos paprastą, kito žetono numatymą. Jos naudoja specifines architektūrines sistemas informacijai sintetinti ir išsaugoti laikui bėgant:
• Hierarchinė atmintis (H-MEM): sistemos tvarko ir atnaujina ankstesnes sąveikas, remdamosi semantine abstrakcija, leisdamos modeliams gauti ankstesnius įvykius naudojant indeksais pagrįstą maršrutizavimą, o ne ieškant visuose duomenų rinkiniuose.
• Neurosimbolinė atmintis: integruoja neuroninius modelius su aiškiomis simbolinėmis struktūromis, leisdamos dirbtiniam intelektui samprotaujant naudoti griežtas logikos taisykles ir tikslius apribojimus.
• Veiksminga minčių grandinė (ReAct): dirbtinio intelekto agentai suskaido problemas į mažesnes užduotis, samprotauja, kokios informacijos jiems reikia, ir naudoja išorinius įrankius (pvz., duomenų bazes, skaičiuotuvus), kad įvykdytų kitą savo plano žingsnį.
2. Mythos and reality. The Economist; London Vol. 459, Iss. 9499, (May 16, 2026): 69, 70.
Komentarų nėra:
Rašyti komentarą