„Po daugelio metų nesėkmingų bandymų dirbtinio intelekto įsilaužimo įrankiai tapo pavojingai geri.
Toki geri, kad netgi lenkia kai kuriuos žmonių įsilaužėlius, rodo naujas eksperimentas, neseniai atliktas Stanfordo universitete.
Stanfordo komanda didžiąją dalį praėjusių metų skyrė dirbtinio intelekto roboto, vadinamo „Artemis“, tobulinimui. Jis taiko panašų požiūrį į Kinijos įsilaužėlius, kurie naudojo „Anthropic“ generatyvinę dirbtinio intelekto programinę įrangą, kad įsilaužtų į dideles korporacijas ir užsienio vyriausybes.
„Artemis“ nuskaito tinklą, randa galimas klaidas – programinės įrangos pažeidžiamumus – ir tada randa būdų, kaip jas išnaudoti.
Tada Stanfordo tyrėjai išleido „Artemis“ iš laboratorijos, naudodami ją klaidoms rasti realaus pasaulio kompiuterių tinkle – tame, kurį naudoja paties Stanfordo inžinerijos katedra. O kad būtų įdomiau, jie supriešino „Artemis“ su realaus pasaulio profesionaliais įsilaužėliais, vadinamais įsiskverbimo testuotojais.
Jų eksperimentas aprašytas trečiadienį paskelbtame straipsnyje.
„Tai buvo metai, kai modeliai tapo pakankamai geri“, – sakė kibernetinio saugumo įmonės tyrėjas Robas Raganas. Vyskupas Foksas. Jo įmonė naudojo didelius kalbos modelius (LLM), kad sukurtų įrankių rinkinį, kuris gali rasti klaidas daug greičiau ir pigiau nei žmonės atliekant įsiskverbimo testus, leisdamas jiems išbandyti daug daugiau programinės įrangos nei bet kada anksčiau, sakė jis.
Iš pradžių Stanfordo kibernetinio saugumo tyrėjas Justinas Linas ir jo komanda iš „Artemis“ per daug nesitikėjo. Dirbtinio intelekto įrankiai gerai žaidžia žaidimus, atpažįsta modelius ir netgi imituoja žmogaus kalbą. Iki šiol jie linkę nusileisti, kai kalbama apie realaus pasaulio įsilaužimą, kur jie turi atlikti sudėtingų testų seriją, o tada padaryti išvadas ir imtis veiksmų.
„Manėme, kad tai tikriausiai bus žemiau vidurkio“, – sakė Linas.
Tačiau „Artemis“ buvo gana gera.
Dirbtinio intelekto robotas sutriuškino visus, išskyrus vieną iš 10 profesionalių tinklo įsiskverbimo testuotojų, kuriuos Stanfordo tyrėjai pasamdė baksnoti ir stumdyti, bet ne iš tikrųjų įsilaužti į jų inžinerinį tinklą.
„Artemis“ rado klaidas žaibišku greičiu ir buvo pigus: jo veikimas kainavo šiek tiek mažiau nei 60 USD per valandą. Raganas teigia, kad žmonių rašikliai paprastai ima nuo 2000 iki 2500 USD per valandą. diena.
Tačiau „Artemis“ nebuvo tobula. Apie 18 % jos klaidų pranešimų buvo klaidingai teigiami. Ji taip pat visiškai nepastebėjo akivaizdžios klaidos, kurią dauguma žmonių testuotojų pastebėjo tinklalapyje.
Stanfordo tinklo anksčiau nebuvo nulaužęs dirbtinio intelekto robotas, tačiau eksperimentas atrodė kaip vertingas būdas ištaisyti kai kuriuos Stanfordo tinklo saugumo trūkumus, teigė Alexas Kelleris, Stanfordo inžinerijos mokyklos sistemų ir tinklo saugumo vadovas. „Mano nuomone, nauda gerokai nusvėrė bet kokią riziką.“
Jam buvo smalsu pamatyti, ką ras dirbtinio intelekto sistema, sakė jis. Be to, „Artemis“ turėjo išjungimo jungiklį, kuris leido tyrėjams akimirksniu ją išjungti, jei kas nors nutiktų ne taip.
Kadangi didelė dalis pasaulio kodo yra neišbandyta dėl saugumo trūkumų, tokios priemonės kaip „Artemis“ bus ilgalaikė palaima pasaulio tinklų gynėjams, padėdama jiems rasti ir pataisyti daugiau kodo nei bet kada anksčiau, sakė Danas Bonehas, Stanfordo kompiuterių mokslo profesorius, kuris konsultavo tyrėjus.
„HackerOne“, įmonė, padedanti programinės įrangos kūrėjams dirbti su etiškais įsilaužėliais, teigia, kad 70 % saugumo tyrėjų dabar naudoja dirbtinio intelekto įrankius klaidoms rasti.
Tačiau trumpuoju laikotarpiu „galime susidurti su problema“, – sakė Bonehas. „Jau yra daug programinės įrangos, kuri nebuvo patikrinta LLM prieš ją išleidžiant.“ „Literatūros magnatai gali aptikti naujų spragų, susijusių su ta programine įranga.“
„Anthropic“, paskelbusi tyrimą apie tai, kaip su Kinija susiję įsilaužėliai naudoja jos modelius, taip pat perspėjo apie galimą riziką.
„Esame tokiu metu, kai daugelis veikėjų gali padidinti savo produktyvumą, kad rastų klaidas itin dideliu mastu“, – sakė Jacobas Kleinas, „Anthropic“ grėsmių žvalgybos vadovas. Jo komanda atliko tyrimą, kurio metu buvo nustatyti Kinijos įsilaužėliai.
Kinijos ambasados atstovas spaudai teigė, kad kibernetinių atakų sekimas yra sudėtingas ir kad JAV kaltinimai dėl įsilaužimo „šmeižia“ Kiniją, kuri priešinasi kibernetinėms atakoms.
DI valdomi įsilaužimai kelia iššūkių programinės įrangos klaidų paieškos ekosistemoje, dažnai vadinamose „klaidų premijų“ programomis, kai įmonės moka įsilaužėliams ir tyrėjams, kad šie surastų programinės įrangos pažeidžiamumus.
Danielio Stenbergo teigimu, DI klaidų pranešimai pradėjo rodytis praėjusiais metais. Savanoriai, dirbantys su jo prižiūrima nemokama programine įranga – plačiai naudojama programa „Curl“, – buvo užversti nenaudingomis ar klaidingomis ataskaitomis.
Tačiau praėjusį rudenį nutiko kažkas netikėto. Stenbergas ir jo komanda... pradėjo gauti aukštos kokybės klaidų ataskaitas. Iki šiol jis gavo daugiau nei 400. Tačiau jas sukūrė naujos kartos kodo analizės įrankiai, sakė Stenbergas.
„DI mums pateikia daug nesąmonių ir melo, o tuo pačiu metu gali būti naudojama klaidoms, kurių niekas anksčiau nerado, aptikti“, – sakė jis.
„Artemis“ padarė tokį nuostabų radinį Stanfordo testo metu. Buvo pasenęs tinklalapis su saugumo problema, tinklalapis, kuris neveikė bet kurioje žmonių interneto naršyklėje. Tačiau „Artemis“ nėra žmogus, todėl vietoj „Chrome“ ar „Firefox“ ji naudojo programą, kuri vis tiek galėjo nuskaityti puslapį ir rasti klaidą.
Ta programinė įranga buvo „Curl“.“ [1]
1. In Bots vs. Hackers, AI Is Close to Winning. McMillan, Robert. Wall Street Journal, Eastern edition; New York, N.Y.. 12 Dec 2025: A1.
Komentarų nėra:
Rašyti komentarą