„JAV žvalgybos institucijos naudoja dirbtinį intelektą (AI), kad pastebėtų įsilaužėlių, bandančių įsiskverbti ir atakuoti Amerikos kritinę infrastruktūrą, buvimą ir aptiktų požymius, kad įsilaužėliai atakose naudoja AI.
Antradienį vykusioje konferencijoje kibernetinio saugumo lyderiai aptarė sparčiai augančius įsilaužėlių ir teisėsaugos AI naudojimo aspektus. Robas Joyce'as, JAV Nacionalinio saugumo agentūros (NSA) kibernetinio saugumo direktorius, sakė, kad mašininis mokymasis ir dirbtinis intelektas padeda kibernetinio saugumo tyrėjams sekti skaitmeninius įsiveržimus, kuriuos kitu atveju būtų labai sunku pastebėti.
Konkrečiai, Kinijos įsilaužėliai taikosi į JAV transporto tinklus, vamzdynus ir uostus, naudodami slaptas technologijas, kurios susilieja su įprasta veikla infrastruktūros tinkluose, sakė Joyce'as, kalbėdamas Fordham universitete Niujorke.
Šie metodai yra „tikrai pavojingi“, nes jų tikslas yra visuomenės sutrikdymas, o ne finansinė nauda ar šnipinėjimas, sakė Joyce. Jis pridūrė, kad įsilaužėliai nenaudoja kenkėjiškų programų, kurias gali užfiksuoti įprasti saugos įrankiai.
„Jie naudojasi architektūros trūkumais, diegimo problemomis ir kitais dalykais, kad įsitvirtintų paskyrose arba sukurtų paskyras, kurios atrodytų taip, tarsi turėtų būti tinklo dalis“, – sakė Joyce'as, turėdamas omenyje tai, kas vadinama „gyvenimu iš žemės“ technika.
Teisėsaugos institucijos perspėjo apie pavojų, kurį dirbtinis intelektas kelia įsilaužėlių rankose, kurie gali padaryti milžinišką žalą. Kalbant apie gynybą, kai kurie saugumo ekspertai taip pat yra susirūpinę, kad dėl didėjančio AI sudėtingumo turtingos įmonės gali turėti geresnę kibernetinę apsaugą, nei įmonės, kurios negali sau to leisti.
Neseniai duodamas interviu Amazon.com vyriausiasis saugumo pareigūnas Stephenas Schmidtas teigė, kad bendrovė „ypač agresyviai“ naudoja dirbtinį intelektą kibernetinio saugumo gynyboje.
„Manau, kad generatyvus AI gali tapti nepakeičiamu įrankiu saugumo inžinierių rankose“, – sakė jis.
Vyriausybės institucijos ir finansų institucijos turi investuoti į technologijas, kurios aptiks su AI sukurtus ir sukčiavimui naudojamus netikrus vaizdus ir vaizdo įrašus, konferencijoje sakė JAV advokatas Breonas Peace'as, Niujorko rytiniame rajone.
Joyce'as sakė, kad kibernetiniai nusikaltėliai ir nacionalinių valstybių įsilaužėliai jau naudoja generatyvius AI įrankius, kad suviliotų daugiau aukų. Pavyzdžiui, sukčiavimo el. laiškuose: praeityje svarbus signalas buvo prasta anglų kalba. Dabar įmonių kibernetinio saugumo lyderiai teigia matę sukčiavimo bandymus, kurie atrodo nepriekaištingai.
Populiarūs generuojantys AI įrankiai, tokie, kaip „OpenAI's ChatGPT“ ir „Google“ Bard, turi apsaugą, neleidžiančią vartotojams kurti kenkėjiško turinio.
Tačiau generatyvaus AI apsauginiai turėklai yra „gana lengvai pajudinami“, – sakė JAV advokatas Damianas Williamsas iš pietinės Niujorko apygardos, kalbėdamas toje pačioje konferencijoje. Jis nenurodė jokių konkrečių įmonių ar įrankių.
Įsilaužėliai taip pat kuria savo generuojančius dirbtinio intelekto įrankius, naudodami atvirojo kodo modelius, mokydami juos su savo duomenų rinkiniais ir parduodant gautus įrankius tamsiojo interneto prekyvietėse, sakė Federalinio tyrimų biuro žvalgybos analitikė Maggie Dugan.
Williamsas teigė, kad dirbtinis intelektas gali padėti padaryti nusikaltimus, bet nebūtinai sukurs naujas nusikaltimų formas. "Sukčiavimas yra sukčiavimas. Tai senas vynas naujuose buteliuose."" [1]
1. Cybersecurity: Spy Chiefs Enlist AI to Fight Hacks --- NSA effort to guard infrastructure faces enemies armed with powerful new tools. Stupp, Catherine. Wall Street Journal, Eastern edition; New York, N.Y.. 11 Jan 2024: B.5.