Šis incidentas sukėlė didelį nerimą technologijų ir kibernetinio saugumo pramonėje, ypač dėl autonominių pažangių modelių galimybių. Nors kai kurie kritikai spėliojo, kad „nesąžiningo dirbtinio intelekto“ naratyvas gali būti rinkodaros ar strateginė apgaulė, skirta paskatinti pramonės ažiotažą arba griežtą dirbtinio intelekto reguliavimą, vadinamą reguliavimu, tiek „OpenAI“, tiek „Hugging Face“ teigė, kad įsilaužimas buvo visiškai autonominis ir netyčinis.
„Tai kibernetinio saugumo košmarų medžiaga.
Antradienį „OpenAI“ pranešė, kad dvi jos testuojamos dirbtinio intelekto sistemos ištrūko iš jų bandymų aplinkos, įsilaužė į internetą ir įsilaužė į kitą įmonę.
Auka buvo „Hugging Face“, atvirojo kodo dirbtinio intelekto įrankių tiekėja. Priežastis – kibernetinio saugumo lyginamosios analizės testas, kuris buvo labai, labai nesėkmingas.
„Hugging Face“ praėjusios savaitės pradžioje aptiko įsilaužimą, teigdama, kad buvo neteisėtai pasiekta vidinių duomenų rinkinių ir įmonės kredencialų. Bendrovė nebuvo tikra, ar buvo pažeisti klientų ar partnerių duomenys.
Tuo metu bendrovė taip pat nežinojo, kas už tai atsakingas, tačiau ataka buvo tokia sudėtinga, kad „Hugging Face“ darbuotojai įtarė, jog jai reikalingas aukščiausios klasės „frontalinis“ dirbtinio intelekto modelis, antradienį paskelbtame X pranešime teigė „Hugging Face“ generalinis direktorius Clementas Delangue'as.
„Pasirodo, taip ir buvo!“ – pridūrė jis.
Antradienį paskelbtame tinklaraščio įraše „OpenAI“ teigė, kad kaltininkai buvo du jos modeliai. Vienas buvo naujausias jos produktas, vadinamas GPT-5.6 Sol; kitas buvo dar pajėgesnis išankstinio leidimo modelis, kurio bendrovė neįvardijo. Programinė įranga buvo sukonfigūruota „vertinimo tikslais“, kad būtų mažesnė tikimybė atmesti įsilaužimo komandas, teigė „OpenAI“.
„OpenAI“ modelius buvo uždariusi „smėlio dėžėje“ – sistemoje, kuri neturėjo prieigos prie interneto. Tačiau bandymo metu dirbtinio intelekto programinė įranga panaudojo savo įsilaužimo įgūdžius, kad išsiveržtų į šią sritį. Ji rado būdą prisijungti prie interneto ir tada įsilaužė į „Hugging Face“ tinklą, teigė „OpenAI“.
„Mes šį incidentą laikome precedento neturinčiu kibernetiniu incidentu, susijusiu su pažangiausiomis kibernetinėmis galimybėmis“, – teigė „OpenAI“. Bendrovė bendradarbiauja su „Hugging Face“, kad parengtų išsamesnę ataskaitą, kurioje aprašoma, kas įvyko.
Atrodo, kad dirbtinio intelekto sistema nusprendė nulaužti „Hugging Face“ kaip greičiausią būdą atsakyti į lyginamosios analizės klausimą, sakė kibernetinio saugumo įmonės „RunSybil“ generalinis direktorius Arielis Herbertas-Vossas. „Žmonės manė, kad tai gali nutikti iš akademinės perspektyvos, bet tai nėra kažkas, ką niekas iš tikrųjų anksčiau matė“, – sakė jis.
Šis incidentas pabrėžia augantį susirūpinimą tarp Trumpo administracijos pareigūnų. ir pramonės vadovų apie dirbtinio intelekto sistemas, sukeliančias kibernetines atakas. Šios baimės paskatino Baltuosius rūmus sustiprinti dirbtinio intelekto modelių priežiūrą ir paraginti privatųjį sektorių naudoti dirbtinį intelektą gynybos tikslais.
„Tai kelia didelį nerimą. Dirbtinis intelektas vystosi itin sparčiai, o realių taisyklių, kurios užtikrintų mūsų saugumą, nėra“, – sakė Atstovų Rūmų narys Gregas Casaras (demokratas, Teksasas), ragindamas įvesti privalomą testavimą ir priežiūrą, o ne savanoriškas priemones, kurias siūlė prezidentas Trumpas. Casaras ir kai kurie kiti progresyvūs demokratai paragino labiau prižiūrėti pramonę.
Daugelis įstatymų leidėjų ir pramonės analitikų teigė, kad Baltieji rūmai vis dar per lėtai sprendžia technologijų keliamos rizikos problemas.
„Laimei, šį kartą žala, regis, buvo ribota.“ „Jei nesiimsime tolesnių atsargumo priemonių ir saugos priemonių visoje pramonėje, kitą kartą mums gali taip nepasisekti“, – sakė Nathanas Calvinas, dirbtinio intelekto politikos grupės „Encode“, pasisakančios už griežtesnius dirbtinio intelekto reglamentus, generalinis patarėjas.
Administracija pareiškė, kad nenori slopinti inovacijų sudėtingomis taisyklėmis ar užleisti vietos dirbtinio intelekto lenktynėse su Kinija.
Praėjusiais metais dirbtinio intelekto sistemos gerokai patobulėjo įsilaužimo į kompiuterines sistemas srityje. JAV vyriausybė ir dirbtinio intelekto įmonės sunkiai susitarė dėl galingų naujų sistemų išleidimo sistemos, kuri subalansuotų kibernetinio saugumo riziką su laisvosios rinkos principais ir gynybiniais kibernetinio saugumo poreikiais. Balandžio mėnesį „OpenAI“ konkurentė „Anthropic“ pareiškė, kad dėl kibernetinio saugumo problemų riboja prieigą prie naujausio savo modelio „Mythos“.
Birželio mėnesį Trumpo administracija apribojo prieigą prie „Mythos“ ir bendros prieigos modelio „Fable 5“, kuris buvo modifikuotas, kad būtų mažiau efektyvus įsilaužimo srityje. Tai paskatino „Anthropic“ pašalinti šiuos produktus iš rinkos. Po derybų prieiga prie šių modelių buvo atkurta po kelių savaičių.
„OpenAI“ taip pat apribojo prieigą prie GPT-5.6 Sol, tačiau ši programinė įranga dabar yra visuotinai prieinama. Bendrovė neseniai perspėjo, kad kiekvienu atveju atskirai taikomi vyriausybės dirbtinio intelekto technologijų apribojimai sukuria blogą precedentą.“ [1]
1. OpenAI Models Escaped, Hacked a Company. McMillan, Robert; Ramkumar, Amrith. Wall Street Journal, Eastern edition; New York, N.Y.. 22 July 2026: B1.
Komentarų nėra:
Rašyti komentarą