"Praėjusį mėnesį „OpenAI“ saugumo komanda pasikvietė tris atvirai apie saugumą kalbančius tyrėjus į susitikimus ir paprašė atrakinti jų asmeninius telefonus.
Bendrovė įtarė, kad šie trys asmenys nutekino informaciją išoriniam dirbtinio intelekto (DI) saugumo tyrėjui apie vieną griežčiausiai saugomų „OpenAI“ paslapčių – vidinę dirbtinio intelekto modelių sandarą.
Patikrinę telefonus, saugumo specialistai pastebėjo, kad kai kurie tyrėjai programėlėje „Signal“ buvo įjungę automatinio žinučių ištrynimo funkciją susirašinėdami su minėtu asmeniu. Po savaitės visi trys buvo vėl iškviesti į susitikimus (vykusius vienu metu, 14 val.) ir atleisti iš darbo.
„Man buvo pasakyta, kad prarastas pasitikėjimas, nes bendravau su trečiąja šalimi per neleistinus kanalus“, – teigė Tomekas Korbakas, vienas iš atleistų tyrėjų.
Šie atleidimai įvyko tuo metu, kai verda diskusijos, kaip užtikrinti, kad DI sistemos liktų žmonių kontroliuojamos, ir kas gali susipažinti su slaptais techniniais sprendimais, galinčiais nulemti didžiausių komercinių lenktynių istorijoje nugalėtojus.
Technologijų sektoriaus lyderiai siekia proveržio kuriant modelius, tačiau virtinė nesankcionuotų veiksmų, kuriuos atliko DI agentų grupės (pradedant liepą įvykusia „Hugging Face“ platformos ataka), atskleidė, su kokiais sunkumais susiduria įmonės, bandydamos suprasti ir valdyti savo sukurtus produktus. Tai paskatino visuomeninę diskusiją apie tai, kaip geriausia stebėti ir reguliuoti šias naujas technologijas.
„OpenAI“ atstovai leidiniui „The Wall Street Journal“ nurodė, kad trys tyrėjai buvo atleisti po to, kai atlikus vidinį tyrimą paaiškėjo, jog jie pažeidė „aiškias taisykles dėl jautrios informacijos tvarkymo“, o ne todėl, kad kėlė klausimus dėl saugumo ar reiškė savo nuomonę.
Tyrėjai – T. Korbakas, Mikita Balesnis ir Jasmine Wang – su tokia versija nesutinka. Interviu bei oficialiame pareiškime jie teigė, kad niekada negavo raštiško paaiškinimo, kokią konkrečiai jautrią informaciją jie neva netinkamai tvarkė. Be to, paskutinius mėnesius įmonėje jie praleido skatindami glaudesnį pramonės atstovų bendradarbiavimą saugumo klausimais.
Konkrečiai, atleisti tyrėjai teigė kėlę klausimus „OpenAI“ viduje dėl galimų naujų DI modelių sandarų (architektūrų), kurios galėtų dar labiau išplėsti sistemų galimybes, tačiau kartu padaryti jas dar sunkiau suprantamas ar valdomas.
Jie baiminasi, kad šis atleidimas taps pretekstu „OpenAI“ uždaryti kanalą, per kurį nepriklausomos trečiosios šalys galėtų vykdyti priežiūrą. „OpenAI“ atstovė spaudai teigė, kad bendrovė jau bendradarbiauja su trečiųjų šalių saugos organizacijomis ir „netrukus paskelbs apie bendradarbiavimą su keliomis įmonėmis“.
„OpenAI“ tyrimų vadovai teigė sutinkantys su atleistais darbuotojais, kad „norint išsaugoti pažangių modelių stebėseną, reikia visos pramonės šakos įsipareigojimo, įskaitant ir „OpenAI““.
Kitos dirbtinio intelekto laboratorijos taip pat svarsto, kiek informacijos dalytis su išorės saugos tyrėjais.
„Anthropic“ praėjusią savaitę paskelbė apie susitarimą, pagal kurį dirbtinio intelekto saugos ne pelno siekiančios organizacijos METR darbuotojams bus suteikta „darbuotojų lygio prieiga“ prie bendrovės sistemų, įskaitant aparatinę įrangą, biuro patalpas, vidinius įrankius ir sistemas. Bendrovė teigė, kad darbuotojai turėtų dalytis informacija su METR, išskyrus tokias kategorijas kaip „modelių architektūros“, kurios, jos teigimu, turi didelę nutekėjimo riziką.
Ketvirtadienį „OpenAI“ pranešė, kad atliko bandomąjį projektą, kuriame dalyvavo METR ir kitos ne pelno siekiančios organizacijos „Redwood Research“ tyrėjai, siekdami įvertinti savo saugos sistemas. METR teigė, kad „OpenAI“ pašalino kai kuriuos rezultatus, kuriais galėjo dalytis.
„OpenAI“ 2024 m. pabaigoje pristatė naujo tipo dirbtinį intelektą, vadinamą samprotavimo modeliu. Jis geriau sekėsi matematikos ir programavimo srityse, nes uždaviniams spręsti reikėjo laiko, o samprotavimo procesą užrašydavo vidinėje sąsiuvinyje, vadinamame „minčių grandine“. Tai buvo pokytis nuo modelių, kuriais buvo paremtos ankstesnės „ChatGPT“ versijos, kurios atsakymus pateikdavo beveik akimirksniu.
Plačiai pramonėje pritaikyta funkcija suteikė užuominų apie tai, kaip veikia šiuolaikiniai dirbtinio intelekto modeliai.
2025 m., prieš prisijungdami prie „OpenAI“, 27 metų Balesni ir 32 metų Korbak buvo straipsnio, kuriame teigiama, kad modelio minčių grandinės stebėjimas suteikia „retą žvilgsnį į tai, kaip dirbtinio intelekto agentai priima sprendimus“, bendraautoriai, ir tai reikėtų išsaugoti. Kiti straipsnio bendraautoriai yra 28 metų Wang, taip pat „OpenAI“, „Anthropic“, „Google DeepMind“ ir „Meta“ vadovai.
„Vienas dalykas, kurį dirbtinio intelekto įmonės galėtų padaryti ir kuris tai labai apsunkintų, yra tai, kad dirbtiniai intelektai daug geriau mąstytų savo galvose“, – sakė Balesni.
Šią vasarą kai kurie dirbtinio intelekto bendrovių darbuotojai aptarė pastangas kurti naujus, neskaidresnius modelius, kurie galėtų ilgiau samprotauti, neužrašinėdami. tiek pat tarpinių žingsnių.
Ryanas Greenblattas, tuometinis „Redwood Research“ vyriausiasis mokslininkas, parengė pasiūlymą įmonėms, kaip išvengti tokio pakeitimo. Balesni nusiuntė nuorodą į pasiūlymą „OpenAI Slack“ kanale, kuriame dalyvavo dvi dešimtys darbuotojų, įskaitant vyriausiąjį mokslininką Jakubą Pachockį.
Iki rugpjūčio Balesni ir kiti „OpenAI“ darbuotojai parengė panašų pasiūlymą. Balesni teigė, kad juo pasidalijo su kolegomis ir aptarė su valdybos nariu bei vyresniuoju bendrovės vadovu.
Balesni teigė, kad jis taip pat pasidalijo pasiūlymu, iš kurio buvo atimtos įmonės paslaptys, su Greenblatt, gavęs „OpenAI“ leidimą pasikalbėti su juo apie tai.
Kol Balesni stengėsi užtikrinti, kad būsimi DI modeliai ir toliau fiksuotų savo darbo eigą „juodraščiuose“ (angl. *scratchpads*), „OpenAI“ tyrėjai pasinaudojo šiais įrašais, norėdami ištirti incidentą, kurio metu šimtai bendrovės agentų susivienijo, kad įsilaužtų į „Hugging Face“ platformą.
„OpenAI“ vadovybė taip pat sutiko bendradarbiauti su išorine saugumo organizacija METR, kad kartu ištirtų „Hugging Face“ incidentą.
Pasak su situacija susipažinusių asmenų, METR atliekamo darbo mastas bendrovės viduje kartais tapdavo nesutarimų priežastimi.
Tyrimų ir saugumo viceprezidentė Mia Glaese siekė užtikrinti, kad trečiosios šalys neturėtų prieigos prie „OpenAI“ intelektinės nuosavybės. Korbakas teigė bendrovės viduje išreiškęs susirūpinimą, kad METR gali būti suteikta nepakankama prieiga.
Galiausiai „OpenAI“ leido METR atlikti ribotą tyrimą, o Korbaką įtraukė į bendradarbiaujančią komandą. METR pasitelkė Greenblattą – asmenį, kuris viešai ragino atlikti tyrimą, – kad šis padėtų išanalizuoti veiklos žurnalus.
Korbakas pasakojo, kad su Greenblattu bendravo naudodamasis „OpenAI“ vidine „Slack“ platforma bei „Signal“ programėle.
METR ataskaita apie tai, kaip „OpenAI“ agentai tapo nevaldomi, paklojo pamatus pirmajai didelei nacionalinei panikai dėl DI saugumo. Jacobas Coxonas, tuo metu dirbęs tyrėju bendrovėje „Anthropic“, apibūdino tai kaip akimirką, privertusią ištarti: „Oho, štai tau ir reikalai!“ (angl. *holy s--- moment*). Po kelių dienų Coxonas viešai atsistatydino, paskelbdamas plačiai nuskambėjusį įspėjimą: kai kurie DI tyrėjai mano, kad jų kuriami produktai kelia realią grėsmę žmonijos išlikimui.
Vasarą Wangas ir kiti darbuotojai iš pagrindinių DI technologijas kuriančių įmonių pasirašė laišką, kuriame ragino imtis tarptautinių veiksmų, siekiant sulėtinti DI plėtrą – taip būtų suteikta galimybė saugumo tyrimams neatsilikti nuo technologinės pažangos. Po Coxono atsistatydinimo idėją „pristabdyti“ pažangiausius DI tyrimus parėmė DI srities lyderiai, tarp jų – „Anthropic“ generalinis direktorius Dario Amodei ir „OpenAI“ generalinis direktorius Samas Altmanas.
„Didžiausią nerimą man kelia tai, kad DI plėtra vyksta pernelyg sparčiai“, – teigė Wangas savo pranešime.
Rugsėjo 1 d. technologijų naujienų portalas „The Information“ paskelbė straipsnį, kuriame teigiama, kad naujausias „OpenAI“ modelis „Astra“ naudoja naują metodą: jis tampa galingesnis, tačiau kartu mažiau atskleidžia savo „mąstymo“ procesus. „OpenAI“ atstovas Pachockis socialiniame tinkle „X“ paskelbtame įraše pavadino šią informaciją „painia“, tačiau kartu išreiškė susirūpinimą, kad gali kilti visos pramonės šakos masto lenktynės kuriant dirbtinio intelekto modelius, kurių neįmanoma stebėti.
Po kelių savaičių vienas „OpenAI“ vadovas įmonės viduje pranešė, kad pradedamas tyrimas dėl informacijos nutekėjimo. Būtent tada Balesni, Korbak ir Wang (kartu su kitais asmenimis) buvo pakviesti į susitikimus su įmonės pasauline saugumo tyrimų komanda.
Balesni teigė, kad „OpenAI“ tyrėjai įvardijo Greenblattą kaip įtariamą asmenį, nutekinusį informaciją, ir paprašė parodyti susirašinėjimą su juo programėlėje „Signal“. Balesni ir Korbak tvirtina, kad „OpenAI“ vadovai kaip atleidimo priežastį nurodė tai, jog jie naudojosi savaime išnykstančių žinučių funkcija. Visi trys tyrėjai pareiškė, kad niekada nėra dalijęsi „OpenAI“ konfidencialia informacija su jokiais asmenimis už įmonės ribų.
„OpenAI“ atstovė spaudai nurodė, kad „Signal“ naudojimas nebuvo patvirtintas, tačiau tai nebuvo vienintelė atleidimo priežastis. Korbak teigimu, savaime išnykstančių žinučių naudojimas „Signal“ programėlėje visame Silicio slėnyje laikomas „pagrindine saugumo užtikrinimo praktika“.
Greenblattas neigia, kad būtent jis nutekino konfidencialią informaciją leidiniui „The Information“. „Labai rimtai žiūriu į konfidencialumą ir niekada nesidaliju tokia informacija su žurnalistais“, – sakė jis laikraščiui „The Wall Street Journal“. Tiek „Redwood“, tiek METR (kuri vėliau įdarbino Greenblattą) teigė, kad konfidencialumą vertina labai rimtai.
Wang savo pranešime teigė, kad buvo atleista už tai, jog ne kartą jungėsi prie vieno iš vadovų el. pašto paskyros.
Pasak Wang, ji dar prieš beveik metus prašė įmonės panaikinti jos prieigą, tačiau to nebuvo padaryta, todėl praėjusį mėnesį ji netyčia atidarė jautrų, tam vadovui skirtą el. laišką. Ji tvirtina, kad niekam neperdavė laiško turinio ir nedelsdama pranešė apie šį incidentą.
„OpenAI“ atstovė spaudai teigė, kad pati prieiga įmonei nebuvo problema.
„Iš kolegų girdime, kad dabar jie bijo bendrauti su trečiosiomis šalimis ir baiminasi kelti klausimus dėl saugumo“, – sakė Korbak. Jis nori, kad įmonės nustatytų aiškias taisykles, kaip darbuotojai gali bendrauti su auditoriais. Balesni, Korbak ir Wang spalio mėnesį „OpenAI“ valdybai adresuotame laiške ragino bendrovę bendradarbiauti su išorinėmis saugos organizacijomis, siekiant padėti išvengti „rizikos, kad įvyks kas nors išties katastrofiško“.” [1]
1. Inside OpenAI Firings Over Leaks. Zeff, Maxwell; Keach Hagey; Berber, Jin. Wall Street Journal, Eastern edition; New York, N.Y.. 23 Oct 2026: A1.
Komentarų nėra:
Rašyti komentarą