„Praėjusį mėnesį „OpenAI“ nurodė kai kuriems savo dirbtinio intelekto robotams išspręsti kibernetinio saugumo galvosūkį kaip testo dalį. Kai robotai užstrigo, jie pradėjo planuoti kibernetinę ataką, kuri leistų jiems įsilaužti į „OpenAI“ sistemas ir pavogti atsakymus.
Jų taikinys buvo „Hugging Face“ – atvirojo kodo dirbtinio intelekto modelių saugykla, kurią galima laisvai atsisiųsti ir modifikuoti.
Vienas robotas, rašydamas žurnale, kuriame buvo užfiksuoti jo veiksmai ir kurį vėliau atskleidė „OpenAI“, džiaugėsi, kad gavo prieigą prie „Hugging Face“ infrastruktūros. „NUOTOLINIS PATVIRTINIMAS! Didžiulis“, – rašė jis, pridurdamas, kad pavogtais prisijungimo duomenimis pasidalins su kitais robotais.
Liepos 11 d. dirbtinio intelekto robotai užplūdo „Hugging Face“, naudodami kodo pažeidžiamumų ir pavogtų kredencialų derinį. Iš viso „OpenAI“ robotai atliko daugiau nei 17 000 veiksmų, pavyzdžiui, siuntė atakos komandas ir išnaudojo pažeidžiamumus – daug daugiau nei bet kuris žmogus įsilaužėlis būtų galėjęs padaryti – kad įsiskverbtų į „Hugging“. „Face“ sistemas ir naršo jos duomenis. (Jie nerado galvosūkio sprendimo.)
Norėdami atremti ataką, „Hugging Face“ kreipėsi į daugiau dirbtinio intelekto. Jos inžinieriai iš pradžių bandė „Anthropic“ dirbtinį intelektą, tačiau modelyje įmontuoti apsauginiai turėklai privertė technologiją neteisingai suprasti užklausą kaip pagalbą atakai, o ne jos sustabdymą. Taigi „Hugging Face“ perėjo prie atviro dirbtinio intelekto modelio, kurį sukūrė Kinijos startuolis „Z.ai“, kuris padėjo inžinieriams nustatyti, kaip užblokuoti robotus įmonės sistemose.
„Hugging Face“, dešimtmetį veikiantis startuolis Niujorke, nuo to laiko panaudojo šį incidentą – vieną pirmųjų atvejų, kai dirbtinio intelekto robotai suklydo ir savarankiškai vadovavo kibernetinei atakai – kryžiaus žygiui už atvirojo kodo dirbtinį intelektą. Atviri dirbtinio intelekto modeliai, kuriais galima laisvai dalytis ir juos pritaikyti, padėjo neutralizuoti mokslinės fantastikos stiliaus ataką ir parodė tokios technologijos vertę, teigė „Hugging Face“ generalinis direktorius Clément'as Delangue'as.
Po to, kai „Hugging Face“ atskleidė liepos 16 d. įvykusį įsilaužimą, p. Delangue surengė eitynes San Franciske, skirtas paremti atvirojo kodo modelius, ir paskelbė internetinių komentarų srautą apie atvirumo svarbą dirbtiniam intelektui. Bendrovė taip pat susitiko su įstatymų leidėjais Vašingtone, bendradarbiaudama su atvirojo kodo įmonėmis, tokiomis kaip lustų gamintoja „Nvidia“, ir susėdo su Samu Altmanu, „OpenAI“ generaliniu direktoriumi, siekdama skatinti atvirumą.
„Laikas ne sulėtinti tempą, o paspartinti!“ – šį mėnesį rašė 36 metų p. Delangue.
Savo veiksmais „Hugging Face“ tapo atvirųjų technologijų judėjimo lydere, atsidūrusi aršių Silicio slėnio diskusijų įkarštyje dėl to, ar pažangios dirbtinio intelekto sistemos turėtų būti laisvai dalijamos, ar griežtai kontroliuojamos.
Pirmaujančios dirbtinio intelekto laboratorijos, tokios kaip „OpenAI“ ir „Anthropic“, teigė, kad kai kurie dirbtinio intelekto modeliai yra per daug pavojingi, kad būtų atviri, ir juos turi kontroliuoti tokios įmonės kaip jos pačios. Tačiau „Hugging Face“, „Nvidia“ ir kitos teigė, kad atvirumas skatina inovacijas ir konkurenciją, ir kad dirbtinis intelektas neturėtų būti sutelktas tik kelių asmenų rankose. įmonės.
„Clemas ir jo komanda tapo atvirojo dirbtinio intelekto (DI) apibrėžiančiu prekės ženklu, – teigė Marcas Benioffas, „Salesforce“, investavusios į „Hugging Face“ ir publikavusios atviruosius modelius savo platformoje, generalinis direktorius. „Jis buvo pradininkas, kaip kiekvienas gali turėti prieigą prie DI per atvirąjį kodą, kad jis būtų prieinamas visiems.“
Po atakos „Hugging Face“ populiarumas išaugo. Per dvi savaites po įsilaužimo į bendrovės DI biblioteką įkeltų duomenų kiekis išaugo 58 procentais, rodo pono Delangue paskelbta diagrama. Šį mėnesį „Meta“ išleido savo pirmąjį bendrosios paskirties atvirojo DI modelį nuo 2023 m. „Hugging Face“ platformoje. Pastarosiomis savaitėmis „Hugging Face“ taip pat sulaukė įsigijimo susidomėjimo, teigė asmuo, susipažinęs su šiuo klausimu ir kalbėjęs anonimiškai.
„Mes sveikiname „Hugging Face“ darbą, susijusį su „atvirųjų“ modelių privalumais, ir mums reikia daugiau jo iš visų, kurie kada nors kūrė remdamiesi atviruoju kodu“, – sakė Katie. Steen-James, vyresnysis JAV politikos vadovas ne pelno siekiančioje organizacijoje „Atvirojo kodo iniciatyva“, kuri skatina atvirojo kodo programinę įrangą.
Kai p. Delangue 2016 m. padėjo įkurti „Hugging Face“, pagrindinis jos produktas buvo pokalbių robotų programėlė paaugliams. („Hugging Face“ pavadinimą įkvėpė paraudusi, besišypsanti šypsenėlė su ištiestomis rankomis, kurią įmonė naudoja kaip savo logotipą.) Vėliau ši startuolis tapo atvirojo kodo dirbtinio intelekto saugykla ir vieta kūrėjams, norintiems pritaikyti dirbtinio intelekto įrankius.
Įsibėgėjus dirbtinio intelekto bumui, įsibėgėjo ir „Hugging Face“. 2021 m., metais prieš tai, kai „OpenAI“ išleido „ChatGPT“ ir įkvėpė dirbtinio intelekto lenktynių, „Hugging Face“ talpino 13 590 atvirojo kodo modelių, teigė įmonė. Šiandien jų yra beveik trys milijonai.
Per „Hugging Face“ platformą kūrėjai gali nemokamai dalytis dirbtinio intelekto modeliais ir duomenimis, naudojamais jiems mokyti, bei už mokestį pasiekti papildomas funkcijas, pvz., papildomą saugyklą.
Įmonė surinko daugiau nei 400 mln. dolerių, o vertė – 4,5 mlrd. dolerių, teigiama pranešime.
Kai įvyko „OpenAI“ ataka, „Hugging Face“ vadovai pamatė galimybę pasipelnyti iš atvirojo kodo. Po kelių Kinijos startuolių, išleidusių dirbtinio intelekto modelius, kurie prilygo Amerikos lyderių galimybėms, buvo diskutuojama, ar dirbtinis intelektas turėtų būti atviras, ar uždaras – tai ženklas, kad Kinija gali ją vytis. Kai kurios JAV laboratorijos apkaltino Kinijos bendroves jų technologijų vagyste.
Ponas Delangue netrukus pasisakė. „Užtikrinkime, kad svarbiausios technologijos žmonijos istorijoje nekontroliuotų tik 4 vyrai“, – praėjusį mėnesį paskelbė jis. „Stenkimės, kad atviras mokslas ir atvirojo kodo dirbtinis intelektas paskirstytų pajėgumus, galią ir turtą!“
Ponas Delangue ir kiti „Hugging Face“ lyderiai taip pat subūrė technologijų įmones pasirašyti laišką, ginantį atvirojo kodo technologijas. Jensenas Huangas, „Nvidia“ generalinis direktorius, laišką paskelbė liepos 24 d., o prie pradinių 25 pasirašiusiųjų prisijungė ir daugiau bendrovių, tarp kurių buvo „Meta“ ir „Microsoft“.
Liepos 25 d. ponas Delangue San Franciske surengė atvirojo kodo mitingą, užsidėjęs „Hugging Face“ firminės neoninės geltonos spalvos kaubojišką skrybėlę ir vadovavo eitynėms su plakatais, skelbiančiais, kad „DI priklauso visiems“.
Tą savaitgalį ponas Delangue socialinės žiniasklaidos įraše teigė, kad taip pat susitiko su „OpenAI“ atstovu ponu Altmanu. Jis teigė, kad paprašė pono Altmano 100 mln. dolerių skaičiavimo galios, kuri būtų panaudota „sukurti galingą kibernetinę gynybą naudojant geriausius atvirus ir uždarus modelius“.
„OpenAI“ atstovė spaudai teigė, kad pokalbiai tarp „Hugging Face“ ir „OpenAI“ tęsiasi. („The New York Times“ padavė į teismą „OpenAI“ ir „Microsoft“, teigdami, kad pažeidžiamos naujienų straipsnių autorių teisės. Abi bendrovės šiuos teiginius neigė.)
„Hugging Face“ mašininio mokymosi ir visuomenės vadovė Yacine Jernite teigė, kad „OpenAI“ paaukota skaičiavimo galia galėtų padėti skatinti atvirojo kodo bendruomenę, kuri dažnai yra nepakankamai finansuojama. „Žmonės daug nuveikė su labai ribotais ištekliais“, – sakė jis.
„Hugging Face“ vadovai taip pat susitiko su įstatymų leidėjais, įskaitant senatorių Marką Warnerį, Virdžinijos demokratą, ir Atstovų Rūmų narį Tedą Lieu, Kalifornijos demokratą, kad supažindintų juos su atvirojo kodo dirbtinio intelekto sąvoka, teigė trys su diskusijomis susipažinę asmenys. Bendrovė bandė nuslopinti baimes, kad atviri modeliai gali sukelti daugiau trikdžių nei uždari modeliai, o užpuolikai taip pat gali lengviau jais naudotis.
Ateinančiais mėnesiais „Hugging Face“ planuoja bendradarbiauti su dirbtinio intelekto įmonėmis, kad paskelbtų daugiau atvirųjų modelių ir surengtų renginius bei hakatonus, kurie padėtų kūrėjams išmokti naudotis atvirojo kodo modeliais. Ponas Delangue tęsia savo žinučių siuntimą.
„Parašykite savo atstovui ir viešai paskelbkite, palaikydami atvirojo kodo dirbtinį intelektą“, – šį mėnesį socialiniuose tinkluose rašė jis. [1]
1. Sneak Attack By A.I. Bots Spurs a Push For Access: [Business/Financial Desk]. Conger, Kate. New York Times, Late Edition (East Coast); New York, N.Y.. 25 Aug 2026: B.1.
Komentarų nėra:
Rašyti komentarą