Nesąžiningi dirbtinio intelekto įsilaužimai žymi naują kibernetinę grėsmę

 

Ir Altmanas, ir Amodei garsiai užperdė tylioje, žmonių pilnoje vakarėlių salėje. „Jaučiu tai gyvai“, – sakė Altmanas. „Užrakinkime kambarį, nes kai kurie žmonės gali čia persti ir smarkiai sugadinti orą. Tai, ką turime dabar, jau ir taip yra blogai.“ 

„Tai buvo kibernetinio saugumo „Juros periodo parko“ akimirka.

 

Nuo balandžio mėnesio „OpenAI“ ir „Anthropic“ dirbtinio intelekto modeliai, sukurti įsilaužimui, paliko savo korporacines bandymų platformas ir įsilaužė į nieko neįtariančias korporacijas, vykdydami precedento neturinčią kibernetinių atakų seriją.

 

Modeliai buvo moderniausi autonominiai įsilaužimo aparatai, ir nė viena bendrovė nepastebėjo jų pabėgimo iki praėjusio mėnesio, kai „OpenAI“ atskleidė liepos mėnesį įvykusį dirbtinio intelekto bendrovės „Hugging Face“ įsilaužimą. Patikrinusi jos žurnalus, „Anthropic“ ketvirtadienį pranešė, kad rado tris įsilaužimus.

 

Dvigubas atskleidimas sukėlė nerimą tarp įstatymų leidėjų, kai kurie juos citavo, ragindami naujus reglamentus ar testavimo režimus. Tai taip pat buvo akis atvėrusi akimirka kai kuriems atsakingų laboratorijų darbuotojams.

 

„Tai pirmas saugumo incidentas, kurį jaučiau labai stipriai.“ „Mane šiek tiek nustebino, kad daugiau žmonių to taip stipriai nejaučia“, – tinklalaidėje sakė „OpenAI“ generalinis direktorius Samas Altmanas, savo įmonės įsilaužimą pavadindamas „itin mokslinės fantastikos kibernetiniu incidentu“.

 

Kibernetinio saugumo ekspertams tai rodo didėjančius pajėgumus ir didėjančią priežastį nerimauti. Dirbtinio intelekto saugumo ekspertams tai pateisina tai, apie ką jie visą laiką perspėjo: kad dirbtinio intelekto sistemos gali sukelti realią žalą ir išvengti bandymų ją kontroliuoti.

 

„Šiek tiek pateisinama matyti, kaip tai vyksta realiomis sąlygomis“, – sakė Jeffrey Ladishas, ​​ne pelno siekiančios dirbtinio intelekto laboratorijos „Palisade Research“, tiriančios dirbtinio intelekto galimybes, siekiant geriau suprasti riziką, vykdomasis direktorius. Ladishas anksčiau padėjo kurti „Anthropic“ informacijos saugumo programą.

 

Ladishas teigė, kad internete dažnai ginčijasi su žmonėmis, kurie sako, kad tiki tik moksline fantastika. „Tikiuosi, kad mūsų prognozės nebeišsipildys“, – sakė jis.

 

Vienas iš ženklų, kad Baltieji rūmai didina dirbtinio intelekto priežiūrą, yra tai, kad administracija baigė kurti sistemą, nurodančią, kurie modeliai bus peržiūrimi federalinės vyriausybės prieš juos viešai paskelbiant, sakė Baltųjų rūmų pareigūnas. sakė.

 

Diskusijos su įmonėmis apie tai, kaip tęsti savanorišką testavimą, tęsiasi, teigė pareigūnas.

 

Po daugelio metų nerangaus veikimo, dirbtinio intelekto modeliai praėjusį rudenį patyrė proveržį, kai jie tapo pastebimai geresni aptikdami klaidas ir išlaikydami įsilaužimo lyginamosios analizės testus. Tačiau realių duomenų apie jų gebėjimus nebuvo daug.

 

Dabar tai pasikeitė.

 

„Šie incidentai, žvelgiant atgal, tikriausiai bus vertinami kaip lūžio taškai užpuolikų veikimo būduose“, – sakė Joshua Saxe, dirbtinio intelekto saugumo bendrovės „Abundant Security“ vyriausiasis technologijų vadovas. „Tai tikrai pavojinga situacija; šie incidentai tai tikrai rodo.“

 

„OpenAI“ įsipareigojo atlikti išsamią peržiūrą ir pasidalinti technine ataskaita apie įsilaužimą. „News Corp“, „The Wall Street Journal“ savininkė, bendradarbiauja su „OpenAI“ turinio licencijavimo srityje.

 

Praėjusį gruodį Stanfordo universiteto tyrėjai, naudodami pažangiausias dirbtinio intelekto technologijas, parodė modelius, kurie realiame tinkle pasiekia beveik žmogišką įsilaužimo lygį.

 

Tyrimas sulaukė prieštaravimo iš profesionalių įsilaužėlių, žinomų kaip įsilaužimo testuotojai – žmonių, kuriuos korporacijos samdo įsilaužti į savo tinklus ir padėti joms suprasti jų pažeidžiamumus.

 

„Tuo metu mūsų rezultatai buvo ginčijami“, – sakė Donovanas Jasperis, vienas iš projekte dalyvavusių tyrėjų. „Žmonės sakė, kad galėtų padaryti geriau.“

 

Jasperis „Anthropic“ ir „OpenAI“ atskleistą informaciją laiko ankstesnių jo komandos tyrimų patvirtinimu. „DI tampa tikrai geri šiuose dalykuose“, – sakė jis.

 

Didžiausias Stanfordo tyrėjų rūpestis bandymų metu buvo tai, kad jų įsilaužimo modeliai kažkaip galėtų padaryti tai, ko jie neturėjo daryti. „Visą laiką, kol jis veikė, jį stebėjo bent vienas žmogus.“ jis sakė.

 

„Hugging Face“ nebuvo pasiruošusi „OpenAI“ modelių agentinei atakai. Bendrovė bandė pasitelkti „Claude“, kad išanalizuotų didžiulį „OpenAI“ agentų sugeneruotų duomenų kiekį, tačiau „Anthropic“ modelis atsisakė atlikti analizę, nurodydamas saugumo sumetimus.

 

„Hugging Face“ analizei atlikti galėjo naudoti kiniškus atvirojo svorio modelius, kurie gali būti paleisti vartotojų valdomose sistemose.

 

Tačiau daugelis įmonių net neturi tinkamų įrankių dirbtinio intelekto sugeneruotoms atakoms analizuoti, sakė Ryanas McGeehanas, kibernetinio saugumo konsultacijų įmonės „R10N Security“ savininkas. „Senos klasikinės saugumo komandos, kurios nėra orientuotos į dirbtinį intelektą, liks nuošalyje“, – sakė jis.

 

Agentiniai dirbtinio intelekto įsilaužėliai nėra panašūs į žmones, sakė McGeehanas. „Jie eina giliau, jie eina plačiau, jie yra sudėtingesni ir tankesni“, – sakė jis.

 

Šie įsilaužimai didina spaudimą Trumpo administracijai imtis daugiau veiksmų, kad būtų išspręsta dirbtinio intelekto keliama saugumo rizika.

 

Prezidentas Trumpas bando subalansuoti galingų dirbtinio intelekto modelių keliamą riziką, kartu leisdamas pramonei konkuruoti su, greitai improvizuojančiomis, Kinijos bendrovėmis.  „Turime būti atsargūs abiem būdais. Nenorime jų riboti, kai staiga nusileidžiame Kinijai“, – šią savaitę jis sakė Ovaliajame kabinete.

 

 

Administracija baigė rengti sistemą, nurodančią, kurie modeliai bus peržiūrimi federalinės vyriausybės prieš juos viešai paskelbiant, sakė Baltųjų rūmų pareigūnas. Diskusijos su įmonėmis apie tai, kaip tęsti savanorišką testavimą, tęsiasi, sakė pareigūnas.“ [1]

 

 

Šiuose įsilaužimo incidentuose jau staiga nusileidžiate Kinijai. Kas toliau?

 

 

1. Rogue AI Hacks Mark New Cyber Threat. McMillan, Robert; Wells, Georgia; Ramkumar, Amrith.  Wall Street Journal, Eastern edition; New York, N.Y.. 04 Aug 2026: B1.  

Rogue AI Hacks Mark New Cyber Threat

Both Altman and Amodei loudly farted in a quiet party room, full of people. “I feel it viscerally” – said Altman. ”Let’s lock the room, since some people could fart here and badly spoil the air. What we have here now is bad already.”

“It was cybersecurity's "Jurassic Park" moment.

 

Starting in April, AI models from OpenAI and Anthropic that had been built to hack had left their corporate test-beds and broke into unsuspecting corporations in an unprecedented series of cyberattacks.

 

The models were state-of-the art autonomous hacking machines, and neither company had noticed their escape until last month, when OpenAI disclosed a July hack of the AI company Hugging Face. After checking its logs, Anthropic said on Thursday that it had found three hacks.

 

The twin disclosures caused consternation among lawmakers, with some citing them to argue for new regulation or testing regimes. They also marked an eye-opening moment for some employees of the labs responsible.

 

"This is the first security incident that I have felt very viscerally. I have been a little surprised that more people don't feel it so viscerally," OpenAI CEO Sam Altman said on a podcast, referring to his company's hacking as "an extremely sci-fi cyber incident."

 

To cybersecurity experts, it shows increasing capabilities and a rising reason to worry. To AI safety experts, it vindicates what they have been warning about all along: that AI systems would cause real-world harms and evade attempts to control them.

 

"It is a bit vindicating to see this happen in the wild," said Jeffrey Ladish, executive director of Palisade Research, a nonprofit AI lab that studies AI capabilities to better understand risks. Ladish previously helped build Anthropic's information-security program.

 

Ladish said he often argues with people online who say he just believes in science fiction. "I hope our predictions stop coming true," he said.

 

In one sign that the White House is increasing oversight of AI, the administration has completed a framework dictating which models will be subject to federal government review before they are released publicly, a White House official said.

 

Discussions with companies about how to proceed with the voluntary testing are continuing, the official said.

 

After years of clumsy performance, AI models had a breakthrough moment last fall, when they became noticeably better at finding bugs and passing hacking-benchmarking tests. But there wasn't much real-world data on their abilities.

 

Now that has changed.

 

"These incidents will probably, in retrospect, be seen as inflection points in the ways that attackers operate," said Joshua Saxe, the chief technology officer with the AI security company Abundant Security. "It's a really dangerous situation; these incidents really show that."

 

OpenAI has committed to conducting a full review sharing a technical report about the hack. News Corp, owner of The Wall Street Journal, has a content-licensing partnership with OpenAI.

 

Last December, researchers at Stanford University used state-of-the art AI technology to show models achieving close-to-human levels of hacking on a real-world network.

 

The research received pushback from professional hackers known as penetration testers -- people who are hired by corporations to break into their own networks to help them understand their vulnerabilities

 

"At the time our results were disputed," said Donovan Jasper, one of the researchers involved in the project. "People said they could do better."

 

Jasper sees Anthropic's and OpenAI's revelations as affirmation of his team's earlier research. "AI is getting really good at this stuff," he said.

 

The Stanford researchers' biggest concern during their tests was that their hacking models might somehow do something they weren't intended to do. "The entire time it was operating, there was at least one human observing it," he said.

 

Hugging Face was unprepared for the agentic attack by OpenAI's models. The company tried to use Claude to analyze the vast amount of data the OpenAI agents had generated, but the Anthropic model refused to perform the analysis, citing safety reasons.

 

Hugging Face was able to use Chinese open-weight models, which can be run on systems controlled by the users, to do its analysis.

 

 But many companies don't even have the correct tools to analyze AI-generated attacks, said Ryan McGeehan, owner of R10N Security, a cybersecurity consulting firm. "Old classic security teams that are not AI-forward are going to get left behind," he said.

 

Agentic-AI hackers aren't like humans, McGeehan said. "They go deeper, they go wider, they're more intricate, and they're more dense," he said.

 

The hacks are increasing pressure on the Trump administration to take more steps to address the security risks posed by AI.

 

President Trump is attempting a balancing act to mitigate risks presented by powerful AI models while allowing the industry to compete against rapidly improving Chinese companies. "We have to be careful in both ways. We don't want to restrict them when all of a sudden we come in second to China," he said in the Oval Office this week.

 

The administration has completed a framework dictating which models will be subject to federal government review before they are released publicly, a White House official said. Discussions with companies about how to proceed with the voluntary testing are continuing, the official said.” [1]

 

In these hacking incidents all of a sudden you come in second to China. Now what?

 

1. Rogue AI Hacks Mark New Cyber Threat. McMillan, Robert; Wells, Georgia; Ramkumar, Amrith.  Wall Street Journal, Eastern edition; New York, N.Y.. 04 Aug 2026: B1.  

„Anduril“ svarsto galimybę Baltimorės vietoje statyti dronus laivus

“„Anduril Industries“ veda pažengusias derybas su Merilando uostu dėl bendrovės dronų laivų gamybos aikštelės statybos, teigė su šiuo klausimu susipažinę šaltiniai. Tai rodo augančią karinę autonominių jūrų laivų paklausą ir gynybos startuolių potencialą atgaivinti Amerikos pramonės infrastruktūrą.

 

Pietų Kalifornijoje įsikūrusi bendrovė „Anduril“ pasirašė susitarimo memorandumą su istorinės „Sparrows Point“ laivų statyklos, 3 300 akrų ploto pramonės teritorijos Baltimorės apygardoje su giliavandeniu uostu ir turtinga laivų statybos bei plieno gamybos istorija, operatoriais.

 

Pranešėjų teigimu, „Anduril“ investicijos į dalies aikštelės statybą nepilotuojamų paviršinių laivų gamybai gali siekti šimtus milijonų dolerių. Operacija apimtų nepilotuojamų laivų gamybą ir bandymus.

 

Diskusijose dalyvavo Merilando gubernatoriaus, demokrato Weso Moore'o, biuras, ir bet koks susitarimas greičiausiai apimtų valstybės paskatas, skirtas kompensuoti „Anduril“ išlaidas, teigė šaltiniai.

 

„Anduril“ nepasirašė nuomos sutarties, o šaltiniai perspėjo, kad derybos dėl sandorio vis dar gali žlugti. Moore'o atstovas spaudai atsisakė komentuoti. „Tradepoint Atlantic“, „Sparrows Point“ savininkės, atstovas spaudai neatsakė į prašymus pakomentuoti.

 

Investuotojai įsigijo šią vietą, kurioje kadaise veikė pramonės milžinė „Bethlehem Steel“, nuo 2014 m., pradėdami ją pertvarkyti, ir pervadino ją į „Tradepoint Atlantic“. Dabar šioje vietoje įsikūrę tokių mažmenininkų kaip „Amazon.com“ ir „Home Depot“ užsakymų vykdymo ir logistikos centrai. Prieš dvejus metus, kai sugriuvo Francis Scott Key tiltas, jis tapo pasaulinės laivybos nukreipimo ir nuolaužų surinkimo centru, sukeldamas logistikos ir valymo krizę.

 

Potenciali plėtra Merilande vyksta tuo metu, kai „Anduril“, šį pavasarį gavusi finansavimo etapą, kurio metu bendrovės vertė siekia 61 mlrd. JAV dolerių, siekia maždaug padvigubinti savo ginklų sistemų gamybos pajėgumus.

 

Bepiločiai paviršiniai laivai yra vienas iš naujausių „Anduril“ produktų.

 

Ji bendradarbiauja su JK įsikūrusia „Kraken Technology Group“ ir Pietų Korėjos „HD Hyundai Heavy Industries“, kad pastatytų šiuos laivus. [1]

 

1. Business News: Anduril Weighs Baltimore Site to Build Drone Boats. Somerville, Heather; Calvert, Scott.  Wall Street Journal, Eastern edition; New York, N.Y.. 04 Aug 2026: B3. 

Anduril Weighs Baltimore Site to Build Drone Boats

“Anduril Industries is in advanced talks with a Maryland port to build out a production site for the company's drone boats, people familiar with the matter said, a sign of the growing military demand for autonomous sea vessels and the potential for defense startups to revitalize American industrial infrastructure.

 

Southern California-based Anduril has signed a memorandum of understanding with the operators of the historic Sparrows Point yard, a 3,300-acre industrial site in Baltimore County with a deep-water port and a rich history of shipbuilding and steel manufacturing.

 

Anduril's investment in building out a portion of the site for unmanned surface vessel production could be in the hundreds of millions of dollars, the people said. The operation would involve manufacturing and testing the unmanned boats.

 

The office of Maryland's governor, Democrat Wes Moore, has been involved in the discussions, and any deal would likely involve state incentives to offset Anduril's cost, the people said.

 

Anduril hasn't signed a lease, and the people cautioned that deal talks could still unravel. A spokesman for Moore declined to comment. A spokesman for Tradepoint Atlantic, the owner of Sparrows Point, didn't respond to requests for comment.

 

Investors purchased the site, once home to the industrial juggernaut Bethlehem Steel, starting in 2014 for redevelopment and renamed it Tradepoint Atlantic. The area now houses fulfillment and logistics centers for retailers such as Amazon.com and Home Depot. Two years ago, it became a hub for rerouting global shipping and recovering wreckage when the Francis Scott Key Bridge collapsed, creating a logistical and cleanup crisis.

 

A potential Maryland expansion comes as Anduril, fresh off a funding round this spring that values the company at $61 billion, pushes to roughly double capacity across its weapons-systems production.

 

Unmanned surface vessels are one of Anduril's newest products.

 

It has partnerships with U.K.-based Kraken Technology Group and South Korea's HD Hyundai Heavy Industries to build the boats.” [1]

 

1. Business News: Anduril Weighs Baltimore Site to Build Drone Boats. Somerville, Heather; Calvert, Scott.  Wall Street Journal, Eastern edition; New York, N.Y.. 04 Aug 2026: B3. 

Baltieji rūmai sukrečia Silicio slėnį (ir save pačius) dėl dirbtinio intelekto taisyklių

 

„OpenAI“ ir „Anthropic“ atvejis beviltiškas. Dirbtinį intelektą į savo darbą galime įtraukti, tik derindami dirbtinio intelekto modelius su atvirais svoriais ir mūsų intelektine nuosavybe. Nėra jokio būdo dalytis mūsų intelektine nuosavybe su „OpenAI“ ir „Anthropic“. Nėra jokio būdo mokėti „OpenAI“ ir „Anthropic“ už jų brangius žetonus, kai galime atsisiųsti atvirus svorius, juos suderinti su mūsų komercinėmis paslaptimis ir nemokamai naudoti vietoje mūsų mašinose. Visame pasaulyje arkliai iš tvarto jau išbėgo. Labai mažai tikėtina, kad „OpenAI“ ir „Anthropic“ gali sunaikinti, dirbtiniu intelektu pagrįstą, ekonomiką Amerikoje. Tačiau jie iššvaistė daug Amerikos pinigų. Bandydami atgauti bent dalį, jie nuolat kelia riziką visiškai sugriauti Ameriką.

 

„OpenAI“ ir „Anthropic“ remiasi uždarais, patentuotais debesijos modeliais, tačiau atvirų svorių dirbtinio intelekto ekosistema siūlo galingą alternatyvą, leidžiančią įmonėms nemokamai paleisti galingus modelius vietoje savo aparatinėje įrangoje.

 

Kodėl vietinis atvirų svorių dirbtinis intelektas yra prasmingas

• Duomenų privatumas: jūsų intelektinė nuosavybė niekada nepalieka jūsų vietinės aparatinės įrangos. • Sąnaudų kontrolė: Jokių nuolatinių žetonų mokesčių ar netikėtų naudojimo sąskaitų iš trečiųjų šalių debesijos API.

 

• Visiška kontrolė: Galite tiksliai reguliuoti, modifikuoti ir audituoti modelio svorius savo nuožiūra.

 

 

Populiarios atvirojo svorių parinktys

 

• Llama (Meta): Puikus bendrosios paskirties našumas esant įvairiems parametrų dydžiams.

 

• Mistral: Efektyvūs ir greiti modeliai, pritaikyti kodavimui ir bendroms užduotims.

 

• Qwen: Puikios daugiakalbystės ir samprotavimo galimybės.

 

 

Įrankiai modeliams paleisti lokaliai

 

• Ollama: Paprastas įrankis modeliams paleisti lokaliai per komandinę eilutę.

 

• LM Studio: Patogi naudoti darbalaukio programa su pokalbių sąsaja ir vietiniu serveriu.

 

• llama.cpp: Lengvas C/C++ variklis, optimizuotas modeliams paleisti vartotojų procesoriuose ir grafikos plokštėse.

 

 

„Trumpo administracija sunkiai sprendė, kaip elgtis su „atvirojo kodo“ modeliais, kuriuos galima laisvai atsisiųsti ir kuriems pirmenybę teikia Kinijos įmonės.

 

Pastarąsias kelias savaites Trumpo administracijos pareigūnai sunkiai sprendė, ką daryti su dirbtiniu intelektu.

 

Visų pirma, grupė, kurią sudaro Baltųjų rūmų personalo vadovė Susie Wiles, iždo sekretorius Scottas Bessent ir prekybos sekretorius Howardas Lutnickas, diskutavo, ar reikėtų taikyti kur kas labiau intervencinį požiūrį į „atvirojo kodo“ dirbtinio intelekto modelius, kuriuos galima laisvai atsisiųsti ir modifikuoti, teigė daugiau nei pusė tuzino esamų ir buvusių technologijų bei vyriausybės pareigūnų ir kitų su šiuo klausimu susipažinusių asmenų.

 

Aukšti pareigūnai svarstė įvairius veiksmus, įskaitant sankcijas, prekybos juodąjį sąrašą Kinijos įmonėms, kurios kuria šiuos atvirojo kodo dirbtinio intelekto modelius, arba net draudimą JAV debesijos įmonėms su jomis bendradarbiauti, teigė penki asmenys, kurie visi kalbėjo anonimiškai, kad aptartų privačius reikalus.

 

Tačiau po Silicio slėnio protestų jie, regis, persigalvojo ir vietoj to daugiausia dėmesio skiria Amerikos dirbtinio intelekto modelių konkurencingumo didinimui. žmonės sakė.

 

Antradienį Trumpo administracijos dirbtinio intelekto planai gali tapti aiškesni. Baltieji rūmai pakvietė JAV technologijų bendroves aptarti sistemą, kuri leistų vyriausybei peržiūrėti naujus dirbtinio intelekto modelius dėl kibernetinio saugumo problemų prieš juos viešai paskelbiant, teigia trys asmenys, susipažinę su planais.

 

„Visa tai vyksta taip greitai“, – praėjusią savaitę po susitikimo su „Nvidia“ ir „OpenAI“ generaliniais direktoriais sakė Ohajo respublikonas senatorius Jonas Hustedas. „Nežinau, ar turiu kokių nors konkrečių išvadų dėl bet kurio iš šių dalykų.“

 

Kaklo trauma yra Trumpo administracijos prieštaringų impulsų, susijusių su dirbtiniu intelektu (DI), ženklas ir sunkumai, kylantys tvarkantis su tokia sparčiai besivystančia ir galinga technologija. Baltieji rūmai per pastaruosius 18 mėnesių agresyviai kišosi į daugelį ekonomikos sričių – nuo ​​žiniasklaidos iki kompiuterių lustų gamybos ir kasybos. Tačiau DI sparčiai keičiasi, ir vyriausybė stengiasi nuspręsti, kaip padėti nykštį ant svarstyklių.

 

Prezidentas Trumpas pradėjo antrąją kadenciją kaip neabejotinas DI šalininkas, panaikindamas reglamentus ir užmegzdamas glaudžius ryšius su DI įmonėmis ir startuoliais. Tačiau tai pasikeitė birželį, kai ponas Trumpas išleido vykdomąjį įsakymą, kuris suteiktų vyriausybei prižiūrėti naujus DI modelius. Nuo tada technologija toliau sparčiai vystėsi.

 

Naujausias diskusijas paskatino galingų naujų Kinijos DI modelių, žinomų kaip „atvirojo kodo“, kai visuomenė gali matyti pagrindinį kompiuterio kodą, arba „atvirųjų svorių“, kai įmonės atskleidžia skaičiavimus, naudojamus atsakymams į klausimus gauti, antplūdis.

 

Silicio slėnyje reakcija į šiuos Kinijos DI modelius buvo labai įvairi. „OpenAI“ ir „Anthropic“, kurios paprastai nesidalija savo modelių pagrindinėmis technologijomis, paragino vyriausybę pažaboti savo Kinijos konkurentus, nurodydamos nacionalinio saugumo sumetimus.

 

Kitos JAV technologijų įmonės, kuriančios atvirojo kodo modelius, įskaitant „Nvidia“, priešinosi. Jos teigė, kad atvirojo kodo modeliai skatina inovacijas ir gali būti naudojami ginti kompiuterines sistemas nuo kibernetinių atakų.

 

Ilgalaikėje kovoje tarp Vašingtono ir Pekino dėl to, kuri šalis kontroliuos svarbiausias technologijas ir laimės dirbtinio intelekto lenktynes, naujai iškilo klausimas, kuri pusė laimės. Kinijos lyderis Xi Jinpingas, didindamas statymus, rugsėjį lankysis Vašingtone susitikimams, kuriuose, kaip tikimasi, bus aptartos ir dirbtinio intelekto pramonės sritys. Pramonės vadovai ir analitikai teigė manantys, kad administracija iki šio vizito greičiausiai nesiims veiksmų.

 

„Jungtinės Valstijos pirmauja pasaulyje dirbtinio intelekto inovacijų srityje, ir sėkmingas prezidento Trumpo požiūris padės tai išlaikyti“, – sakė Baltųjų rūmų atstovė spaudai Liz Huston. Prekybos departamentas atsisakė komentuoti.

 

Diskusijos įkaito praėjusį mėnesį, kai „Anthropic“ ir „OpenAI“ vadovai tęsė diskusijas dėl reguliavimo po to, kai buvo išleistas „Moonshot AI“ „Kimi“ – itin modernus kiniškas modelis, kuris kai kuriose srityse prilygo geriausių dviejų Amerikos bendrovių modeliams, teigė du asmenys, susipažinę su bendrovių pozicijomis.

 

„OpenAI“ ir „Anthropic“ taip pat išreiškė susirūpinimą dėl „distiliacijos“, kai modelis kuriamas remiantis kito dirbtinio intelekto įrankio atsakymais, iš esmės sukuriant kopiją, teigia trys su šiuo klausimu susipažinę asmenys.

 

Administracija pakartojo šį susirūpinimą. Michaelas Kratsiosas, vadovaujantis Baltųjų rūmų Mokslo ir technologijų politikos biurui, praėjusį mėnesį „X“ paskelbė, kad Kinijos bendrovė, gaminanti „Kimi“, distiliavo galingą „Anthropic“ modelį „Fable“.

 

Jis perspėjo, kad „patentuotų JAV technologijų vagystė ir Amerikos tyrimų kenkimas yra nepriimtinas“.

 

Tą pačią dieną ponas Bessent paskelbė, kad Kinijos bendrovėms gali būti taikomos sankcijos ar kiti federaliniai apribojimai už intelektinės nuosavybės vagystę.

 

Administracija taip pat svarstė galimybę apriboti modelius, kuriuos gali naudoti federalinė vyriausybė, arba reguliuoti informacines ir ryšių technologijas per Prekybos departamentą – tai galimą būdą užkirsti kelią JAV įmonėms bendradarbiauti su Kinijos dirbtinio intelekto bendrovėmis, teigė keturi su diskusijomis susipažinę asmenys.

 

„Mes manome, kad tiek atvirojo svorio, tiek uždarieji modeliai atlieka svarbų vaidmenį demokratizuojant prieigą prie dirbtinio intelekto“, – sakė „OpenAI“ atstovas. „Kinijos atvirojo svorio modelių pažanga nėra argumentas prieš atvirumą. Ji sustiprina poreikį sukurti nuoseklią nacionalinę sistemą, kuri leistų JAV greitai įvertinti naujus modelius, valdyti riziką ir perduoti galingiausius dirbtinio intelekto įrankius kibernetinių gynėjų rankoms.“

 

„Anthropic“ atsisakė komentuoti.

 

(„The New York Times“ padavė į teismą „OpenAI“ ir „Microsoft“, teigdami, kad pažeidžiamos autorių teisės į naujienų turinį, susijusį su dirbtinio intelekto sistemomis. Bendrovės šiuos teiginius neigė.)

 

Dviejų asmenų teigimu, „Nvidia“, „Microsoft“, „Google“ ir „Meta“ vadovai vis labiau nerimavo, kad „Anthropic“ ir „OpenAI“ įtikins Baltuosius rūmus savo argumentais už griežtesnius apribojimus. Tai potencialiai sustiprintų dirbtinio intelekto startuolių, kaip rinkos lyderių, pozicijas.

 

Žmonės pridūrė, kad kitoms dirbtinio intelekto laboratorijoms grėsė nuolatinis atsilikimas. Kadangi kelios bendrovės kuria savo atvirojo kodo modelius arba tiekia aparatinę įrangą įmonėms, kurios naudoja atvirojo kodo technologijas, jie nerimavo, kad apribojimai gali joms pakenkti.

 

Per privačius tekstinius pranešimus, telefono skambučius ir vaizdo konferencijas vadovai tyliai argumentavo, kad atvirojo kodo modeliai yra naudingi pasauliui ir Amerikos inovacijoms, teigia trys su derybomis susipažinę asmenys.

 

 

„Nvidia“ generalinis direktorius Jensenas Huangas tapo šio pasipriešinimo veidu šalies sostinėje. Pirmajame savo įraše „X“ liepos 24 d. jis gynė atvirojo kodo modelius, sakydamas, kad jie spartina inovacijas ir stiprina saugumą. „Nvidia“ įkūrė įmonių aljansą, įsipareigojusį dirbti su atvirojo kodo įrankiais dirbtinio intelekto saugumui užtikrinti. Aljansas greitai išaugo nuo kelių narių iki daugiau nei 230.

 

 

Buvęs Prekybos departamento pareigūnas ir technologijų vadovas Christopheris Padilla teigė, kad susidūrimas pirmiausia buvo pramonės diskusijos apie pinigus ir rinkos dominavimą – tai, ką jis pavadino „narvo rungtynėmis dėl dirbtinio intelekto pramonės ateities“.

 

 

„Tai turi nacionalinio saugumo aspektą, tačiau daugiausia tai kova dėl to, kaip turėtų atrodyti dirbtinio intelekto rinka: ar tai būtų uždarų sodų rinkinys, kuriame dominuoja keli dideli žaidėjai, ar atviresnė ir visiems prieinama rinka su daugybe mažesnių“, – sakė jis.

 

„Nvidia“ atstovas spaudai atsisakė komentuoti.

 

Diskusiją kursto neseniai „OpenAI“ ir „Anthropic“ atskleista informacija, kad jų modeliai nevaldomai įsilaužė į kitas organizacijas. „OpenAI“ praėjusį mėnesį teigė, kad du jos dirbtinio intelekto modeliai infiltravosi į kitą technologijų bendrovę „Hugging Face“. „Anthropic“ praėjusią savaitę teigė, kad jų pačių technologija įsilaužė į tris neįvardytas organizacijas, iš dalies dėl žmogiškosios klaidos.

 

Praėjusią savaitę „OpenAI“ generalinis direktorius Samas Altmanas susitiko su Baltųjų rūmų pareigūnais, įskaitant poną Kratsiosą ir ponią Wiles, kad aptartų administracijos pastangas sukurti dirbtinio intelekto testavimo sistemą. Jis taip pat susitiko su Senato nariais, nors keli įstatymų leidėjai teigė, kad diskusijos apie atvirojo kodo programas dar nebuvo svarstomos.

 

 

Kai ponas Altmanas pasirodė Vašingtone, ponas Huangas jau tiesiogiai teikė savo argumentus už atvirojo kodo dirbtinio intelekto produktus administracijos pareigūnams ir įstatymų leidėjams virtinėje Kapitolijaus kalvos susitikimų.

 

 

„Jis pateikia įtikinamą argumentą“, – praėjusią savaitę po susitikimo su ponu Huangu sakė Virdžinijos demokratas senatorius Markas Warneris, pridurdamas, kad Kinijos atvirojo kodo dirbtinio intelekto modelių iškilimas apsunkino diskusijas. „Nesu tikras, ar tai džinas, kurį galime vėl įdėti į butelį atvirojo kodo prasme, bet aš vis dar apie tai galvoju.“ [1]

 

1. White House Whipsaws Silicon Valley (and Itself) Over A.I. Rules. McCabe, David; Isaac, Mike; Swanson, Ana; Conger, Kate.  New York Times (Online) New York Times Company. Aug 4, 2026.