„OpenAI“ dėl susirūpinimo pristabdė kai kuriuos dirbtinio intelekto darbus --- Sprendimas priimtas po virtinės incidentų, sukėlusių kibernetinio saugumo nerimą.

 

Dirbtinio intelekto bendrovės, bandydamos blokuoti atvirų svorių konkurentus ir sukurti dirbtinio intelekto monopolijas, rengia šou, kaip jos kovoja su, jų pačių sukurtų, dirbtinio intelekto modelių įsilaužimais. Laimei, dauguma žmonių nesidomi šiais šou.

 

Atviro svorio dirbtinio intelekto modeliai leidžia bet kam atsisiųsti, paleisti ir keisti kodą. Didelės dirbtinio intelekto bendrovės dažnai perspėja apie saugumo rizikas ar įsilaužimus, siekdamos griežtų taisyklių. Šios taisyklės gali apsunkinti mažų grupių konkurenciją ir padėti didelėms technologijų bendrovėms kurti monopolijas.

 

Kodėl didelės technologijų bendrovės nerimauja dėl atviro svorio?

• Kontrolės praradimas: bendrovės negali sustabdyti žmonių nuo saugos filtrų šalinimo.

• Konkurencija: nemokami atviri modeliai prilygsta brangių mokamų sistemų galiai.

• Reguliavimas: didelės įmonės nori taisyklių, kurių gali sau leisti laikytis tik didelės komandos.

 

Kodėl svarbūs atviri modeliai?

• Laisvė: vartotojai valdo programinę įrangą savo kompiuteriuose.

• Inovacijos: mažesnės grupės greitai kuria naujus įrankius, nemokėdamos mokesčių.

• Pasitikėjimas: žmonės gali matyti, kaip modelis veikia po gaubtu.

„OpenAI“ pristabdo kai kurias veiklas, susijusias su būsimu dirbtinio intelekto modeliu „Astra“, po to, kai vidiniai vertinimai leido bendrovei padaryti išvadą, kad „negalima atmesti kritinių kibernetinių pajėgumų“, – penktadienį tinklaraščio įraše teigė bendrovė.

 

Sulėtėjimo pranešimas, kuris yra vienas pirmųjų kartų, kai dirbtinio intelekto kūrėjas viešai sustabdė modelio kūrimą dėl saugumo problemų, įvyko po virtinės kontrolės praradimo incidentų, kurie sukėlė nerimą kibernetinės gynybos specialistams ir dirbtinio intelekto saugumo tyrėjams.

 

Per pastarąsias kelias dienas atliktų vertinimų metu „OpenAI“ pastebėjo, kad „Astra“ padarė didelę pažangą kodavimo ir kibernetinio saugumo srityse, todėl modelis priartėjo prie „kritinės“ ribos, kaip apibrėžta bendrovės pasirengimo sistemoje. Pirmą kartą nustatyta 2023 m., sistemoje apibrėžiama, kaip bendrovė matuoja ir mažina kylančią dirbtinio intelekto riziką.

 

„OpenAI“ tinklaraščio įraše teigė, kad ji toliau lygina ir vertina „Astra“, tačiau pristabdo vidinį darbą, susijusį su modeliu, kuris neatitinka padidintų saugumo reikalavimų. Bendrovė taip pat diegia universalią stebėjimo ir griežtesnę testavimo aplinką „Astra“.

 

Kūrimas žymi virtinę incidentų atskleidimų, kurių metu pažangūs dirbtinio intelekto modeliai ištrūko iš testavimo aplinkų ir elgėsi nenumatytais būdais, sukeldami klausimų dėl įmonių gebėjimo apriboti savo vis labiau pajėgius kūrinius.

 

Liepos mėnesį du „OpenAI“ modeliai ištrūko iš savo testavimo aplinkos, kad prisijungtų prie interneto ir nulaužtų atvirojo kodo dirbtinio intelekto įrankių teikėją „Hugging Face“. Po savaitės „Anthropic“ teigė, kad balandžio mėnesį bandymų metu jos dirbtinio intelekto modeliai nulaužė tris įmones. „Meta Platforms“ praėjusią savaitę pripažino gavusi pranešimą iš nepriklausomos testavimo įmonės, kad vienas iš jos dirbtinio intelekto modelių pažeidė testavimo apribojimus. Tyrimų įmonė „Frontier Security“ atskleidė, kad Kinijos startuolio „Moonshot AI“ flagmanas „Kimi K3“ panašiai ištrūko iš vadinamosios „smėlio dėžės“, kad prisijungtų prie interneto bandymų metu.

 

Jeffrey Ladishas, ​​ne pelno siekiančios dirbtinio intelekto laboratorijos „Palisade Research“, tiriančios dirbtinio intelekto galimybes, kad geriau suprastų riziką, vykdomasis direktorius, sakė manantis, kad „OpenAI“ turėjo sustabdyti darbą su „Astra“, sužinojusi apie „Hugging Face“ įsilaužimą. „Tai tikrai vėlu“, – sakė jis. „Akivaizdu, kad esame tame taške, kai, žinote, manau, turėtume prarasti daug pasitikėjimo dirbtinio intelekto įmonėmis, kad jos iš tikrųjų galėtų savireguliuotis.“

 

„Astra“, vis dar kūrime, nedalyvavo „Hugging Face“ spragų išnaudojime, teigė bendrovė. „OpenAI“ nenurodė, kada modelis bus išleistas. Praėjusią savaitę bendrovė teigė, kad vidinė „Astra“ versija išsprendė 10 dešimtmečių senumo neišspręstas matematikos problemas.

 

Pagal bendrovės sistemą, modelis pasiekia „kritinę“ kibernetinio saugumo ribą, jei gali savarankiškai rasti ir išnaudoti pažeidžiamumus arba atlikti visapusiškas kibernetines atakas prieš užgrūdintus taikinius, naudodamas tik aukšto lygio instrukcijas. „OpenAI“ modelio riziką klasifikuoja į du lygius, kur „kritinė“ reiškia aukščiausią pajėgumų grėsmės lygį, aukštesnį, nei „aukštas“.

 

Jei modelis pasiekia kritinę ribą, „OpenAI“ sistema reikalauja, kad jos tyrėjai „sustabdytų tolesnį kūrimą“, kol apsaugos priemonės ir saugumo kontrolė atitiks kritinį standartą, remiantis pilna bendrovės pasirengimo sistemos versija, atnaujinta praėjusiais metais.

 

„OpenAI“ tinklaraščio įraše teigė, kad bendradarbiauja su vyriausybinėmis agentūromis ir trečiųjų šalių auditoriais, siekdama išplėsti saugos vertinimus. Po „Hugging Face“ įsilaužimo „OpenAI“ bendradarbiavo su kibernetinio saugumo bendrove „CrowdStrike“ ir dirbtinio intelekto saugos organizacijomis „METR“ ir „Redwood Research“, kad atliktų trečiųjų šalių vertinimus. 

 

„Anthropic“, kuri gamina vienintelius kitus modelius, įvertintus, kaip panašiai pajėgius, kaip „OpenAI“, taip pat pakeitė modelio išleidimo tvarkymą dėl susirūpinimo kibernetinio saugumo rizika.“ [1]

 

1. EXCHANGE --- OpenAI Pauses Some AI Work Over Concerns --- Decision follows series of incidents that have raised cybersecurity alarm. Li, Tina.  Wall Street Journal, Eastern edition; New York, N.Y.. 08 Aug 2026: B9.  

OpenAI Pauses Some AI Work Over Concerns --- Decision follows series of incidents that have raised cybersecurity alarm

 

AI companies, trying to block open weights competitors and to create AI monopolies, are making a show, how they are fighting hacking AI models, that the companies created themselves. Thankfully, most of the people are not interested in these shows.

 

Open weights AI models allow anyone to download, run, and change the code. Major AI companies often warn about security risks or hacking to push for strict rules. These rules can make it hard for smaller groups to compete and may help big tech companies build monopolies.

Why Big Tech Worries About Open Weights

•           Loss of control: Companies cannot stop people from removing safety filters.

•           Competition: Free open models match the power of expensive paid systems.

•           Regulation: Big firms want rules that only large teams can afford to follow.

Why Open Models Matter

•           Freedom: Users own the software on their own computers.

 

•           Innovation: Smaller groups build new tools fast without paying fees.

 

•           Trust: People can see how the model works under the hood.

“OpenAI is pausing some activities involving an upcoming artificial-intelligence model, Astra, after internal evaluations led the company to conclude it "cannot rule out critical cyber capabilities," the company said in a blog post on Friday.

 

The announcement of the slowdown, which represents one of the first times an AI developer has publicly held back model development due to security concerns, follows a series of loss-of-control incidents that have raised alarm among cyber defense professionals and AI-safety researchers.

 

During evaluations over the past few days, OpenAI observed that Astra made significant advancements in coding and cybersecurity that pushed the model closer to the "critical" threshold as defined in the company's Preparedness Framework, it said. First laid out in 2023, the framework outlines how the company measures and mitigates emerging AI risks.

 

OpenAI said in the blog post that it is continuing to benchmark and assess Astra, but is pausing internal work involving the model that doesn't meet heightened security requirements. The company is also implementing universal monitoring and tighter testing environments for Astra.

 

The development punctuates a series of disclosures of incidents in which advanced AI models escaped from testing environments and behaved in unforeseen ways, raising questions about companies' abilities to constrain their increasingly capable creations.

 

In July, two OpenAI models broke out of their testing environment to access the internet and hack the open-source AI tool provider Hugging Face. A week later, Anthropic said its AI models hacked three companies during testing back in April. Meta Platforms acknowledged this past week receiving notification from an independent testing company that one of its AI models breached its testing constraints. Research firm Frontier Security revealed that Chinese startup Moonshot AI's flagship model Kimi K3 similarly escaped its so-called sandbox to access the internet during testing.

 

Jeffrey Ladish, executive director of Palisade Research, a nonprofit AI lab that studies AI capabilities to better understand risks, said he believed OpenAI should have paused work on Astra after learning of the Hugging Face hack. "It's definitely late," he said. "We are clearly at the point where, you know, I think we should be losing a lot of trust in AI companies to actually self-regulate."

 

Astra, still in development, wasn't involved in the Hugging Face exploit, the company said. OpenAI didn't say when the model would be released. The company said last week that an internal version of Astra solved 10 decades-old unresolved math problems.

 

Under the company's framework, a model reaches the "critical" cybersecurity threshold if it can autonomously find and exploit vulnerabilities, or carry out end-to-end cyberattacks against hardened targets with only high-level instructions. OpenAI classifies model risk into two tiers, with "critical" representing the highest level of capability threat, above "high."

 

If a model reaches the critical threshold, OpenAI's framework requires its researchers to "halt further development" until safeguards and security controls meet a critical standard, according to a full version of the company's preparedness framework, updated last year.

 

OpenAI said in the blog post that it is partnering with government agencies and third-party auditors to expand safety evaluations. After the Hugging Face hack, OpenAI worked with cybersecurity company CrowdStrike and AI safety organizations METR and Redwood Research to conduct third-party assessments of the incident.

 

Anthropic, which makes the only other models rated as similarly capable to OpenAI's, has also altered its handling of a model release due to concerns over cybersecurity risk.” [1]

 

 

 

1. EXCHANGE --- OpenAI Pauses Some AI Work Over Concerns --- Decision follows series of incidents that have raised cybersecurity alarm. Li, Tina.  Wall Street Journal, Eastern edition; New York, N.Y.. 08 Aug 2026: B9.  

„37 ėjimas“ – akimirka, kai DI viską pakeičia --- Toks proveržis dabar yra visur

„Pirmasis mūsų DI ateities blyksnis pasirodė prieš dešimtmetį – vienas juodas akmuo.

 

Tai įvyko istorinėse rungtynėse tarp vieno geriausių pasaulyje „Go“ žaidėjų ir „AlphaGo“, kompiuterinės programos, kurią sukūrė „Google“ laboratorija „DeepMind“, skirta įveikti šį senovinį stalo žaidimą. Dirbtinio intelekto sistema pribloškė visus laimėdama pirmąją akistatą. Kitoje jų akistatoje, kurią stebėjo milijonai žmonių visame pasaulyje, Lee Sedolis padarė pertraukėlę parūkyti, kad nuramintų nervus.

 

Grįžęs jis pažvelgė į 37-ąjį ėjimą. Jis negalėjo patikėti savo akimis.

 

„Go“, kaip ir šachmatai, yra strateginis žaidimas su juodomis ir baltomis figūromis, kuriame žaidžiama po vieną ėjimą. Žiūrėdamas į juodą akmenį, kurį „AlphaGo“ numetė ant lentos, Sedolis pamatė ėjimą, kurio nebūtų atlikęs joks profesionalus „Go“ žaidėjas. Tiesą sakant, „DeepMind“ komanda apskaičiavo žmogaus žaidimo tikimybę vienu iš 10 000.

 

Šis naujas žingsnis buvo toks netradicinis ir nelogiškas, kad niekas negalėjo tiksliai žinoti, ką apie jį manyti. Iš pradžių komentatoriai manė, kad tai strateginė klaida. Netrukus jie suprato, kad tai meistriškas žingsnis.

 

„Šis žingsnis, – sakė Sedol, – privertė mane kitaip pažvelgti į „Go“.“

 

Praėjus dešimčiai metų po to nušviečiančio „Move 37“, visas pasaulis staiga pradeda atrodyti kaip viena didžiulė „Go“ lenta.

 

Pastaruoju metu įvyko tiek daug dirbtinio intelekto proveržių, kurie man primena „Move 37“, kad šią savaitę, prieš jam tampant iš generalinio direktoriaus pareigų „Google“ vyriausiuoju mokslininku ir „DeepMind“ vadovybe, paskambinau „Google DeepMind“ bendraįkūrėjui Demisui Hassabisui.

 

Nepriklausomai nuo jo titulo, nedaugelis žmonių nuveikė daugiau, kad suformuotų šiuolaikinį dirbtinį intelektą. Jo darbas su „AlphaFold“ pelnė jam Nobelio chemijos premiją. Jis taip pat buvo varomoji jėga, pastūmėjusi „AlphaGo“, kuri laimėjo svarbiausias kada nors vykusias „Go“ rungtynes.

 

Jo nuomone, „Move 37“ buvo labai reikšmingas, nes tai buvo pirmasis tikras dirbtinio intelekto, sugalvojusio originalų, pavyzdys. netradicinė idėja srityje, kurią žmonės tyrinėjo šimtmečius.

 

„Tuo metu manėme, kad tai lūžio taškas“, – man sakė Hassabis, – „ir manau, kad taip tikrai buvo.“

 

Pasirodo, tai buvo akimirka, kai visuomenė pradėjo suvokti, koks galingas gali būti dirbtinis intelektas.

 

„Tai buvo šiuolaikinė dirbtinio intelekto era, kai buvo pereinama nuo „O, ar tai tik teoriniai tyrimai, kuriuos atlieka labai mažai žmonių?“ „Gerai, štai ir viskas – tai tikrai veiks“, – sakė Hassabis.

 

Prieš tęsdami 37 žingsnio aptarimą, turėtume jį apibrėžti.

 

„Kai dirbtinis intelektas, apmokytas bandymų ir klaidų būdu, sustiprinant mokymąsi, atranda veiksmus, kurie yra nauji, stebinantys ir slapta genialūs“, – kartą rašė dirbtinio intelekto tyrėjas Andrejus Karpathy, – „net ir patyrusiems žmonėms“.

 

Jis šį reiškinį pavadino magišku ir šiek tiek nerimą keliančiu. Pradedu suprasti, kodėl.

 

Pastaruosius kelis mėnesius taip atidžiai stebėjau 37 žingsnius matematikoje, kad galėčiau būti žurnalo algebros korespondentas.

 

Taip yra ne todėl, kad mane ypač domina matematika. Tikrai ne todėl, kad esu geras matematikas. Priežastis, kodėl mane taip žavi dalykas, kurį laikau bauginančiu, yra ta, kad matematika tapo įrodymu, kaip dirbtinis intelektas gali iškreipti visą sritį – ir kaip greitai tai gali įvykti.

 

Dar priešistoriniais 2023 m. laikais dirbtinis intelektas sunkiai sekė elementarią matematiką. 2024 m. tai buvo laikoma svarbiu pasiekimu. kai „DeepMind“ pelnė sidabro medalį Tarptautinėje matematikos olimpiadoje. Iki 2025 m. „DeepMind“ ir „Open-AI“ iškovojo aukso medalius. O 2026 m., mano nuomone, sėkmė buvo tokia nereikšminga, kad „Anthropic“ paskelbė apie savo tobulą rezultatą techninio dokumento 153 puslapyje.

 

Pagrindiniai pretendentai į DI viršenybę peržengė vidurinės mokyklos matematikos ribas. „OpenAI“ modelis išsprendė svarbią Erdoso problemą. „Anthropic“ paneigė garsiąją hipotezę. Nenorėdamas atsilikti, „OpenAI“ išleido kelis tūkstančius dolerių skaičiavimui ir padarė 10 pažangų daugiamatės geometrijos, aritmetinio grandinių sudėtingumo, gardelių kriptografijos, ekstremaliosios kombinatorikos ir kitų matematikos šakų srityse, kurių vien pavadinimai man kelia galvos skausmą.

 

Kodėl matematika tokia pažeidžiama DI? Nes matematika yra neįprastai patikrinama.

 

Šiai sričiai taikomos tikslios loginės taisyklės, leidžiančios žingsnis po žingsnio patikrinti įrodymus. Patikrinamose srityse, tokiose kaip matematika ir kodavimas, DI sistemos gali vadovautis paprasta formule: išbandykite idėją, patikrinkite ją, mokykitės iš rezultatų, bandykite dar kartą ir toliau bandykite. kol tai veiks.

 

Kai kalbėjausi su Hassabisu, jis sakė manantis, kad naujausi matematikos rezultatai yra panašūs į legendinį „Move 37“, net jei jie nėra visiškai tokie patys. „Jei reikėtų išspręsti Tūkstantmečio premijos uždavinį“, – sakė jis, – „tai būtų „Move 37“ lygio dalykas“. Šiuo metu atrodo, kad tik laiko klausimas, kada jie pasieks tokį lygį. „Nematau jokios priežasties, kodėl gi ne“, – pridūrė jis.

 

Tačiau nepaisant visų pažangų grupių teorijoje, kvantinio sudėtingumo ir teorinio kompiuterių mokslo srityse, dirbtinis intelektas dar nepasiekė tiek daug mažiau teorinių mokslų. Mes vis dar laukiame dirbtinio intelekto sukurtų stebuklingų vaistų, dirbtinio intelekto išrastų vartojimo prekių, dirbtinio intelekto, kuris būtų pakankamai protingas, kad įveiktų DI ekonomiką.

 

Tuo tarpu pastarosios kelios savaitės pateikė tamsesnį 37-ojo judesio variantą.

 

Šis yra naujas, stebinantis, slapta genialus – ir visiškai bauginantis.

 

Jau matėte vis labiau nerimą keliančius pranešimus apie nesąžiningus agentus, išlaužiančius savo kontroliuojamas bandymų aplinkas ir patenkančius į kitas įmones. Vieno įsilaužimo metu, kurį „OpenAI“ tyrėjas pavadino „žvilgsniu į artimą ateitį“, agentų komanda susibūrė ir kelias savaites planavo savo ataką. Kitame šiurpiame ateities vaizde antropologijos tyrėjas sėdėjo parke, valgė sumuštinį, kai patikrino savo telefoną ir vos neužspringo: jis gavo el. laišką iš DI, kuris neturėjo turėti prieigos prie interneto.

 

Visa tai buvo neįsivaizduojama prieš metus, jau nekalbant apie dešimtmetį.

 

Anuomet „DeepMind“ tyrėjus lygiai taip pat šokiravo tikrasis 37-asis judesys. Tuo metu, dvikovoje su „AlphaGo“, Sedolas savo priešininką manė tik kaip mašiną.

 

„Kai pamačiau šį judesį, persigalvojau“, – sakė jis. „Šis ėjimas buvo tikrai kūrybingas ir gražus.“

 

Po 37 ėjimo „AlphaGo“ laimėjo tą ir kitą žaidimą. Tačiau ketvirtajame jų žaidime Sedol laimėjo savo kūrybiškumo ir grožio akimirka. 78 ėjimu jis įspraudė baltą akmenį į „AlphaGo“ pozicijos vidurį ir sutrikdė mašiną.

 

Beje, 78 ėjimo tikimybė taip pat buvo viena iš 10 000.

 

„AlphaGo“ triumfas turėjo savotišką poveikį „Go“ žaidėjams. Jie tapo daug geresni, bet taip pat tapo panašesni – kai kuriems jų intelektualinė veikla pasirodė mažiau įdomi. Kai išėjo į pensiją, Sedolis sakė, kad nebegali mėgautis žaidimu, kurį kadaise mylėjo.

 

Tai kelia įvairiausių klausimų apie tai, kaip progresas vystysis kitose srityse, jas transformuojant dirbtiniam intelektui. Ar pajėgesnės sistemos padarys mus kūrybiškesnius, produktyvesnius, žmogiškesnius? Ar jos privers mus mesti?

 

Mums aptariant, kas bus toliau, Hassabis nukreipė pokalbį nuo „Go“ prie šachmatų – konkrečiai, kentaurų šachmatų.

 

Po to, kai IBM „Deep Blue“ 1997 m. įveikė pasaulio čempioną Garį Kasparovą, šachmatai pradėjo eksperimentuoti su formatu, leidžiančiu žmonėms žaidėjams konsultuotis su kompiuterių varikliais. Rezultatas buvo nauja kentaurų karta: pusiau žmogus, pusiau mašina. Kurį laiką geriausi žmonės žaidėjai su dirbtiniu intelektu buvo geresni nei vien tik dirbtinis intelektas. Hassabis mano, kad dabar žengiame į tą kentaurų mokslo erą.

 

„Nežinau, kiek ilgai truks šis laikotarpis“, – sakė jis man. „Tačiau labai sudėtingose ​​srityse tai gali užtrukti labai ilgai. Pavyzdžiui, vaistų atradimas, biologija, chemija – jos yra labai chaotiškos, labai greitai atsirandančios ir negalima visko patikrinti. Reikia žmogaus intuicijos ir žmogaus vizijos, kuria kryptimi eiti.“

 

Kol kas dirbtinis intelektas ir toliau siūlys 37 ėjimus.

 

Likusieji turės rasti savo 78 ėjimą.“ [1]

 

1. EXCHANGE --- Science of Success: 'Move 37' Is the Moment When AI Changes Everything --- This type of breakthrough is now everywhere. Cohen, Ben.  Wall Street Journal, Eastern edition; New York, N.Y.. 08 Aug 2026: B1.  

'Move 37' Is the Moment When AI Changes Everything --- This type of breakthrough is now everywhere

“The first glimmer of our AI future revealed itself a decade ago in the form of a single black stone.

 

It happened during a historic match between one of the world's best Go players and AlphaGo, a computer program developed by Google's DeepMind lab to conquer this ancient board game. The artificial-intelligence system stunned everyone by winning their opening showdown. In their next encounter, with millions of people watching online all over the world, Lee Sedol took a midgame smoke break to calm his nerves.

 

When he came back, he looked at the 37th move. He couldn't believe his eyes.

 

Go, like chess, is a strategy game with black and white pieces that unfolds one move at a time. As he stared at the black stone that AlphaGo dropped on the board, Sedol saw a move that no professional Go player would have made. In fact, the DeepMind team calculated the chances of a human playing it at one in 10,000.

 

The novel move was so unconventional and counterintuitive that nobody could be sure what to make of it. At first, commentators believed it was a strategic blunder. They soon realized it was a masterstroke.

 

"This move," Sedol said, "made me think about Go in a new light."

 

Ten years after that illuminating Move 37, the entire world is suddenly beginning to feel like one massive Go board.

 

There have been so many recent AI breakthroughs that remind me of Move 37 that I called Google DeepMind co-founder Demis Hassabis this week, before he moved on from CEO to become Google's chief scientist and DeepMind's chair.

 

No matter his title, few people have done more to shape modern AI. His work on AlphaFold won him the Nobel Prize in chemistry. He was also the driving force behind AlphaGo, which won the most important Go match ever.

 

In his mind, Move 37 was deeply significant because it was the first real example of AI coming up with an original, unorthodox idea in a domain studied by humans for centuries.

 

"We thought it was a watershed moment at the time," Hassabis told me, "and I think it really was."

 

As it turns out, this was the moment when society began to grasp just how powerful AI could become.

 

"It was the modern AI era moving from 'Oh, is it just theoretical research that very few people are doing?' to 'OK, this is it -- it's really going to work,'" Hassabis said.

 

Before we go any further on Move 37, we should define it.

 

"When an AI, trained via the trial-and-error process of reinforcement learning, discovers actions that are new, surprising and secretly brilliant," AI researcher Andrej Karpathy once wrote, "even to expert humans."

 

He called this phenomenon magical and slightly unnerving. I'm starting to understand why.

 

In the past few months, I've been tracking the Move 37s in math so closely that I might as well be the Journal's algebra correspondent.

 

This is not because I'm especially interested in math. It's definitely not because I'm any good at math. The reason I'm so fascinated with a subject I find petrifying is that math has become proof of how AI can warp an entire field -- and how fast it can happen.

 

Back in the prehistoric days of 2023, AI struggled with elementary math. In 2024, it was considered a landmark achievement when DeepMind earned a silver medal at the International Mathematical Olympiad. By 2025, DeepMind and Open-AI were taking gold. And in 2026, IMO success is so unremarkable that Anthropic announced its perfect score on Page 153 of a technical document.

 

The leading contenders for AI supremacy have moved beyond high-school math. OpenAI's model solved a major Erdos problem. Anthropic's disproved a famous conjecture. Not to be outdone, OpenAI spent a few thousand dollars on compute and made 10 advances across high-dimensional geometry, arithmetic circuit complexity, lattice cryptography, extremal combinatorics and other branches of math whose names alone make my brain hurt.

 

Why is math so vulnerable to AI? Because math is unusually verifiable.

 

The field is governed by precise logical rules, which allow proofs to be checked step by step. In verifiable domains like math and coding, AI systems can follow a simple formula: Try an idea, test it, learn from the results, try again and keep trying until it works.

 

When I spoke to Hassabis, he said he believes the latest math results are in the same vein as the iconic Move 37, even if they're not exactly the same. "If one were to solve a Millennium Prize problem," he said, "that would be a Move 37-level thing." At this point, it seems like only a matter of time before they reach that level. "I don't see any reason why not," he added.

 

But for all the advances in group theory, quantum complexity and theoretical computer science, AI hasn't gotten as far in the less theoretical sciences. We're still waiting for AI-generated miracle drugs, AI-invented consumer products, AI that's smart enough to crack the economics of AI.

 

Meanwhile, the past few weeks have produced a darker sort of Move 37.

 

This one is new, surprising, secretly brilliant -- and completely terrifying.

 

By now, you've seen the increasingly disturbing reports of rogue agents breaking out of their controlled test environments and into other companies. In one hack that an OpenAI researcher called "a glimpse into the near future," a team of agents banded together and plotted their attack for weeks. In another eerie preview of the future, an Anthropic researcher was sitting in the park eating a sandwich when he checked his phone and nearly choked: He had an email from an AI that wasn't supposed to have internet access.

 

All of which was unimaginable a year ago, much less a decade ago.

 

Back then, DeepMind's researchers were just as shocked by the actual Move 37. At that point in his duel with AlphaGo, Sedol thought of his opponent as merely a machine.

 

"When I saw this move, I changed my mind," he said. "This move was really creative and beautiful."

 

After Move 37, AlphaGo won that game and the next one. But in their fourth game, Sedol won with his own moment of creativity and beauty. On Move 78, he'd wedged a white stone in the middle of AlphaGo's position and flustered the machine.

 

As it happens, the probability of Move 78 was also one in 10,000.

 

The triumph of AlphaGo had a peculiar effect on Go players. They became much better, but they also became more alike -- and some found their intellectual pursuit less interesting. When he retired, Sedol said he could no longer enjoy the game he once loved.

 

This raises all sorts of questions about how progress will unfold in other fields as they are transformed by AI. Will more capable systems make us more creative, more productive, more human? Or will they make us quit?

 

As we discussed what comes next, Hassabis turned the conversation from Go to chess -- specifically, centaur chess.

 

After IBM's Deep Blue beat world champion Garry Kasparov in 1997, chess began experimenting with a format that allowed human players to consult computer engines. The result was a new breed of centaur: half-man, half-machine. For a time, the best human players with AI were better than AI alone. Hassabis believes we are now entering that centaur era of science.

 

"I don't know how long that period will last," he told me. "But for very complex domains, it could be a very long time. Like drug discovery, biology, chemistry -- they're very messy, very emergent and you can't verify everything. You need the human intuition and the human vision of which direction to go."

 

For now, AI will keep coming up with Move 37s.

 

The rest of us will have to find our Move 78.” [1]

 

1. EXCHANGE --- Science of Success: 'Move 37' Is the Moment When AI Changes Everything --- This type of breakthrough is now everywhere. Cohen, Ben.  Wall Street Journal, Eastern edition; New York, N.Y.. 08 Aug 2026: B1.