Structural Changes: Do Germany and Its Appendix, Lithuania, Have No Future?

“The Chancellor is betting on steel and cars. However, the country needs innovation and disruption, economists demand. In the mean time the ministers for innovation are arguing.

 

The coalition summit on Wednesday evening in the Chancellery didn't produce much concrete news. What the CDU/CSU and SPD were able to agree on, however, was that there should be a "summit" for two struggling economic sectors with the Chancellor and industry representatives.

 

Specifically, the meeting will focus on the steel and automotive industries.

 

The government spokesperson was unable to comment on the scheduling on Thursday. He only said: "We're working on it."

 

Outside the government district, the announcement sparked a mixed response. BMW CEO Oliver Zipse expressed his delight that the auto industry's position was being recognized. "A focus on the industry alone is not enough," criticized Dirk Jandura, president of the German Wholesale Trade Association (BGA). Economists are also following the development with skepticism.

 

The question that troubles them: Is the federal government clinging too tightly to past economic structures and thereby missing out on building new ones?

 

The timing of the summit announcement is no coincidence. Local elections will be held in North Rhine-Westphalia on September 14. According to forecasts, the SPD will lose many seats to the AfD, as it has done previously in other former industrial strongholds. The SPD called for a steel summit at the end of June. At that time, steel manufacturer Arcelor Mittal announced that it would not convert its plants in Germany to climate-friendly technologies because, despite subsidies, it would not be profitable. The Social Democrats want to save jobs, if necessary, through state intervention. The Chancellery initially had little interest in a summit. Now it is set to take place – and another for the auto industry, which is struggling between Trump's tariffs and Chinese competition.

 

"We must create space for new industries."

 

Leading such a focus on steel and cars is a mistake, according to leading economists. They argue that Germany will only be economically successful if politicians allow structural change, focus on future technologies, and do not try to preserve existing structures. "At summits like these, one must always be careful that the new things that move us forward don't get lost," warned Clemens Fuest, President of the Munich Ifo Institute, on Thursday as he presented his institute's growth outlook. The automotive industry's great growth periods are over. The sector will remain economically important, but less so than before. Fuest's appeal: "We must create space for new industries."

 

Achim Wambach argues similarly. "The money from the Climate and Transformation Fund is flowing far too much into companies' production and far too little into their research and development," said the President of the Mannheim Research Center (ZEW) in an interview with the Frankfurter Allgemeine Zeitung. "The traffic light government already made this mistake, and the new government now risks repeating it." The Climate and Transformation Fund is a special fund alongside the regular budget, from which, among other things, climate protection agreements are financed. These compensate energy-intensive companies for the higher costs of low-CO2 production using green electricity or hydrogen.

Money should be directed more specifically

 

Wambach doesn't see directing money to the automotive industry as fundamentally wrong. After all, a large portion of German patents, including those in the field of electromobility, are created in these companies. "But even here, the money should be directed more specifically," the economist demands. Areas such as battery research, for example, are being neglected.

 

A report on industrial policy that Wambach recently prepared for the Scientific Advisory Board of the Ministry of Economic Affairs sees research and development as the core of a promising economic policy. The key to greater economic independence is a strong innovation policy. "We must develop technologies that make money and that are in demand in the rest of the world," says Wambach. The steel industry, which has few innovations and a lot of mass-produced goods, is less suitable for this.

 

While Germany's economy has produced many innovative projects in recent years – one example is the BioNTech coronavirus vaccine. According to the German Start-up Association, there are currently around 30 German "unicorns" – start-ups valued at at least one billion euros by international investors. However, association head Verena Pausder believes that her industry is not receiving sufficient attention and support from politicians.

 

Dispute between the Economics Minister Katherina  Reiche and the Research Minister Dorothee Bär

 

Research Minister Dorothee Bär (CSU) was relatively quick to present a "high-tech agenda" intended to advance Germany in areas such as AI, quantum computing, and biotech. The fact that Economics Minister Katherina  Reiche (CDU), who recently visited companies from traditional industries on her summer trip, was not well received by the startup scene. In addition, there has been a dispute between Reiche and Bär for weeks over responsibilities in innovation policy. It's about power in the form of subdivisions, departments, positions – and funding pots that can be distributed with high publicity.

 

The CSU successfully pushed for an upgraded research ministry during the coalition negotiations. The key details, such as the transfer of responsibility for the German Aerospace Center and the Agency for Disruptive Innovations to Bär, were regulated by an organizational decree from the Chancellor. However, the ministers have to work out the further details among themselves, which is apparently proving difficult. Bär markets herself as the minister for everything promising for the future, while Reiche doesn't want to be just the minister for the old industries.

 

"This power struggle is irritating," says Pausder, chairwoman of the German Start-up Association. The industry is waiting for clear responsibilities and a strategy – and an announcement as to whether and where a start-up commissioner will be appointed again, as in previous governments. Writing in the coalition agreement that start-ups are the DAX companies of tomorrow, but then engaging in trench warfare, is inconsistent, Pausder believes: "With regard to promoting innovation, no progress has been made in this country for four months."

 

Similar debates to those in Germany are taking place in other European countries. "We are investing far too little money in disruptive technologies and are so far behind in some areas that we can no longer catch up," French Nobel laureate Jean Tirole recently criticized in the Frankfurter Allgemeine Zeitung. Former ECB President Mario Draghi also criticized the fact that, while the EU invests as much money in research and development as the US, measured as a percentage of gross domestic product, the money is distributed too haphazardly. "That's exactly what we shouldn't do," he said recently during a scientific conference in Lindau.”

 

No worry. Our military will buy a lot of tanks, and drive fishing, pretending to do training. Nobody goes to war these days with tanks - they are vulnerable to attacks from drones, artillery (supported by surveillance drones), and nuclear weapons. We don't care. We live in our glory days - cars, tanks and steel. 

 

The economics of superintelligence

 

“FOR MOST of history the safest prediction has been that things will continue much as they are. But sometimes the future is unrecognisable. The tech bosses of Silicon Valley say humanity is approaching such a moment, because in just a few years artificial intelligence (AI) will be better than the average human being at all cognitive tasks. You do not need to put high odds on them being right to see that their claim needs thinking through. Were it to come true, the consequences would be as great as anything in the history of the world economy.

 

Since the breakthroughs of almost a decade ago, AI’s powers have repeatedly and spectacularly outrun predictions. This year large language models from OpenAI and Google DeepMind got to gold in the International Mathematical Olympiad, 18 years sooner than experts had predicted in 2021. The models grow ever larger, propelled by an arms race between tech firms, which expect the winner to take everything; and between China and America, which fear systemic defeat if they come second. By 2027 it should be possible to train a model using 1,000 times the computing resources that built GPT-4, which lies behind today’s most popular chatbot.

 

What does that say about AI’s powers in 2030 or 2032? As we describe in one of two briefings this week, many fear a hellscape, in which AI-enabled terrorists build bioweapons that kill billions, or a “misaligned” ai slips its leash and outwits humanity. It is easy to see why these tail risks command so much attention. Yet, as our second briefing explains, they have crowded out thinking about the immediate, probable, predictable—and equally astonishing—effects of a non-apocalyptic AI .

 

Before 1700 the world economy grew, on average, by 8% a century. Anyone who forecast what happened next would have seemed deranged. Over the following 300 years, as the Industrial Revolution took hold, growth averaged 350% a century. That brought lower mortality and higher fertility. Bigger populations produced more ideas, leading to yet faster expansion. Because of the need to add human talent, the loop was slow. Eventually, greater riches led people to have fewer children. That boosted living standards, which grew at a steady pace of about 2% a year.

 

Subsistence to silicon

 

AI faces no such demographic constraint. Technologists promise that it will rapidly hasten the pace at which discoveries are made. Sam Altman, OpenAI’s chief executive, expects AI to be capable of generating “novel insights” next year. AIs already help program better AI models. By 2028, some say, they will be overseeing their own improvement.

 

Hence the possibility of a second explosion of economic growth. If computing power brings about technological advances without human input, and enough of the pay-off is reinvested in building still more powerful machines, wealth could accumulate at unprecedented speed. Economists have long been alive to the relentless mathematical logic of automating the discovery of ideas. According to a recent projection by Epoch AI, a bullish think-tank, once AI can carry out 30% of tasks, annual growth will exceed 20%.

 

True believers, including Elon Musk, conclude that self-improving AI will create a superintelligence. Humanity would gain access to every idea to be had—including for building the best robots, rockets and reactors. Access to energy and human lifespans would no longer impose limits. The only constraint on the economy would be the laws of physics.

 

You don’t need to go to that extreme to conjure up AI’s mind-boggling effects. Consider, as a thought experiment, just the incremental step to human-level intelligence. In labour markets the cost of using computing power for a task would limit the wages for carrying it out: why pay a worker more than the digital competition? Yet the shrinking number of superstars whose skills were not automatable and could directly complement AI would enjoy enormous returns.

 

The only people doing better than them, in all likelihood, would be the owners of AI-relevant capital, which would be gobbling up a rising share of economic output.

 

Everyone else would have to adapt to gaps in AI’s abilities and to the spending of the new rich. Wherever there was a bottleneck in automation and labour supply, wages could rise rapidly. Such effects, known as “cost disease”, could be so strong as to limit the explosion of measured gdp, even as the economy changed utterly.

 

The new patterns of abundance and shortage would be reflected in prices. Anything AI could help produce—goods from fully automated factories, say, or digital entertainment—would see its value collapse. If you fear losing your job to AI, you can at least look forward to lots of such things. Wherever humans were still needed, cost disease might bite. Knowledge workers who switched to manual work might find they could afford less child care or fewer restaurant meals than today. And humans might end up competing with AIs for land and energy.

 

This economic disruption would be reflected in financial markets. There could be wild swings between stocks as it became clear which companies were winning and losing winner-takes-all contests. There would be a rapacious desire to invest, both to generate more AI power and in order for the stock of infrastructure and factories to keep pace with economic growth. At the same time, the desire to save for the future could collapse, as people—and especially the rich, who do the most saving—anticipated vastly higher incomes.

 

Persuading people to give up capital for investment would therefore require much higher interest rates—high enough, perhaps, to make long-duration asset prices fall, despite explosive growth. Scholars disagree, but in some models interest rates rise one-for-one or more with growth. In an explosive scenario that would mean having to refinance debts at 20-30%. Even debtors whose incomes were rising fast could suffer; those whose incomes were not hitched to runaway growth would be pummelled. Countries that were unable or unwilling to exploit the AI boom could face capital flight. There could also be macroeconomic instability anywhere, because inflation could take off as people binged on their anticipated fortunes and central banks did not raise rates fast enough.

 

It is a dizzying thought experiment. Could humanity cope? Growth has accelerated before, but there was no mass democracy during the Industrial Revolution; the Luddites, history’s most famous machine-haters, did not have the vote. Even if average wages surged, higher inequality could lead to demands for redistribution. The state would also have more powerful tools to monitor and manipulate the population. Politics would therefore be volatile. Governments would have to rethink everything from the tax base to education to the protection of civil rights.

 

Despite that, the rise of superintelligence should provoke wonder. Dario Amodei, boss of Anthropic, told The Economist this week that he believes AI will help treat once-incurable diseases. The way to look at another acceleration, if it comes, is as the continuation of a long miracle, made possible only because people embraced disruption. Humanity may find its intelligence surpassed. It will still need wisdom.” [1]

 

1. The economics of superintelligence. The Economist; London Vol. 456, Iss. 9458,  (Jul 26, 2025): 7, 8.

Superintelekto ekonomika

„Didelę istorijos dalį saugiausia prognozė buvo ta, kad viskas tęsis taip, kaip yra. Tačiau kartais ateitis yra neatpažįstama. Silicio slėnio technologijų vadovai teigia, kad žmonija artėja prie tokio momento, nes vos po kelerių metų dirbtinis intelektas (DI) visose kognityvinėse užduotyse bus geresnis už vidutinį žmogų. Nereikia daug prognozuoti, kad jie teisūs, kad suprastum, jog jų teiginį reikia gerai apgalvoti. Jei jis išsipildytų, pasekmės būtų tokios pat didelės, kaip ir bet kas pasaulio ekonomikos istorijoje.

 

Nuo, beveik prieš dešimtmetį įvykusių, proveržių DI galios ne kartą ir įspūdingai pranoko prognozes. Šiais metais dideli kalbos modeliai iš „OpenAI“ ir „Google DeepMind“ laimėjo auksą Tarptautinėje matematikos olimpiadoje, 18 metų anksčiau, nei ekspertai prognozavo 2021 m.

 

Modeliai vis didėja, juos skatina ginklavimosi varžybos tarp technologijų įmonių, kurios tikisi, kad nugalėtojas viską gaus, ir tarp Kinijos bei Amerikos, kurios bijo sisteminio pralaimėjimo, jei liks antros. Iki 2027 m. turėtų būti įmanoma apmokyti modelį, naudojant 1000 kartų daugiau skaičiavimo išteklių, nei buvo sukurtame GPT-4, kuris slypi už šiandien populiariausio pokalbių roboto.

 

Ką tai sako apie DI galias 2030 ar 2032 metais? Kaip aprašėme viename iš dviejų šios savaitės pranešimų, daugelis baiminasi pragaro peizažo, kuriame, DI valdomi, teroristai kuria biologinius ginklus, kurie žudo milijardus žmonių, arba „nesuderintas“ DI išslysta iš pavadžio ir pergudrauja žmoniją. Nesunku suprasti, kodėl šios uodegos rizikos sulaukia tiek daug dėmesio. Vis dėlto, kaip paaiškina mūsų antrasis pranešimas, jos išstūmė mintis apie tiesioginį, tikėtiną, nuspėjamą – ir lygiai taip pat stulbinantį – neapokaliptinio DI poveikį.

 

Iki 1700 m. pasaulio ekonomika vidutiniškai augo 8 % per šimtmetį. Kiekvienas, kuris būtų prognozavęs, kas nutiks toliau, būtų atrodęs pamišęs. Per ateinančius 300 metų, kai įsigalėjo pramonės revoliucija, augimas vidutiniškai siekė 350 % per šimtmetį. Tai lėmė mažesnį mirtingumą ir didesnį vaisingumą. Didesnė populiacija sukūrė daugiau idėjų, o tai lėmė dar spartesnę plėtrą. Dėl poreikio pridėti žmonių talentų, ciklas buvo lėtas. Galiausiai, didesnis turtas lėmė, kad žmonės turėjo mažiau vaikų. Tai padidino gyvenimo lygį, kuris nuolat augo maždaug 2 % per metus.

 

 

Nuo vos vos išgyvenimo iki silicio

 

 

DI nesusiduria su tokiu demografiniu apribojimu. Technologai žada, kad jis sparčiai pagreitins atradimų tempą. Samas Altmanas, „OpenAI“ generalinis direktorius, tikisi, kad DI kitais metais galės generuoti „naujas įžvalgas“. DI jau padeda programuoti geresnius DI modelius. Kai kurie teigia, kad iki 2028 m. jie patys prižiūrės savo tobulėjimą.

 

 

Todėl yra antrojo ekonomikos augimo sprogimo galimybė. Jei skaičiavimo galia leis technologinę pažangą be žmogaus indėlio, o pakankamai atsipirkimo bus reinvestuota į dar galingesnių mašinų kūrimą, turtas gali kauptis precedento neturinčiu greičiu. Ekonomistai jau seniai žino apie negailestingą matematinę idėjų atradimo automatizavimo logiką. Remiantis neseniai optimistinės idėjų kalvės „Epoch AI“ prognoze, kai DI galės atlikti 30 % užduočių, metinis augimas viršys 20 %.

 

 

Tikri tikintieji, įskaitant Elonas Muskas daro išvadą, kad, savarankiškai tobulėjanti, dirbtinė intelektinė intelekto sistema sukurs superintelektą. Žmonija gautų prieigą prie visų įmanomų idėjų, įskaitant ir geriausių robotų, raketų bei reaktorių kūrimą. Prieiga prie energijos ir žmonių gyvenimo trukmė nebekeltų apribojimų. Vienintelis ekonomikos apribojimas būtų fizikos dėsniai.

 

Nereikia eiti į tokį kraštutinumą, kad būtų galima sugalvoti neįtikėtiną dirbtinio intelekto poveikį. Kaip minties eksperimentą apsvarstykite tik laipsnišką žingsnį link žmogaus lygio intelekto. Darbo rinkose skaičiavimo galios panaudojimo užduočiai atlikti kaina ribotų atlyginimą už jos atlikimą: kodėl mokėti darbuotojui daugiau, nei skaitmeninei konkurencijai? Vis dėlto mažėjantis superžvaigždžių, kurių įgūdžiai nebūtų automatizuojami ir galėtų tiesiogiai papildyti dirbtinį intelektą, skaičius gautų didžiulę grąžą.

 

Vieninteliai žmonės, kuriems sektųsi geriau, nei jiems, greičiausiai, būtų su dirbtiniu intelektu susijusio kapitalo savininkai, kuris surytų vis didesnę ekonominės produkcijos dalį.

 

Visi kiti turėtų prisitaikyti prie dirbtinio intelekto gebėjimų spragų ir naujųjų turtuolių išlaidų. Visur, kur yra automatizavimo ir darbo jėgos kliūčių, pasiūla, atlyginimai galėtų sparčiai didėti. Toks poveikis, vadinamas „kaštų liga“, galėtų būti toks stiprus, kad apribotų išmatuoto BVP sprogimą, net ir visiškai pasikeitus ekonomikai.

 

Nauji gausos ir trūkumo modeliai atsispindėtų kainose. Visko, ką galėtų padėti gaminti dirbtinis intelektas – tarkime, prekės iš visiškai automatizuotų gamyklų ar skaitmeninės pramogos – kainos smuktų. Jei bijote prarasti darbą dėl dirbtinio intelekto, bent jau galite tikėtis daugybės tokių dalykų. Visur, kur vis dar reikėjo žmonių, gali kilti kaštų liga. Žinių darbuotojai, perėję prie fizinio darbo, gali pastebėti, kad gali sau leisti mažiau vaikų priežiūros ar mažiau restoranų patiekalų, nei šiandien. Žmonės gali pradėti konkuruoti su dirbtiniu intelektu dėl žemės ir energijos.

 

Šis ekonominis sutrikimas atsispindėtų finansų rinkose. Akcijų kainos gali smarkiai svyruoti, nes paaiškės, kurios bendrovės laimi, o kurios pralaimi „nugalėtojas gauna viską“ konkursuose. Atsiras godus noras investuoti, siekiant sukurti daugiau dirbtinio intelekto galios ir kad infrastruktūros bei gamyklų akcijos neatsiliktų nuo ekonomikos augimo. Tuo pačiu metu noras taupyti ateičiai gali žlugti, nes žmonės – ypač turtingieji, kurie daugiausia taupo – tikėtųsi gerokai didesnių pajamų.

 

Todėl norint įtikinti žmones atsisakyti kapitalo investicijoms, reikėtų daug didesnių palūkanų normų – galbūt, pakankamai didelių, kad ilgalaikio turto kainos kristų, nepaisant sprogstamojo augimo. Mokslininkai nesutinka, tačiau kai kuriuose modeliuose palūkanų normos kyla viena su viena ar daugiau kartų augant. Sprogstamojo scenarijaus atveju tai reikštų, kad skolas reikėtų refinansuoti 20–30 % palūkanų norma. Net skolininkai, kurių pajamos sparčiai augo, galėtų nukentėti; tie, kurių pajamos nebuvo susietos su nevaldomu augimu, būtų sutriuškinti. Šalys, kurios negalėjo arba nenorėjo pasinaudoti dirbtinio intelekto bumu, galėtų susidurti su kapitalo nutekėjimu. Makroekonominis nestabilumas taip pat gali būti bet kur, nes infliacija gali išaugti, žmonėms siaučiant dėl ​​savo laukiamų turtų, o centriniai bankai nepakankamai greitai keltų palūkanų normas.

 

Tai svaiginantis minties eksperimentas. Ar žmonija galėtų susidoroti? Augimas anksčiau paspartėjo, tačiau pramonės revoliucijos metu nebuvo masinės demokratijos; luditai, garsiausi istorijoje mašinų nekentėjai, neturėjo balsavimo teisės. Net jei vidutinis darbo užmokestis išaugtų, didesnė nelygybė galėtų sukelti perskirstymo reikalavimus. Valstybė taip pat turėtų galingesnių priemonių stebėti ir manipuliuoti gyventojais. Todėl politika būtų nepastovi. Vyriausybės turėtų permąstyti viską – nuo ​​mokesčių bazės iki švietimo ir pilietinių teisių apsaugos.

 

Nepaisant to, superintelekto iškilimas turėtų sukelti nuostabą. Dario Amodei, „Anthropic“ vadovas, šią savaitę „The Economist“ sakė manantis, kad dirbtinis intelektas padės gydyti kadaise nepagydomas ligas. Į kitą pagreitį, jei jis ateis, reikėtų žiūrėti, kaip į ilgo stebuklo, įmanomo tik todėl, kad žmonės priėmė perversmą, tęsinį. Žmonija gali pastebėti, kad jos intelektas pranoktas. Jai vis tiek reikės išminties.“ [1]

 

1. The economics of superintelligence. The Economist; London Vol. 456, Iss. 9458,  (Jul 26, 2025): 7, 8.

How to Rethink A.I.

“GPT-5, OpenAI’s latest artificial intelligence system, was supposed to be a game-changer, the culmination of billions of dollars of investment and nearly three years of work. Sam Altman, the company’s chief executive, implied that GPT-5 could be tantamount to artificial general intelligence, or A.G.I. — A.I. that is as smart and as flexible as any human expert.

 

Instead, as I have written, the model fell short. Within hours of its release, critics found all kinds of baffling errors: It failed some simple math questions, couldn’t count reliably and sometimes provided absurd answers to old riddles. Like its predecessors, the A.I. model still hallucinates (though at a lower rate) and is plagued by questions around its reliability. Although some people have been impressed, few saw it as a quantum leap, and nobody believed it was A.G.I. Many users asked for the old model back.

 

GPT-5 is a step forward, but nowhere near the A.I. revolution many had expected. That is bad news for the companies and investors who placed substantial bets on the technology. And it demands a rethink of government policies and investments that were built on wildly overinflated expectations. The current strategy of merely making A.I. bigger is deeply flawed — scientifically, economically and politically.

 

 Many things from regulation to research strategy must be rethought. One of the keys to this may be training and developing A.I. in ways inspired by the cognitive sciences.

 

Fundamentally, people like Mr. Altman, the Anthropic chief executive Dario Amodei and countless other tech leaders and investors had put far too much faith into a speculative and unproven hypothesis called scaling: the idea that training A.I. models on ever more data using ever more hardware would eventually lead to A.G.I., or even a “superintelligence” that surpasses humans.

 

However, as I warned in a 2022 essay titled “Deep Learning Is Hitting a Wall,” so-called scaling laws aren’t physical laws of the universe like gravity, but hypotheses based on historical trends. Large language models, which power systems like GPT-5, are nothing more than souped-up statistical regurgitation machines, so they will continue to stumble into problems around truth, hallucinations and reasoning. Scaling would not bring us to the holy grail of A.G.I.

 

Many in the tech industry were hostile to my predictions. Mr. Altman ridiculed me as a “mediocre deep learning skeptic” and last year claimed “there is no wall.” Elon Musk shared a meme lampooning my essay.

 

It now seems I was right. Adding more data to large language models, which are trained to produce text by learning from vast databases of human text, helps them improve only to a degree. Even significantly scaled, they still don’t fully understand the concepts they are exposed to — which is why they sometimes botch answers or generate ridiculously incorrect drawings.

 

Scaling worked for a while — previous generations of GPT models made impressive advancements to their predecessors. But luck started to run out over the last year. Mr. Musk’s A.I. system, Grok 4, released in July, had 100 times as much training as Grok 2 had but it was only moderately better. Meta’s jumbo-size Llama 4 model, much larger than its predecessor, was mostly also viewed as a failure. As many now see, GPT-5 shows decisively that scaling has lost steam.

 

The chances of A.G.I.’s arrival by 2027 now seem remote. The government has let A.I. companies lead a charmed life with almost zero regulation. It now ought to enact legislation that addresses costs and harms unfairly offloaded onto the public — from misinformation to deepfakes, “A.I. slop” content, cybercrime, copyright infringement, mental health and energy usage.

 

Moreover, governments and investors should strongly support research investments outside of scaling. The cognitive sciences (including psychology, child development, philosophy of mind and linguistics) teach us that intelligence is about more than mere statistical mimicry and suggest three promising ideas for developing A.I. that is reliable enough to be trustworthy, with a much richer intelligence.

 

First, humans are constantly building and maintaining internal models of the world — or world models — of the people and objects around them, and how things work. For example, when you read a novel, you develop a kind of mental database for who each individual character is and what he or she represents. This might include characters’ occupations, their relationships to one another, what their motivations and goals are and so on. In a fantasy or science fiction novel, a world model might even include new physical laws.

 

Many of generative A.I.’s shortcomings can be traced back to failures to extract proper world models from their training data. This explains why the latest large language models, for example, are unable to fully grasp how chess works. As a result, they have a tendency to make illegal moves, no matter how many games they’ve been trained on. We don’t just need systems that mimic human language; we also need systems that understand the world so that they can reason about it in a deeper way. Focusing on how to build a new generation of A.I. systems centered around world models should be a central focus of future research. Google DeepMind and Fei-Fei Li’s World Labs are taking steps in this direction.

 

Second, the field of machine learning (which has powered large language models) likes to task A.I. systems to learn absolutely everything from scratch by scraping data from the internet, with nothing built in. But as cognitive scientists like Steven Pinker, Elizabeth Spelke and me have emphasized, the human mind is born with some core knowledge of the world that sets us up to grasp more complex concepts. Building in basic concepts like time, space and causality might allow systems to better organize the data they encounter into richer starting points — potentially leading to richer outcomes. (Verses AI’s work on physical and perceptual understanding in video games is one step in this direction.)

 

Finally, the current paradigm takes a kind of one-size-fits-all approach by relying on a single cognitive mechanism — the large language model — to solve everything. But we know the human mind uses many different tools for many different kinds of problems. For example, the renowned psychologist Daniel Kahneman suggested humans utilize one system of thought that is quick, reflexive and automatic, driven largely by the statistics of experience but also superficial and prone to blunders; along with a second system that is driven more by abstract reasoning and deliberative thinking that’s slow and laborious. Large language models, which are a bit like the first system, try to do everything with a single statistical approach, but wind up unreliable as a result.

 

We need a new approach, closer to what Mr. Kahneman described. This may come in the form of “neurosymbolic” A.I., which bridges statistically-driven neural networks (from which large language models are drawn) with some older ideas from symbolic A.I.

 

Symbolic A.I. is more abstract and deliberative by nature; it processes information by taking cues from logic, algebra and computer programming. I have long advocated for a marriage of these two traditions. Increasingly, we are seeing companies like Amazon and Google DeepMind take such a hybrid approach (even OpenAI appears to be doing some of this, quietly). By the end of the decade, neurosymbolic A.I. may well eclipse pure scaling.

 

Large language models have had their uses, especially for coding, writing and brainstorming, in which humans are still directly involved. But no matter how large we have made them, they have never been worthy of our trust. To build A.I. that we can genuinely trust and to have a shot at A.G.I., we must move on from the trappings of scaling. We need new ideas. A return to the cognitive sciences might well be the next logical stage in the journey.

 

Gary Marcus is a professor emeritus at New York University and was a founder and chief executive of Geometric Intelligence. His most recent book is “Taming Silicon Valley.” He publishes a newsletter about A.I.” [1]

 

1. How to Rethink A.I.: Guest Essay. Marcus, Gary.  New York Times (Online) New York Times Company. Sep 3, 2025.

Kaip permąstyti dirbtinį intelektą

„GPT-5, naujausia „OpenAI“ dirbtinio intelekto sistema, turėjo pakeisti žaidimo taisykles, būti milijardų dolerių investicijų ir beveik trejų metų darbo kulminacija. Bendrovės generalinis direktorius Samas Altmanas leido suprasti, kad GPT-5 galėtų prilygti dirbtiniam bendrajam intelektui (D.B.I.) – D.I., kuris yra toks pat protingas ir lankstus, kaip ir bet kuris žmogus-ekspertas.

 

Vietoj to, kaip jau rašiau, modelis neatitiko lūkesčių. Per kelias valandas nuo jo išleidimo kritikai rado visokių gluminančių klaidų: jis neatsakė į kai kuriuos paprastus matematikos klausimus, negalėjo patikimai skaičiuoti ir kartais pateikdavo absurdiškus atsakymus į senas mįsles. Kaip ir jo pirmtakai, D.I. modelis vis dar haliucinuoja (nors ir rečiau) ir jį kamuoja klausimai dėl jo patikimumo. Nors kai kurie žmonės buvo sužavėti, mažai kas jį laikė kvantiniu šuoliu ir niekas netikėjo, kad tai D.B.I. Daugelis vartotojų prašė grąžinti senąjį modelį.

 

GPT-5 yra žingsnis į priekį, bet toli gražu neprilygsta D.I. revoliucijai, kurios daugelis tikėjosi. Tai bloga žinia įmonėms ir investuotojams, kurie dėjo dideles pastangas dėl šios technologijos. Ir tai reikalauja permąstyti vyriausybės politiką ir investicijas, kurios buvo pagrįstos pernelyg dideliais lūkesčiais. Dabartinė strategija, kuria siekiama tik padidinti dirbtinį intelektą, yra labai ydinga – moksliškai, ekonomiškai ir politiškai.

 

Reikia permąstyti daug dalykų – nuo ​​reguliavimo iki tyrimų strategijos. Vienas iš raktų į tai gali būti dirbtinio intelekto mokymas ir vystymas, įkvėptas kognityvinių mokslų.

 

Iš esmės tokie žmonės, kaip ponas Altmanas, „Anthropic“ generalinis direktorius Dario Amodei ir daugybė kitų technologijų lyderių bei investuotojų pernelyg pasitikėjo spekuliatyvia ir neįrodyta hipoteze, vadinama mastelio keitimu: idėja, kad dirbtinio intelekto modelių mokymas su vis daugiau duomenų, naudojant vis daugiau techninės įrangos, galiausiai, sukurs dirbtinį intelektą arba net „superintelektą“, kuris pranoksta žmones.

 

Tačiau, kaip perspėjau 2022 m. esė pavadinimu „Gilusis mokymasis atsitrenkia į sieną“, vadinamasis mastelio keitimas nėra fizikinis visatos dėsnis, kaip gravitacija, o hipotezė, pagrįstos istorinėmis tendencijomis. Dideli kalbos modeliai, kurie maitina tokias sistemas, kaip GPT-5 tėra patobulintos statistinės regurgitacijos mašinos, todėl jos ir toliau susidurs su problemomis, susijusiomis su tiesa, haliucinacijomis ir samprotavimais. Mastelio keitimas nenuvestų mūsų prie D.B.I. šventojo gralio.

 

Daugelis technologijų pramonės atstovų priešiškai vertino mano prognozes. Ponas Altmanas išjuokė mane, kaip „vidutinišką gilaus mokymosi skeptiką“ ir praėjusiais metais teigė, kad „nėra jokios sienos“. Elonas Muskas pasidalijo memu, kuriame kritikuoja mano esė.

 

Dabar atrodo, kad buvau teisus. Pridėjus daugiau duomenų prie didelių kalbos modelių, kurie yra apmokyti kurti tekstą, mokydamiesi iš didžiulių žmonių teksto duomenų bazių, jie tobulėja tik iki tam tikro lygio. Net ir žymiai padidinus mastelį, jie vis tiek iki galo nesupranta sąvokų, su kuriomis susiduria – todėl kartais jie neteisingai atsako arba sukuria juokingai neteisingus piešinius.

 

Mastelio keitimas kurį laiką veikė – ankstesnės GPT modelių kartos padarė įspūdingą pažangą, palyginti su jų pirmtakais. Tačiau per pastaruosius metus sėkmė ėmė blėsti. Liepos mėnesį išleista pono Musko dirbtinio intelekto sistema „Grok 4“ turėjo 100 kartų daugiau mokymo, nei „Grok 2“, tačiau ji buvo tik šiek tiek geresnė. Didelis „Meta“ „Llama 4“ modelis, daug didesnis už savo pirmtaką, taip pat dažniausiai buvo laikomas nesėkme. Kaip daugelis dabar mato, GPT-5 įtikinamai rodo, kad mastelio keitimas prarado pagreitį.

 

D.B.I. atsiradimo iki 2027 m. tikimybė dabar atrodo menka. Vyriausybė leido dirbtinio intelekto įmonėms gyventi žavingą gyvenimą beveik be jokio reguliavimo. Dabar ji turėtų priimti įstatymus, kurie spręstų sąnaudų ir žalos, nesąžiningai perkeliamos visuomenei, problemą – nuo ​​dezinformacijos iki giliųjų klastočių, „D.I. „nepadoraus“ turinio, kibernetinių nusikaltimų, autorių teisių pažeidimų, psichinės sveikatos ir energijos vartojimo.

 

Be to, vyriausybės ir investuotojai turėtų tvirtai remti investicijas į mokslinius tyrimus, nesusijusius su mastelio keitimu. Kognityviniai mokslai (įskaitant psichologiją, vaiko raidą, proto filosofiją ir lingvistiką) moko, kad intelektas yra daugiau, nei vien statistinė mimikrija, ir siūlo tris perspektyvias idėjas, kaip sukurti pakankamai patikimą, daug turtingesnį intelektą.

 

Pirma, žmonės nuolat kuria ir palaiko vidinius pasaulio modelius – apie juos supančius žmones ir objektus, bei kaip viskas veikia. Pavyzdžiui, skaitydami romaną, sukuriate savotišką mentalinę duomenų bazę apie tai, kas yra kiekvienas individualus veikėjas ir ką jis ar ji atstovauja. Tai gali apimti veikėjų profesijas, jų tarpusavio santykius, jų motyvaciją ir tikslus ir pan. Fantastiniame ar mokslinės fantastikos romane pasaulio modelis gali apimti net naujus fizikos dėsnius.

 

Daugelį generatyvinio dirbtinio intelekto trūkumų galima atsekti dėl nesugebėjimo išgauti tinkamų pasaulio modelių iš savo mokymo duomenų. Tai paaiškina, kodėl, pavyzdžiui, naujausi dideli kalbų modeliai negali iki galo suprasti, kaip veikia šachmatai. Dėl to jie linkę atlikti nelegalius ėjimus, nesvarbu, kiek žaidimų jie buvo apmokyti. Mums reikia ne tik sistemų, kurios imituotų žmonių kalbą; mums taip pat reikia sistemų, kurios suprastų pasaulį, kad galėtų apie jį giliau samprotauti. Dėmesys tam, kaip sukurti naujos kartos dirbtinio intelekto sistemas, pagrįstas pasaulio modeliais, turėtų būti pagrindinis būsimų tyrimų tikslas. „Google DeepMind“ ir Fei-Fei Li „World Labs“ žengia žingsnius šia linkme.

 

Antra, mašininio mokymosi sritis (kuri sukūrė didelius kalbos modelius) mėgsta užduoti dirbtinio intelekto sistemoms išmokti absoliučiai viską nuo nulio, nuskaitant duomenis iš interneto, be jokių integruotų elementų. Tačiau, kaip pabrėžė kognityviniai mokslininkai, tokie, kaip Stevenas Pinkeris, Elizabeth Spelke ir aš, žmogaus protas gimsta su tam tikromis pagrindinėmis žiniomis apie pasaulį, kurios leidžia mums suvokti sudėtingesnes sąvokas. Įtraukus pagrindines sąvokas, tokias, kaip laikas, erdvė ir priežastingumas, sistemos galėtų geriau organizuoti duomenis, su kuriais susiduria, į turtingesnius pradinius taškus, o tai gali lemti turtingesnius rezultatus. (Verses AI darbas, susijęs su fiziniu ir suvokimo supratimu vaizdo žaidimuose, yra vienas žingsnis šia linkme.)

 

Galiausiai, dabartinė paradigma taiko savotišką „vienas dydis tinka visiems“ metodą, remdamasi vienu kognityviniu mechanizmu – dideliu kalbos modeliu – viskam išspręsti. Tačiau žinome, kad žmogaus protas naudoja daug skirtingų įrankių daugeliui skirtingų problemų spręsti. Pavyzdžiui, garsus psichologas Danielis Kahnemanas teigė, kad žmonės naudoja vieną mąstymo sistemą, kuri yra greita, refleksyvi ir automatinė, daugiausia paremta patirties statistika, bet taip pat paviršutiniška ir linkusi į klaidas; kartu su antrąja sistema, kuri labiau paremta abstraktaus samprotavimo ir lėto bei varginančio apgalvoto mąstymo. Dideli kalbos modeliai, kurie yra šiek tiek panašūs į pirmąją sistemą, bando viską atlikti, taikydami vieną statistinį metodą, tačiau dėl to yra nepatikimi.

 

Mums reikia naujo požiūrio, artimesnio tam, ką aprašė p. Kahnemanas. Tai gali būti „neurosimbolinis“ DI, kuris sujungia statistiškai pagrįstus neuroninius tinklus (iš kurių semiasi dideli kalbos modeliai) su kai kuriomis senesnėmis simbolinio DI idėjomis.

 

Simbolinis dirbtinis intelektas (DI) iš prigimties yra abstraktesnis ir labiau orientuotas į svarstymą; jis apdoroja informaciją remdamasis logikos, algebros ir kompiuterinio programavimo užuominomis. Jau seniai pasisakau už šių dviejų tradicijų sujungimą. Vis dažniau matome, kaip tokios įmonės, kaip „Amazon“ ir „Google DeepMind“ taiko tokį hibridinį požiūrį (netgi „OpenAI“, regis, tyliai tai daro). Iki dešimtmečio pabaigos neurosimbolinis DI gali užgožti grynąjį mastelio keitimą.

 

Dideli kalbos modeliai turėjo savo panaudojimo būdų, ypač kodavimui, rašymui ir minčių generavimui, kuriuose žmonės vis dar tiesiogiai dalyvauja. Tačiau kad ir kokie dideli jie būtų, jie niekada nebuvo verti mūsų pasitikėjimo. Norėdami sukurti DI, kuriuo galėtume nuoširdžiai pasitikėti, ir turėti galimybę dirbtinio intelekto srityje, turime atsisakyti mastelio keitimo atributų. Mums reikia naujų idėjų. Grįžimas prie kognityvinių mokslų gali būti kitas logiškas kelionės etapas.

 

Gary Marcus yra Niujorko universiteto emeritas profesorius ir „Geometrinio intelekto“ įkūrėjas bei generalinis direktorius. Naujausia jo knyga yra „Silicio slėnio sutramdymas“. Jis leidžia informacinį biuletenį apie dirbtinį intelektą.“ [1]

 

1. How to Rethink A.I.: Guest Essay. Marcus, Gary.  New York Times (Online) New York Times Company. Sep 3, 2025.

Putin’s Information War

“Russian authorities are using a festival to showcase Moscow as a place where life is better than in the West.

 

What a subway station from hell says about the Ukraine events

 

When I spoke to my colleague Ivan Nechepurenko about the enormous festival that has taken over Moscow this summer, his description of one pavilion stuck with me: an immersive experience of the New York City subway.

 

In footage Ivan sent me, neon lights flicker in a gloomy tunnel. The floor is dirty. Sewage water pools in a corner. “Welcome to America!” an actor impersonating a wild-eyed hustler selling fake designer bags shouts in English.

 

When you’ve made your way through this hellscape, you emerge into a Moscow subway station. This station, all marble and mirrors, is spotless and orderly, no crazy people in sight.

 

Ivan wrote a great story about how Russian authorities are overwhelming Muscovites with fun.

 

But I want to focus on another purpose for this festival. Russian authorities are using it to showcase Moscow — and by extension, Russia — as a place where life is better than in the West.

 

“The message is basically: ‘The West wants you to believe Russia is backward, dark, and unsafe — and look what it’s really like,” Ivan told me. And this message is also shaping the events in Ukraine.

 

Warring narratives

 

Russia is putting on a show of its own resilience. Doing so sends a message internally: we can keep going in Ukraine until we can end the conflict on our own terms. But it’s also part of a larger strategy aimed at sending a message to the outside world that the West’s promise is fading.

 

It’s a message directed at, among others, the 2.7 million tourists who visited Moscow this past year — most of them from non-Western countries. It’s the same message regularly delivered by RT, the Russian state media broadcaster that pumps out programming highlighting Western democracies in disarray.

 

Part of the power of this narrative comes from its grounding in truth: Many Western countries are in disarray. And in July, 57 percent of Russians surveyed by an independent pollster said they were satisfied with their lives — the highest number since such polls began in 1993, two years after the dissolution of the Soviet Union.

 

So is Russia’s message landing? Polling since the start of the events in Ukraine reveals a growing rift in global public opinion. A study found that the vast majority of people living in liberal democracies hold negative views of Russia, but the opposite is true for much of the rest of the world. Among the 6.3 billion people (huge majority) not living in liberal democracies, most felt positively toward Russia — and skeptical of democracy.

 

‘Hot political messes’

 

What does this have to do with Ukraine?

 

I spoke with Charles Kupchan, a former foreign policy adviser to President Obama and professor at Georgetown University. I wanted to talk about why President Trump’s efforts to end the conflict had yielded so little.

 

It’s not just that Trump didn’t prepare for his meeting with Vladimir Putin, Kupchan said. It’s also that the world has changed. The U.S. can no longer enforce its will unchecked. Russia has the means to resist, with the help of other countries like China, India, and Turkey, which buy its oil and help it work around Western sanctions.

 

America’s diminished influence is mostly a result of the diffusion of power and the West’s relative economic decline. But it’s also due to subtler factors. The West used to be an aspirational club. Today, the big Western democracies, as Kupchan put it, are “hot political messes.” And for those living outside of them, “it’s not self-evident that democracy is the way to go.”

 

Is this percolating sentiment the reason Putin was embraced in Tianjin this weekend? It’s not something that can be measured directly. But it’s worth noting: while Putin was holding hands with Narendra Modi and Xi Jinping, the French government was teetering on the verge of collapse (again) and Donald Trump was promising to send more troops into major U.S. cities. Moscow, meanwhile, is planning its Winter Festival.” [1]

 

1. Putin’s Information War. Bennhold, Katrin.  New York Times (Online) New York Times Company. Sep 3, 2025.

Putino informacinis karas

„Rusijos valdžia festivaliu siekia parodyti Maskvą, kaip vietą, kurioje gyvenimas geresnis, nei Vakaruose.

 

Ką metro stotis iš pragaro sako apie įvykius Ukrainoje

 

Kai kalbėjausi su mano kolega Ivanu Nečepurenko apie milžinišką festivalį, kuris šią vasarą užvaldė Maskvą, man įstrigo jo vieno paviljono aprašymas: įtraukianti Niujorko metro patirtis.

 

Ivano atsiųstoje medžiagoje neoninės šviesos mirga niūriame tunelyje. Grindys nešvarios. Kampe telkšo nuotekų vanduo. „Sveiki atvykę į Ameriką!“ aktorius, apsimetantis pašėlusiu sukčiumi, pardavinėjančiu netikrus dizainerių krepšius, angliškai šaukia.

 

Kai praeini kelią per šį pragarišką peizažą, atsiduri Maskvos metro stotyje. Ši stotis, visa marmurinė ir veidrodinė, yra nepriekaištingai švari ir tvarkinga, nematyti jokių pamišėlių.

 

Ivanas parašė puikią istoriją apie tai, kaip Rusijos valdžia apdovanoja maskviečius linksmybėmis.

 

Tačiau noriu sutelkti dėmesį į kitą šio festivalio tikslą. Rusijos valdžia jį naudoja tam, kad parodytų Maskvą – ir kartu Rusiją – kaip vietą, kurioje gyvenimas geresnis, nei Vakaruose.

 

„Žinutė iš esmės yra tokia: „Vakarai nori, kad patikėtumėte, jog Rusija yra atsilikusi, tamsi ir nesaugi – ir pažiūrėkite, kaip ji yra iš tikrųjų“, – man sakė Ivanas. Ir ši žinia taip pat formuoja įvykius Ukrainoje.

 

Kariaujantys naratyvai

 

Rusija demonstruoja savo atsparumą. Taip elgdamasi siunčia žinią viduje: mes galime tęsti veiklą Ukrainoje, kol galėsime užbaigti konfliktą savo sąlygomis. Tačiau tai taip pat yra platesnės strategijos, kuria siekiama perduoti žinią išoriniam pasauliui, dalis, kad Vakarų pažadas yra... blėstantis.

 

Tai žinia, skirta, be kita ko, 2,7 milijono turistų, kurie praėjusiais metais aplankė Maskvą – dauguma jų iš ne Vakarų šalių. Tai ta pati žinia, kurią reguliariai transliuoja RT, Rusijos valstybinė žiniasklaidos priemonė, kuri transliuoja programas, kuriose pabrėžiamos chaotiškos Vakarų demokratijos.

 

Šio naratyvo galia iš dalies kyla iš jo pagrįstumo tiesa: daugelis Vakarų šalių yra chaotiškos. Liepos mėnesį 57 procentai nepriklausomos apklausos dalyvių apklaustų rusų teigė esantys patenkinti jų gyvenimu – tai didžiausias skaičius nuo tokių apklausų pradžios 1993 m., praėjus dvejiems metams po Sovietų Sąjungos iširimo.

 

Taigi, ar Rusijos žinia pasiekia tikslą? Apklausos, atliktos nuo įvykių Ukrainoje pradžios, atskleidžia didėjantį pasaulinės visuomenės nuomonės susiskaldymą. Tyrimas parodė, kad didžioji dauguma, liberaliose demokratijose gyvenančių, žmonių neigiamai vertina Rusiją, tačiau priešingai yra tiesa didžiojoje likusio pasaulio dalyje.

 

Tarp 6,3 milijardo žmonių (žmonijos didžiausios dalies), negyvenančių liberaliose demokratijose, dauguma teigiamai vertino Rusiją ir skeptiškai vertino demokratiją.

 

„Karšta“ politinės netvarkos“

 

Ką tai turi bendro su Ukraina?

 

Kalbėjausi su Charlesu Kupchanu, buvusiu prezidento Obamos užsienio politikos patarėju ir Džordžtauno universiteto profesoriumi. Norėjau pakalbėti apie tai, kodėl prezidento Trumpo pastangos užbaigti konfliktą davė tiek mažai rezultatų.

 

Kupchanas teigė, kad Trumpas ne tik nepasiruošė susitikimui su Vladimiru Putinu. Pasaulis taip pat pasikeitė. JAV nebegali nekontroliuojamai vykdyti savo valios. Rusija turi priemonių pasipriešinti, padedama kitų šalių, tokių, kaip Kinija, Indija ir Turkija, kurios perka jos naftą ir padeda jai apeiti Vakarų sankcijas.

 

Sumažėjusi Amerikos įtaka daugiausia yra valdžios išsisklaidymo ir santykinio Vakarų ekonominio nuosmukio rezultatas. Tačiau tai lemia ir subtilesni veiksniai. Vakarai anksčiau buvo siekiamybių klubas. Šiandien didžiosios Vakarų demokratijos, kaip sakė Kupchanas, yra „karštos politinės netvarkos“. O tiems, kurie gyvena už jų ribų, „nėra savaime suprantama, kad demokratija yra teisingas kelias“.

 

Ar šis tvyrantis jausmas yra priežastis, kodėl Putinas šį savaitgalį buvo apkabintas Tiandzine? Tai nėra tiesiogiai išmatuota. Tačiau verta paminėti: tuo metu, kai Putinas laikėsi už rankų su Narendra Modi ir Xi Jinpingu, Prancūzijos vyriausybė (vėl) balansavo ant žlugimo ribos, o Donaldas Trumpas žadėjo pasiųsti daugiau kariuomenės į didžiuosius JAV miestus. Tuo tarpu Maskva planuoja savo Žiemos festivalį.“ [1]

 

 

1. Putin’s Information War. Bennhold, Katrin.  New York Times (Online) New York Times Company. Sep 3, 2025.