„Greito pakilimo“ scenarijuje ateina taškas, kai dirbtinis intelektas tampa pakankamai sumanus, kad sukurtų naują ir geresnį dirbtinį intelektą sprogstamojo vystymosi metu

„2023 m. lapkričio mėn., kai SAM ALTMAN buvo atleistas iš „OpenAI“, socialinėje žiniasklaidoje tarp dirbtinio intelekto (AI) tipų paplito memas. „Ką pamatė Ilja? – klausė jis, turėdamas omenyje perversmą sukėlusį startuolio įkūrėją Ilją Sutskeverį. Kai kurie tikėjo, kad poną Sutskeverį išgąsdino naujas įmonės proveržis, davęs pasauliui ChatGPT.

 

 Nors ponas Altmanas po kelių dienų vėl pradėjo vadovauti, o p. Sutskeveris sakė apgailestavęs dėl jo žingsnio, atrodo, kad tai, ką pamatė Ilja, jam įstrigo. Gegužę jis paliko OpenAI. Birželio 19 d. jis pristatė Safe Superintelligence (SSI) – naują startuolį, skirtą antžmogiško AI kūrimui. Startuolis, kurio kiti įkūrėjai yra Danielis Grossas, rizikos kapitalistas, ir Danielis Levy, buvęs OpenAI tyrinėtojas, neplanuoja siūlyti jokių realių produktų. Jis neatskleidė jo investuotojų pavardžių.

 

 Jums gali kilti klausimas, kodėl kas nors investuotų, atsižvelgiant į akivaizdų projekto susidomėjimo užsidirbti pinigų trūkumą. Galbūt, rėmėjai tikisi, kad SSI laiku sukurs pelno siekiančią grupę, kaip atsitiko OpenAI, kuri prasidėjo, kaip ne pelno siekianti organizacija, kol suprato, kad modelių mokymui reikia daug brangios skaičiavimo galios. Galbūt, jie mano, kad ponas Sutskeveris galiausiai pavers SSI įprastu verslu, apie ką ponas Altmanas neseniai užsiminė investuotojams į OpenAI. Arba jie padarė išvadą, kad p. Sutskeverio komanda ir jos kuriama intelektinė nuosavybė, greičiausiai, bus vertinga, net jei SSI tikslas niekada nebus pasiektas.

 

 Labiau intriguojanti hipotezė yra ta, kad SSI finansiniai rėmėjai tiki tuo, kas dirbtinio intelekto sluoksniuose žinoma kaip „greito pakilimo“ scenarijus. Jame ateina taškas, kai dirbtinis intelektas tampa pakankamai sumanus, kad galėtų kurti naujus ir geresnius AI. Tada tie nauji ir geresni AI greitai tobulėja patys – ir taip toliau, „intelektinio sprogimo“ metu. Net jei toks superintelektas yra vienintelis SSI kada nors parduodamas produktas, atlygis būtų toks didžiulis, kad būtų vertas plazdėjimo.

 

 Greito pakilimo idėja Silicio slėnyje slypėjo daugiau, nei dešimtmetį. Ji vėl pasirodė plačiai paplitusiame 165 puslapių dokumente, kurį birželį paskelbė buvęs OpenAI darbuotojas. Pavadinta „Situacijos suvokimas“ ir skirta ponui Sutskeveriui, prognozuojama, kad iki 2027 m. pasiektas dirbtinis intelektas, toks pat geras, kaip ir žmonės, atliekant visas intelektines užduotis. Viena iš tokių žmogaus intelektualių užduočių yra dirbtinio intelekto modelių kūrimas. Ir presto, greitas pakilimas.

 

 Straipsnio autorius teigia, kad netrukus Amerikos vyriausybei reikės „užrakinti“ AI laboratorijas ir perkelti tyrimus į Manheteno projekto AI ekvivalentą. Dauguma AI tyrinėtojų atrodo atsargesni. Pusšimtis dirbančių pirmaujančiose AI laboratorijose „The Economist“ žurnalui teigia, kad vyrauja nuomonė, jog dirbtinio intelekto pažanga, greičiausiai, tęsis laipsniškai, o ne staigaus sprogimo metu.

 

 „OpenAI“, kažkada viena labiausiai vertinančių dirbtinio intelekto pažangą, priartėjo prie laipsniškųjų stovyklos. Ponas Altmanas ne kartą yra sakęs, kad tiki „lėtu kilimu“ ir „laipsniškesniu perėjimu“. Jo įmonės pastangos vis labiau nukreiptos į savo produktų komercializavimą, o ne į esminius tyrimus, reikalingus dideliems proveržiams (kurie gali paaiškinti keletą pastarojo meto aukšto lygio pasitraukimų). Yann LeCun iš Meta ir François Chollet iš Google, du žvaigždės lygio AI tyrinėtojai, netgi sakė, kad dabartines AI sistemas vargu ar verta vadinti „intelektu“.

 

 Atnaujintas modelis, kurį birželio 20 d. išleido Anthropic, kita AI laboratorija, yra įspūdingas, tačiau siūlo tik nedidelius patobulinimus, palyginti su esamais modeliais. Naujasis OpenAI pasiūlymas gali būti paruoštas kitais metais. „Google DeepMind“, pagrindinė paieškos milžino AI laboratorija, kuria savo įkrautą modelį. Jei pasiseks, jie bus labiau verti I pavadinime AI. Ar jie pakankamai nusipelnė, kad laipsniškuosius paverstų sprogstamuoju tikėjimu, yra kitas klausimas." [1]

 

1. Thinking fast and slow. The Economist; London Vol. 451, Iss. 9403,  (Jun 29, 2024): 56, 57.

In the “fast take-off” scenario there comes a point at which AIs become clever enough to themselves devise new and better AIs in explosive development

"AFTER SAM ALTMAN was sacked from OpenAI in November of 2023, a meme went viral among artificial-intelligence (AI) types on social media. “What did Ilya see?” it asked, referring to Ilya Sutskever, a co-founder of the startup who triggered the coup. Some believed a rumoured new breakthrough at the company that gave the world ChatGPT had spooked Mr Sutskever.

Although Mr Altman was back in charge within days, and Mr Sutskever said he regretted his move, whatever Ilya saw appears to have stuck in his craw. In May he left OpenAI. And on June 19th he launched Safe Superintelligence (SSI), a new startup dedicated to building a superhuman AI. The outfit, whose other co-founders are Daniel Gross, a venture capitalist, and Daniel Levy, a former OpenAI researcher, does not plan to offer any actual products. It has not divulged the names of its investors.

You might wonder why anyone would invest, given the project’s apparent lack of interest in making money. Perhaps backers hope SSI will in time create a for-profit arm, as happened at OpenAI, which began as a non-profit before realising that training its models required lots of expensive computing power. Maybe they think Mr Sutskever will eventually convert SSI into a regular business, which is something Mr Altman recently hinted at to investors in OpenAI. Or they may have concluded that Mr Sutskever’s team and the intellectual property it creates are likely to be valuable even if SSI’s goal is never reached.

A more intriguing hypothesis is that SSI’s financial supporters believe in what is known in AI circles as the “fast take-off” scenario. In it, there comes a point at which AIs become clever enough to themselves devise new and better AIs. Those new and better AIs then rapidly improve upon themselves—and so on, in an “intelligence explosion”. Even if such a superintelligence is the only product SSI ever sells, the rewards would be so enormous as to be worth a flutter.

The idea of a fast take-off has lurked in Silicon Valley for over a decade. It resurfaced in a widely shared 165-page paper published in June by a former OpenAI employee. Entitled “Situational Awareness” and dedicated to Mr Sutskever, it predicts that an AI as good as humans at all intellectual tasks will arrive by 2027. One such human intellectual task is designing AI models. And presto, fast take-off.

The paper’s author argues that before long America’s government will need to “lock down” AI labs and move the research to an AI-equivalent of the Manhattan project. Most AI researchers seem more circumspect. Half a dozen who work at leading AI labs tell The Economist that the prevailing view is that AI progress is more likely to continue in gradual fashion than with a sudden explosion.

OpenAI, once among the most bullish about AI progress, has moved closer to the gradualist camp. Mr Altman has repeatedly said that he believes in a “slow take-off” and a more “gradual transition”. His company’s efforts are increasingly focused on commercialising its products rather than on the fundamental research needed for big breakthroughs (which may explain several recent high-profile departures). Yann LeCun of Meta and François Chollet of Google, two star AI researchers, have even said that current AI systems hardly merit being called “intelligence”.

An updated model released on June 20th by Anthropic, another AI lab, is impressive but offers only modest improvements over existing models. OpenAI’s new offering could be ready next year. Google DeepMind, the search giant’s main AI lab, is working on its own supercharged model. With luck these will be more deserving of the I in AI. Whether they are deserving enough to convert gradualists to the explosive creed is another matter." [1]

1. Thinking fast and slow. The Economist; London Vol. 451, Iss. 9403,  (Jun 29, 2024): 56, 57.

Dirbtinis intelektas iki 2030 metų Vokietijoje pakeis iki trijų milijonų darbo vietų

„Dirbtinis intelektas (AI) gali pakeisti milijonų žmonių kasdienį darbinį gyvenimą. Vokietijoje, kaip rodo tyrimas, gali nukentėti septyni procentai viso užimtumo.

 

Jei sistemos su dirbtiniu intelektu bus greitai įdiegtos įmonėse, daugelis darbuotojų Vokietijoje turės ruoštis rimtiems profesiniams pokyčiams.

 

Remiantis dabartiniu McKinsey Global Institute (MGI) tyrimu, paskelbtu ketvirtadienį Diuseldorfe, iki 2030 m. pokyčiai Vokietijoje paveiks iki trijų milijonų darbo vietų, o tai atitinka septynis procentus viso užimtumo.

 

Numatoma daug darbo pasikeitimų

 

McKinsey tyrėjų scenarijus numato pagreitintą AI sistemų diegimą JAV ir Europoje. Dėl to iki 2030 metų gali būti automatizuota beveik trečdalis darbo valandų.

 

Iki 2035 metų šis skaičius ES gali išaugti net iki 45 proc.

 

 Remiantis skaičiavimais, iki 2030 metų Europoje ir JAV gali prireikti beveik dvylikos milijonų darbo vietų pakeitimų. Europoje tai atitinka 6,5 ​​procento dabartinių darbo vietų.

 

Tyrimo autoriai šią tendenciją vertina kaip riziką, kad darbo rinka vystysis neigiamai. Viena vertus, vargu ar būtų galima užimti visus laisvas aukštos kvalifikacijos ir daugiau nei vidutiniškai apmokamas darbo vietas. Kita vertus, gresia darbuotojų perteklius mažų atlyginimų sektoriuje. Europoje gerai apmokamų profesijų dalis galėtų padidėti 1,8 procentinio punkto, o mažai apmokamų profesijų – sumažėti 1,4 procentinio punkto.

 

Ypač nukentėtų biuro darbai

 

„McKinsey“ mokslininkai įžvelgia didžiausius pokyčius biuro darbuose įmonių ir viešųjų įstaigų administracinėse srityse. Į šią sritį patenka daugiau nei kas antras dirbtinio intelekto sukeltas darbo pasikeitimas (54 proc.) Vokietijoje. Vokietija, kaip ir Italija, yra ypač paveikta, nes biuro pagalbiniai darbai sudaro didelę viso užimtumo dalį. Klientų aptarnavimas ir pardavimas – 17 proc., o gamybos veiklai įtakos turėjo 16 proc.

 

Darbuotojai, kuriuos tai gali paveikti, gali geriausiai apsisaugoti nuo dirbtinio intelekto sukelto pašalinimo iš darbo vietos, naudodamiesi mokymais ir kitomis kvalifikacijos kėlimo priemonėmis. Tyrimo duomenimis, vien Europoje techninių įgūdžių paklausa išaugs ženkliai – 25 proc. Tačiau socialiniai ir emociniai įgūdžiai taip pat yra paklausesni (plius 12 proc.).

 

Produktyvumo augimas gali padidėti

 

McKinsey mokslininkai tokiomis sąlygomis ekonomines pasekmes vertina, kaip teigiamas: Europos ekonomikoje sparčiau diegiant dirbtinį intelektą ir efektyviai keliant darbuotojų kvalifikaciją, metinis produktyvumo augimo tempas Europoje iki 2030 metų galėtų būti padidintas iki trijų procentų.

 

McKinsey Global Institute (MGI) atliktas tyrimas išnagrinėjo svarbiausius ekonominius ir socialinius pokyčius iki 2030 m. JAV ir dešimtyje Europos šalių, įskaitant Vokietiją, Prancūziją, Nyderlandus, Ispaniją, Didžiąją Britaniją, Švediją, Italiją, Daniją, Čekiją. Respublika ir Lenkija. Be to, buvo apklausta daugiau, nei 1100, įmonių valdybos narių Vokietijoje, Prancūzijoje, Italijoje, Didžiojoje Britanijoje ir JAV.“ [1]

 

1. KI verändert bis 2030 bis zu drei Millionen Jobs in Deutschland. Frankfurter Allgemeine Zeitung (online) Frankfurter Allgemeine Zeitung GmbH. May 23, 2024.

AI will change up to three million jobs in Germany by 2030

"Artificial intelligence could change the everyday working lives of millions of people. In Germany, seven percent of total employment could be affected, as a study shows.

 

If systems with artificial intelligence are introduced quickly in companies, many employees in Germany will have to prepare for serious professional changes.

 

According to a recent study by the McKinsey Global Institute (MGI), which was published in Düsseldorf on Thursday, up to three million jobs in Germany would be affected by a change by 2030, which corresponds to seven percent of total employment.

 

Many job changes in prospect

 

The McKinsey researchers' scenario assumes an accelerated introduction of AI systems in the USA and Europe. This could lead to the automation of almost a third of working hours by 2030.

 

By 2035, this figure could even rise to 45 percent in the EU.

 

According to calculations, by 2030, almost twelve million job changes could be necessary in Europe and the United States. In Europe, this corresponds to 6.5 percent of current jobs.

 

The study authors see this trend as a risk that the labor market will diverge negatively. On the one hand, highly qualified and above-average paid jobs will hardly be filled. On the other hand, there is a risk of an oversupply of workers in the low-wage sector. In Europe, the proportion of highly paid jobs could rise by 1.8 percentage points, while the proportion of low-paid jobs could fall by 1.4 percentage points.

 

Office jobs particularly affected

 

The McKinsey researchers see the greatest changes coming to office jobs in the administrative areas of companies and public institutions. More than every second job change caused by AI (54 percent) in Germany falls into this area. Germany, along with Italy, is particularly affected because office support jobs account for a high proportion of total employment. Customer service and sales follow with 17 percent, while production activities are affected by 16 percent.

 

Employees potentially affected by this can best protect themselves from being sidelined by AI through training and other qualification measures. According to the study, demand for technical skills will increase sharply, by 25 percent in Europe alone. But social and emotional skills will also be in greater demand (plus 12 percent).

 

Productivity growth could increase

 

The McKinsey researchers see the economic consequences as positive under these conditions: through an accelerated introduction of artificial intelligence and effective further training of employees in the European economy, the annual productivity growth rate in Europe could be increased to three percent by 2030.

 

The study by the McKinsey Global Institute (MGI) examined the most important economic and social developments up to 2030 in the USA and ten European countries, including Germany, France, the Netherlands, Spain, Great Britain, Sweden, Italy, Denmark, the Czech Republic and Poland. In addition, more than 1,100 board members of companies in Germany, France, Italy, Great Britain and the USA were surveyed." [1]

 

1. KI verändert bis 2030 bis zu drei Millionen Jobs in Deutschland. Frankfurter Allgemeine Zeitung (online) Frankfurter Allgemeine Zeitung GmbH. May 23, 2024.