Konkurencija dėl technologijos ateities

 Viršenybė: dirbtinis intelektas, ChatGPT ir lenktynės, kurios pakeis pasaulį

 Parmy Olson

 Šv. Martyno, 336 puslapiai, 30 dolerių

 

 Dirbtinio intelekto (AI) pramonės istorija per pastaruosius septynerius metus yra Prometėjo istorija Kalifornijoje – istorija apie žmoniją, gavusią naujos rūšies ugnies dovaną, o gal ir prakeikimą. Čia ugnis yra technologija ant žmogaus panašaus dirbtinio bendro intelekto slenksčio; graikų dievo vaidmenį atlieka mirtingųjų verslininkų ir tyrinėtojų grupė kartu su galingų technologijų įmonių vadovais.

 

 "Viršenybė" Parmy Olson pateikia istoriją, kaip mes pasiekėme šią akimirką. Ponia Olson, „Bloomberg Opinion“ technologijų apžvalgininkė, savo pasakojimą sutelkia į Samą Altmaną, „OpenAI“ įkūrėją ir generalinį direktorių, su įvairiais šio pono sąjungininkais ir varžovais. Altmanas antraplaniniuose vaidmenyse; Tarp jų yra „DeepMind“ įkūrėjas Demisas Hassabis ir p. Altmano turto donoras, tapęs priešininku, Elonas Muskas.

 

 Esmėje p. Altmano istorija iki šiol yra gerai žinoma. Kompiuterinių mokslų studentas ir pokerio entuziastas Stanfordo universitete, būdamas 19 metų, jis metė studijas ir pradėjo kurti socialinių tinklų įmonę, remiamas Silicio slėnio startuolių inkubatoriaus Y Combinator. Jo startuolis nepasiteisino, bet jis padarė įspūdį Paului Grahamui, „Y Combinator“ vadovui, ir galiausiai tapo p. Grahamo įpėdinis 2014 m. Iš ten jis įgijo turto ir kontaktų. Visą tą laiką jis domėjosi dirbtiniu intelektu, kurį pastebėjo Stanforde.

 

 Ponai Altmanas ir Muskas, abu susirūpinę ateities dirbtinio intelekto technologijos keliama rizika, priėmė lemtingą sprendimą suvienyti jėgas; 2015 metų pabaigoje p. Altmanas įkurtų ne pelno siekiančią organizaciją, kurią milijonais finansuotų p. Muskas ir kiti, atlikti AI tyrimus ir plėtrą atsakingiau, nei tokios įmonės, kaip „Google“, ir atviriau.

 

 Tačiau per porą metų p. Muskas išsiskyrė su OpenAI ir p. Altmanas vadovavo organizacijai. Norėdamas surinkti daugiau pinigų, p. Altmanas sukūrė mišrią schemą, pagal kurią ne pelno organizacija turėtų pelno siekiančią įmonę, kurios investuotojams būtų ribojamas pelnas – ką p. Olsonas vadina „bizantišką nepelno ir įmonių pasaulių sumaištį“. Būtent ši bendrovė, „Microsoft“ investuojant 1 milijardą dolerių, išleis dirbtiniu intelektu pagrįstas paslaugas GPT-3, DALL-E ir ChatGPT daugiausia dėkingam pasauliui.

 

 Ponia Olson atliko savo namų darbus apie AI technologiją, siūlydama kruopščius, bet prieinamus tokių sąvokų kaip neuroniniai tinklai, giluminio mokymosi modeliai ir difuzijos modeliai paaiškinimus. (Pastarieji yra, vaizdus kuriančių, AI, pvz., DALL-E, pagrindas.) Knyga verčia susimąstyti apie dilemą, su kuria susiduria verslininkai, norintys finansuoti brangius pažangiausius mokslinius tyrimus, kartu norinčius kontroliuoti tai, ką jie laiko etiškai nauja technologija. P. Hassabis, dirbantis „DeepMind“, ėmėsi stulbinančio susitarimo su „Google“, kuris, jo manymu, suteiks jo įmonei nepriklausomybę, įskaitant savo etikos tarybą; p. Olson teigimu, „Google“ iš esmės atsisakė savo pažadų, nors nėra jokių požymių, kad ji prašė „Google“ pakomentuoti.

 

 P. Altmanas su „Microsoft“ generaliniu direktoriumi Satya Nadella susitarė visai kitaip. Pirmajame vyrų pokalbyje kasmetinėje Saulės slėnio konferencijoje laiptinėje p. Nadella „buvo sužavėtas“, - sakė ponia Olson. Ji sako: „kaip daug Altmanas norėjo pasiekti“ su AI. Galutinis rezultatas buvo strateginė partnerystė, o ne įsigijimas, sandoris, kuris suteikė OpenAI nepriklausomybę, kurios p. Altmanas norėjo, palikdamas Microsoft net be vietos valdyboje. Mainais „Microsoft“ gavo dirbtinio intelekto technologiją, kuri galėtų atskirti jos produktus nuo konkurentų.

 

 Ponia Olson taip pat pateikia įtikinamų, nors ir tradicinių, priežasčių, kodėl „Google“ iš pradžių leido savo novatoriškai AI technologijai merdėti, o OpenAI lenktyniavo į priekį. „Google“ tyrimų padalinys, žinomas, kaip „Google Brain“, 2017 m. padarė esminį proveržį, išradęs transformatorių (GPT raidė „T“). 

 

Pagal p. Olson, „Google“ nesugebėjimą agresyviau išnaudoti savo išradimą daugiausia lėmė „sunkios biurokratijos“ ir būtinybės apsaugoti milžinišką paieškos ir reklamos verslą rezultatas.

 

 Kita priežastis, dėl kurios „OpenAI“ pasistūmėjo į priekį, nes p. Olsonas pažymi, kad atėjo vienas inžinierius, mažai žinomas už AI ribų, vardu Alecas Radfordas. Tai buvo p. Radfordas, atlikęs pagrindinį vaidmenį, pereinant nuo transformatorių prie daug pajėgesnio jų pogrupio, vadinamo generatyviniais iš anksto apmokytais transformatoriais, kuriuos būtų galima apmokyti, naudojant didelius teksto kiekius, o tada iš kelių pavyzdžių išmokyti naujų užduočių. Kai p. Radfordo pastangos buvo žadančios, OpenAI vadovybė pripažino, ką ji turi savo rankose, ir greitai pakeitė įmonės kryptį, sutelkdama dėmesį į GPT modelius ir paversdama juos tinkamais produktais.

 

 Nors p. Olson pasakoja aiškią ir gerai ištirtą istoriją, „Viršenybė“ turi keletą nereikšmingų problemų. Mažiausia iš jų yra tai, kad proza ​​dažnai linksta į pavargusius sakinius. („Silicio slėnis buvo beprotiška šalis ") Labiau pastebima, kad jos pasakojimą iškraipo tai, kad ji griežtai atmetė susirūpinimą dėl destruktyvaus AI sistemų elgesio – grėsmės, kurią įvardija daugelis artimų šiam darbui žmonių. Mizantropinio AI daroma žala, pavyzdžiui, kritinės infrastruktūros perėmimas. – yra rezultatas, kurio negalima atmesti, nes niekas iš tikrųjų nežino, kodėl dideli kalbos modeliai elgiasi, kaip samprotavimas arba kas vyksta jų viduje.

 

 Dėl p. Olson, kiekvienas, kuris reiškia susirūpinimą dėl didelio masto AI keliamų pavojų, yra kvailys („Muskas nusileido į AI pasmerkimo triušio skylę“) arba, jei ne kvailys, tai cinikas, bandantis nukreipti dėmesį nuo to, ką ji laiko tikra AI problema, būtent rasės ir lyties šališkumas. Nors šališkumas yra svarbus rūpestis, tai nėra sequitur reikalauti, kad būtų galima rinktis tarp vieno ar kito rūpesčio. ChatGPT nebūtų padaręs tokios klaidos. Ir klaida gali būti didelė. P. Altmanas tviteryje 2014 m. liepos mėn., pusantrų metų prieš OpenAI, pastebėjo: „AI bus arba geriausias, arba blogiausias dalykas.

 ---

 P. Price'as neseniai yra knygos „Genius at War: Bletchley Park, Colossus, and the Dawn of the Digital Age“ autorius." [1] 

 

1. A Competition For Tech's Future. Price, David A.  Wall Street Journal, Eastern edition; New York, N.Y.. 12 Sep 2024: A.13

A Competition For Tech's Future

"Supremacy: AI, ChatGPT, and the Race That Will Change the World

By Parmy Olson

St. Martin's, 336 pages, $30

The story of the AI industry over the past seven years or so is the story of Prometheus in California -- the story of humanity receiving the gift, or perhaps the curse, of a new kind of fire. Here the fire is a technology on the threshold of humanlike artificial general intelligence; the role of the Greek god is played by a group of mortal entrepreneurs and researchers, together with the chief executives of powerful tech companies.

In "Supremacy," Parmy Olson offers a history of how we got to this moment. Ms. Olson, a Bloomberg Opinion technology columnist, centers her tale on Sam Altman, OpenAI's co-founder and CEO, with various allies and rivals of Mr. Altman in supporting roles; among them are DeepMind co-founder Demis Hassabis and Mr. Altman's rich donor turned adversary, Elon Musk.

The essentials of Mr. Altman's story are, by now, well known. A computer-science student and poker enthusiast at Stanford University, he dropped out at 19 to start a social-networking company with the support of the Silicon Valley startup incubator Y Combinator. His startup didn't work out -- but he impressed Paul Graham, the head of Y Combinator, ultimately becoming Mr. Graham's successor in 2014. From there, he amassed wealth and contacts. All the while he maintained an interest in AI, one that he had developed at Stanford.

Messrs. Altman and Musk, both of them concerned about the risks posed by future AI technology, made a fateful decision to join forces; in late 2015, Mr. Altman would start a nonprofit, with millions in funding from Mr. Musk and others, to carry out AI research and development more responsibly than companies like Google would, and more openly.

But within a couple years, Mr. Musk split with OpenAI and Mr. Altman over the organization's direction. To raise more money, Mr. Altman devised a hybrid scheme in which the nonprofit would own a for-profit company with capped profits for its investors -- what Ms. Olson calls "a byzantine mishmash of the nonprofit and corporate worlds." It was this company that would, with a $1 billion investment from Microsoft, release the AI-driven services GPT-3, DALL-E and ChatGPT to a mostly appreciative world.

Ms. Olson has done her homework on AI technology, offering careful but accessible explanations of such concepts as neural networks, deep-learning models and diffusion models. (The last are at the heart of image-generating AIs like DALL-E.) The book is thought-provoking on the dilemma faced by entrepreneurs who want funding for expensive leading-edge research while also wanting to maintain control over what they view as ethically fraught technology. Mr. Hassabis, at DeepMind, took the approach of striking a deal with Google that he believed would allow his company independence, including its own ethics board; in Ms. Olson's telling, Google essentially reneged on its pledges, though there's no indication she asked Google for comment.

Mr. Altman worked out a quite different arrangement with Microsoft's CEO, Satya Nadella. In the men's first conversation, in a stairwell at the annual Sun Valley conference, Mr. Nadella "was struck," Ms. Olson says, "by how big Altman wanted to go" with AI. The eventual result was a strategic partnership rather than an acquisition, a deal that gave OpenAI the independence that Mr. Altman wanted, leaving Microsoft without even a board seat. In return, Microsoft got AI technology that could differentiate its products from its competitors'.

Ms. Olson also offers convincing, if conventional, reasons why Google let its own pioneering AI technology languish at first while OpenAI raced ahead. A research unit of Google known as Google Brain achieved a foundational breakthrough in 2017, with an invention known as the transformer (the "T" in "GPT"). For Ms. Olson, Google's failure to capitalize on its invention more aggressively was mainly the result of "lumbering bureaucracy" and an imperative to protect its enormous search and advertising business.

Another reason OpenAI pulled ahead, as Ms. Olson notes, came down to one engineer, little known outside AI circles, named Alec Radford. It was Mr. Radford who played the pivotal role in making the leap from transformers to a far more capable subset of them known as generative pretrained transformers, which could be trained on large bodies of text and then learn new tasks from a few examples. When Mr. Radford's efforts showed promise, OpenAI's leadership recognized what it had on its hands and quickly changed the company's direction, focusing on GPT models and turning them into usable products.

While Ms. Olson tells a clear and well-researched story, "Supremacy" has some nontrivial problems. The least among them is that the prose often tends toward the tired. ("Silicon Valley was the land of crazy thinkers.") Of greater note, her narrative is distorted by her peremptory rejection of concerns about destructive behavior by AI systems, a threat cited by many who are close to the work. Harm from misanthropic AI -- for example, takeover of critical infrastructure -- is an outcome that can't be dismissed, given that no one really knows why large language models engage in reasoning-like behaviors or what's going on inside them.

For Ms. Olson, anyone who expresses worry about large-scale dangers from AI is a crank ("Musk went down the rabbit hole of AI doom") -- or, if not a crank, then a cynic trying to divert attention from what she views as the real problem with AI, namely race and gender bias. While bias is an important concern, it's a non sequitur to insist that there's a choice between one concern and the other. ChatGPT wouldn't have made that mistake. And the mistake could be a big one. As Mr. Altman observed in a tweet in July 2014, a year and a half before OpenAI: "AI will be either the best or the worst thing ever."

---

Mr. Price is the author, most recently, of "Geniuses at War: Bletchley Park, Colossus, and the Dawn of the Digital Age."" [1]

1. A Competition For Tech's Future. Price, David A.  Wall Street Journal, Eastern edition; New York, N.Y.. 12 Sep 2024: A.13

 

Bevizio režimo į Didžiąją Britaniją pabaiga? ETA taip pat lenkams

„Kalbama apie elektroninį kelionių leidimą (ETA) – sistemą, kuri veikia nuo 2023 m., tačiau tik šešioms Persijos įlankos šalims. Dabar ji palaipsniui apims keliautojus iš kitų šalių, kuriems taikomas bevizis režimas. Nuo 2025 m. sausio 8 d. , jis bus taikomas keliautojams iš JAV ir Kanados, o nuo 2025 metų balandžio 2 dienos – europiečiams, tarp jų ir lenkams. Tikslas – stiprinti sienų saugumą ir efektyviau valdyti migracijos srautus.

 

Prašymą dėl ETA bus galima pateikti nuo 2025 m. kovo 5 d. vyriausybės svetainėje www.gov.uk/guidance/apply-for-an-electronic-travel-authorisation-eta arba per mobiliąją aplikaciją „UK ETA“ , galima rasti „App Store“ ir „Google Play Store“."

 

The end of visa-free travel to Great Britain? ETA also for Poles

 

"This is about the Electronic Travel Authorisation (ETA) - a system that has been operating since 2023 but only for six countries from the Persian Gulf. Now, it will gradually cover travellers from other countries covered by visa-free travel. From 8 January 2025, it will cover travellers from the USA and Canada, and from 2 April 2025 - Europeans, including Poles. The aim is to strengthen border security and more effectively manage migration flows.

 

An application for an ETA can be submitted from 5 March 2025 on the government portal www.gov.uk/guidance/apply-for-an-electronic-travel-authorisation-eta or via the "UK ETA" mobile application, available in the App Store and Google Play Store."