Sekėjai

Ieškoti šiame dienoraštyje

2025 m. sausio 30 d., ketvirtadienis

„Skaičiavimo“ galios rinka


 

 „Kai kurie investuotojai lažinasi, kad 21-ojo amžiaus dirbtinio intelekto revoliucija sukurs didžiulę, aktyviai prekiaujančią skaičiavimo galios rinka, lygiai taip pat, kaip pasaulinė energijos paklausa paskatino žalios naftos rinkos atsiradimą praėjusiame amžiuje.

 

 „Compute Exchange“, startuolis, kuris paskelbė apie savo veiklą trečiadienį, planuoja rengti aukcionus, kuriuose duomenų centrų operatoriai ir debesijos paslaugų teikėjai gali parduoti savo skaičiavimo pajėgumus – arba „skaičiuoti“ technologijų pramonės žargonu. Pirkėjai, pavyzdžiui, dirbtinio intelekto įmonės, gali naudoti aukcionus, norėdami nusipirkti lustų masyvų, tokių, kaip „Nvidia“ H100 ir H200, apdorojimo laiko dalis.

 

 Prekybos platformos įkūrėjas ir žinomiausias investuotojas yra Donaldas Wilsonas Jr., aukšto dažnio prekybos įmonės DRW Holdings įkūrėjas ir veteranas Čikagos prekybininkas.

 

 „Per ateinančius 10 metų bendras skaičiavimams išleistas doleris viršys bendrą naftai išleistą dolerį“, – prognozavo Wilsonas. „Akivaizdu, kad nafta šiuo metu yra didžiausia prekė, todėl manau, kad ji bus išstumta skaičiuojant.”

 

 „Compute Exchange“ planuoja pirmąjį viešą aukcioną surengti vasario 25 d., praėjusių metų pabaigoje, tyliai surengus du bandomuosius aukcionus. Pasak Kalifornijoje įsikūrusio startuolio Palo Alto, dalyvaus apie tuziną pardavėjų.

 

 Debiutas įvyko iškart po to, kai technologijų pramonę sujaudino Kinijos „DeepSeek“. Kinijos startuolis sukėlė didžiulį su dirbtiniu intelektu susijusių akcijų išpardavimą, kai pristatė sudėtingą modelį, kuris buvo paruoštas, naudojant mažiau pažangių lustų, nei Silicio slėnio konkurentai ir už nedidelę kainą.

 

 Yra kliūčių, trukdančių atsirasti prekiaujančiai skaičiavimo galios rinkai. Vienas iš iššūkių yra tas, kad didžiausi kompiuterių pardavėjai – hiperskaleriai, tokie, kaip „Amazon Web Services“, „Google Cloud“ ir „Microsoft Azure“ – iki šiol atsiribojo nuo paleidžiamųjų prekybos platformų, tokių, kaip „Compute Exchange“, ir pirmenybę teikia dideliems sandoriams. Panašiai didžiuliai pirkėjai, tokie, kaip „OpenAI“, yra linkę užsitikrinti didelius skaičiavimo pajėgumus, o ne pirkti nedideles porcijas neatidėliotinų prekių rinkoje.

 

 Skeptikai taip pat abejoja, ar skaičiavimo galia tikrai gali būti laikoma preke. Compute yra įvairių pagrindinių lustų ir konfigūracijų, be bendrai sutarto standarto. Paprastai dirbtinio intelekto įmonės negali tiesiog pereiti nuo vieno tiekėjo prie kito, kad gautų mažesnę kainą, nebent jos nori taikstytis su techniniais galvos skausmais.

 

 „Skaičiavimas nebūtinai yra pakeičiamas išteklius“, – sakė Meltemas Demirorsas, ankstyvosios stadijos investicinio fondo „Crucible Capital“ įkūrėjas. "Apskaičiavimo valanda vienoje įstaigoje su vieno tipo lustu nėra lygi skaičiavimo valandai kitoje įstaigoje su kito tipo lustu."

 

 Be Compute Exchange, Wilson investavo į Silicon Data – startuolį, kuris tiria skaičiavimo galios rinką. „Silicon Data“ siekia paskelbti indeksus, kurie galėtų tapti ateities sandorių, susietų su skaičiavimo kaina, pagrindu. Teoriškai duomenų centrų operatoriai galėtų naudoti tokius ateities sandorius, kad apsidraustų nuo kainų kritimo rizikos, lygiai taip pat, kaip energetikos įmonės prekiauja ateities sandoriais, kad apsisaugotų nuo galimo žlugimo naftos rinkoje.

 

 Kiti taip pat siekė sukurti organizuotas skaičiavimo galios rinkas. Bene geriausiai žinoma yra San Francisco Compute Company arba trumpiau SF Compute. Įmonė, įkurta 2023 m., teigia, kad per pastaruosius metus pardavė daugiau nei 50 mln. dolerių skaičiavimo sutarčių. Jos investuotojai yra Jacko Altmano, OpenAI generalinio direktoriaus Samo Altmano brolio, rizikos kapitalo įmonė.

 

 „SF Compute“ įkūrėjai iš pradžių siekė parengti AI garso paleidimo modelį, kai sužinojo, kad sunku priversti debesų paslaugų teikėjus parduoti jiems reikalingus skaičiavimo pajėgumus.

 

 „Jie negalėjo jums parduoti valandos ar net savaitės vienu metu“, – sakė Evanas Conradas, vienas iš „SF Compute“ įkūrėjų. – Reikėjo pirkti metams ar ilgiau.

 

 „SF Compute“ įkūrėjai nusprendė sukurti skaičiavimo galios rinką. Skirtingai nuo „Compute Exchange“, „SF Compute“ nevykdo pertraukiamų aukcionų. Vietoj to, ji valdo nuolatinę rinką, kurioje dirbtinio intelekto įmonės gali nusipirkti skaičiavimo galią tiek, kiek joms reikia, net vieną valandą." [1]

 

1. Startup Envisions Market for 'Compute' Power. Osipovich, Alexander.  Wall Street Journal, Eastern edition; New York, N.Y.. 30 Jan 2025: B4.

Market for 'Compute' Power

 


"Some investors are betting that the artificial-intelligence revolution of the 21st century will give rise to a huge, actively traded market for computing power, the same way that global energy demand led to the emergence of the crude-oil market last century.

Compute Exchange, a startup that announced its launch on Wednesday, plans to conduct auctions where data-center operators and cloud providers can sell their computing capacity -- or "compute" in tech-industry jargon. Buyers such as AI companies can use the auctions to buy chunks of processing time for arrays of chips, such as Nvidia's H100 and H200 systems.

The trading platform's co-founder and best-known investor is Donald Wilson Jr., founder of high-frequency trading firm DRW Holdings and a veteran Chicago trader.

"The total dollars spent on compute will, over the next 10 years, exceed total dollars spent on oil," Wilson predicted. "Obviously, oil is the largest commodity right now, so I believe it will be displaced by compute."

Compute Exchange plans to hold its first public auction Feb. 25, after quietly holding two test auctions late last year. About a dozen sellers are expected to take part, according to the Palo Alto, Calif.-based startup.

The debut comes just after the tech industry was roiled by China's DeepSeek. The Chinese startup triggered a huge selloff in AI-linked stocks when it unveiled a sophisticated model that it trained using fewer, less-advanced chips than its Silicon Valley rivals and at a fraction of the cost.

There are obstacles to the emergence of a traded market for computing power. One challenge is that the largest sellers of compute -- the hyperscalers such as Amazon Web Services, Google Cloud and Microsoft Azure -- have so far stayed away from startup trading platforms such as Compute Exchange, preferring to sign big-ticket deals. Similarly, huge buyers such as OpenAI tend to secure massive amounts of computing capacity, rather than buying small portions on the spot market.

Skeptics also question whether computing power can truly be considered a commodity. Compute comes in a diverse array of underlying chips and configurations, without a commonly agreed upon standard. Typically, AI companies can't just switch from one provider to another to get a lower price, unless they are willing to put up with technical headaches.

"Compute isn't necessarily a fungible resource," said Meltem Demirors, founder of early-stage investment fund Crucible Capital. "A compute-hour in one facility with one type of chip is not equal to a compute-hour in another facility with another type of chip."

Besides Compute Exchange, Wilson has invested in Silicon Data, a startup that researches the market for computing power. Silicon Data aims to publish indexes that could become the basis for futures contracts tied to the price of compute. In theory, data-center operators could use such futures to hedge against the risk of a drop in prices, the same way energy companies trade futures to protect against a potential crash in the oil market.

Others also have sought to develop organized markets for computing power. Perhaps the best known is the San Francisco Compute Company, or SF Compute for short. Founded in 2023, the company says it has sold more than $50 million of compute contracts over the past year. Its investors include the venture-capital firm of Jack Altman, brother of OpenAI CEO Sam Altman.

The founders of SF Compute were initially seeking to train a model for an AI audio startup when they discovered it was difficult to get cloud providers to sell them computing capacity in the quantities they needed.

"They couldn't sell you an hour at a time, or even a week at a time," said Evan Conrad, a co-founder of SF Compute. "You had to buy for a year or longer."

SF Compute's founders pivoted to creating a marketplace for computing power. Unlike Compute Exchange, SF Compute doesn't run intermittent auctions. Instead, it runs a continuous market where AI companies can buy computing power as they need it, for times as short as one hour." [1]

1. Startup Envisions Market for 'Compute' Power. Osipovich, Alexander.  Wall Street Journal, Eastern edition; New York, N.Y.. 30 Jan 2025: B4.

„DeepSeek“ dirbtinis intelektas yra konkurencija, kurios reikia Amerikai


 

 „DeepSeek, Kinijos varžovės Amerikos galiotams, turinčios radikaliai ekonomiškesnį dirbtinį intelektą, sėkmė atskleidžia JAV sankcijų politikos beprasmiškumą.

 

 Bideno administracijos laikais Amerikos vyriausybę paėmė į nelaisvę kai kurie labiausiai pasaulyje agresyviai nusiteikę nacionalinio saugumo socialistai, o Kinijos privatus sektorius, vadovaujamas Xi Jinpingo, vadovauja kai kuriems iš vikriausių pasaulio kapitalistų.

 

 Verslininkas, nulėmęs akivaizdų „DeepSeek“ proveržį, yra Liang Wenfeng, kuris 2015 m. įkūrė „High-Flyer“ rizikos draudimo fondą. Nuo „DeepSeek“ įkūrimo mažiau, nei prieš dvejus, metus įmonė negavo jokio papildomo finansavimo iš išorės.

 

 Kinijoje yra maždaug devynis kartus daugiau inžinierių, nei JAV ir, galbūt, 15 kartų daugiau mokslo ir technologijų absolventų.

 

 Tai reiškia, kad ponas Liangas turėjo daug techninių talentų, kuriuos paskatino iššūkis atlikti dirbtinį intelektą, nepažeidžiant JAV apribojimų, susijusių su jų Nvidia grafikos apdorojimo blokų atminties pralaidumu. Šiuos lustus, kaip ir pirmaujančius GPU JAV AI duomenų centruose, beveik visus gamina Taiwan Semiconductor Manufacturing Co.

 

 „Padaryk daugiau su mažiau“ – tai Kinijos verslininkų atsakymas į Amerikos „Žvaigždžių vartų“ programos socializmą, sutelkiantį pusę trilijono dolerių, kad padarytų daugiau su daugiau, kaip paprastai stengiasi padaryti vyriausybės ir politikai.

 

 Diskredituodami JAV sankcijas ir subsidijas, Kinijos kapitalistai vėl atlieka paslaugą JAV kapitalizmui.

 

 Amerikos verslininkai yra suvargę dėl 6 trilijonų dolerių globalių klimato kaitos mandatų ir subsidijų pasenusioms technologijoms, tokioms, kaip vėjo malūnai ir saulės baterijos, kurias nurodo nulinės sumos ekologiški nauji pardavėjai.

 

 JAV išsklaido naudą, kurią pastaraisiais dešimtmečiais mūsų ekonomikai suteikė Kinijos gamybos vunderkindai iš Foxconn Šendžene ir kiti Kinijos gamintojai. Kinijos gamyklos buvo labai svarbios, kad Amerikos įmonės galėtų valdyti net 70 % pasaulinės akcijų rinkos kapitalizacijos, o Kinijoje – geriausiu atveju - 10 %.

 

 „DeepSeek“, efektyviau naudojant mikroschemas, yra panašiai palanki JAV ekonomikai. Kaip savo naujienlaiškyje rašė mano lustų guru kolega Johnas Schroeteris (ir Nvidia Jensenas Huangas, ir Satya Nadella iš Microsoft), puslaidininkiai yra Jevonso paradokso pavyzdys. 19-ojo amžiaus britų ekonomistas Williamas Stanley Jevonsas išsiaiškino, kad kai ištekliai tampa veiksmingesni, mes naudojame daugiau jų, dažnai tiek daugiau, kad bendrosios išlaidos ištekliui didėja. Kai žmonės apšvietimui naudojo tik ugnį, pasaulis buvo labai tamsi vieta. Nobelio premijos laureatas Williamas Nordhausas atkreipė dėmesį į tai, kad mums pereinant nuo žvakių prie aliejinių lempų iki kaitrinių lempų, o dabar – šviesos diodų, apšvietimo kaina sumažėjo 99,97 %, tačiau perkame daugiau, nei bet kada anksčiau.

 

 Dar spartesniu tempu perkamų tranzistorių skaičius per 70 metų išaugo keliais milijonais procentų. Tuo pačiu metu metinės pasaulinės išlaidos puslaidininkiams išaugo nuo mažiau, nei kelių šimtų milijonų dolerių, iki beveik 700 milijardų dolerių. Kuo labiau kompiuterija atpigo, tuo daugiau jos buvo reikalaujama.

 

 Šiandien pagrindinis technologijų proveržis yra ne koks nors išradingas dirbtinio intelekto programinės įrangos troškimas, o eros atsiradimas, visiškai ne tik mikroschemose. Tai vadinama plokštelių masto integracija, todėl išvengiama įprasto duomenų centro lustų ir "lustų" plastikinėse pakuotėse, paremtos vielos raizginiais ir kompiuterių serverių lentynomis. Vietoj to, naujasis režimas pašalina lustus ir integruoja viso duomenų centro esmę į vieną 12 colių plokštelę. Plokštelė yra silicio gabalėlis, naudojamas, kaip puslaidininkių litografijos taikinys, paprastai užrašantis tūkstančių atskirų lustų dizainą. Plokščių skalėje, priešingai, tai tik viena vientisa sistema.

 

 Šio proveržio pionieriai yra JAV bendrovės, tokios kaip Cerebras ir Tesla. Cerebras, dirbtinio intelekto kompiuterių novatorius, neskaitant lustų, pademonstravo plokštelių mastelio skaičiavimą maždaug keturiuose trilijonuose tarpusavyje sujungtų tranzistorių. G42, technologijų įmonės Jungtiniuose Arabų Emyratuose, finansavimu, Cerebras planavo pirminį viešą akcijų siūlymą, kol JAV vyriausybė pasipriešino dėl galimų Kinijos ir JAE ryšių.

 

 Pažangiausias plokštelių masto projektas yra Tesla Dojo sistema, skirta AI mokymui. Jis pagrįstas didžiuliu vaizdo duomenų kaupimu iš „Tesla“ automobilių kamerų. Ši sistema pagrįsta ne lustais ar interneto duomenimis, o tikrais jutimo įvestimis ir „mokymo plytelėmis“, kurios yra tarpusavyje sujungtos ištisomis plokštelėmis. Kadangi dideli kalbų modeliai, tokie, kaip „DeepSeek“ ir „ChatGPT“, naudoja nepatikimus interneto duomenis, realiame pasaulyje jie iš prigimties yra mažiau protingi, nei „Tesla“ „Dojo“ plytelių pikselių procesoriai.

 

 Bendradarbiaudami su Taiwan Semiconductor Manufacturing Co., siekdami nuversti esamą duomenų centrų erą, šios įmonės žada milijonus kartų didesnę duomenų apdorojimo ekonomiją, ne tai, ką svarsto „DeepSeek“ ar kitos AI įmonės.

 

 Kaip nurodyta 2024 m. sausio mėn. žurnale „Nature“, „Georgia Tech“ komanda, vadovaujama olando Walterio de Heero, pasiekė tolesnį plokštelės masto proveržį, naudodama grafeno sluoksnį ant silicio karbido plokštelės. Kadangi grafenas, dvimatis anglies lakštas, persijungia 1000 kartų greičiau, nei silicis, pono de Heero technologija, maždaug 20 metų tyrimų vaisius, numato naują informacinių technologijų medžiagų mokslo epochą.

 

 Pagrindinė tokių įmonių sėkmės kliūtis yra JAV nacionalinio saugumo aparatas, kuris kažkaip įsivaizduoja, kad įvesdamas sankcijas Kinijai gali padėti amerikiečiams. Be didžiulių iššūkių, susijusių su esamos puslaidininkių gamybos paradigmos pakeitimu, pagrindinė J. de Heero kliūtis yra ankstesni ryšiai su Tiandzino universitetu Kinijoje ir jo studentais iš Kinijos Georgia Tech. Kongreso komitetas dėl Kinijos tiria jį dėl tariamų ryšių tarp jo tyrimų ir Kinijos kariuomenės. P. de Heeras sakė, kad keli jo studentai grįžta į Kiniją ir surinko apie 350 mln. dolerių investicijų į plokštelės masto projektą.

 

 Technologijos yra pagrindinis žmonijos pažangos nuotykis ir iš esmės pasaulinis. Pagrindinis Trumpo administracijos išbandymas bus, ar ji sugebės susitaikyti su šiuo gyvenimo faktu ir verslu.

--

 G. Gilderis yra knygų „Žaidimų dirbtinis intelektas: kodėl AI negali mąstyti, bet gali transformuoti darbus“ ir „Gyvenimas po kapitalizmo: ekonomikos informacinė teorija“ autorius.” [1]

1. DeepSeek AI Is the Competition America Needs. Gilder, George.  Wall Street Journal, Eastern edition; New York, N.Y.. 30 Jan 2025: A17.