Sekėjai

Ieškoti šiame dienoraštyje

2025 m. liepos 1 d., antradienis

Kaip šiomis dienomis veikia dirbtinis intelektas: kaip sekti dirbtinio intelekto nepasotinamą energijos poreikį --- Mūsų apžvalgininkas bando sekti jūsų dirbtinio intelekto užduoties kelionę nuo nešiojamojo kompiuterio iki GPU klasterio ir įvertinti jos poveikį.

 

„Štai jos. Auksinės dėžės, garsesnės, nei mažylis per raudoną akį, karštesnės, nei laužas karščio bangoje, brangesnės, nei privati ​​Karibų jūros sala.

 

Taip, tikri, veikiantys „Nvidia“ GPU.

 

Man buvo griežtai įsakyta „žiūrėti, neliesti“ – tarsi laižyčiau metalinį tinklelio korpusą. Tiesiog stovėdama ten girdėjau ir jaučiau, kaip eikvojama elektra.

 

Visi esame girdėję apie nepasotinamą dirbtinio intelekto energijos poreikį. Remiantis Energetikos departamento ir Lawrence'o Berkeley nacionalinės laboratorijos ataskaita, iki 2028 m. tokie duomenų centrai, kaip šis, kurį aplankiau Ašberne, Virdžinijoje, galėtų suvartoti iki 12 % visos JAV elektros energijos.

 

Ir taip, problema esame mes, tai mes. Kiekvieną kartą, kai prašome dirbtinio intelekto parašyti el. laišką, nupiešti anime stiliaus George'ą Washingtoną ar sukurti vaizdo įrašą, kuriame katė atlieka salto atgal, sukeliame dar vieną riaumojimą tose didžiulėse GPU salėse.

 

Norėjau sužinoti, kiek energijos iš tikrųjų sunaudoja mano dirbtinio intelekto užduotys? Ar tai atitinka telefono įkrovimą? Nešiojamą kompiuterį? Kepant kepsnį ant elektrinės grotelės? Maitinant mano namus?

 

Atlikus tyrimą, apsilankius duomenų centre, užklausius beveik visas didžiausias dirbtinio intelekto įmones ir, taip, užkūrus tą grotelę, gavau keletą atsakymų. Bet nepakankamai. Technologijų įmonės turi mums papasakoti daugiau apie energiją, kurią jos naudoja mūsų labui.

 

Procesas

 

Pradėkime nuo neseniai pateikto, populiaraus pavyzdžio: „vaizdo įrašas, kuriame katė šoka nuo olimpinės tramplino lentos“. Vos paspaudus „Enter“, ši užklausa nukreipiama į didžiulį duomenų centrą.

 

Gavęs užklausą, pradedama išvadų generavimo funkcija, kur iš anksto apmokyti dirbtinio intelekto modeliai interpretuoja ir atsako į jūsų užklausą. Daugeliu atvejų daugybė galingų „Nvidia“ grafikos procesorių pradeda dirbti, paversdami jūsų keistą idėją dar keistesne realybe. Išvadoms taip pat pradedami naudoti konkuruojančių įmonių, tokių, kaip „Amazon“, „Google“ ar „Groq“, lustai. Pats modelio mokymas nutinka anksčiau, naudojant „Nvidia“ lustus.

 

Įrenginys, kuriame mačiau tą „SuperPod“ iš „Nvidia H100“ GPU, buvo valdomas „Equinix“, vieno didžiausių pasaulyje duomenų centrų, teikiančių debesijos infrastruktūrą – o dabar ir dirbtinį intelektą, operatorių.

 

Chrisas Kimmas, „Equinix“ klientų sėkmės vyresnysis viceprezidentas, teigė, kad nors dirbtinio intelekto mokymai gali vykti beveik bet kur, išvadas geriausia daryti geografiškai arčiau vartotojų, kad būtų užtikrintas geriausias greitis ir efektyvumas.

 

Energijos sąnaudos

 

Būtų daug lengviau apskaičiuoti, kiek energijos sunaudoja jūsų individualūs dirbtinio intelekto raginimai, jei pagrindinės dirbtinio intelekto bendrovės iš tikrųjų pasidalytų šia prakeikta informacija. „Google“, „Microsoft“ ir „Meta“ atsisakė. „Google“ ir „Meta“ nukreipė mane į savo tvarumo ataskaitas.

 

„OpenAI“ pasidalijo kažkuo. Generalinis direktorius Samas Altmanas teigė, kad vidutinė „ChatGPT“ užklausa sunaudoja apie 0,34 vatvalandės energijos. „OpenAI“ neatskleidė informacijos apie teksto, vaizdų ar vaizdo įrašų energijos suvartojimą.

 

Tyrėjai įsikišo, kad užpildytų šią spragą. Sasha Luccioni, atvirojo kodo dirbtinio intelekto platformos „Hugging Face“ dirbtinio intelekto ir klimato vadovė, atliko bandymus, kad įvertintų reikalingą energiją, kad kurti skirtingų tipų turinį. Ji taip pat tvarko dirbtinio intelekto energijos balų lyderių lentelę. Kadangi geriausi dirbtinio intelekto kūrėjai naudoja savo patentuotus modelius, ji remiasi atvirojo kodo alternatyvomis.

 

Turiniui generuoti reikalinga energija labai skiriasi priklausomai nuo modelio ir GPU sąrankos. Palyginkite Luccioni išvadas su tipiško išmaniojo telefono įkrovimu, kuris sunaudoja apie 10 vatvalandžių energijos:

 

-- Tekstas: Lengvas, vieno GPU „Llama“ modelis iš „Meta“ sunaudojo apie 0,17 vatvalandžių, o didesnis „Llama“ modelis, veikiantis keliuose GPU, sunaudojo 1,7 vatvalandžių.

 

-- Vaizdai: Vieno 1024 x 1024 vaizdo generavimas su vienu GPU taip pat sunaudojo 1,7 vatvalandžių.

 

-- Vaizdo įrašas: Tai yra intensyviausias procesas. Net kuriant 6 sekundžių trukmės standartinės raiškos vaizdo įrašus, sunaudota nuo 20 iki 110 vatvalandžių.

 

Norėjau geriau suprasti, kiek daug energijos reikia – tiesiogine prasme. Taigi, pasiėmiau elektrinę kepsninę iš „Home Depot“, energijos matuoklį ir savo vaizdo įrašų prodiuserį Davidą. Salė. Maždaug po 10 minučių ir 220 vatvalandžių turėjome ploną, vidutinio dydžio kepsnį.

 

 

Išvertus: Energijos, kurios prireikė tinkamai vakarienei paruošti, buvo maždaug tiek pat, kiek sugeneruoti du dirbtinio intelekto vaizdo įrašus, tik aukščiausiu galingumu.

 

 

Ar prisimenate trumpą dirbtinio intelekto filmą, kurį prieš kelias savaites sukūriau, naudodama „Google Veo“ ir „Runway“? Savo filmui sugeneravome apie tūkstantį 8 sekundžių trukmės, 720p raiškos klipų. Remiantis šiais skaičiavimais, galėjome sunaudoti maždaug 110 000 vatvalandžių. Tai beveik 500 kepsnių!

 

 

Tačiau, kaip minėjau, Luccioni neturi komercinių dirbtinio intelekto įrankių energijos suvartojimo duomenų, o jos skaičiai nėra visiškai vienodi: viena vertus, mūsų vaizdo įrašas buvo aukštesnės kokybės, nei 6 sekundžių trukmės, 480p raiškos klipai Luccioni tyrime. Kita vertus, ekspertai teigia, kad populiarūs vaizdo įrašų modeliai, greičiausiai, yra optimizuoti didesniam efektyvumui.

 

 

„Kol neturėsime prieigos prie šių modelių“, – sakė Luccioni, – „viskas, ką galime padaryti, tai apytikslis įvertinimas.“

 

Jos bandymuose taip pat naudojami naujausios kartos „Nvidia“ „Hopper“ lustai. Pasak bendrovės tvarumo vadovo Josho Parkerio, naujausi „Blackwell Ultra“ lustai lėmė energijos vartojimo efektyvumo šuolį. „Mes sunaudojame 1/30 mažiau energijos tiems patiems išvadų apdorojimo krūviams, nei vos prieš metus“, – sakė Parkeris.

 

Nepaisant to, daugelis vis dar naudoja tuos senesnius lustus. Tas modulis, kurį mačiau „Equinix“ gamykloje? Vien „Nvidia“ aparatinė įranga kainavo daugiau, nei 9 mln. dolerių. Juk neišmesite jo į šiukšliadėžę, kai pasirodys nauji.

 

Ir čia aptariau tik elektrą. Šiems įkaitusiems GPU taip pat reikia daug vandens, kad išliktų vėsūs, bet tai jau visai kita istorija.

 

Poveikis

 

Duomenų centrų teikėjai ir technologijų įmonės, su kuriomis kalbėjau, sakė tą patį: šių GPU užpildytų pastatų paklausa nuolat didėja. Važiuodama pro Ašburną mačiau penkis didžiulius duomenų centrus, kylančius.

 

Bendrovės taip pat pabrėžė didėjantį modelių ir lustų efektyvumą bei savo pastangas pereiti prie švaresnių, labiau atsinaujinančių energijos šaltinių.

 

Nesvarbu, kokie efektyvūs dalykai tampa, vis daugiau mūsų naudoja dirbtinį intelektą. Visi galėtume nusipirkti efektyvesnius oro kondicionierius, bet jei planeta ir toliau kais, mes vis labiau suksime oro kondicionierius – ir sudeginsime daugiau energijos.

 

Luccioni tikisi, kad bent jau atsižvelgsime į energijos suvartojimą, kai naudosime šiuos įrankius, galbūt, du kartus pagalvosime prieš sukurdami keliolika kačių vaizdo įrašų. Ir įmonės turi pradėti dalytis tikrais skaičiais, kad galėtume priimti pagrįstus sprendimus.

 

Grįžtant prie Virdžinijos ir tų rėkiančių GPU. Pasirodo, jie nekūrė olimpinių kačių vaizdo įrašų. Jie priklausė „Bristol Myers Squibb“ – ir jie ieškojo naujų ligų gydymo būdų.

 

Ne visi dirbtinio intelekto raginimai yra tai, ką pavadintumėte energijos švaistymu.“ [1]

 

Kad pagamintų robotus, kurie valdytų pasaulio (Kinijos) gamyklą, kinams reikės rusų pagalbos su energija, švaria – iš didžiulių Rusijos atvirų erdvių ar ne tokia švaria – iš požeminių šaltinių tose erdvėse. Amerikiečiai turi savo atviras erdves ir kitus energijos šaltinius. Ką darys Vakarų europiečiai? Vėl imsitės ožkų? Jų energija, švari ar ne tokia švari, yra per brangi, kad galėtų konkuruoti pasaulinėje rinkoje.

 

Supratimas apie Kinijos ir Rusijos energetikos bendradarbiavimą gamyklų automatizavimo srityje yra gerai pagrįstas. Kinija savo pramonės bazei aprūpinti ir gamybai automatizuoti naudoja įvairius energijos šaltinius, įskaitant branduolinį bendradarbiavimą su Rusija.

 

Kalbant apie Vakarų Europos šalis, jos aktyviai dalyvauja reikšmingame perėjime prie švarios ir atsinaujinančios energijos, kurį skatina tokia politika, kaip Europos žaliasis kursas. Jų strategijos energijos poreikiams tenkinti apima:

 

Atsinaujinančiųjų energijos šaltinių didinimas: ES agresyviai didina atsinaujinančiųjų energijos šaltinių naudojimą, siekdama ambicingų tikslų iki 2030 m. pasiekti 42,5 % atsinaujinančiųjų energijos šaltinių dalį energijos suvartojime ir siekdama 45 %. Tai apima dideles investicijas į saulės ir vėjo energiją. Pavyzdžiui, daugiau, nei 50 %, Europos energijos dabar gaunama iš atsinaujinančių išteklių.

 

Dujų šaltinių įvairinimas: Reaguodama į Rusijos dujų tiekimo sutrikimus dėl ES “politikos”, Europa padidino suskystintų gamtinių dujų (SGD) importą, daugiausia iš Jungtinių Valstijų ir Norvegijos, ir investavo į infrastruktūrą, pavyzdžiui, SGD terminalus.

 

Investicijos į energijos vartojimo efektyvumą ir inovacijas: Energetikos krizė paskatino investicijas į energijos gamybos ir energijos taupymo projektus, o įmonės siekia sumažinti savo priklausomybę nuo tradicinių energijos šaltinių. Politikos iniciatyvomis taip pat siekiama sudaryti sąlygas investicijoms į švarią energiją. Žaliosios energijos šaltiniai yra nepastovūs, todėl jų naudojimas yra toks brangus.

 

Iššūkių sprendimas: Vakarų Europa susiduria su tokiais iššūkiais, kaip politiniai nesutarimai dėl perėjimo tempo, nuolatinė priklausomybė nuo anglies kai kuriose srityse ir iššūkiai, susiję su pertraukiamų atsinaujinančių energijos šaltinių integravimu į tinklą. Pagrindinis iššūkis yra šios energijos kaina, dėl kurios nenormalaus dydžio vyksta Vakarų Europos deindustrializacija (uždaromos gamyklos).

 

Apibendrinant galima teigti, kad net ir tada, kai Vakarų Europos šalys deda viltis į perėjimą prie žaliosios energijos, o ne grįžimą prie ožkų, joms neįmanoma užsitikrinti savo energetikos ateities ir išlaikyti konkurencingumą besikeičiančios pasaulinės energetikos dinamikos akivaizdoje.

 

1. Tracing AI's Insatiable Appetite for Energy --- Our columnist attempts to track your AI prompt's journey from laptop to a GPU cluster -- and access its impact. Stern, Joanna.  Wall Street Journal, Eastern edition; New York, N.Y.. 01 July 2025: A10. 

Komentarų nėra: