"Daugelis kompanijų teigia, kad debesys yra jų pagrindinis tikslas, kai kalbama apie mokymą ir didelių AI programų paleidimą, tačiau šiandien tik nedidelė esamos debesų infrastruktūros dalis yra sukurta tam, kad AI paremtų. Likusioji - ne.
Dabar debesų paslaugų teikėjai, įskaitant „Amazon Web Services“, „Microsoft Azure“ ir „Google Cloud“, patiria spaudimą pakeisti šį skaičiavimą, kad atitiktų didelio AI bumo skaičiavimo poreikius, o kiti aparatinės įrangos tiekėjai mato potencialias galimybes.
„Šiuo metu yra gana didelis disbalansas tarp paklausos ir pasiūlos“, – sakė Chetanas Kapooras, „Amazon Web Services“ Elastic Compute Cloud skyriaus produktų valdymo direktorius.
Dauguma generuojančiųjų AI modelių šiandien yra mokomi ir veikia debesyje. Šie modeliai, sukurti originaliam tekstui ir analizei generuoti, gali būti nuo 10 iki 100 kartų didesni už senesnius AI modelius, sakė Ziadas Asgharas, „Qualcomm Technologies“ produktų valdymo vyresnysis viceprezidentas ir pridūrė, kad naudojimo atvejų skaičius taip pat kyla, nes vartotojų skaičius taip pat sparčiai auga.
„Šiuo metu yra nepasotinama paklausa“ naudoti didelius kalbos modelius, įskaitant pramonės sektorius, tokius, kaip gamyba ir finansai, sakė Nidhi Chappell, Azure AI infrastruktūros generalinis direktorius.
Tai daro didesnį spaudimą, nei bet kada anksčiau, ribotam skaičiavimo pajėgumui, kuris priklauso nuo dar riboto skaičiaus specializuotų lustų, tokių, kaip „Nvidia“ grafiniai lustai arba GPU. Tokios įmonės, kaip „Johnson & Johnson“, „Visa“, „Chevron“ ir kitos teigė, kad tikisi naudoti debesų paslaugų teikėjus generatyviems su AI susijusiems naudojimo atvejams.
Tačiau didelė dalis infrastruktūros nebuvo sukurta tokioms didelėms ir sudėtingoms sistemoms valdyti. „Debesis“ buvo parduotas, kaip patogus vietinių serverių pakaitalas, kuris galėtų lengvai padidinti ir sumažinti pajėgumą, taikant „mokėk tiek, kiek naudoji“ kainodaros modelį. Didžiąją šiandienos debesų srauto dalį sudaro serveriai, skirti vykdyti kelis darbo krūvius tuo pačiu metu ir kurie naudoja bendrosios paskirties procesoriaus lustus.
Anot analitikų, mažuma jo veikia, naudojant dirbtiniam intelektui optimizuotus lustus, pvz., GPU ir serverius, sukurtus veikti bendradarbiavimo grupėse ir palaikyti didesnį darbo krūvį, įskaitant didelius AI modelius. GPU yra geresni dirbtiniam intelektui, nes jie vienu metu gali atlikti daug skaičiavimų, o CPU vienu metu atlieka mažiau skaičiavimų.
AWS viename klasteryje gali būti iki 20 000 GPU. Dirbtinio intelekto optimizuota infrastruktūra sudaro nedidelę bendros bendrovės debesų pėdsakų dalį, sakė Kapooras, tačiau ji auga daug greičiau. Jis sakė, kad bendrovė per ateinančius 12 mėnesių planuoja įdiegti keletą AI optimizuotų serverių grupių.
„Microsoft Azure“ ir „Google Cloud Platform“ teigė, kad jie taip pat stengiasi, kad dirbtinio intelekto infrastruktūra taptų didesne jų bendro priemonių parko dalimi. Tačiau „Microsoft“ Chappell teigė, kad tai nereiškia, kad įmonė būtinai tolsta nuo bendro serverio – bendrosios paskirties skaičiavimo, kuris vis dar yra vertingas įmonėms.
Kiti techninės įrangos tiekėjai turi galimybę žaisti čia, sakė Lee Sustar, technologijų tyrimų ir konsultavimo įmonės „Forrester“, apimančios viešąją debesų kompiuteriją, vyriausiasis analitikas.
„Dell Technologies“ tikisi, kad didelės debesų sąnaudos, susijusios su intensyviu naudojimu, įskaitant mokymo modelius, gali paskatinti kai kurias įmones apsvarstyti galimybę diegti vietoje. Kompiuterių gamintojas turi tam skirtą serverį.
„Esami ekonominiai modeliai, daugiausia viešosios debesų aplinkos, nebuvo iš tikrųjų optimizuoti tokiam poreikiui ir veiklos lygiui, kokį matysime, žmonėms pereinant prie šių dirbtinio intelekto sistemų“, – sakė „Dell“ pasaulinis technologijų vadovas Johnas Roese'as.
Patalpose įmonės galėtų sutaupyti tokių išlaidų, kaip tinklų kūrimas ir duomenų saugojimas, sakė Roese.
Debesų paslaugų teikėjai teigė, kad jie turi keletą pasiūlymų už skirtingą kainą ir kad ilgainiui vietinis diegimas gali kainuoti daugiau, nes įmonės turės daug investuoti, norėdamos atnaujinti aparatinę įrangą.
„Qualcomm“ teigė, kad kai kuriais atvejais įmonėms gali būti pigiau ir greičiau paleisti modelius atskiruose įrenginiuose, sumažinant debesies spaudimą. Šiuo metu įmonė stengiasi aprūpinti įrenginius, galinčius paleisti vis didesnius modelius.
O „Hewlett Packard Enterprise“ diegia savo viešąją debesijos paslaugą, kurią maitina superkompiuteris, kuri bus prieinama įmonėms, norinčioms mokyti generuojančius dirbtinio intelekto modelius antroje 2023 m. pusėje. Kaip ir kai kurioms naujesnėms debesų infrastruktūroms, ji turi pranašumą: yra specialiai sukurta didelio masto AI naudojimo atvejams, sakė Justinas Hotardas, vykdomasis viceprezidentas ir High Performance Computing, AI & Labs generalinis direktorius." [1]
1. Artificial Intelligence: The Cloud May Not Be Ready for the Boom in AI. Bousquette, Isabelle.
Wall Street Journal, Eastern edition; New York, N.Y. [New York, N.Y]. 11 July 2023: B.4.
Komentarų nėra:
Rašyti komentarą