Life on the Edge: A Guide to Computing's Newest Frontier

 

"Artificial-intelligence companies are at the leading edge of saying "edge" in their earnings calls. "We see AI at the edge as a large growth opportunity," said chip maker Advanced Micro Devices recently. Western Digital, which makes memory, said that AI will drive demand for "flash at the edge."

Qualcomm led the industry with five "edge" mentions in its latest earnings call. And Procter & Gamble back in January touted Charmin Ultra Soft with "scalloped-edge perforations." That last one might not be a computing reference, but PG said its plush new rolls were delivering improved "end-use experience," which is just how a technologist would describe the matter.

I had some investment questions about the edge. Where is it? What happens there? Is it a falling hazard? And if the edge is so buzzy, is it bearish for the middle?

Amazon.com's Amazon Web Services, which should know a thing or two about edge computing, defines it as "the process of bringing information storage and computing abilities closer to the devices that produce that information and the users who consume it."

That makes it sound like the early 1990s. Back then, personal computers went obsolete faster than you could rewind a VHS tape while chugging a Crystal Pepsi. Processing oomph primarily lived on user machines-the "edge"-and each new version of the Microsoft Windows operating system required a lot more of it. Good times for CompUSA.

The internet and the rise of cloud computing shifted processing power to remote servers. PC and smartphone replacement cycles lengthened. Last year PC sales fell 14.8%, the second consecutive double-digit decline.

But there are early signs of a bounce. Canalys, a data firm, says that first-quarter PC shipments grew 3.2%, including a 4.2% increase for notebooks. It reckons that AI is behind the rebound. Companies are buying new machines before upgrading to Windows 11 and its centralized AI assistant, called Copilot, which runs in the cloud but is expected to run locally in the future. PC and chip makers are adding dedicated AI accelerators, including so-called neural processing units.

There are three reasons that the edge is due for a computing upgrade, says Daniel Pilling, a semiconductor analyst at Sands Capital. One is what's known as latency. If Siri wants our relationship to thrive, she's going to have to stop giving me the cold artificial shoulder when we drive through woodsy areas. More local processing, or "inferencing" as the AI folks say, can help. A second reason is a hidden cost benefit for companies. "If you're Microsoft and you sell us a Copilot, it's much better for the consumer to pay for the inference, right?" says Pilling.

A third reason for edge excitement is privacy, which is closely related to memory. "If you go on ChatGPT, it doesn't really know who you are when you come back," says Pilling. "In the future, we will probably want to have our own models that know us. And then maybe that model just resides on your phone for privacy reasons."

If you're thinking that this sounds like good news for Apple, you're not alone. "Are you a believer in the edge thesis that AI and processing on smartphones and devices like yours is going to have a huge role in AI?" an analyst asked CEO Tim Cook earlier this year. Cook said that AI was a "huge opportunity" but that he didn't want to give more details or get "out in front of myself."

This past week, Apple introduced an iPad Pro powered by a new inhouse processor called M4. It includes a neural processing unit that can handle 38 trillion operations per second, or TOPS. BofA Securities calls TOPS an imperfect but simple measure that Apple and rivals will likely use to tout performance.

Microsoft, which will host a Windows AI event on May 20, is expected to set a minimum requirement for AI PCs of 40 TOPS, which today's machines fall short of but new ones could meet by year's end. BofA sees this as good news for Buy-rated AMD, Arm Holdings, Nvidia, and Micron Technology, and Neutralrated Intel.

Meanwhile, Apple next month could host the "biggest unveil event for Cook and Cupertino in roughly a decade," wrote Wedbush Securities this past week. That's a reference to the company's yearly Worldwide Developers Conference, which typically focuses on software. This year, the company could give details on its AI strategy, including perhaps an AI App Store, which Wedbush predicts will lay the foundation for an iPhone sales "supercycle" this fall.

Don't let all this edge emphasis make the middle seem mundane, however. Pilling at Sands Capital sees an "avalanche of demand" coming there. Think of the primitive offerings when Apple first opened its App Store in 2011. "You had ringtones, right? Because the hardware wasn't good enough," he says. As phones improved, sophisticated new apps arrived by the millions.

With AI today, the public is focused on early applications like ChatGPT 4, but as chips get better, AI algorithms will improve exponentially, and machines talking to each other will discover new uses, says Pilling. "And with that use case explosion, you need way more chips."

Among Pilling's favorite stocks is Nvidia, which he says has the industry's top mathematicians and scientists, and a lead in the software behind its chips.

He also likes equipment maker ASML Holding for a process called lithography, and Lam Research for ones called etch and deposition.

 Another pick: Taiwan Semiconductor Manufacturing for fabrication. I asked about the China risk there. "If China were to control Taiwan tomorrow, then the ASMLs of the world would stop delivering spare parts, which would mean that all of the Taiwanese equipment would stop working within two or three weeks," Pilling says." [1]

1.Life on the Edge: A Guide to Computing's Newest Frontier. Hough, Jack. Barron's; New York, N.Y. Vol. 104, Iss. 20,  (May 13, 2024): 9.

 

 

Kokį poveikį turi mūsų duomenims dirbtinio intelekto telefonų ir kompiuterių pasirodymas rinkoje

" „Apple“, „Microsoft“ ir „Google“ turi daugiau prieigos prie mūsų duomenų, nes jos reklamuoja naujus telefonus ir asmeninius kompiuterius, kuriuose veikia dirbtinis intelektas (A.I.). Ar turėtume jais pasitikėti?

 

 „Apple“, „Microsoft“ ir „Google“ skelbia naują erą, kurią jie apibūdina, kaip dirbtinai protingus išmaniuosius telefonus ir kompiuterius. Jie teigia, kad įrenginiai automatizuos tokias užduotis, kaip nuotraukų redagavimas ir draugo sveikinimas su gimtadieniu.

 

 Tačiau, kad tai veiktų, šioms įmonėms reikia kažko iš jūsų: daugiau duomenų.

 

 Šioje naujoje paradigmoje jūsų „Windows“ kompiuteris kas kelias sekundes padarys ekrano kopiją apie viską, ką darote.

 

 „iPhone“ sujungs informaciją daugelyje jūsų naudojamų programų.

 

 O Android telefonas gali klausytis skambučio realiuoju laiku ir įspėti apie sukčiavimą.

 

 Ar norite pasidalinti šia informacija?

 

 Šis pakeitimas turi reikšmingų pasekmių mūsų privatumui. Norint teikti naujas pagal užsakymą sukurtas paslaugas, įmonėms ir jų įrenginiams reikia nuolatinės, intymesnės prieigos prie mūsų duomenų nei anksčiau. Anksčiau tai, kaip naudojome programas ir rinkdavome failus bei nuotraukas telefonuose ir kompiuteriuose, buvo gana izoliuota. A.I. saugos ekspertai teigia, kad reikia apžvalgos, kad galėtume sujungti taškus tarp to, ką darome programose, svetainėse ir komunikacijose.

 

 „Ar jaučiuosi saugus, suteikdamas šią informaciją šiai įmonei? Cliffas Steinhaueris, Nacionalinio kibernetinio saugumo aljanso (Nacionalinio kibernetinio saugumo aljanso) direktorius, ne pelno siekiantis kibernetinis saugumas, sakė apie įmonių A.I. strategijos.

 

 Visa tai vyksta todėl, kad OpenAI ChatGPT beveik prieš dvejus metus apvertė technologijų pramonę. „Apple“, „Google“, „Microsoft“ ir kiti nuo to laiko peržiūrėjo jų produktų strategijas ir investavo milijardus į naujas paslaugas su A.I. panaudojimu. Jos įsitikinusios, kad ši naujo tipo kompiuterinė sąsaja, kuri nuolat tiria, ką darote, kad pasiūlytų pagalbą, taps nepakeičiama.

 

 Pasak ekspertų, didžiausia galima saugumo rizika dėl šio pakeitimo kyla dėl subtilaus mūsų naujų įrenginių veikimo pokyčio. Kadangi A.I. gali automatizuoti sudėtingus veiksmus, pvz., pašalinti nepageidaujamus objektus iš nuotraukos, kartais tam reikia daugiau skaičiavimo galios, nei gali atlikti mūsų telefonai. Tai reiškia, kad daugiau mūsų asmeninių duomenų gali tekti palikti mūsų telefonus, kad juos būtų galima apdoroti kitur.

 

 Informacija perduodama į vadinamąjį debesį – serverių tinklą, kuris apdoroja užklausas. Kai informacija pasiekia debesį, ją gali matyti kiti, įskaitant įmonės darbuotojus, blogus veikėjus ir vyriausybines agentūras. Ir nors kai kurie mūsų duomenys visada buvo saugomi debesyje, mūsų asmeniškiausi, intymiausi duomenys, kurie kažkada buvo tik mūsų akims – nuotraukos, pranešimai ir el. laiškai – dabar gali būti prijungti ir analizuoti įmonės serveriuose.

 

 Technologijų bendrovės teigia, kad labai stengėsi apsaugoti žmonių duomenis.

 

 Kol kas svarbu suprasti, kas atsitiks su mūsų informacija, kai naudosime A.I. įrankius, todėl iš įmonių gavau daugiau informacijos apie jų duomenų naudojimo praktiką ir apklausiau saugumo ekspertus. Prieš nuspręsdamas, ar verta dalytis mano duomenimis, planuoju palaukti ir pamatyti, ar technologijos veikia pakankamai gerai.

 

 Štai ką reikia žinoti.

 

 „Apple Intelligence“.

 

 „Apple“ neseniai paskelbė „Apple Intelligence“, A.I. paslaugas ir pirmą didelį įėjimą į A.I. lenktynes.

 

 Naujos A.I. paslaugos bus įdiegtos greičiausiuose „iPhone“, „iPad“ ir „Mac“ įrenginiuose nuo šio rudens. Žmonės galės jas naudoti, norėdami automatiškai pašalinti nepageidaujamus objektus iš nuotraukų, kurti žiniatinklio straipsnių santraukas ir rašyti atsakymus į tekstinius pranešimus ir el. laiškus. „Apple“ taip pat atnaujina jos balso padėjėją „Siri“, kad būtų lengviau bendrauti ir suteiktų prieigą prie duomenų įvairiose programose.

 

 Šį mėnesį vykusioje „Apple“ konferencijoje, kai ji pristatė „Apple Intelligence“, bendrovės programinės įrangos inžinerijos vyresnysis viceprezidentas Craigas Federighi papasakojo, kaip tai galėtų veikti: p. Federighi atsiėmė el. laišką nuo kolegos, prašantį atidėti susitikimą, bet p. Federighi buvo tą vakarą planavęs pamatyti spektaklį, kuriame vaidina jo dukra. Tada jo telefonas ištraukė kalendorių, dokumentą su išsamia informacija apie spektaklį ir žemėlapių programą, kad nuspėtų, ar jis vėluos į spektaklį, jei sutiks susitikti su kolega vėliau.

 

 „Apple“ teigė, kad stengiasi apdoroti didžiąją dalį A.I. duomenis tiesiogiai jos telefonuose ir kompiuteriuose, o tai neleistų kitiems, įskaitant Apple, prieiti prie informacijos. Tačiau „Apple“ teigė, kad užduotims, kurias reikia perkelti į serverius, ji sukūrė apsaugos priemones, įskaitant duomenų kodavimą, naudojant šifravimą ir nedelsiant jų ištrynimą.

 

 „Apple“ taip pat ėmėsi priemonių, kad jos darbuotojai neturėtų prieigos prie duomenų, pranešė bendrovė. „Apple“ taip pat teigė, kad leis saugumo tyrėjams patikrinti jos technologiją, kad įsitikintų, jog ji vykdo jos pažadus.

 

 „Apple“ įsipareigojimas išvalyti vartotojų duomenis iš jos serverių išskiria ją iš kitų įmonių, kurios laiko mūsų duomenis jų serveriuose.

 

Tačiau „Apple“ nepaaiškina, kokios naujos „Siri“ užklausos gali būti siunčiamos į bendrovės serverius, sakė Matthew Greenas, saugumo tyrinėtojas ir Johnso Hopkinso universiteto kompiuterių mokslo docentas, kurį „Apple“ informavo apie jos naują technologiją. Viskas, kas palieka jūsų įrenginį, savaime yra mažiau saugus, sakė jis.

 

 „Apple“ teigė, kad išleidus „Apple Intelligence“, vartotojai galės matyti ataskaitą apie tai, kokios užklausos palieka įrenginį, kad jas apdoroti debesyje.

 

 „Microsoft“ A.I. nešiojamieji kompiuteriai

 

 „Microsoft“ pristato A.I. prie senamadiško nešiojamojo kompiuterio.

 

 Praėjusią savaitę ji pradėjo diegti Windows kompiuterius, vadinamus Copilot+ PC, kurių kaina prasideda nuo 1000 dolerių. Kompiuteriuose yra naujo tipo lustai ir kita įranga, kuri, pasak „Microsoft“, užtikrins jūsų duomenų privatumą ir saugumą. Kompiuteriai gali generuoti vaizdus ir perrašyti dokumentus, be kitų naujų A.I. paslaugų.

 

 Bendrovė taip pat pristatė naują sistemą Recall, padedančią vartotojams greitai rasti dokumentus ir failus, su kuriais jie dirbo, perskaitytus el. laiškus ar naršytas svetaines. „Microsoft“ lygina „Recall“ su fotografine atmintimi, integruota jūsų kompiuteryje.

 

 Norėdami ją naudoti, galite įvesti atsitiktines frazes, pvz., „Galvoju apie vaizdo pokalbį, kurį neseniai turėjau su Džo, kai jis laikė rankose kavos puodelį „Aš myliu Niujorką“. Tada kompiuteris nuskaitys vaizdo skambučio įrašą su ta informacija.

 

 Kad tai padarytų, „Recall“ kas penkias sekundes daro ekrano kopijas to, ką vartotojas daro įrenginyje, ir sujungia tuos vaizdus į duomenų bazę, kurioje galima ieškoti. Momentinės nuotraukos saugomos ir analizuojamos tiesiogiai asmeniniame kompiuteryje, todėl „Microsoft“ neperžiūri duomenų ir nenaudoja jos A.I. tobulinti, nurodė bendrovė.

 

 Vis dėlto saugumo tyrinėtojai įspėjo apie galimą riziką, paaiškindami, kad duomenys gali lengvai atskleisti viską, ką kada nors įvedėte ar peržiūrėjote, jei į juos būtų įsilaužta. Reaguodama į tai, „Microsoft“, kuri praėjusią savaitę ketino išleisti „Recall“, atidėjo jo išleidimą neribotam laikui.

 

 Kompiuteriai aprūpinti nauja Microsoft Windows 11 operacine sistema. Jis turi kelis saugumo lygius, sakė David Weston, įmonės vadovas, prižiūrintis saugumą.

 

 Google A.I.

 

 „Google“ praėjusį mėnesį taip pat paskelbė apie A.I. paslaugas.

 

 Vienas didžiausių jos atradimų buvo naujas A.I. varomas sukčių detektorius telefono skambučiams. Įrankis išklauso telefono skambučius realiu laiku, o jei skambinantysis atrodo, kaip galimas sukčius, (pavyzdžiui, jei skambinantis prašo banko PIN kodo), įmonė apie tai jus informuoja. „Google“ teigė, kad žmonės turės suaktyvinti sukčių detektorių, kurį visiškai valdo telefonas. Tai reiškia, kad „Google“ neklausys skambučių.

 

 „Google“ paskelbė apie kitą funkciją „Ask Photos“, kuriai reikia siųsti informaciją į įmonės serverius. Vartotojai gali užduoti tokius klausimus, kaip „Kada mano dukra išmoko plaukti?", kad išryškėtų pirmieji plaukiojančio jų vaiko vaizdai.

 

 „Google“ teigė, kad jos darbuotojai retais atvejais gali peržiūrėti „Ask Photos“ pokalbius ir nuotraukų duomenis, kad būtų pašalintas piktnaudžiavimas ar žala, o informacija taip pat gali būti naudojama, tobulinant nuotraukų programą. Kitaip tariant, jūsų klausimas ir plaukiojančio jūsų vaiko nuotrauka gali būti panaudoti, siekiant padėti kitiems tėvams rasti plaukiojančių jų vaikų atvaizdus.

 

 „Google“ teigė, kad jos debesis buvo užrakintas saugumo technologijomis, tokiomis, kaip šifravimas ir protokolais, siekiant apriboti darbuotojų prieigą prie duomenų.

 

 „Mūsų privatumo apsaugos metodas taikomas mūsų A.I. funkcijos, nesvarbu, ar jos yra įjungtos įrenginyje, ar debesyje“, – pranešime teigė Suzanne Frey, „Google“ vadovė, prižiūrinti pasitikėjimą ir privatumą.

 

 Tačiau saugumo tyrinėtojas ponas Greenas sakė, kad „Google“ požiūris į A.I. privatumą atrodė gana neskaidrus.

 

 „Man nepatinka mintis, kad mano labai asmeninės nuotraukos ir labai asmeniškos paieškos nukeliauja į debesį, kurio aš nevaldau“, – sakė jis." [1]

 

Man asmeniškai labiausiai patinka Apple A.I. įrenginiai. Straipsnyje nenurodoma, kad Apple bendradarbiaus su OpenAI, atsakant į sudėtingesnius mūsų užklausimus. Muskas galvoja, kad dabar OpenAI virto Tamsiąja Jėga ir tai daro visą Apple AI pernelyg pavojingu, kad jį naudoti mūsų darbe. Muskas sukūrė OpenAI kartu su dabartiniu jos vadovu Altmanu, todėl Muskas turėtų neblogai žinoti, ko siekia Altmanas šiuo momentu.

 

1. What the Arrival of A.I. Phones and Computers Means for Our Data: Tech Fix. Chen, Brian X.  New York Times (Online) New York Times Company. Jun 23, 2024.