(Populiarus paaiškinimas ir kainos: https://www.youtube.com/watch?v=mNcXue7X8H0&t=268)
Dirbtinio intelekto vietiniai modeliai yra dirbtinio intelekto modeliai, tokie, kaip didelių kalbų modeliai (LLM) ir difuzijos modeliai, kurie veikia tiesiogiai vartotojo įrenginyje arba privačiame tinkle ir siūlo tokius privalumus, kaip padidintas privatumas, prieiga neprisijungus ir visiška duomenų bei išteklių kontrolė, o ne būtinybė pasikliauti debesijos paslaugomis. Tokios priemonės, kaip „Ollama“, „GPT4All“ ir „LM Studio“ leidžia vartotojams atsisiųsti ir sąveikauti su šiais atvirojo kodo modeliais vietoje, o tai gali būti ekonomiškai efektyvu ir leisti tiksliai suderinti modelius konkrečioms užduotims.
Kas yra vietiniai dirbtinio intelekto modeliai?
Veikimas įrenginyje:
Vietiniai dirbtinio intelekto modeliai veikia vartotojo kompiuteryje arba privačiame tinkle, o ne nuotoliniuose serveriuose debesyje.
Orientuotas į privatumą:
Kadangi duomenys nepalieka įrenginio ribų, vartotojai gali visiškai kontroliuoti savo informaciją, užtikrindami didesnį privatumą ir saugumą.
Funkcionalumas neprisijungus:
Modeliai gali veikti be interneto ryšio, todėl juos galima pasiekti bet kurioje aplinkoje.
Pritaikymas ir valdymas:
Vartotojai gali valdyti savo dirbtinio intelekto modelius ir infrastruktūrą, įskaitant išteklių naudojimo (procesoriaus, atminties) valdymą ir galimą modelių tikslinimą, naudojant savo duomenis konkretiems poreikiams.
Kaip jie veikia?
1. Įdiekite sistemą:
Atsisiųskite ir įdiekite vietinio dirbtinio intelekto sistemą, pvz., „Ollama“, „GPT4All“ arba „LM Studio“.
2. Atsisiųskite modelį:
Naudokite sistemą, kad atsisiųstumėte ir įdiegtumėte atvirojo kodo dirbtinio intelekto modelius iš bibliotekos arba centro.
3. Sąveika su modeliu:
Paleiskite ir sąveikaukite su atsisiųstais modeliais, naudodami komandinės eilutės sąsają arba patogią grafinę sąsają, pvz., „Open WebUI“ arba „ChatUI“.
Vietinių dirbtinio intelekto modelių privalumai
Duomenų privatumas ir saugumas: Vartotojų duomenys niekada nepalieka jų aparatinės įrangos.
Ekonomiškumas: panaikina prenumeratos ar API išlaidas, susijusias su debesijos pagrindu veikiančiomis dirbtinio intelekto paslaugomis.
Galimybė dirbti neprisijungus: dirbtinio intelekto užduotis galima atlikti be interneto ryšio.
Valdymas ir pritaikymas: vartotojai gali visiškai kontroliuoti modelius ir jų našumą.
Pagrindinė programinė įranga ir platformos
„Ollama“: atvirojo kodo sistema, skirta LLM vietiniam naudojimui.
„GPT4All“: nemokamas, į privatumą orientuotas, pokalbių robotas, skirtas naudoti vietiniame LLM.
„LM Studio“: įrankis, skirtas dirbtinio intelekto modeliams vietiniam naudojimui „Windows“, „macOS“ ir „Linux“ sistemose.
Atvira „WebUI“: savarankiškai talpinama dirbtinio intelekto platforma, palaikanti „Ollama“ ir kitus LLM vykdymo įrankius sąveikai.
„PARYŽIUS – Žymiausias Europos dirbtinio intelekto kūrėjas kreipiasi į didžiausią žemyno technologijų milžinę, kad neatsiliktų pasaulinėse DI lenktynėse.
Olandijos lustų įrangos milžinė ASML investuoja 1,5 mlrd. JAV dolerių į Prancūzijos „Mistral AI“ už 11 proc. akcijų paketą, o Paryžiuje įsikūrusio startuolio vertė siekia beveik 14 mlrd. JAV dolerių – daugiau, nei dvigubai daugiau, nei pernai. ASML lėšos yra maždaug 2 mlrd. JAV dolerių vertės finansavimo dalis, į kurią, pasak „Mistral“, taip pat įtraukiamas Jurijaus Milnerio „DST Global“ ir Prancūzijos valstybinis investicinis bankas „Bpifrance“.
Šis sandoris suteikia 2023 m. įkurtai „Mistral“ naujų galių, siekiant kurti pažangiausius DI modelius ir duomenų centrus, nepriklausomus nuo Amerikos konkurentų. Tačiau „Mistral“ finansavimas ir vertinimas gerokai atsilieka nuo didžiausių Silicio slėnio konkurentų. „Anthropic“ praėjusią savaitę užbaigė 13 mlrd. JAV dolerių vertės finansavimo etapą, kurio vertė siekė 183 mlrd. JAV dolerių.
Didėjant įtampai su JAV, Europa skiria daugiau dėmesio vietiniam DI. dėl prekybos ir technologijų politikos. Vasario mėnesį viceprezidentas J. D. Vance'as Paryžiaus viršūnių susitikime pareiškė, kad JAV laimi lenktynes dėl geriausių dirbtinio intelekto lustų ir algoritmų kūrimo ir ketina siekti, kad „taip ir toliau būtų“.
„Mistral“ generalinis direktorius Arthuras Menschas teigė, kad jis ir jo bendraįkūrėjai iš dalies paliko „Google“ ir „Meta Platforms“ tam, kad įrodytų, jog Europa gali mesti iššūkį Silicio slėniui dirbtinio intelekto srityje. Jų planas – išlikti nepriklausomiems, siūlant Europos, JAV ir kitų šalių įmonėms ekonomiškai efektyvią alternatyvą tokioms įmonėms, kaip „OpenAI“ ar „Anthropic“, nesikreipiant į kiniškas alternatyvas, tokias, kaip „DeepSeek“.
Birželio mėnesį Menschas teigė, kad auganti „Mistral“ dirbtinio intelekto modelių paklausa leidžia bendrovei uždirbti daugiau, nei 100 mln. USD pajamų per metus.
Be abejo, „Mistral“ turi ryšių su JAV. Tarp jos investuotojų yra Amerikos rizikos kapitalo įmonės, tokios, kaip „General Catalyst“ ir „Andreessen Horowitz“, bei JAV įmonės, tokios, kaip „Nvidia“, kurios visos dalyvavo šiame etape. Bendrovė turi biurus Niujorke ir Palo Alte, Kalifornijoje.
Tačiau „Mistral“ tapo dėl svarbios priežasties įžymybe Prancūzijos kovoje už Europos dirbtinio intelekto autonomiją. Menschas ne kartą dalijosi scena su Prancūzijos prezidentu Emmanueliu Macronu. Prancūzijos prezidentas teigė, kad ragino Prancūzijos įmones paremti „Mistral“ sandorį dėl 18 000 pažangiausių dirbtinio intelekto lustų įsigijimo iš „Nvidia“ didžiuliam dirbtinio intelekto duomenų centrui į pietus nuo Paryžiaus.
„Tai mūsų kova už suverenitetą, už strateginę autonomiją“, – tuo metu sakė Macronas.
ASML taip pat yra Europos čempionė. Įsikūrusi Veldhovene, Nyderlanduose, ir su bendrovės rinkos kapitalizacija, kuri viršija 300 mlrd. JAV dolerių, todėl ji yra vienintelė pasaulyje bendrovė, gaminanti litografijos mašinas, kurios ėsdina pažangiausius dirbtinio intelekto puslaidininkius.
Antradienį bendrovė pranešė, kad, investuodama į „Mistral“ 1,3 mlrd. eurų (atitinka maždaug 1,5 mlrd. JAV dolerių), ji bendradarbiaus su bendrove, kad „Mistral“ dirbtinio intelekto modeliai būtų naudojami jos tyrimuose, operacijose ir produktuose. Ji taip pat gaus vietą „Mistral“ strateginiame komitete.
„Ši investicija sujungia dvi technologijų lyderes, veikiančias toje pačioje vertės grandinėje“, – sakė Mensch.“ [A]
A. Mistral AI Value Hits $14 Billion --- Fresh funding gives the French startup firepower in quest to build local AI models. Schechner, Sam. Wall Street Journal, Eastern edition; New York, N.Y.. 10 Sep 2025: B4.
Komentarų nėra:
Rašyti komentarą