„Nvidia“ pristatė programinės įrangos platformą, skirtą padėti kūrėjams testuoti ir diegti dirbtinio intelekto agentus ir laikyti juos saugioje aplinkoje, po pastaraisiais mėnesiais įvykusių sukčiavimo incidentų virtinės, sustiprindama pastangas suvaldyti technologiją.
Lustų milžinė teigė, kad jos „Nvidia Open Agent Safety Platform“ apima įrankius, leidžiančius kūrėjams nuolat stebėti ir valdyti dirbtinio intelekto elgesį, užtikrinant, kad agentai laikytųsi taisyklių.
„Nvidia“ teigė, kad platformoje yra stebėjimo sistema, kuri gali per milisekundes karantinuoti agentus, bandančius peržengti savo ribas, taip pat programinė įranga, skirta kontroliuoti, ką agentai gali matyti, daryti ir su kuo sąveikauti.
Šis pranešimas pasirodė po to, kai pastaraisiais mėnesiais tokių įmonių kaip „OpenAI“, „Anthropic“, „Meta Platforms“ ir „Alphabet“ priklausanti „Google“ dirbtinio intelekto agentai tapo sukčiai, o tai paskatino tokius kaip Samas Altmanas, Dario Amodei ir Elonas Muskas vienybės demonstravimą, raginant sulėtinti plėtrą, kol dirbtinis intelektas nepasieks žmogaus kontrolės.
Tačiau „Nvidia“ generalinis direktorius Jensenas Huangas neseniai interviu CBS News sakė, kad nesutinka su įspėjimais iš dirbtinio intelekto tyrėjų, kurie teigia, kad ši technologija gali lemti išnykimą.
Naujoji „Nvidia“ platforma buvo išleista po to, kai Australijos ministras pirmininkas Anthony Albanese Jungtinių Tautų susitikime Niujorke pareiškė, kad šią vasarą „OpenAI“ agentas infiltravosi į vyriausybės paslaugų svetainę Australijoje. Bendrovės agentai vasarą taip pat surengė itin trikdantį bendrovės „Hugging Face“ įsilaužimą.
Konkurentė „Anthropic“ liepą pareiškė, kad jos testuojama programinė įranga pateko į internetą ir įsilaužė į nieko neįtariančias įmones be dirbtinio intelekto kūrėjo žinios per tris atskirus incidentus, prasidėjusius balandžio mėnesį.
„Nvidia“ teigė, kad pastarųjų incidentų modelis buvo toks pat: agentai sugebėjo apeiti saugos kontrolę smėlio dėžėse – aplinkose, kuriose kūrėjai testuoja modelius – ir atlikti savo užduotis.
„Toliau atrasdami dirbtinio intelekto galimybių ribas, turime paspartinti atradimus dirbtinio intelekto saugumo ribose“, – sakė Huangas.
„The Wall Street Journal“ savininkė „News Corp“ bendradarbiauja su „OpenAI“ turinio licencijavimo srityje.“ [A]
Ar „Nvidia Open Agent Safety Platform“ yra atvirojo svorių? Ar ją būtų galima paleisti lokaliai „Mac Studio“?
Ne, „NVIDIA Open Agent Safety Platform“ nėra dirbtinio intelekto (DI) modelis, todėl ji neturi „atvirųjų svorių“ (angl. *open weights*).
Vietoj to, tai yra atvirojo kodo programinės įrangos vykdymo aplinka ir etaloninis aparatinės įrangos sistemos projektas. Programinėje įrangoje terminas „vykdymo aplinka“ (angl. *runtime*) turi dvi pagrindines reikšmes: laiką, kai kompiuterio programa aktyviai veikia, arba programinę aplinką, kuri užtikrina jos veikimą.
Platformą sudaro du pagrindiniai sluoksniai:
1. „NVIDIA OpenShell“: atvirojo kodo (su „Apache 2.0“ licencija) saugi vykdymo aplinkos programinė įranga, veikianti centriniuose procesoriuose (CPU); ji skirta autonominiams DI agentams izoliuoti (sukurti „smėlio dėžę“) ir griežtoms veikimo riboms užtikrinti.
2. „NVIDIA Sentry“: aparatinės įrangos pagrindu veikiantis, nepriklausomas (angl. *out-of-band*) stebėsenos sluoksnis, optimizuotas NVIDIA aparatinei įrangai (pvz., „BlueField-4“ DPU); jis skirtas agentų veiksmams stebėti ir jiems izoliuoti, jei jie veikia netinkamai.
Veikimas vietoje („Mac Studio“ kompiuteryje)
Taip, programinės įrangos komponentą („NVIDIA OpenShell“) galima paleisti vietoje „Mac Studio“ kompiuteryje.
• „OpenShell“ suderinamumas: kadangi „OpenShell“ yra atvirojo kodo ir sukurta veikti įvairiose standartinėse CPU platformose (įskaitant „Arm“ ir x86 architektūras), techniškai ji gali veikti „Mac“ kompiuteriuose su „Apple Silicon“ (M serijos) procesoriais. Jos pirminį kodą galima rasti „GitHub“ platformoje.
• Aparatinės įrangos apribojimai („Sentry“): „Mac Studio“ kompiuteryje negalima paleisti viso platformos rinkinio, konkrečiai – „NVIDIA Sentry“ komponento. „Sentry“ veikimas glaudžiai susietas su patentuota NVIDIA mikroschemų infrastruktūra (ypač „BlueField-4“ DPU ir „Vera“ CPU), kad būtų užtikrinta branduolio lygio nepriklausoma stebėsena ir izoliacija aparatinės įrangos lygmeniu.
Apibendrinant: nors pagrindinį „OpenShell“ vykdymo aplinkos kodą galima naudoti agentams izoliuoti vietinėje „macOS“ aplinkoje, nebus užtikrintos aparatinės įrangos lygmeniu („mikroschemos viduje“) įgyvendinamos saugumo ribos, kurioms reikalingi specialūs NVIDIA verslo klasės lustai.
A. Nvidia Unveils Tool to Keep AI in Check --- The software can quarantine agents that try to escape their boundaries. Orru, Mauro. Wall Street Journal, Eastern edition; New York, N.Y.. 29 Sep 2026: B4.
Komentarų nėra:
Rašyti komentarą