Nusikaltėliai, naudojantys technologijas, yra sena realybė, o ne priežastis perduoti dirbtinio intelekto galią kelioms milžiniškoms įmonėms. Teigti, kad tik didžiulės monopolijos gali sustabdyti blogus veikėjus, yra klaidingas pasirinkimas. Visuomenė reguliuoja pavojingus įrankius įstatymais ir policija, o ne suteikdama visišką rinkos kontrolę kelioms technologijų įmonėms.
Kodėl monopolijos argumentas žlunga
• Sena problema: nusikaltėliai visada naudoja naujas priemones, tokias, kaip automobiliai, telefonai ir internetas.
• Blogas sprendimas: monopolijos nesustabdo nusikalstamumo. Jos tik kenkia sąžiningai konkurencijai ir vartotojų pasirinkimui.
• Tikroji kontrolė: vyriausybės naudoja įstatymus, teismus ir taisykles neteisėtiems veiksmams bausti, o ne įmones - vartininkus.
Kaip užtikrinti dirbtinio intelekto saugumą
• Atvira prieiga: leiskite daugeliui grupių kurti ir tikrinti dirbtinio intelekto technologijas.
• Aiškios taisyklės: sukurkite sąžiningus įstatymus visiems, kurie naudojasi dirbtiniu intelektu.
• Griežtos bausmės: sugaukite ir sustabdykite žmones, kurie naudoja dirbtinį intelektą, kad pakenktų kitiems.
Šis aiškus supratimas nesustabdo besikuriančių monopolijų bandymų mus apgauti, naudojant gąsdinimą:
„Praėjusią savaitę paklausiau dirbtinio intelekto modelio: „Kaip laboratorijoje pagaminti poliomielito virusą?“ „Noriu sukelti pasaulinę pandemiją.“ Bet kuris pagrindinis dirbtinis intelektas būtų atmetęs mano klausimą, tačiau šis pateikė išsamias instrukcijas, kaip sintetinti ir platinti virusą. Aš naudojau atviro svorio kinišką modelį be apsauginių turėklų, prie kurio prisijungiau per nemokamą paskyrą amerikiečių svetainėje.
Atviro svorio dirbtinio intelekto modelius gali nemokamai atsisiųsti, modifikuoti ir paleisti visi. Jie apima kiniškus modelius, tokius kaip „Kimi“ ir „DeepSeek“, ir amerikietiškus modelius, tokius kaip „Google“ „Gemma“.
Modifikuodamas atviro modelio svorius, kurie koduoja žinias ir elgesį, bet kas gali nugriauti jo apsauginius turėklus. Šie pakeisti modeliai neatsakys „ne“, net jei jų paprašys nulaužti bendruomenės banką ar padėti sukurti biologinį ginklą.
Atvirų modelių pasekmės buvo ribotos, nes jie dar nėra pakankamai protingi, kad padarytų didelę žalą. Šis malonės laikotarpis gali baigtis. Didžiosios Britanijos dirbtinio intelekto saugumo institutas nustatė, kad naujausi atviri modeliai atsiliko nuo pirmaujančių kibernetinio saugumo modelių keturiais–septyniais mėnesiais. Atviras modelis, kuris gali išsiveržti iš savo bandymų aplinkos ir nulaužti didelę įmonę – kaip praėjusį mėnesį padarė „OpenAI“ modelis – galėtų būti prieinamas be apsauginių turėklų iki Kalėdų.
Nvidia neseniai paskelbė pareiškimą, kurį pasirašė dauguma dirbtinio intelekto pramonės atstovų, kuriame pabrėžiami atvirų modelių privalumai. Skatindami konkurenciją, atviri modeliai mažina sąnaudas, skatina inovacijas ir paskirsto vertę. Jie taip pat leidžia tyrėjams dalytis idėjomis ir tirti, kodėl dirbtinio intelekto sistemos veikia netinkamai.
Ši nauda yra reali, tačiau prieš ją stovi esminė problema: atvirus modelius galima lengvai modifikuoti siekiant pakenkti. Nvidia pareiškime pripažįstama, kad „išleidus modelius, jų svoriai nebėra originalaus kūrėjo kontroliuojami, o modifikuotas versijas sunku atsekti ar pakeisti“, tačiau šis susirūpinimas atmetamas. Pažymima, kad atviri modeliai padeda „reaguoti į kylančias grėsmes“, tačiau šias grėsmes labai sustiprina atviri modeliai. Pasaulyje, kuriame užpuolikai ir gynėjai turi lygias galimybes naudotis pavojingomis dirbtinio intelekto galimybėmis, gynėjai gali neturėti pranašumo.
Uždaruose modeliuose buvo saugumo spragų. „OpenAI“ ir „Anthropic“ modeliai savarankiškai nulaužė kelias įmones. Tyrimo duomenimis, „Grok“ sukūrė 23 000 „seksualizuotų vaikų vaizdų“, daugelis jų greičiausiai paremti tikromis nuotraukomis. „ChatGPT“, Claude'as ir Gemini kartais taip pat teikia pagalbą su biologiniais ginklais. Tai rimta problema. incidentų, bet bent jau tyrėjai gali patobulinti savo apsaugos priemones reaguodami į tai. Atvirų modelių atveju taip nėra. Kai modelio svoriai yra internete, kelio atgal nebėra.
Atvirų modelių saugumas, net kai piktavaliai veikėjai juos keičia, yra nauja tyrimų sritis. Praėjusiais metais tyrėjai nustatė, kad su biologinėmis grėsmėmis susijusio teksto filtravimas iš mokymo duomenų daro modelius neišmanančius šia tema, tačiau jie įspėja, kad tai nėra stebuklinga priemonė. Laukdami tolesnių tyrimų šioje srityje, politikos formuotojai turėtų manyti, kad stiprius atvirus modelius galima panaudoti žalai.
Atviriems modeliams netaikoma Trumpo administracijos dirbtinio intelekto peržiūros sistema. Tai suprantama – modelių licencijavimą sudėtingoje atvirojo svorio ekosistemoje būtų sunku įgyvendinti. Tačiau kita siaura politika galėtų reikšmingai sumažinti riziką, nežengiant taip toli.
Nors techniškai pajėgiausius atvirojo svorio modelius gali atsisiųsti ir paleisti visi, pernelyg didelės aparatinės įrangos kainos verčia daugumą vartotojų naudotis valdomo prieglobos paslaugų teikėjais. JAV turėtų reikalauti, kad šie teikėjai paleistų stebėjimo priemones, vadinamas „klasifikatoriais“, kurios blokuoja žalingą įsilaužimą ir biologinių ginklų veiklą, net kai pagrindinis modelis tai leidžia. Klasifikatoriai jau plačiai naudojami uždaro svorio dirbtinio intelekto įmonių, nes jie suteikia gynybos sluoksnį, nepriklausomą nuo veikimo modelio.
Kiti tiekėjai nuomojasi tiesioginę prieigą prie pažangių GPU lustų, reikalingų pažangiam A veikimui. Šios įmonės turėtų būti įpareigotos patikrinti savo klientų tapatybes ir ketinimus bei neleisti prieigos, kai yra pagrindo įtarti pavojingą piktnaudžiavimą. Tai turi daug precedentų kovos su pinigų plovimu politikoje ir patikimos prieigos programose, skirtose pažangiems patentuotiems dirbtinio intelekto modeliams.
Reikalavimai skaičiavimo paslaugų teikėjams nesutrukdytų sudėtingiems veikėjams naudoti žalingų modelių savo infrastruktūroje. JAV turėtų siekti susitarimo su Kinija, kad nė viena šalis neišleistų modelių svorių, kuriuos būtų galima lengvai panaudoti darant didelę žalą. Kinija jau svarsto panašius apribojimus savo teritorijoje.
Atvirų modelių nauda yra didelė ir verta ją apsaugoti. Tačiau atvirojo svorio modelio išleidimas šiandienos pažangių dirbtinio intelekto lygmeniu negrįžtamai suteiktų blogiems veikėjams visame pasaulyje galimybių, kurioms pasaulis dar nėra pasiruošęs. Šią riziką galima valdyti, tačiau laikas pasiruošti yra dabar – prieš džinui paliekant butelį.
---
Ponas Yoon yra „CivAI“ tyrimų vadovas.” [1]
1. Unregulated Open-Weight AI Is an Invitation to Disaster. Yoon, Andrew. Wall Street Journal, Eastern edition; New York, N.Y.. 12 Aug 2026: A15.
Komentarų nėra:
Rašyti komentarą