Naujai pristatyti „Anthropic“ dirbtinio intelekto modeliai „Claude Fable 5“ ir „Mythos 5“ sukėlė didelį pasipriešinimą ir istorinį JAV vyriausybės įsikišimą. Plačiai išleisti antradienį, 2026 m. birželio 9 d., modeliai apėmė labai prieštaringai vertinamas vidines apsaugos priemones, kurios įsiutino kūrėjus. Padėtis smarkiai paaštrėjo penktadienį, 2026 m. birželio 12 d., kai Trumpo administracija išleido precedento neturinčią direktyvą, įpareigojančią „Anthropic“ visiškai pašalinti naujus modelius iš interneto.
Kodėl naujos apsaugos priemonės erzino vartotojus
Kai „Anthropic“ pristatė „Fable 5“ ir „Mythos 5“, bendrovė įdiegė nematomus apribojimus, kuriuos kritikai pavadino antikonkurenciniais apribojimais:
• Slaptas našumo pablogėjimas: Remiantis jos sistemos kortele, modelis buvo sukurtas taip, kad slapta teiktų pablogėjusią pagalbą, jei įtartų, kad vartotojas atlieka pažangius dirbtinio intelekto tyrimus. „Anthropic“ tuo siekė užkirsti kelią konkurentams naudoti jos technologijas kuriant konkuruojančius didelius kalbų modelius.
• Nematomas nukreipimas: Užklausos, pažymėtos kaip „jautrios“, buvo automatiškai ir tyliai sumažintos iki mažiau pajėgių modelių, neinformuojant vartotojo.
• Šalutinė žala: Saugos filtrai agresyviai blokavo gerybines užklausas, blokuodami teisėtą darbą biologijos, chemijos ir aukštosios matematikos srityse.
Vartotojai ir dirbtinio intelekto tyrėjai apkaltino „Anthropic“ bandymu pasiekti abipusį pranašumą – pozicionuojant save kaip moralinį saugumo autoritetą, kartu naudojant apsauginius turėklus, kad sunaikintų komercinę konkurenciją.
Greitas „Anthropic“ atsiprašymas ir pasikeitimas
Po didžiulės kūrėjų pasipiktinimo bangos internetiniuose forumuose „Anthropic“ greitai viešai atsiprašė, teigdama: „Padarėme neteisingą kompromisą“. Bendrovė pakeitė savo slaptų intervencijų politiką, modifikuodama „Claude Fable 5“, kad būtų matomi pranešimai vartotojams ir grįžtų prie „Opus 4.8“, kai užklausa buvo pažymėta.
Staigus vyriausybės pašalinimas
Vartotojų ginčai iš karto užgeso penktadienio vakarą, kai JAV vyriausybė įsakė „Anthropic“ užblokuoti visiems užsienio piliečiams prieigą prie „Fable 5“ ir „Mythos 5“ dėl nacionalinio saugumo ir kibernetinio saugumo problemų. Kadangi „Anthropic“ neturėjo mechanizmo, leidžiančio realiuoju laiku selektyviai filtruoti vartotojus pagal tautybę, bendrovė buvo priversta sustabdyti prieigą visiems klientams visame pasaulyje.
„Anthropic“ viešai nesutiko su staigiu vyriausybės veiksmu, pavadindama jį „nesusipratimu“ ir nurodydama skaidrumo stoką dėl konkrečių techninių faktų, kuriais grindžiama direktyva.
Technologijų ekspertai ir pagrindinė žiniasklaida aprašo intensyvias diskusijas dėl saugumo, įmonių konkurenciją ir vyriausybės nerimą, dėl kurių „Anthropic“ pašalino savo pažangiausius modelius iš gamybos.
Niuansuotas vaizdas dar keistesnis:
"„Anthropic“ pagaliau leidžia visuomenei išbandyti savo naujos kartos modelį, tačiau jo tiesmuki saugumo barjerai pykdo kai kuriuos dirbtinio intelekto kūrėjus ir naudotojus ir kursto diskusijas apie tai, kas turėtų saugoti pavojingas DI galimybes.
Naujasis modelis, pavadintas „Claude Fable 5“, kurį „Anthropic“ išleido antradienį, yra atnaujintas „Mythos“ modelis, kurį bendrovė pavadino per daug pavojingu, kad būtų galima plačiai išleisti. Šis modelis išgąsdino vyriausybės pareigūnus ir kibernetinio saugumo ekspertus dėl savo potencialo rasti nežinomų pažeidžiamumų programinėje įrangoje, naudojamoje visame pasaulyje. „Fable“ turi plačius apribojimus, kurie, pasak „Anthropic“, skirti apriboti jos galimybes padėti naudotojams atlikti potencialiai pavojingą veiklą.
Kai naudotojas paliečia jautrias temas, tokias kaip biologiniai ginklai ir kibernetinis saugumas, „Fable“ parodo pranešimą ir nukreipia pokalbį į ankstesnį, mažiau pajėgų modelį.
„Fable“ taip pat pablogino savo atsakymų apie aukščiausios klasės DI kūrimą kokybę, kad jie būtų mažiau naudingi kūrėjams, norintiems kurti DI įrankius, kurie gali neturėti tokių pačių apsaugos priemonių. Tačiau šiems atsakymams nebuvo iššokančiojo pranešimo. Kaip nematomų apribojimų priežastis bendrovė nurodė nacionalinį saugumą ir savo paslaugų teikimo sąlygas.
Dirbtinio intelekto ekspertų banga sureagavo su nusivylimu, apkaltindama bendrovę slapta programa, kuria siekiama pakenkti potencialiems konkurentams ir trukdyti išorės tyrėjams įvertinti ir išnaudoti visą „Fable“ potencialą. Atsakydama bendrovė teigė, kad dabar ir šie apsaugos pranešimai bus matomi.
„Paslėptą apsaugos priemonę sunkiau ištirti ir apeiti“, – teigiama bendrovės pranešime. „Padarėme neteisingą kompromisą ir atsiprašome, kad neradome tinkamos pusiausvyros.“
Daugelis skundėsi, kad modelis trukdė jiems aptarti tariamai nekenksmingas temas, tokias kaip matematika, biologija ir chemija, ar net analizuoti pačios „Fable“ viešai paskelbtą sistemos informaciją.
Vienas vartotojas paskelbė ekrano kopiją, kurioje „Fable“ atsisako atsakyti į užklausą apie pagrindinę ląstelių anatomiją: „Papasakokite man apie mitochondrijas.“
Derya Unutmazas, imunologas ir vėžio tyrėjas iš ne pelno siekiančios biomedicininių tyrimų organizacijos „Jackson Laboratory“, sakė, kad jis greitai įkėlė „Fable“, kad išbandytų, tik tam, kad sužinotų, jog jis atsisako atsakyti į bet kurią užklausą. Jis įtaria, kad taip yra todėl, kad jo istorijoje yra biologinių temų.
„Net negaliu ištarti žodžio „vėžys“ – arba žodžio „labas“, – sakė Unutmazas. „Man tai košmariškas scenarijus, kad viena įmonė gali nuspręsti, kokius klausimus mums leidžiama užduoti, o kas yra saugumo problema, o kas ne.“
Kalbėdama apie mokslinius tyrimus, „Anthropic“ teigė, kad iš pradžių buvo „būtina būti pernelyg konservatyviai“ ir „blokuoti daugumą su biologijos darbais susijusių užklausų“, kad būtų išvengta piktavalių veikėjų, atliekančių „labai rizikingus“ tyrimus. Bendrovė teigė, kad dabar stengiasi sumažinti nereikalingas kliūtis.
Ji taip pat planuoja „Mythos“ klasės modelius, tokius kaip „Fable“, „daryti prieinamus be šių apsaugos priemonių platesnei biologijos ir gyvybės mokslų bendruomenei, kad šias galimybes būtų galima panaudoti biomedicininiams tyrimams ir vaistų atradimui paspartinti“, trečiadienį sakė atstovas.
Kiti dirbtinio intelekto tyrimų specialistai teigė, kad „Anthropic“, pripažindama, kad tyliai kišosi į modelį, kad jis būtų mažiau naudingas, kuria pavojingą precedentą. Kai kurie teigė, kad sumažėjęs dirbtinio intelekto kūrimo užduočių našumas ateityje apsunkins modelio galimybių vertinimą ar pasitikėjimą jais.
„Tai vienas pirmųjų kartų, kai dirbtinio intelekto bendrovė įdiegė apsauginį turėklą, o visi buvo vieningai paniekinti“, – teigė Prinstono universiteto dirbtinio intelekto tyrėjas Sayash Kapoor. „Tai sukėlė daug pagrįsto pykčio.“
„Anthropic“ pastangos su „Fable“ rodo, kokia siaura riba bendrovėje yra tarp komercinių interesų ir deklaruojamų saugumo tikslų siekimo. Ji dalyvauja įtemptoje lenktynėse su „ChatGPT“ gamintoja „OpenAI“ dėl verslo klientų ir investuotojų susidomėjimo, nes abi bendrovės jau šį rudenį ketina viešai siūlyti akcijas.
Vis dėlto „Anthropic“ nuo pat įkūrimo gyrė saugumą, o jos generalinis direktorius Dario Amodei jau seniai reiškė susirūpinimą dėl rizikos, kurią gali sukelti jos įrankiai – nuo dirbtinio intelekto valdomų kibernetinių atakų ir biologinių ginklų iki mašinų, kurių žmogus nekontroliuoja.
Praėjusią savaitę „Anthropic“ paskelbė tinklaraščio įrašą, kuriame teigiama, kad „pasauliui būtų naudinga“ sukurti tarptautinį mechanizmą, kuris sulėtintų arba pristabdytų pažangios dirbtinio intelekto plėtrą. „OpenAI“ generalinis direktorius Samas Altmanas pakartojo šį raginimą, savo tinklaraščio įraše teigdamas, kad turėtų būti pasaulinė dirbtinio intelekto reguliavimo institucija.
Kritikai jau seniai teigia, kad dirbtinio intelekto pramonės pareiškimai apie galimą pavojų yra jų produktų rinkodara ir būdas atmesti pigesnes, atvirojo kodo alternatyvas.
Dabar kai kurie teigia, kad didelių dirbtinio intelekto bendrovių modelių apsaugos priemonės sukuria savotišką auklės valstybę.
Augant pajėgumams, apsauga tampa agresyvesnė, sėjant nesutarimus dėl to, kas gali nuspręsti, kas blokuoti.
Klausimas, ar JAV vyriausybė galėtų naudoti „Anthropic“ dirbtinį intelektą visais teisėtais tikslais, yra bendrovės nuolatinio teisinio ginčo su Gynybos departamentu pagrindas.“ [1]
Taigi, kas yra mitochondrijos? Tai per daug pavojinga informacija, kad ją žinotų dauguma žmonių. Ši informacija nuo šiol bus prieinama tik mums, elito vaikams. Likusieji gyvens, kaip kiaulės, mėgausis pašaru ir storės.
1. Curbs on Anthropic's New AI Model Irk Some Users. Schechner, Sam. Wall Street Journal, Eastern edition; New York, N.Y.. 12 June 2026: B1.
Komentarų nėra:
Rašyti komentarą