Iš kur kilo idėja „Vėžio paslaptis“?
Sąvoka apie „paslėptas medicinines paslaptis“ arba „vėžio egzistavimo slėpimą“ kyla iš pernelyg agresyvių platformos saugos filtrų, sukeliančių klaidingus teigiamus rezultatus.
Kai „Anthropic“ ir kitos technologijų įmonės diegia saugos klasifikatorius, kad žmonės nenaudotų galingų DI modelių neteisėtoms ar pavojingoms užduotims (pvz., biologinių ginklų kūrimui, neteisėtoms medicininėms konsultacijoms ar įsilaužimui), automatizuotos sistemos veikia, kaip kvailas bukas įrankis.
• Jei įprastas vartotojas paragina modelį, naudodamas griežtai reglamentuojamus raktinius žodžius, pvz., sudėtingą medicininę terminologiją, sumaišytą su techniniu kodu, DI saugos klasifikatorius dažnai panikuoja
• Sistema automatiškai blokuoja duomenis visoje platformoje arba cenzūruoja juos, kad išvengtų didelės rizikos atsakomybės.
• Kai dirbtinis intelektas (DI) staiga atsisako atsakyti arba pareiškia, kad negali aptarinėti temos, kai kurie vartotojai šį automatinį atitikties blokavimą interpretuoja, kaip sąmokslą nuslėpti medicinines „paslaptis“ nuo plačiosios visuomenės. Kai kurie idiotai mano, kad šis kvailas „superintelektas“ turi kokią nors rimtą, nežinomą, priežastį taip diskredituoti Amerikos DI.
„NIUJORKAS. Dirbtinio intelekto srityje besispecializuojanti bendrovė „Anthropic“ imasi naujo požiūrio į produktą, kuris neseniai buvo intensyvių diskusijų objektas, ir daro jį prieinamą plačiajai visuomenei. Aptariamas produktas yra dirbtinio intelekto modelis „Mythos“. Pasak „Anthropic“, balandžio mėnesį pristatytas produktas pasižymi pažangiomis programinės įrangos pažeidžiamumų atpažinimo ir išnaudojimo galimybėmis. Tai daro jį vertingu ne tik programinės įrangos tiekėjams, bet ir įsilaužėliams. Dėl šios saugumo rizikos „Anthropic“ iš pradžių apribojo prieigą prie „Mythos“ tik tam tikrai vartotojų grupei, įskaitant tokius technologijų gigantus kaip „Microsoft“, „Google“ ir „Nvidia“.
Dabar „Anthropic“ paskelbė apie „Mythos klasės“ modelio išleidimą plačiajai visuomenei, nors ir su įmontuotomis apsaugos priemonėmis.
Modelis, pavadintas „Claude Fable 5“, yra užprogramuotas blokuoti užklausas dėl konkrečių jautrių temų ir nukreipti jas į „Claude Opus 4.8“, kitą „Anthropic“ modelį.
Konkrečiai, šios temos apima kibernetinį saugumą ir biologiją. Be kita ko, siekiama užkirsti kelią netinkamam modelio naudojimui įsilaužimui ar biologinių ginklų kūrimui.
„Anthropic“ teigia, kad šios apsaugos priemonės šiuo metu nustatytos „konservatyvaus“ lygio. Jos apibūdinamos kaip „griežtesnės nei idealios“ ir gali išfiltruoti net „nekenksmingas užklausas“.
Kai kurie vartotojai pastebėjo, kad „Fable 5“ taip pat blokuoja ir peradresuoja užklausas, susijusias su tokiomis ligomis kaip vėžys.
„Anthropic“ pažadėjo spręsti šią problemą ir kuo greičiau sumažinti „klaidingai teigiamų rezultatų“ skaičių. Tačiau apskritai ankstyvieji bandymai parodė, kad „Fable“ modelis atsako į daugiau nei 95 procentus visų užklausų jų neperadresuodamas. Tokiais atvejais „Fable 5“ veikia iš esmės taip pat, kaip ir „Mythos 5“ – naujai pristatyta „Mythos“ serijos versija, kuri lieka prieinama tik ribotai vartotojų grupei.
Prieiga prie „Fable 5“ ir „Mythos 5“ modelių reikalauja mokėjimo.
„Anthropic“ apibūdina „Fable 5“ kaip galingiausią iki šiol prieinamą modelį plačiajai visuomenei. Sakoma, kad jis pasižymi puikiomis savybėmis tokiose srityse kaip programinės įrangos kūrimas ir moksliniai tyrimai. „Opus 4.8“ – atsarginė alternatyva tam tikros užklausos – laikomas kitu geriausiu modeliu.
Po balandžio mėnesio pristatymo „Mythos“ greitai tapo politine problema, sukeldamas saugumo susirūpinimą JAV vyriausybėje. Jam taip pat priskiriami nuopelnai už mąstymo apie dirbtinio intelekto politiką pasikeitimą. Iki tol JAV prezidento Donaldo Trumpo požiūris buvo suteikti technologijų pramonei plačią laisvę ir sumažinti reguliavimą. Tačiau birželio pradžioje jis išleido vykdomąjį įsakymą, kuris galėtų suteikti vyriausybei bent jau tam tikrą didesnės priežiūros priemonę. Jame numatyta, kad dirbtinio intelekto įmonės savanoriškai pateiks savo modelius vyriausybei peržiūrėti prieš juos išleidžiant. Nepaisant to, galutinis įsakymas buvo mažiau griežtas, nei siūlė kai kurie ankstesni pasiūlymai.
Nuo pat įkūrimo 2021 m. „Anthropic“ pozicionavo save, kaip teikiančią pirmenybę saugumui, dažnai įspėdama apie su savo produktais susijusią riziką. Dar praėjusią savaitę įmonė pasiūlė visoje pramonėje paskelbti dirbtinio intelekto technologijų kūrimo moratoriumą. „Manome, kad pasauliui būtų naudinga turėti galimybę sulėtinti arba laikinai sustabdyti pažangiojo dirbtinio intelekto kūrimą“, – teigė įmonė. Tačiau, kad tai veiktų, dirbtinio intelekto įmonės įvairiose šalyse turėtų susitarti sustabdyti savo darbą pagal tas pačias sąlygas.
Nepaisant šio patrauklumo, „Anthropic“ ir toliau trumpais intervalais diegia naujus dirbtinio intelekto modelius. Bendrovė taip pat ruošiasi pirminiam viešam akcijų siūlymui (IPO); praėjusią savaitę ji pateikė savo prospektą SEC. Vos prieš kelias savaites ji pritraukė kapitalo iš investuotojų kitame finansavimo etape, pasiekdama 965 mlrd. USD vertę. Tuo metu bendrovė teigė, kad jos metinės pajamos pasiekė 47 mlrd. USD. Balandžio mėnesį minėtas skaičius buvo 30 mlrd. USD.“ [1]
1. Neue "Mythos"-Version: KI-Modell jetzt für breite Öffentlichkeit verfügbar. Frankfurter Allgemeine Zeitung; Frankfurt. 11 June 2026: 24. lid.
Komentarų nėra:
Rašyti komentarą