„SAN FRANCISKAS -- Silicio slėnyje kyla neigiama reakcija prieš „Anthropic“, kylanti iš susirūpinimo dėl bendrovės produktų pristatymų, kurie konkuruoja su esamais programinės įrangos tiekėjais, ir jos propaguojamos uždaros dirbtinio intelekto ekosistemos.
Startuolių įkūrėjai, programinės įrangos įmonių vadovai ir dirbtinio intelekto tyrėjai teigė, kad pradėjo rinktis pigesnius dirbtinio intelekto modelius, kai rinkoje pamatė „Anthropic“ išleistus įrankius, kurie konkuravo su kitų įmonių siūlomais. Vienas iš tokių leidimų buvo balandžio mėnesį išleistas „Claude Design“, kurį kai kurie laikė tiesioginiu konkurentu dizaino bendrovės „Figma“, vienos iš „Anthropic“ partnerių, pasiūlymams.
Netrukus po išleidimo vykusiame renginyje „Figma“ generalinis direktorius Dylanas Fieldas teigė, kad „Anthropic“ nebuvo „nuolat atvira savo komunikacijoje“, anot renginio dalyvių.
„Visa pramonė daug ko išmoko iš to, kaip klostėsi ši dinamika“, – sakė Sarah Sachs, „Notion“ dirbtinio intelekto vadovė. dalyvavo renginyje. „Kai kurios įmonės galėjo pernelyg pasitikėti.“
„Anthropic“ taip pat sulaukė kritikos dėl duomenų saugojimo politikos pakeitimų ir dėl galingo modelio, kuris neatsakys į DI tyrimų klausimus, išleidimo, todėl kai kurie tyrėjai, pasisakantys už didesnį DI sistemų skaidrumą, skundėsi.
Taip pat skeptiškai vertinami „Anthropic“ vadovų perspėjimai apie vadinamojo „atvirojo svorio“ DI saugumo riziką – modelių, kurie yra daug pigesni ir paprastai leidžia vartotojams pritaikyti ir įdiegti savo apsaugos priemones. Keletas tokių modelių, pagamintų Kinijoje, pastaraisiais mėnesiais sužavėjo vartotojus savo galimybėmis, kurios priartėjo prie JAV DI sistemų.
„Anthropic“ gamina fantastiškus produktus“, – sakė Vishalas Misra, Kolumbijos universiteto inžinerijos mokyklos skaičiavimo ir DI prodekanas. Tačiau bendrovė taip pat daro pareiškimus apie saugumo ir DI riziką, kurie neatlaiko patikrinimo, sakė jis.
„Jie kelia baimę visuomenėje dėl šių modelių“, – pridūrė jis. Visuomenės baimė „suteikia jiems svertą priimti jiems palankius reglamentus“.
Bendrovės atstovė gynė šiuos žingsnius. „Anthropic“ ėmėsi visų būtinų priemonių, siekdama užtikrinti modelių saugumą ir tai, kad priešininkai negalėtų jų panaudoti kurdami rimtą riziką.
„Anthropic“ generalinis direktorius Dario Amodei ir kiti bendrovės vadovai ne kartą kalbėjo apie atvirojo svorio dirbtinio intelekto sistemų keliamą riziką, kurią daugelis dirbtinio intelekto tyrėjų laiko daug sunkiau kontroliuojama – nerimą keliančia galimybe, jei modeliai ir toliau tobulės. Dirbtinio intelekto vadovai teigia, kad kai kurie modeliai neturi tokių pačių saugumo priemonių, kokias turi pirmaujantys JAV modeliai.
Buvęs „OpenAI“ vadovas Amodei 2021 m. kartu su šešiais kitais buvusiais „OpenAI“ darbuotojais įkūrė „Anthropic“, kai susipyko su „OpenAI“ generaliniu direktoriumi Samu Altmanu dėl saugumo ir kitų klausimų.
„Anthropic“ skelbia didelius tyrimus apie dirbtinio intelekto saugumo riziką ir remia vyriausybės dirbtinio intelekto reguliavimą teikdama pritarimo ir politines aukas.
Pirmadienį, po to, kai daugybė JAV bendrovių, įskaitant „Nvidia“ ir „Microsoft“, pasirašė laišką, kuriame išreiškė paramą atviriesiems modeliams, Amodei paskelbė laišką, kuriame paaiškino savo poziciją karštose diskusijose. „„Anthropic“ niekada nepasisakė už atvirojo svorio modelių draudimą“, – jis teigė. rašė. „Atvirojo svorio modeliai, neturintys pavojingų galimybių, yra viešoji gėrybė.“
Laiške jis rašė, kad pagrindinis Amodei rūpestis buvo autoritarinių vyriausybių rizika pasivyti JAV dirbtinio intelekto srityje, „kad pasiektų nuolatinį karinį pranašumą arba vykdytų neįtikėtinai gilias savo žmonių represijas“.
„Anthropic“ ir „OpenAI“ apkaltino kai kuriuos Kinijos modelių kūrėjus, kad jie nukopijuoja jų technologiją taikydami procesą, vadinamą „distiliacija“, iš esmės užklausdami modelį potencialiai milijonus kartų, kad panaudotų jo atsakymus kitam modeliui apmokyti. Kai kurie Trumpo administracijos pareigūnai, įskaitant iždo sekretorių Scottą Bessentą, išreiškė susirūpinimą dėl distiliacijos, tačiau nesiėmė veiksmų prieš Kinijos bendroves.
Amodei paragino politikos formuotojus imtis griežtų veiksmų prieš „pramoninio masto distiliaciją“.
Abi bendrovės aptarė Kinijos atvirojo svorio modelių keliamus iššūkius ir galimus bendrovių apribojimus su Trumpo administracijos pareigūnais, teigė su šiuo klausimu susipažinę šaltiniai. „OpenAI“ siūlo kai kuriuos atvirojo svorio modelius, o jos generalinis direktorius Altmanas praėjusiais metais sakė, kad apgailestauja dėl ankstesnės bendrovės pozicijos prieš šiuos įrankius.
Trumpo administracija svarsto galimybę įtraukti Kinijos bendroves į prekybos juodasis sąrašas, kuris faktiškai neleistų daugeliui JAV įmonių naudoti šių modelių.
Įmonės kritikai, įskaitant kai kuriuos administracijos pareigūnus, „Anthropic“ įspėjimus laiko pastangomis trukdyti konkurentams, atsižvelgiant į tai, kad daugelis tokių atvirų modelių gali pakenkti jos pastangoms maksimaliai padidinti pajamas, nes ji planuoja viešą kotiravimą jau rudenį.
Kevinas Bryanas, Toronto universiteto docentas, besispecializuojantis inovacijų srityje, gynė „Anthropic“ ir teigė, kad baimės dėl rizikos, susijusios su pasienio žvalgybos atviruoju kodu, yra realios ir plačiai paplitusios. „Viskas, kas yra atvirojo kodo, yra iš karto nulaužiama“, – sakė jis. „Kai tik modelis išleidžiamas, tuo viskas baigta.“
Kai kurie kritikai teigia, kad pati „Anthropic“ kūrė modelius taikydama procesą, kuris primena distiliavimą. „Įdomu, kad jie priešinasi distiliavimui, kai distiliuoja visą internetą nemokėdami autorinių atlyginimų“, – sakė Markas Sumanas, dirbtinio intelekto produktyvumo įrankių startuolio „Maple“ bendraįkūrėjas ir generalinis direktorius. „Man tiesiog keista, kad jie dabar apsigalvoja ir liepia kitiems nedaryti to, ką darė jie.“
Praėjus kelioms valandoms po to, kai buvo paviešintas atvirojo svorio modelius palaikančių įmonių laiškas, „OpenAI“ jį pasirašė. Netrukus po to „Alphabet“ priklausanti „Google“ pritarė laiškui, todėl „Anthropic“ tapo viena iš nedaugelio žymių dirbtinio intelekto bendrovių, kurios jo nepalaiko. Dabar savo pavadinimus pridėjo daugiau nei 70 Silicio slėnio įmonių.
Technologai ir politikos formuotojai teigia, kad jie taip pat nerimauja dėl dirbtinio intelekto lenktynių virsmo duopolija, kai „Anthropic“ ir „OpenAI“ iš esmės tampa dominuojančiais žaidėjais, kontroliuojančiais rinką.
Šeštadienį San Francisko centre, dirbtinio intelekto startuolių bendruomenės epicentre, vykusiame atvirojo kodo įrankių šalininkų proteste labiausiai rūpėjo susirūpinimas dėl duopolijos. Protestą kartu su kitais organizavo dirbtinio intelekto bendrovės „Hugging Face“, teikiančios atvirojo kodo įrankius, generalinis direktorius. „Pasienio laboratorijos kaupia intelektą“, – sakė proteste dalyvavęs dirbtinio intelekto tyrėjas Mahesh Lambe. „Tai reikia demokratizuoti“.
Kai kurie įkūrėjai ir startuolių vadovai teigė, kad „Anthropic“ išleista „Claude Design“ buvo žadinantis skambutis visame Silicio slėnyje. Produkto išleidimas paskatino kai kuriuos įkūrėjus daryti išvadą, kad „Anthropic“ gali išleisti įrankius, kurie konkuruotų su jais ir pritrauktų jų klientus. Po to jie rimtai ėmėsi pigesnių, atvirojo kodo modelių, ypač tų, kurie nebuvo sukurti JAV pasienio laboratorijose.
Nesitikėjimas išaugo birželį, kai „Anthropic“ išleido „Fable 5“ – saugumu apribotą galingo „Mythos“ modelio versiją su apribojimais.
Iš pradžių modelis pablogino atsakymus į kai kuriuos klausimus apie dirbtinio intelekto kūrimą nepranešdamas vartotojams. Mokslininkų bendruomenė nedelsdama kritikavo nematomas apsaugos priemones, teigdama, kad sprendimas yra antikonkurencinis ir apsunkina modelio galimybių vertinimą.
„Anthropic“ atsiprašė ir vėliau šias apsaugos priemones padarė matomas vartotojams. Tačiau vis tiek teigė, kad atmes pažymėtus prašymus.
Bendrovės atstovė spaudai teigė, kad „Anthropic“ ėmėsi veiksmų apriboti modelio atsakymus, kad užsienio priešininkai negalėtų naudoti modelių „būdais, kurie kelia didelę saugumo riziką“.
„Fable 5“ taip pat nepalaikytų „nulinio duomenų saugojimo“, o tai reiškia, kad bendrovė 30 dienų saugotų vartotojų duomenis dėl to, ką ji teigė, pasitikėjimo ir saugumo tikslais. Bendrovės priešinosi šiam pakeitimui, ypač tos, kurios dirba pramonės šakose, kuriose tvarkomi jautrūs duomenys.
Kai kurios bendrovės taip pat paprastai nerimauja, kad jų duomenys bus naudojami naujų modelių mokymui, o tai galėtų padėti „Anthropic“ pristatyti konkuruojančius produktus.
„Anthropic“ atstovė spaudai teigė, kad bendrovės darbuotojai negali skaityti jokių išsaugotų pokalbių ir bendrovė pažadėjo nenaudoti duomenų naujų modelių mokymui. Apribojimai taikomi „Fable“ ir „Mythos“ – bendrovės „pajėgiausiems modeliams“, bet ne kitiems modeliams.” [1]
1. Anthropic Is Facing Backlash in Silicon Valley Over Tactics. Au-Yeung, Angel; Li, Tina; Ramkumar, Amrith. Wall Street Journal, Eastern edition; New York, N.Y.. 30 July 2026: B1.
Komentarų nėra:
Rašyti komentarą