Neseniai „Anthropic“ įgyvendinta politika ir kelių milijardų dolerių išlaidos skaičiavimo infrastruktūrai atspindi sudėtingą pramonės poziciją. Nors bendrovė pasisako už pasaulinę priežiūrą ir branduolinio ginklo neplatinimo kontrolę, kritikai teigia, kad šios sistemos veikia kaip esama apsauga, kuri gali būti nepalanki mažesnėms laboratorijoms, ypač „Anthropic“ teisinių kovų su Pentagonu metu.
Įtampa tarp „Anthropic“ saugumo propagavimo ir dirbtinio intelekto konkurencijos realybės apima kelis svarbius veiksnius:
Saugumas ir rinkos kontrolė: „Anthropic“ paragino taikyti pasaulines pauzes ir griežtas apsaugos priemones, ypač bendradarbiaudama su JAV Energetikos departamentu dėl branduolinio ginklo neplatinimo priemonių.
Tačiau pramonės stebėtojai teigia, kad šie griežti reguliavimo raginimai sustiprina „Anthropic“ pradininko pranašumą ir apsaugo ją nuo trikdančių konkurentų.
Pentagono aklavietė: „Anthropic“ susidūrė su rimtu konfliktu su JAV gynybos departamentu. Norėdama panaudoti skandalą reklamai, bendrovė atsisakė leisti naudoti savo modelį „Claude“ autonominiams ginklams ar masiniam vidaus stebėjimui. Dėl to Pentagonas įvardijo „Anthropic“ kaip nacionalinio saugumo tiekimo grandinės rizikos grupę.
Išteklių masyvavimas: Konkurentai dažnai kritikuoja „Anthropic“ dėl gana konservatyvių investicijų į skaičiavimo technologijas, o „Anthropic“ generalinis direktorius Dario Amodei viešai perspėjo, kad didžiulės, „neapgalvotos“ išlaidos gali sužlugdyti mažiau diversifikuotus kūrėjus.
Tarptautinis neplatinimas: Svarbiausiuose politikos dokumentuose „Anthropic“ ragino JAV agresyviai apriboti Kinijos prieigą prie pažangių dirbtinio intelekto lustų, kad būtų užtikrinta Amerikos technologinė persvara.
„Dirbtinio intelekto milžinė teigė, kad žmonijai apsaugoti nuo, save tobulinančių, modelių reikalingas „stabdžių pedalas“.
Šis pasiūlymas gali turėti didelių pasekmių.
Andrew čia. 2023 m. Elonas Muskas kartu su daugiau nei 30 000 kitų pasirašiusiųjų pasirašė atvirą laišką, kuriame prašė sustabdyti dirbtinio intelekto plėtrą. Dabar „Anthropic“ siūlo panašų pertrauką, teigdama, kad rizika gali nusverti naudą. Visa tai planuojant viešai prekiauti.
Taip pat: bendrovė, atsakinga už „S&P 500“, atsisakė keisti savo taisykles, kad po IPO greitai įtrauktų „SpaceX“ į savo indeksą, kitaip nei „Nasdaq“. (Primename: „Nasdaq“ laimėjo „SpaceX“ įtraukimą į savo biržą.) Visa tai aptarsime toliau.
Visuotinis stabdžių pedalas dirbtiniam intelektui?
Dirbtinio intelekto milžinai, tokie kaip „Anthropic“ ir „OpenAI“, lenktyniauja siekdami didelio masto IPO, kurie galėtų būti vertinami daugiau nei 1 trilijonu dolerių, remdamiesi sparčiai tobulėjančių produktų pažadu.
Vis dėlto naujas „Anthropic“ pasiūlymas, kad dirbtinio intelekto laboratorijos turėtų apsvarstyti galimybę sustabdyti savo pažangiausių technologijų kūrimą – vardan saugumo – kelia klausimų dėl investavimo į šias įmones rizikos. (Tai galėtų turėti didelių pasekmių, jei federalinė vyriausybė įsigytų jose akcijų, kaip praneša naujienų agentūra NOTUS.)
Iš ketvirtadienį „Anthropic“ svetainėje paskelbto tinklaraščio įrašo:
Manome, kad pasauliui būtų naudinga turėti galimybę sulėtinti arba laikinai sustabdyti dirbtinio intelekto plėtrą pažangiose srityse, kad visuomenės struktūros ir derinimo tyrimai neatsiliktų nuo technologijų pažangos.
Jackas Clarkas, „Anthropic“ įkūrėjas, BBC News sakė: „Šiuo metu dirbtinio intelekto pramonėje yra akceleratoriaus pedalas, bet nėra stabdžių pedalo.“
Priežastis: „rekursyvus savęs tobulinimas“. Tai reiškia, kaip dirbtinio intelekto modeliai netrukus galėtų tobulėti be žmogaus įsikišimo. Vis galingesni modeliai ir autonomiškai veikiančių agentų atsiradimas tai įgalintų.
Praėjusį mėnesį, „Anthropic“ pažymėjo, 80 procentų bendrovės kodo bazėje pridėto kodo buvo parašyta naudojant Claude modelį.
„Anthropic“ siūlo dirbtinio intelekto atitikmenį branduolinio ginklo neplatinimo sutarčiai:
Reikšmingam sulėtėjimui ar pristabdymui reikėtų kelių gerai aprūpintų laboratorijų pasienyje arba netoli jo, keliose šalyse, kurios sutiktų sustabdyti veiklą tomis pačiomis sąlygomis. Taip pat reikėtų, kad kiekviena šalis galėtų patikrinti, ar kitos iš tikrųjų sustojo.
Bendrovė pridūrė, kad jos Antropijos institutas, vidinis tyrimų padalinys, ieškos būdų, kaip sukurti tokią sistemą.
Dirbtinio intelekto priežiūra tampa vis svarbesniu rūpesčiu. Apklausos rodo, kad amerikiečiai labiau nerimauja dėl technologijos apsaugos priemonių kūrimo, o ne dėl jos kūrimo spartinimo. Net Trumpo administracija tapo atviresnė aktyviai reguliuoti dirbtinio intelekto bendroves.
Tačiau dirbtinio intelekto kūrimo pristabdymas gali turėti rimtų pasekmių. pasekmės:
Dėl spartaus augimo „Anthropic“ ir „OpenAI“ pasiekė astronomines vertes. (Atminkite, kad „Anthropic“ neseniai buvo įvertinta 900 mlrd. dolerių.) To sutrikdymas galėtų sugriauti jų akcijų vertę ir paveikti investuotojus.
„Anthropic“ apibrėžta sistema pareikalautų veiksmingo laboratorijų kontrolės ir tarptautinio bendradarbiavimo tarp konkuruojančių šalių, tokių kaip JAV ir Kinija.
„Anthropic“ raginimas sulaukė skepticizmo, įskaitant ir Sacks, buvęs administracijos dirbtinio intelekto caras, kuris ilgai kritikavo įmonę. „Kitaip tariant, jūs norite, kad vyriausybė mus nuo jūsų išgelbėtų“, – rašė jis X.
Keletas kritikų teigė, kad „Anthropic“ rinkodaros strategija pavertė baimės kurstymą, nors pramonės ekspertai „DealBook“ sakė, kad įmonės vadovai atrodo nuoširdžiai susirūpinę.“ [1]
Teisingai.
1. Anthropic’s Call for A.I. Nonproliferation: DealBook Newsletter. Andrew Ross Sorkin; Warner, Bernhard; Kessler, Sarah; Michael J. de la Merced; Gallogly, Niko; et al. New York Times (Online) New York Times Company. Jun 5, 2026.
Komentarų nėra:
Rašyti komentarą