Dario Amodei, dirbtinio intelekto startuolio „Anthropic“
generalinis direktorius, aiškiai pasirinko strategiją, pagal kurią dirbtinio
intelekto saugumas naudojamas kaip pagrindinis, nuo aukščiausios kokybės
produktų diferencijuotas pardavimo argumentas, o tai neseniai baigėsi didelio
atgarsio sulaukusiu ginču su JAV vyriausybe. Panašiai kaip „Apple“ prekės
ženklo kūrimo strategija, susijusi su vartotojų privatumu ir duomenų saugumu,
„Anthropic“ savo atsisakymą pašalinti apsauginius turėklus laiko etikos
principu, paversdama potencialų „konfliktą“ su Pentagonu prekės ženklo
apibrėžimo momentu.
Saugumas kaip aukščiausios kokybės produktas: „Anthropic“,
įkurta remiantis dirbtinio intelekto saugumo principu, naudoja savo
„Konstitucinio dirbtinio intelekto“ metodą kaip pagrindinį išskirtinumo bruožą,
kad savo produktus, tokius kaip „Claude“ pokalbių robotas, pozicionuotų kaip
saugesnius ir patikimesnius nei konkurentai, o tai leidžia nustatyti didesnes
kainas įmonių rinkoje.
„Dulkių“ konfliktas su vyriausybe: JAV karo departamentas
(anksčiau Gynybos departamentas) grasino laikyti „Anthropic“ „tiekimo grandinės
rizika“ ir nutraukti sutartis, nebent jie pašalintų saugos priemones,
leidžiančias naudoti autonominius ginklus ir masinį stebėjimą.
Atsisakymas kaip reklama: „Amodei“ atsisakė šių reikalavimų,
konfliktą pateikdama kaip Amerikos vertybių gynimą nuo vyriausybės pastangų
nekontroliuojamam dirbtiniam intelektui, teigdama, kad jie negali „racionalia
sąžine“ tiekti technologijų, kurios kelia pavojų žmonėms. Ši vieša kova yra tvirtas
jų „saugaus“ prekės ženklo palaikymas, išskiriantis juos iš konkurentų, kurie
gali veikti greičiau ir su mažiau apribojimų.
Privatumas kaip „produktas“: panašiai kaip „Apple“ vartotojų
duomenų privatumą laiko aukščiausios kokybės savo įrenginių funkcija, kad
pateisintų didesnes kainas, „Amodei“ DI saugumą laiko esminiu DI paslaugų
komponentu.
Atstovavimas valdžiai: abi bendrovės naudojasi konfliktais
su vyriausybės ar pramonės normomis (pvz., „Apple“ atsisako kurti slaptus
kelius teisėsaugai), kad sukurtų pasitikėjimą su klientais, kurie vis labiau
nerimauja dėl netinkamo technologijų naudojimo.
Pasitikėjimas, o ne greitis: nors konkurentai daugiausia
dėmesio skiria grynam greičiui ar galimybėms, tiek „Apple“, tiek vis dažniau
„Anthropic“ siūlo „atsakingą“ arba „saugią“ alternatyvą, kuri patraukli rizikos
vengiantiems verslo klientams.
„Per pirmąjį tiesioginį susitikimą su gynybos sekretoriumi
Pete'u Hegsethu „Anthropic“ generalinis direktorius Dario Amodei išdėstė savo
argumentus apie dirbtinio intelekto valdomų autonominių ginklų keliamą riziką.
Hegsethas nenorėjo to girdėti net iš generalinio
direktoriaus, kurio įmonė sukūrė dirbtinio intelekto įrankius, kurie tapo labai
svarbūs kariuomenei.
„Joks generalinis direktorius nenurodinės mūsų kovotojams,
ką jie gali ir ko negali daryti“, – sakė Hegsethas, vasario 24 d. vykusiame
susitikime nutraukęs Amodei kalbą sakinio viduryje, teigia su šiuo klausimu
susipažinę šaltiniai.
Dviejų vyrų, turinčių smarkiai skirtingas asmenybes ir
pasaulėžiūras, nesutarimai niekada nebuvo išspręsti. O dabar Trumpo
administracija, kuri pasisakė už spartų dirbtinio intelekto diegimą kaip būtiną
ekonomikos augimui ir nacionaliniam saugumui, atsidūrė nesutarimų sūkuryje su
vietiniu pramonės milžinu.
„Tai kova dėl nuotaikų ir asmenybių, maskuojamų kaip
politinis ginčas“, – sakė Michaelas Horowitzas, buvęs Gynybos departamento
pareigūnas, dirbęs su dirbtinio intelekto politika.
Ginčas kilo dėl „pasitikėjimo tarp „Anthropic“ praradimo“.
ir Pentagonas, kur „Anthropic“ nepasitiki, kad Pentagonas pakankamai žino, jog
atsakingai naudotų jų technologijas, ir Pentagonas nepasitiki, kad „Anthropic“
norės dirbti su svarbiais jai reikalingais naudojimo atvejais“, – sakė jis.
Amodei, kuris daugiau nei prieš metus patikino
susirūpinusius darbuotojus, kad bendrovės sutartis su JAV kariuomene daugiausia
susijusi su popierizmu, pastaruoju metu konfliktą su Pentagonu įvardijo kaip
turintį rimtų pasekmių šiuolaikinės karo ateities ir net visuomenės apskritai
ateičiai.
Penktadienį prezidentas Trumpas nurodė visoms federalinėms
agentūroms nutraukti bendradarbiavimą su „Anthropic“ ir užsipuolė bendrovės
vadovus, pavadindamas juos „kairiųjų pažiūrų kvailiais“.
Vėliau tą pačią dieną, pasibaigus terminui, per kurį
„Anthropic“ turėjo susitarti dėl jos įrankių naudojimo būdo, Hegsethas įvardijo
bendrovę kaip tiekimo grandinės rizikos veiksnį. Šis žingsnis, retai naudojamas
prieš JAV bendrovę, jei jis atlaikys numatomą „Anthropic“ teisinį ginčą, gali
pakenkti „Anthropic“ gebėjimui bendradarbiauti su kitais vyriausybės rangovais,
įskaitant „Lockheed Martin“, „Amazon“ ir „Microsoft“. Tai kelia grėsmę
santykiams, kurie pavertė ją viena vertingiausių startuolių pasaulyje.
Ironiška, bet likus kelioms minutėms iki savo įrašo, Trumpas
leido smūgius Iranui – išpuolius, kurie buvo suplanuoti dalyvaujant „Anthropic“
Claude'o modeliams, pranešė „The Wall Street Journal“.
Claude'as taip pat atliko vaidmenį sausio mėnesio karinėje
operacijoje, kuri užgrobė Venesuelos
prezidentą Nicolas Maduro ir buvo naudojamas karo žaidimams ir misijų
planavimui, teigė su šiuo klausimu susipažinę šaltiniai.
„Anthropic“ daugelį metų buvo garsiausia dirbtinio intelekto
bendrovė, pasisakanti už apsauginius turėklus, siekiant užtikrinti saugų
technologijos naudojimą. Ši pozicija kartais erzino administracijos pareigūnus,
kurie plačiai įdiegė „Anthropic“ įrankius visoje vyriausybėje, net ir
nerimaudami dėl bendrovės noro kontroliuoti, kaip jie naudojami.
Anksčiau šiais metais „Anthropic“ faktiškai uždraudė žodžio
„patogenas“ vartojimą modelių užklausose kaip dalį savo apsaugos priemonių nuo
dirbtinio intelekto, kuris sukuria biologinį ginklą jos neklasifikuotose
sistemose, kurias naudoja daugelis agentūrų, teigė su šiuo klausimu susipažinę
šaltiniai. Draudimas apsunkino Ligų kontrolės ir prevencijos centrų
darbuotojams naudotis dirbtinio intelekto įrankiu. Prireikė savaičių, kol
darbuotojams buvo suteiktas leidimas apeiti draudimą.
Emilis Michaelas, gynybos tyrimų ir inžinerijos
viceministras, praėjusią savaitę pavadino Amodei melagiu už tai, kad jis
neteisingai apibūdino Pentagono pasiūlymą, ir apkaltino jį bandymu vaidinti
Dievą.
Iki pirmadienio agentūros, įskaitant Iždo departamentą ir
Sveikatos ir žmogiškųjų paslaugų departamentą, pranešė darbuotojams, kad jų
dirbtinio intelekto įrankiai nebeveiks su Claude'u.
Konflikto esmė – klausimas: kas galiausiai turėtų
kontroliuoti, kaip pažangiausi dirbtinio intelekto įrankiai bus naudojami
konfliktuose ir plačiojoje visuomenėje?
Amodei ir Hegsethas į šį klausimą žiūri skirtingai. Akiniais
nešiojantis tyrėjas, dažnai sukiojantis garbanotus plaukus, Amodei rašo ilgus
dokumentus, kuriuose filosofuoja apie dirbtinio intelekto saugumo svarbą, ir
yra žinomas dėl savo sąmoningo požiūrio į problemų sprendimą. Jis yra vegetaras
nuo vaikystės.
Hegsethas yra buvęs „Fox News“ laidų vedėjas, turintis
keletą tatuiruočių, susijusių su jo krikščioniškuoju tikėjimu ir karine
tarnyba. Socialiniuose tinkluose dažnai plinta vaizdo įrašai, kuriuose
Hegsethas kelia svarmenis, ir jis atliko svarbų vaidmenį prezidento Trumpo
sprendime pervadinti Gynybos departamentą į Karo departamentą.
Sekmadienio vakarą Pentagonas dar nebuvo oficialiai
paskelbęs „Anthropic“ apsaugos, todėl kyla galimybė, kad susitarimas gali būti
pasiektas.
Pastarosiomis dienomis, „Anthropic“ konfliktui su Pentagonu
aštrėjant, ji prarado vienintelės dirbtinio intelekto bendrovės, patvirtintos
naudoti įslaptintoje aplinkoje, statusą. Elono Musko xAI neseniai susitarė dėl
jo dislokavimo tokiose aplinkose, o penktadienio vakarą apie tai paskelbė ir
„OpenAI“.
Kova su „Anthropic“ niekada nebuvo asmeniška ir visada buvo
susijusi su Gynybos departamento noru naudoti savo dirbtinio intelekto įrankius
visais teisėtais tikslais, teigė Pentagono pareigūnas.
Amodei įkūrė „Anthropic“ 2021 m., palikęs „OpenAI“, nes
manė, kad bendrovė teikia pirmenybę verslo tikslams, o ne dirbtinio intelekto
saugumui. Kai kuriems jo darbuotojams jis žinomas kaip „Profesorius Panda“.
Amodei įsipareigojo kartu su bendraįkūrėjais paaukoti 80 % savo steigėjų akcijų
labdarai – dabar ši dalis verta milijardų dolerių.
Amodei nusprendė neišleisti ankstyvosios „Claude“ versijos
2022 m. vasarą, bijodama, kad tai pradės pavojingas technologijų lenktynes.
„OpenAI“ po kelių savaičių išleido „ChatGPT“, priversdama „Anthropic“ pasivyti.
Nors Amodei įtvirtino savo metodiško požiūrio į dirbtinio
intelekto kūrimą reputaciją, Michaelas padėjo kurti „Uber“ kaip vyriausiasis
verslo vadovas, kai bendrovė buvo žinoma dėl agresyvaus konkurentų ir
reguliavimo institucijų spaudimo. Vėliau jis dirbo su dešimtimis startuolių ir
rėmė pastangas integruoti technologijas į Pentagono veiklą.
Michaelas palaikė ilgalaikius santykius su „OpenAI“ vadovu
Samu Altmanu, padėdamas jam parduoti savo pirmąjį startuolį 2012 m. Jie taip
pat dirbo toje pačioje startuolių ekosistemoje, o Altmanas vadovavo
inkubatoriui „Y Combinator“ nuo 2014 iki 2019 m.
Kol „OpenAI“ veržėsi į priekį tarp vartotojų, „Anthropic“
įrankis „Claude“ įgijo ištikimų programuotojų pasekėjų. Jis sėkmingai
sudarinėjo įmonių sutartis ir stulbinamai pritraukė kapitalo. Po paskutinio
lėšų rinkimo etapo jis buvo įvertintas 380 mlrd. dolerių.
Didelės „Amazon“ investicijos pasirodė esančios ypač naudingos
ir tapo įėjimu į Pentagoną. 2024 m. lapkritį, paskutinėmis Bideno
administracijos dienomis, „Anthropic“ ir duomenų gavybos įmonė „Palantir“
paskelbė apie partnerystę su „Amazon“, kuri suteiktų JAV žvalgybos ir gynybos
agentūroms prieigą prie Claude'o modelių.
Ši partnerystė suteikė „Anthropic“ pagreitintą kelią naudoti
duomenis įslaptintose aplinkose per „Palantir“ sistemas ir padarė „Anthropic“
pirmuoju modelių kūrėju, prieinamu jautriausioms Pentagono operacijoms.
Kai kurie „Anthropic“ darbuotojai abejojo, kaip ši
technologija bus naudojama. Ar įrankiai galėtų būti naudojami operacijose,
kuriose žūsta žmonės?
Amodei nuramino darbuotojus. 2024 m. pabaigoje vykusiame
visų šalių susitikime jis palygino tai su pagalba vyriausybei greičiau užbaigti
dokumentų tvarkymą ir administracines funkcijas.
Net ir „Anthropic“ įgavus pagreitį, ji erzino
administracijos pareigūnus antrosios Trumpo kadencijos pradžioje. Amodei niūrūs
vieši įspėjimai apie dirbtinio intelekto keliamus pavojus pavertė jį vienu iš
nedaugelio dirbtinio intelekto vadovų, netekusių harmonijos su Trumpu. Gegužės
pabaigoje Amodei perspėjo, kad dirbtinis intelektas gali sunaikinti maždaug
pusę visų pradinio lygio baltųjų apykaklių darbo vietų.
Trumpo dirbtinio intelekto caras Davidas Sacksas
tinklalaidėje, kurią jis kartu veda, pavadino „Anthropic“ „įsipareigojusia
kairiąja pažiūra“, nurodydamas jos ryšius su organizacijomis, kurios yra
demokratų donorės. „Anthropic“ anksčiau buvo pasamdžiusi kelis Bideno eros
pareigūnus. Amodei prieš 2024 m. rinkimus Trumpą pavadino „feodalu karo vadu“.
Vis dėlto liepą „Anthropic“ paskelbė apie iki 200 mln.
dolerių vertės sutartį su Pentagono. Ji taip pat pasirašė susitarimą su
centrine federalinės vyriausybės viešųjų pirkimų tarnyba, kad kitos agentūros
galėtų naudoti Claude'ą.
Maždaug tuo pačiu metu Sacksas ir kiti pareigūnai dirbo prie
vykdomojo įsakymo, nukreipto prieš „pažadintą dirbtinį intelektą“ – žingsnio,
kuris buvo plačiai vertinamas kaip nukreiptas prieš „Anthropic“.
Praėjusių metų pabaigoje Pentagonas pradėjo svarstyti
galimybę pakeisti savo sutartis su dirbtinio intelekto įmonėmis, kad jos galėtų
naudoti technologiją visais teisėtais atvejais. „Anthropic“ dvejonės dėl
visiško pritarimo ir noras išlaikyti raudonas linijas, draudžiančias naudoti
masinį vidaus stebėjimą ir autonominius ginklus, nusivylė kai kuriuos
administracijos pareigūnus, teigė su pokalbiais susipažinę asmenys.
Sausio mėnesį „Anthropic“ ir Pentagono konfliktas
suintensyvėjo, o „Journal“ ir kitos žiniasklaidos priemonės pranešė, kad
sutartis gali būti nutraukta.
Sausio 12 d. kalboje Musko „SpaceX“ Hegsethas teigė, kad
Grokas prisijungs prie Pentagono karinės dirbtinio intelekto platformos. Jis
akivaizdžiai užsipuolė „Anthropic“, sakydamas: „Mes nenaudosime dirbtinio
intelekto modelių, kurie neleis jums kariauti“.
Gynybos departamentas derėjosi, tačiau „Anthropic“ toliau
tvirtai laikėsi savo raudonų linijų. Ji norėjo, kad draudimai būtų aiškūs,
nepaisant Pentagono garantijų, kad nevykdys tokių operacijų ir nepažeis
įstatymų.
Maždaug tuo pačiu metu žiniasklaidos priemonės pranešė, kad
kai Michaelas paklausė Amodei hipotetinio klausimo, ar Pentagonas galėtų
panaudoti Claude'ą raketoms, artėjančioms prie JAV, sunaikinti, „Anthropic“
generalinis direktorius sakė, kad Gynybos departamento pareigūnai pirmiausia
turėtų pasitarti su įmone. Pranešama, kad toks atsakas supykdė Trumpo
administraciją. „Anthropic“ neigė, kad Amodei taip sakė.
Įtardami, kad jie pateko į aklavietę, Pentagono pareigūnai
paspartino diskusijas su pagrindiniu „Anthropic“ konkurentu. Vasario 21 d. savaitgalį
Michaelas susisiekė su Joe Larsonu, „OpenAI“ vyriausybės vadovu, kad sužinotų,
ar bendrovė galėtų pradėti sertifikavimo procesą, kad būtų galima naudoti
įslaptintas sistemas. Pareigūnai jau dirbo, kad šis statusas būtų užtikrintas
Musko „Grok“.
Vasario 24 d. vykusiame susitikime Pentagone Hegsethas
pagyrė „Amodei“ už bendrovės modelių kokybę, tačiau pakartojo savo grasinimą
„Anthropic“ laikyti tiekimo grandinės rizika. Jis taip pat iškėlė dar didesnę
grėsmę: pasitelkti Gynybos gamybos įstatymą, Šaltojo karo laikų įstatymą,
suteikiantį vyriausybei pagrindinių pramonės šakų kontrolę, kad priverstų
„Anthropic“ vykdyti jos nurodymus. Gynybos sekretorius davė Amodei laiko iki
penktadienio 17:01 val., kad sutiktų su kariuomenės teise naudoti technologiją
visais teisėtais atvejais.
Trečiadienio vakarą Gynybos departamentas atsiuntė naują
sutarties tekstą.
Tą dieną „OpenAI“ atstovas Altmanas susisiekė su Michaelu.
Altmanas tvirtai manė, kad rizika, jog bus aktyvuotas Gynybos gamybos įstatymas
arba „Anthropic“ bus paskelbta tiekimo grandinės rizika, nėra naudinga šaliai,
teigia su jų pokalbiu susipažinę asmenys.
Tačiau jis taip pat matė galimybę „OpenAI“. Bendrovė pasiūlė
sutartį, kurioje būtų panaudota galiojančių įstatymų formuluotė, siekiant
išlaikyti apsaugą nuo masinio vidaus stebėjimo ir autonominių ginklų, neprašant
Pentagono keisti savo naudojimo politikos bendrovei.
Artėjant penktadienio terminui, Trumpas pareiškė, kad nurodo
federalinėms agentūroms nutraukti bendradarbiavimą su „Anthropic“. Tačiau šalys
vis dar derėjosi.
17:01 val. Michaelas paskambino Amodei, kuri neatsiliepė.
Tada Michaelas kalbėjosi su kitu aukščiausiu „Anthropic“ vadovu, siūlydamas
sandorį, kuris, „Anthropic“ nuomone, būtų palikęs atviras duris didelių duomenų
kiekių apie JAV gyventojus rinkimui ar analizei, teigė su šiuo klausimu
susipažinę asmenys.
Kai kurie „Anthropic“ darbuotojai manė, kad susitarimas
beveik pasiektas dar prieš galutinį pasiūlymą, kuris buvo atmestas. Bendrovės
pareigūnai neseniai sužinojo, kad jie pretenduoja laimėti Pentagono sutartį
dirbtinio intelekto panaudojimui dronams valdyti, tačiau dėl vykstančių derybų
negalėjo dalyvauti. Michaelas užginčijo bendrovės pateiktą pasiūlymo
apibūdinimą.
Po akimirkos Hegsethas socialiniuose tinkluose paskelbė, kad
„Anthropic“ laiko tiekimo grandinės rizika.
Atrodo, kad ši aklavietė didina „Anthropic“ populiarumą tarp
vartotojų. Iki sekmadienio Claude'as aplenkė „ChatGPT“ ir tapo dažniausiai
atsisiųsta programėle „Apple“ programėlių parduotuvėje." [1]
1. Culture Clash Fueled Pentagon Breakup with Anthropic ---
Trust broke down between Defense Secretary Hegseth and tech CEO Amodei; 'a
fight about vibes'. Ramkumar, Amrith; Keach Hagey; Weisgerber, Marcus. Wall
Street Journal, Eastern edition; New York, N.Y.. 03 Mar 2026: A1.