„Technologijų revoliucijas skaitmeniniame amžiuje paprastai lydi optimizmas ir jaudulys – prisiminkite Steve'ą Jobsą, kuris mėgavosi audringais plojimais, kai 2007 m. pristatė „iPhone“. Atrodo, kad didžiosios dirbtinio intelekto bendrovės laikosi tamsesnės ir keistesnės strategijos: jos mėgsta iškilmingai apibūdinti žalą, kurią padarys jų modeliai, tuo pačiu metu elgdamosi bejėgiškai, kad galėtų ką nors dėl to padaryti.
„Anthropic“ neseniai paskelbė klasikinį šios srities darbą: bauginančiai skambantį pranešimą pavadinimu „Kai dirbtinis intelektas pats save kuria“, kuriame teigiama, kad dirbtinis intelektas gali priartėti prie gebėjimo „autonomiškai kurti ir vystyti savo įpėdinį“. Bendrovė tikisi, kad šis rekursinis savęs tobulinimas atneš „didžiulę gėrį“ pasauliui, tačiau taip pat atvirai nerimauja, kad dėl to žmonės gali „prarasti kontrolę“ šių sistemų.
Visuomenės reakcija į šią ataskaitą sutelkta į skyrių, kuriame, regis, raginama visame pasaulyje pristabdyti dirbtinio intelekto kūrimą. Tačiau atidžiau perskaičius paaiškėja, kad „Anthropic“ iš tikrųjų nesiūlo tokios pauzės. Ataskaitoje teigiama, kad „jei būtų įmanoma“ sulėtinti technologijų plėtrą, turėtume tai daryti, tačiau tol, kol „mažiausiai atsargūs“ veikėjai žengs į priekį visu greičiu, joje teigiama, kad „Anthropic“ neturės kito pasirinkimo, kaip tik daryti tą patį.
Kaip katė, paliekanti negyvą paukštį prie jūsų slenksčio, „Anthropic“ kataloguoja niūrią ateitį, kurią gali sukurti jos produktai, gūžteli pečiais ir tada grįžta prie savo įnirtingų pastangų paversti šiuos perspėjimus realybe.
„Anthropic“ nėra vienintelė tokio nihilizmo šalininkė. Samas Altmanas, „OpenAI“ generalinis direktorius, dažnai pateikia niūrių teiginių. Jis palygino bendrovės pastangas kurti didelius kalbų modelius su kūrimu atominę bombą ir socialiniuose tinkluose paskelbė Mirties žvaigždės iš „Žvaigždžių karų“ nuotrauką, kartu su GPT-5 išleidimu. Jis taip pat daug kartų teigė, kad vienintelis atsakas į ekonominę žalą, kurią neišvengiamai sukels dirbtinio intelekto įrankiai, būtų plataus masto finansinė vyriausybės parama, pavyzdžiui, visuotinės bazinės pajamos arba viešojo turto fondas.
Pavadinkime šią strategiją „pražūtingu trolinimu“. Tai viena iš apibrėžiančių ir labiausiai intriguojančių dabartinio dirbtinio intelekto akimirkos savybių, ir aš pradėjau tikėti, kad tai moraliai nepateisinama.
Iš tikrųjų yra tik dvi galimybės, kaip dirbtinio intelekto bendrovės gali trolinti pražūtį. Pirma, jos iš tikrųjų tiki, kad jų kuriamos sistemos turi nemažą tikimybę sukelti didžiulius sutrikdymus – nuo ekonomikos sunaikinimo geriausiu atveju iki mūsų rūšies sunaikinimo blogiausiu atveju. Jei tai būtų tiesa, kiekviena pagrįsta etikos sistema teigtų, kad yra tik vienas priimtinas atsakas: nedelsiant nutraukti bet kokio produkto, kuris galėtų paspartinti tokią ateitį, kūrimą ir visais savo ištekliais lobizuoti, kad priverstumėte kitas dirbtinio intelekto bendroves padaryti tą patį. Moralės požiūriu, bet kokia kita reakcija būtų siaubinga.
Antra galimybė yra ta, kad šios dirbtinio intelekto bendrovės iš tikrųjų nesijaudina dėl šios rizikos ir kad jos švirkščia šias neišsprendžiamos pražūties dozes dėl kitų priežasčių. Jos gali norėti sustiprinti suvokiamą savo technologijos galią tuo metu, kai rengia savo pirminius viešus pasiūlymus. Arba jos tikisi, kad jų veiksmingi pranešimai ir niūrūs interviu padės joms konkuruoti dėl geriausių inžinerijos talentų, kilusių iš Silicio slėnio kultūros, persmelktos tokio tipo pražūtingumu. Rizikos kapitalistas ir dirbtinio intelekto patarėjas Davidas Sacksas neseniai teigė, kad „Anthropic“ naudoja baimės kurstymo taktiką, kaip „reguliavimo užgrobimo“ metodą, kuris gali trukdyti pradedantiesiems konkurentams. Bet kuri iš šių priežasčių reikštų, kad šios įmonės plauna milijonų nerimą, siekdamos pagerinti nykstančiai mažo skaičiaus stambių akcininkų finansinę padėtį. Toks cinizmas būtų lygiai taip pat monstriškas.
Kalbant apie dirbtinį intelektą, mes taip pripratome prie šio bejėgiško, stresą keliančio prognozavimo tono, kad pamirštame jo keistumą. Įsivaizduokite, jei „Ford Motor Company“ paskelbtų ataskaitą, kurioje teigiama, kad baiminasi, jog jos populiarūs F-150 sunkvežimiai netrukus gali pradėti sprogti, tačiau įmonė nieko negali dėl to padaryti, nes automobilių technologijos yra pernelyg neišvengiamos ir svarbios, kad būtų galima sulėtinti. Jums tikriausiai sunku įsivaizduoti šį scenarijų, nes jokia protinga vartojimo prekių įmonė niekada taip nesielgtų.
Dirbtinis intelektas įmonės galėtų pradėti elgtis taip pat. Tam reikėtų, kad jos nustotų traktuoti dirbtinį intelektą kaip neišvengiamą jėgą, kurią jos stengiasi valdyti. Taip nėra. Tai konkrečių įrankių rinkinys, kurį šios įmonės pasirenka kurti ir parduoti pagal konkrečius verslo planus. Todėl jos turi kalbėti apie savo pasiūlymus kaip apie bet kurį kitą vartojimo produktą. Tai reiškia aiškiai paaiškinti, kam šie produktai skirti, pagrįsti jų naudą ir, svarbiausia, prisiimti visą atsakomybę už bet kokią žalą, kurią jie gali sukelti. Vien tai, kad dirbtinis intelektas šiuo metu pasižymi aukštųjų technologijų spindesiu, dar nereiškia, kad jis yra išskirtinis, atsižvelgiant į sveiko proto saugos standartus.
Jei šios dirbtinio intelekto bendrovės ir toliau apsimetinėja, kad jos tėra stoiški neišvengiamos distopinės ateities stebėtojai, galbūt atėjo laikas priverstinai imtis veiksmų. Kaip vartotojai, galime atsisakyti žaisti pražūtingą žaidimą. Kitą kartą, kai „Anthropic“ išleis niūrią ataskaitą arba Samo Altmano balsas nutrūks, kai jis įsivaizduos „OpenAI“ keliamą trikdį, galėsime grįžti prie pragmatiško požiūrio: „Gerai, bet kokią naudą gaunu išleisdamas 1000 USD per mėnesį žetonams?“ Jei jos ir toliau didins pražūtį, galbūt atėjo laikas siaubą paversti pajuoka: „Anthropic“ baltųjų knygų nuoširdus pseudomokslas jau ribojasi su satyra. Dabartinis dirbtinį intelektą supantis laiko dvasia skatina nerimastingą paklusnumą šiems technologijų lyderiams, tačiau tai gali greitai pasikeisti.
(„The New York Times“ padavė „OpenAI“ ir jos partnerę „Microsoft“, apkaltindami juos autorių teisių pažeidimu, susijusiu su naujienų turiniu, susijusiu su dirbtinio intelekto sistemomis. „OpenAI“ ir „Microsoft“ šiuos teiginius neigė.)
Vyriausybė taip pat gali atlikti tam tikrą vaidmenį. Prezidentas Trumpas neseniai pasirašė vykdomąjį įsakymą, leidžiantį dirbtinio intelekto įmonėms savanoriškai pateikti savo modelius rizikos vertinimui prieš juos išleidžiant. Ši programa turėtų būti privaloma, o vyriausybė turėtų būti pasirengusi paneigti bet kurios įmonės, besigiriančios savo produktų destruktyviu potencialu, apgaulę, taip užbaigdama erą, kai šios dirbtinio intelekto laboratorijos gali vienu metu gąsdinti visuomenę savo technologija ir toliau ją kurti bei pardavinėti be jokių apribojimų.
Keista, bet dabartinė administracija, savaip kaprizingai ir neįskaitomai, gali pasukti šia linkme. Balandžio mėnesį „Anthropic“ paskelbė, kad viešai neskelbs savo naujosios „Claude Mythos Preview L.L.M.“, nes jos gebėjimas rasti ir išnaudoti programinės įrangos klaidas gali sukelti „rimtų“ pasekmių mūsų ekonomikai ir saugumui. Ji nusprendė ja pasidalyti tik su keliomis organizacijomis, kad jos galėtų pataisyti saugumo spragas – kampanija, kuri sukėlė didelę baimę ir nerimą, tačiau kartu sustiprino „Anthropic“ prekės ženklą kaip saugumu besirūpinančios dirbtinio intelekto technologijų lyderės.
Praėjusią savaitę bendrovė išleido modelio versiją, dabar apsaugotą „apsauginiais turėklais“ bendram naudojimui, ir kitą versiją su panaikintomis apsaugos priemonėmis kai kuriose srityse, kurią ji teikė nedidelei grupei. Trumpo administracija, remdamasi nacionalinio saugumo problemomis, nustebino pramonę pasipriešinimu. Ji įtraukė modelius į eksporto kontrolės sąrašą, o tai privertė „Anthropic“ laikinai išjungti prieigą. Nuobodus „Anthropic“ veiksmų aiškinimas yra toks, kad ankstesnis jos rankos laužymas dėl „Mythos“ buvo reklaminis triukas (neaišku, kodėl „apsauginiai turėklai“, kuriuos jie pridėjo praėjusią savaitę, negalėjo būti pridėti dar balandžio mėnesį, kai modelis buvo pirmą kartą pristatytas), o tai iš dalies rodo, kad administracijos veiksmai yra „Anthropic“ įžeidimas.
Pasienio laboratorijos mėgsta cituoti Kiniją, pateisindamos kuo greitesnį savo produktų kūrimą be jokio reikšmingo reguliavimo spaudimo (nors kai kurie, pavyzdžiui, „Anthropic“ generalinis direktorius Dario Amodei, ragino imtis reguliavimo). Tačiau geopolitinės rizikos valdymas yra vyriausybės, o ne Silicio slėnio darbas. Kai Amerikos biotechnologijų pramonė 10-ajame dešimtmetyje susirūpino dėl neigiamo genetinės inžinerijos įrankių potencialo, ji neskubėjo klonuoti žmonių, kol to nepadarė Kinija; vietoj to jos darė spaudimą Kongresui ir atitinkamoms tarptautinėms organizacijoms, kad būtų apribotos pačios bjauriausios šių inovacijų galimybės. Galimybė, kad kitas veikėjas gali padaryti ką nors blogo, nesuteikia jums moralinės teisės daryti ką nors panašaus.
Teismai taip pat gali tapti spaudimo šaltiniu, siekiant pakeisti tai, kaip dirbtinio intelekto įmonės kalba apie savo produktus. Prieš dešimtmetį socialinės žiniasklaidos titanai atsidūrė panašioje padėtyje kaip ir dabartiniai dirbtinio intelekto lyderiai. Jie bandė atsikratyti atsakomybės už akivaizdų neigiamą savo programėlių poveikį, laikydami jas pernelyg fundamentalia, kad būtų galima jas riboti: skaitmenine miesto aikšte, kuri reprezentavo natūralią komunikacijos ir demokratijos evoliuciją.
Tačiau kovo mėnesį priimtu svarbiu nuosprendžiu prisiekusieji pripažino „Meta“ ir „Google“ atsakingas už milijonų dolerių žalos atlyginimą už žalą, padarytą jų socialinės žiniasklaidos platformose. Šimtai panašių ieškinių šiuo metu pasiekia teismų sistemą, keliančią didelę grėsmę šioms įmonėms, kurios daugelį metų nebaudžiamai pelnėsi iš savo priklausomybę sukeliančių, smegenis iškreipiančių dizainų. Ar dirbtinis intelektas (DI) galėtų susidurti su panašiu bylinėjimusi? Pirmąją užuominą apie tai gavome praėjusią savaitę, kai Vokietijos teismas nusprendė, kad teisės dirbtinio intelekto (LTM) operatoriai yra atsakingi už savo modelių kuriamą tekstą. Tokių įmonių kaip „Anthropic“ įprotis skelbti ataskaitas, kuriose pabrėžiamas jų produktų pavojingumas, gali būti sprendimas, kuris jas persekios būsimuose teisminiuose procesuose.
Kaip kompiuterių mokslininkas ir skaitmeninės etikos specialistas, esu optimistiškai nusiteikęs dėl DI galimybių ir kartu sutrikęs dėl bauginančio ir niūraus būdo, kuriuo daug kas iš technologijų lyderių primygtinai nori apie tai kalbėti. Tai galėjo būti viltingų inovacijų laikotarpis, tačiau mūsų emocijas manipuliuoja savanaudiška ir moraliai nepakeliama Silicio slėnio priklausomybė nuo pražūties trolių. Ši komunikacijos strategija turi liautis. Žala, kurią ji daro visuomenės psichinei sveikatai, ko gero, nusveria naudą, kurią iki šiol davė dirbtinis intelektas.
Yra tam tikrų ženklų, kad šis elgesys pradeda keistis. Galbūt reaguodama į „Anthropic“ ataskaitą apie rekursinį savęs tobulinimą, „OpenAI“ išleido savo straipsnį pavadinimu „Sukurta visiems: mūsų planas“. Jame teigiama, kad „visiškas visko automatizavimas nėra ateitis, kurios norime“ ir kad bendrovės tikslas – sukurti technologiją, kuri pagerintų žmonių gyvenimą, panašiai kaip elektrinio apšvietimo atsiradimas XX amžiaus pradžioje. Straipsnyje vartojama standartinė pernelyg optimistiška, džiūgaujanti rinkodaros kalba, kurios tikėjomės iš didžiųjų technologijų bendrovių. Niekas jame nesužadino mano emocijų ir neįstrigo man reikšmingu būdu. Koks palengvėjimas.
Calas Newportas yra Džordžtauno universiteto kompiuterių mokslo profesorius ir knygos „Deep Work“ autorius.“ [1]
OpenAI buvo sukurtas, kai Muskas inžinierių diskusijose aptarė žmonijos pražūties problemą dėl galimo DI poveikio ir kaip su tuo kovoti. Anthropic atskilo nuo OpenAI nes irgi paskelbė, kad OpenAI darbas nepakankamai saugus žmonijai. Šaukiant: “Vilkas”, Amerikoje lengviausia pritraukti pinigus.
1. Dear A.I. Companies: The Doom Trolling Needs to Stop: Guest Essay. Newport, Cal. New York Times (Online) New York Times Company. Jun 17, 2026.
Komentarų nėra:
Rašyti komentarą