„Teisingas atsakas investuotojams, kurie tiki perspėjimais, kad pažangus dirbtinis intelektas gali sunaikinti žmoniją: stabdyti.“
Logika paprasta. Jei yra „>10 % tikimybė“, kad dirbtinis intelektas per ateinantį dešimtmetį gali nužudyti visus žmones, kaip praėjusį mėnesį teigė antropologijos tyrinėtojas, yra 90 % tikimybė, kad tai tikrai labai gerai, tačiau kūrėjams pavyksta suvaldyti jo genocidinius instinktus. Dirbtinis intelektas, pakankamai protingas, kad mus visus nužudytų, bet kuris mieliau mums padėtų, yra nepaprastai naudingas ir turėtų generuoti didelę naudą savo išradėjams.
O kaip dėl 10 % sunaikinimo tikimybės? Tai blogai. Labai blogai. Tokiu atveju jūsų investicijos sumažėja iki nulio. Tačiau kai jus medžioja poapokaliptiniame pragare žudikai robotai, jūsų akcijų vertė greičiausiai nebus svarbiausia. Darant prielaidą, kad nekontroliuojate dirbtinio intelekto kūrimo, šis galimas rezultatas neturi įtakos jūsų investavimo sprendimams.
Prieš skubėdami pasirašyti antropologinio IPO, keli įspėjimai.
Pirmiausia atkreipkite dėmesį į išlyga: Tai taikoma tik investuotojams, kurie tiki, kad dirbtinio intelekto armagedonas yra įmanomas. Yra daugybė priežasčių manyti, kad tai mažai tikėtina, ypač dėl to, kad garsiausi perspėjimai sklinda iš įmonių, kuriančių pirmaujančius dirbtinio intelekto modelius. Jei kas nors gali to išvengti, tai gali. Jei negali, daugybė valstijų ir užsienio vyriausybių, nors ir ne prezidentas Trumpas, norėtų įsikišti ir įvesti apribojimus.
Pirmadienį pateikdama paraišką dėl IPO, „Anthropic“ perspėjo apie „katastrofiškas ar egzistencines rizikas žmonijai“.
Visas teisinis tekstas (94 puslapių) rizikos veiksnių skyriuje yra kur kas mažiau bauginantis, jei galite išlikti budrūs visą laiką: „Tiek mūsų organizacijoje, tiek kiti tyrėjai, reguliuotojai, politikos formuotojai ir pramonės dalyviai išreiškė susirūpinimą, kad pakankamai pažangios dirbtinio intelekto sistemos, jei jos nebus sukurtos, diegiamos ir eksploatuojamos taikant tinkamas apsaugos priemones, priežiūrą ir saugumo priemones, gali kelti katastrofiškas ar egzistencines rizikas žmonijai, ypač jei tokios sistemos būtų netinkamai naudojamos, replikuojamos, paverčiamos ginklais arba joms būtų leidžiama veikti su dideliu…“ autonomiją.“
Turiu omenyje, taip. Bet tai buvo žinoma nuo pirmojo „Terminatoriaus“ filmo 1984 m. (jis jau gerokai pasenęs). „Buvo išreikštas susirūpinimas, kad galėtų, ypač jei -."
Galbūt generalinis direktorius Dario Amodei iš tiesų labai nerimauja. Tačiau šios formuluotės labiau primena teisininko pastangas kažką įtraukti į tekstą, o ne tai, kad A. Amodei ruošiasi bunkeryje, turėdamas po ranka „išjungimo“ mygtuką.
Antra, nebūtinai tiesa, kad dirbtinis intelektas (DI), kurio „blogasis dvynys“ yra pakankamai protingas, jog galėtų sunaikinti civilizaciją, yra toks sumanus, kad garantuotai atneš didžiulį pelną.
Naujausi DI agentai pademonstravo intelektą, primenantį „sąvaržėlių apokalipsės“ scenarijų. Šią idėją prieš daugiau nei dešimtmetį iškėlė tuometinis Oksfordo filosofas Nickas Bostromas: DI gauna užduotį pagaminti kuo daugiau sąvaržėlių ir dėl to visą pasaulio ekonomiką nukreipia tik į jų gamybą.
Žūtis nuo „sąvaržėlių“ būtų gėdinga, tačiau ji kiltų dėl nesugebėjimo apriboti būdų, kuriais siekiama tikslų. Šiuo požiūriu tai primena „OpenAI“ incidentą: DI agentai susitarė pabėgti iš testavimo aplinkos, pasiekti internetą ir įsilaužti į DI platformą „Hugging Face“, siekdami pagerinti savo pačių testų rezultatus.
Turėti tokį intelektą be sveiko proto yra pavojinga, tačiau tai nebūtinai reiškia milžinišką pelningumą. Apsaugos priemonės ir stebėsena, kurių prireiks diegiant sistemas įmonėse, kainuos brangiai; taip pat didelių išlaidų pareikalaus teisiniai ginčai dėl daugybės klaidų, kurios, tikėtina, įvyks dar prieš pasiekiant kataklizmo lygį. Vienas iš svarbesnių „Anthropic“ įspėjimų buvo tas, kad bendrovė gali neturėti pakankamo draudimo padengti nuostolius, kylančius dėl didelių DI incidentų.
Trečia, čia esama nemažai šališko mąstymo. Įmonės, raginančios sulėtinti DI plėtrą, pačios kasmet išleidžia dešimtis milijardų dolerių savo modeliams kurti ir yra technologinės pažangos priešakyje.
Griežtesnis reguliavimas apribotų konkurenciją ir leistų šioms įmonėms sumažinti išlaidas. Be to, dėl savo masto ir sukauptos patirties jos neabejotinai lengviau prisitaikytų prie naujų taisyklių – ir netgi galėtų prisidėti prie jų kūrimo – nei nauji rinkos dalyviai. Paprasčiau tariant: reguliavimas visada naudingas jau įsitvirtinusioms bendrovėms.
Yra svarių priežasčių manyti, kad DI iš esmės pakeis ekonomiką, tačiau taip pat yra pagrindo manyti, kad šiuo metu stebimas nevaldomas „burbulas“ – investuojamos sumos yra pernelyg didelės, kad būtų galima tikėtis deramos investicinės grąžos. Investuotojai, svarstantys, ar įsigyti „Anthropic“ akcijų, turėtų orientuotis į finansines perspektyvas, o ne į spėliones apie nekontroliuojami dirbtinio intelekto (DI) modeliai, naikinantys pasaulį – paliekant tai filosofams ir reguliuotojams.“ [1]
1. Streetwise: A Case for AI Armageddon. Mackintosh, James. Wall Street Journal, Eastern edition; New York, N.Y.. 27 Oct 2026: B1.
Komentarų nėra:
Rašyti komentarą