„Mokslininkai ir pramonės lyderiai perspėjo, kad A.I. gali
kelti egzistencinį pavojų žmonijai. Tačiau jie pasigailėjo atskleisti smulkmenas.
Praėjusį mėnesį šimtai dirbtinio intelekto pasaulyje žinomų
žmonių pasirašė atvirą laišką, įspėjantį, kad A.I. vieną dieną gali sunaikinti
žmoniją.
„Sumažinti riziką, kad A.I. sunaikins mus, turėtų būti pasaulinis
prioritetas kartu su kitomis visuomeninio masto rizikomis, tokiomis, kaip
pandemijos ir branduolinis karas“, – sakoma vieno sakinio pareiškime.
Laiškas buvo paskutinis iš grėsmingų įspėjimų apie A.I.
kurie buvo ypač lengvi detalėse. Šiandien A.I. sistemos negali sunaikinti
žmonijos. Kai kurios iš jų vos gali pridėti ir atimti. Taigi kodėl žmonės, kurie
daugiausia žino apie A.I. taip susirūpinę?
Baisus scenarijus.
Vieną dieną, technologijų pramonės Cassandrų teigimu,
įmonės, vyriausybės ar nepriklausomi tyrėjai galėtų panaudoti galingas A.I.
sistemas, leidžiančias valdyti viską, nuo verslo iki karo. Tos sistemos galėtų
daryti tai, ko mes nenorime, kad jos darytų. Ir jei žmonės bandytų joms
trukdyti ar jas uždaryti, jos galėtų priešintis ar net atkartoti save, kad galėtų
toliau veikti.
„Šiandieninės sistemos nekelia egzistencinės rizikos“, –
sakė profesorius Yoshua Bengio ir A.I. Monrealio universiteto mokslininkas.
„Bet per vienerius, dvejus, penkerius metus? Yra per daug netikrumo. Tai ir yra
problema. Nesame tikri, kad tai nepraeis tam tikru momentu, kai viskas taps
katastrofiška."
Nerimaujantys dažnai naudojo paprastą metaforą. Jei
paprašysite mašinos sukurti kuo daugiau sąvaržėlių, jie sako, kad ji gali
nuvilti ir viską, įskaitant žmoniją, paversti sąvaržėlių gamyklomis.
Kaip tai siejasi su realiu pasauliu - ar įsivaizduojamu
pasauliu, kuris nebus realus per daug metų? Įmonės galėtų suteikti A.I. sistemoms vis
daugiau savarankiškumo ir prijungti jas prie gyvybiškai svarbios
infrastruktūros, įskaitant elektros tinklus, akcijų rinkas ir karinius ginklus.
Iš ten jos gali sukelti problemų.
Daugeliui ekspertų tai neatrodė tikėtina iki maždaug praėjusių
metų, kai tokios įmonės, kaip OpenAI pademonstravo reikšmingus savo technologijų
patobulinimus. Tai parodė, kas gali būti įmanoma, jei A.I. ir toliau juda tokiu
sparčiu tempu.
„A.I. bus nuolat deleguojama ir, tapdamas savarankiškesnis,
jis gali užgrobti sprendimų priėmimą ir mąstymą iš dabartinių žmonių ir žmonių
valdomų institucijų“, – sakė Kalifornijos universiteto Santa Kruze kosmologas
Anthony Aguirre'as ir „The Future of. Life Institute“ įkūrėjas, organizacijoje,
kuri remia vieną iš dviejų atvirų laiškų.
„Kažkuriuo momentu taps aišku, kad didelė mašina, kuri valdo
visuomenę ir ekonomiką, iš tikrųjų nėra žmogaus kontroliuojama ir negali būti
išjungta, su mažesne tikimybe nei S&P 500 būtų išjungtas“, – sakė jis.
Arba tokia teorija. Kiti A.I. ekspertai mano, kad tai
juokinga prielaida.
„Hipotetinis yra toks mandagus būdas suformuluoti tai, ką aš
galvoju apie pokalbį apie egzistencinę riziką“, – sakė Sietlo tyrimų
laboratorijos Alleno AI instituto įkūrėjas Orenas Etzioni.
Ar yra požymių, kad A.I. galėtų tai padaryti?
Ne visai. Tačiau mokslininkai pokalbių robotus, tokius, kaip
ChatGPT, paverčia sistemomis, kurios gali imtis veiksmų pagal jų sukurtą
tekstą. Puikus pavyzdys yra projektas, vadinamas AutoGPT.
Idėja yra suteikti sistemai tokius tikslus, kaip „sukurti
įmonę“ arba „uždirbti pinigų“. Tada ji ir toliau ieškos būdų, kaip pasiekti šį
tikslą, ypač jei ji bus prijungta prie kitų interneto paslaugų.
Tokia sistema, kaip AutoGPT gali generuoti kompiuterines
programas. Jei mokslininkai suteiks jai prieigą prie kompiuterio serverio, ji
iš tikrųjų galėtų paleisti tas programas. Teoriškai tai yra būdas, kuriuo
AutoGPT gali padaryti beveik viską internete – gauti informaciją, naudoti
programas, kurti naujas programas, netgi tobulinti save.
Tokios sistemos, kaip AutoGPT, šiuo metu neveikia gerai. Jos linkę
įstrigti nesibaigiančiose kilpose. Tyrėjai vienai sistemai suteikė visus
išteklius, reikalingus atkartoti save. Tai negalėjo padaryti.
Laikui bėgant šie apribojimai gali būti pataisyti.
„Žmonės aktyviai bando kurti sistemas, kurios tobulėtų“, –
sakė Connoras Leahy, bendrovės „Spėliojimas“ įkūrėjas, norinčios suderinti A.I.
technologijos su žmogiškosiomis vertybėmis. „Šiuo metu tai neveikia. Bet kada
nors taip bus. Ir mes nežinome, kada ta diena."
P. Leahy teigia, kad, tyrėjams, įmonėms ir nusikaltėliams skiriant
šioms sistemoms tokius tikslus, kaip „uždirbti pinigų“, jie gali įsilaužti į
bankų sistemas, paskatinti revoliuciją šalyje, kurioje turi naftos ateities
sandorius, arba atkartoti save, kai kas nors bando jas pakeisti ar išjungti.
Kur A.I. sistemos išmoksta netinkamai elgtis?
A.I. Tokios sistemos kaip „ChatGPT“ yra sukurtos, remiantis
neuroniniais tinklais, matematinėmis sistemomis, kurios gali išmokti įgūdžių,
analizuodamos duomenis.
Maždaug 2018 m. tokios įmonės, kaip „Google“ ir „OpenAI“
pradėjo kurti neuroninius tinklus, kurie mokėsi iš didžiulio kiekio
skaitmeninio teksto, paimto iš interneto. Tiksliai nustatydamos visų šių
duomenų modelius, šios sistemos išmoksta pačios kurti rašymą, įskaitant
naujienų straipsnius, eilėraščius,
kompiuterines programas, net žmogišką pokalbį. Rezultatas: tokie pokalbių
robotai, kaip „ChatGPT“.
Kadangi jos mokosi iš daugiau duomenų, nei gali suprasti net
jų kūrėjai, šios sistemos taip pat elgiasi netikėtai. Neseniai mokslininkai
parodė, kad viena sistema sugebėjo pasamdyti žmogų internete, kad nugalėtų
Captcha testą. Kai žmogus paklausė, ar tai „robotas“, sistema melavo ir pasakė,
kad tai žmogus su regėjimo negalia.
Kai kurie ekspertai nerimauja, kad tyrėjams padarius šias
sistemas galingesnes, mokydami jas gauti vis didesnį duomenų kiekį, jie gali
išmokti daugiau žalingų įpročių.
Kas yra už šių įspėjimų?
2000-ųjų pradžioje jaunas rašytojas Eliezeris Yudkowsky
pradėjo įspėti, kad A.I. gali sunaikinti žmoniją. Jo internetiniai įrašai
pagimdė tikinčiųjų bendruomenę. Ši bendruomenė, vadinama racionalistais arba
veiksmingais altruistais (toliau – EA), tapo nepaprastai įtakinga akademinėje
bendruomenėje, vyriausybės ekspertų grupėse ir technologijų pramonėje.
P. Yudkowsky ir jo raštai vaidino pagrindinį vaidmenį,
kuriant OpenAI ir DeepMind, A.I. laboratoriją, kurią „Google“ įsigijo 2014 m.
Šiose laboratorijose dirbo daugelis „EA“ bendruomenės narių. Jie tikėjo, kad
supratę A.I. keliamus pavojus, jie galėjo geriausiai jį sukurti.
Dvi organizacijos, neseniai išleidusios atvirus laiškus,
įspėjančius apie A.I. – A.I. centras bei Saugos ir gyvenimo ateities institutas
yra glaudžiai susiję su šiuo judėjimu.
Neseniai perspėjo mokslinių tyrimų pradininkai ir pramonės
lyderiai, tokie, kaip Elonas Muskas, kuris jau seniai įspėjo apie riziką.
Naujausią laišką pasirašė „OpenAI“ generalinis direktorius Samas Altmanas; ir
Demis Hassabis, padėjęs įkurti DeepMind ir dabar prižiūri naują A.I.
laboratorija, kuri jungia geriausius „DeepMind“ ir „Google“ tyrėjus.
Kiti gerbiami asmenys pasirašė vieną arba abu įspėjamuosius
laiškus, įskaitant daktarą Bengio ir Geoffrey'us Hintoną, kuris neseniai
pasitraukė iš „Google“ vykdomojo vadovo ir tyrėjo pareigų. 2018 m. už darbą
neuroninių tinklų srityje jie gavo Turingo apdovanojimą, dažnai vadinamą
„Nobelio skaičiavimo premija“.
Cade'as Metzas yra technologijų reporteris ir knygos „Genius
Makers: The Mavericks Who Brought A.I.“ autorius. „Google“, „Facebook“ ir „The
World“. Jo darbai apima dirbtinį intelektą, automobilius be vairuotojų, robotiką,
virtualią realybę ir kitas kylančias sritis. @cademetz “
Puiki reklama kompanijoms, kurios dirba šioje srityje: "Tarp kitko, mes galime sunaikinti jus visus..."
Komentarų nėra:
Rašyti komentarą