„Dirbtinio intelekto pionieriai kovoja dėl to, kuris iš technologijų pavojų yra baisiausias.
Viena stovykla, kurioje yra keletas aukščiausių vadovų, kuriančių pažangias AI sistemas, teigia, kad jos kūriniai gali sukelti katastrofą. Kitoje stovykloje yra mokslininkų, kurie teigia, kad susirūpinimą pirmiausia reikėtų sutelkti į tai, kaip AI šiuo metu įgyvendinamas ir kaip jis gali pakenkti mūsų kasdieniame gyvenime.
Dario Amodei, dirbtinio intelekto kūrėjo Anthropic lyderis, įspėja apie egzistencinį pavojų. Šią vasarą jis paliudijo Kongrese, kad dirbtinis intelektas gali kelti tokį pavojų žmonijai. Samas Altmanas, ChatGPT gamintojo OpenAI vadovas, šį pavasarį apkeliavo pasaulį, be kita ko, sakydamas, kad dirbtinis intelektas vieną dieną gali padaryti rimtos žalos ar dar blogiau. Elonas Muskas per Wall Street Journal renginį gegužę pasakė, kad „AI turi nenulinę galimybę sunaikinti žmoniją“ – prieš pat jo AI įmonės įkūrimą.
Tikimasi, kad Altmanas, Muskas ir kiti aukščiausi dirbtinio intelekto vadovai kitą savaitę dalyvaus pirmajame uždarų susitikimų apie AI, kurį sušauks JAV Senato daugumos lyderis Chuckas Schumeris (D., N.Y.), svarstyti tokias temas, kaip „pasaulio pabaigos scenarijus“.
Kita AI mokslininkų stovykla tuos įspėjimus vadina, mokslinės fantastikos skatinamu, išsiblaškymu arba net iškrypusiu rinkodaros triuku. Jie sako, kad dirbtinio intelekto įmonės ir reguliuotojai turėtų sutelkti savo ribotus išteklius į esamas ir neišvengiamas technologijos grėsmes, pvz., įrankius, padedančius sukurti stiprią dezinformaciją apie rinkimus arba sistemas, kurios sustiprina žmogaus šališkumo poveikį.
Ginčas aštrėja, nes įmonės ir vyriausybės visame pasaulyje bando nuspręsti, kur sutelkti išteklius ir dėmesį taip, kad būtų maksimaliai padidinta technologijos, kuri plačiai laikoma potencialiai keičiančia pasaulį, nauda ir sumažintos neigiamos pusės.
„Tai labai tikra ir auganti dichotomija“, – sakė Nicolas Miailhe, „Future Society“ įkūrėjas. „Tai mėnesio pabaiga prieš pasaulio pabaigą“.
Rimtos viešos diskusijos apie AI egzistencinę riziką – arba „x riziką“, kaip mėgsta tai vadinti labiausiai susirūpinę asmenys – iki šiol buvo apribotos filosofų ir dirbtinio intelekto tyrinėtojų pakraščiu.
Tai pasikeitė po to, kai OpenAI praėjusių metų pabaigoje išleido „ChatGPT“ ir vėlesnius patobulinimus, kurie davė žmogišką atsaką, įspėdami, kad tokios sistemos gali įgyti antžmogiško intelekto. Žymūs tyrinėtojai, įskaitant Geoffrey'us Hintonas, laikomas vienu iš AI krikštatėvių, tvirtino, kad jame yra žmogiškų samprotavimų žvilgesys. Šiais metais Hintonas paliko savo pareigas „Alphabet's Google“, kad galėtų laisviau aptarti AI riziką.
Egzistencinės rizikos įspėjimai „buvo tabu, kad iš jūsų bus tyčiojamasi ir su jumis bus elgiamasi, kaip su pamišusiu žmogumi, ir tai turės įtakos jūsų darbo perspektyvoms“, – sakė Kembridžo universiteto mašininio mokymosi profesorius Davidas Kruegeris.
Kruegeris gegužę padėjo surengti pareiškimą, kuriame teigiama, kad AI keliama žmonijos išnykimo rizika yra lygi pandemijų ir branduolinio karo pavojui. Jį pasirašė šimtai AI ekspertų, įskaitant aukščiausius „Google“, „OpenAI“ ir „Anthropic“ pareigūnus ir tyrėjus.
„Norėjau, kad tyrėjai žinotų, jog jie yra geroje kompanijoje“, – sakė Kruegeris.
Kai kurie šios srities atstovai teigia, kad dirbtinio intelekto įmonės turi paradoksaliai pabrėžti sistemų x-riziką, nes tai reiškia, kad jų technologija yra nepaprastai sudėtinga.
„Akivaizdu, kad šiems vaikinams naudinga vis dar kurstomas ažiotažas“, – sakė Danielis Schoenbergeris, buvęs „Google“ teisininkas, dirbęs su 2018 m. AI principų sąrašu ir dabar dirbantis Web3 fonde." [1]
1. Tech Leaders Are Divided On AI's Threat to Humanity. Schechner, Sam; Seetharaman, Deepa.
Wall Street Journal, Eastern edition; New York, N.Y.. 05 Sep 2023: B.1.
Komentarų nėra:
Rašyti komentarą