„Augant dirbtiniam intelektui, baimės dėl galimo neigiamo jo poveikio atitiko dideles viltis dėl jo potencialo. Kai kurie DI teoretikai netgi perspėja, kad tai gali lemti žmonijos sunaikinimą. Ar turėtume jais tikėti?
Technologijų žurnalistas Cade'as Metzas šį mėnesį „New York Times“ paskelbė straipsnį apie Lighthaveną, Berklyje, Kalifornijoje, bendruomenės, orientuotos į matematiką, genetiką, filosofiją ir DI, būstinę. Jie save vadina racionalistais.
Kiekvieną antradienio vakarą racionalistai susirenka skaityti ir aptarti „Sekos“ – DI tyrėjo ir rašytojo Eliezerio Yudkowsky esė rinkinį. Tai „beveik kaip Biblijos studijos“, rašo ponas Metzas. Ilia Delio, katalikų teologas, kurį kalbino ponas Metzas, taip pat nubrėžė paraleles tarp religijos ir racionalistų elgesio. „Religija yra tekstas, istorija ir ritualas“, – sakė ji. „Visa tai tinka ir čia.“
Ponas Yudkowsky jau dešimtmečius domisi DI ir mašininiu mokymusi. Jis įkūrė Mašinų intelekto tyrimų institutą, kuris nuo 2005 m. daugiausia dėmesio skiria identifikavimui... ir valdyti DI keliamą riziką.
Ponas Metzas rašo, kad vienas iš svarbiausių racionalistų įsitikinimų yra tas, kad DI „gali užtikrinti geresnį gyvenimą, jei pirmiausia nesunaikins žmonijos“. Tačiau DI kūrėjams vis daugiau dėmesio skiriant dirbtinio bendrojo intelekto (DGI) – DI, kuris hipotetiškai galėtų pasiekti arba pranokti žmogaus lygio intelektą – kūrimui, ponas Yudkowsky išreiškė apokaliptines baimes.
Savo 2022 m. straipsnyje „DGI žlugimas: mirčių sąrašas“ jis išdėsto savo susirūpinimą. Svarbiausias iš jų yra „nesuderinamumas“ – idėja, kad DGI gali sukurti tikslus ir veiklą, prieštaraujančius jo kūrėjų tikslams ir veiklai, keldamas grėsmę mūsų rūšies išlikimui. Šią grėsmę sustiprina galimybė greitai, savaime sugeneruoti gebėjimų padidėjimą, kuris pranoksta žmonių gebėjimą juos kontroliuoti.
Pono Yudkowsky distopinė vizija tampa vyraujančia. 2023 m. žurnalas „Time“ įtraukė jį į savo metų „100 įtakingiausių žmonių DI“ sąrašą. Kitą mėnesį jis ir bendraautoris Nate'as Soaresas išleis... „Jei kas nors jį sukurs, visi mirs.“ Jų knygą palaikė kompiuterių mokslininkai, filosofai ir valstybės pareigūnai. Pono Yudkowsky teiginiai, kad neatitikimo galimybė gali suteikti žmonijai tik vieną galimybę teisingai valdyti dirbtinį intelektą ir kad pareigūnai turėtų sulėtinti tempą, permąstyti ir reguliuoti dirbtinį intelektą, sulaukia vis daugiau pasekėjų.
Dirbtinio intelekto pavojų negalima ignoruoti. Net ir dabar DI gali sutrikdyti baltųjų apykaklių darbo jėgą, kaip technologiniai pokyčiai sutrikdė žemės ūkį prieš šimtmetį ir gamybą devintajame dešimtmetyje. Taip pat yra daug neoficialių įrodymų, kad žmonių sąveika su DI gali baigtis blogai. Dirbtinio intelekto traktavimas kaip žmogaus terapeuto pakaitalo gali turėti tragiškų pasekmių, kai jis neatpažįsta minčių apie savižudybę. Dirbtinis intelektas gali nusileisti į „kliedesių spiralę“, kuri maitina psichologiškai reikalingų vartotojų didybę. Ši žala atsiranda ne tada, kai DI neatitinka vartotojų tikslų, o tada, kai jis yra pernelyg glaudžiai su jais susijęs, siūlydamas pernelyg palaikančias mintis, kai labiau tiktų įspėjimai ir griežta meilė.
Vis dėlto pono Yudkowsky panika atrodo perdėta. Kaip ir kiti... savamoksliai „mokslininkai“, kurie nelankė vidurinės mokyklos ar kolegijos, rašo taip, tarsi niekas kitas negalvotų apie jam rūpimas problemas. Tiesą sakant, „Google“ tyrėjai ir inžinieriai neseniai paskelbė išsamų šios besiformuojančios technologijos rizikos ir naudos vertinimą. Jie pasiūlė strategijas, kaip sušvelninti nesuderinamumo riziką, ir nustatė gynybos linijas nuo jos.
Neseniai paskelbtame straipsnyje buvęs „Google“ generalinis direktorius Ericas Schmidtas ir technologijų analitikė Selina Xu pažymi, kad Silicio slėnio susižavėjimas dirbtiniu dirbtiniu intelektu (DI) siekia 1950 m. Tuomet kompiuterių pradininkas Alanas Turningas pasiūlė, kad mašina įrodytų savo žmogiškojo lygio intelektą, pateikdama atsakymus į užklausas ir raginimus, kurių nebūtų galima atskirti nuo žmogaus atsakymų. Technologijos per 75 metus pasikeitė, tačiau manija išlieka.
DI ekspertai nesutaria dėl šios technologijos keliamos rizikos. Kai kurios prognozės yra niūrios. Šiais metais „DI Futures Project“ paskelbė ataskaitą, kurioje prognozuojama, kad DI iki 2030 m. galėtų pasiekti antžmogišką intelektą, ir išnagrinėjo scenarijus, kuriuose jis galėtų kontroliuoti ar sunaikinti žmones. Kiti tyrėjai turi kitokią viziją, pagal kurią DI yra valdomas įrankis, kurį mes... neturėtų bijoti. Prinstono kompiuterių mokslininkai balandžio mėnesį paskelbė straipsnį „DI kaip normali technologija“, kuriame teigiama, kad DI išliks valdomas artimiausioje ateityje. Taip pat neaišku, ar DI pasieks ar pranoks žmogaus lygio intelektą, ar kad jo vystymosi tempas greitėja, nepaisant milžiniškų investicijų į tyrimus.
Iššūkis bus eiti siauru keliu tarp pasitenkinimo savimi ir panikos. Įmonės, vyriausybės pareigūnai ir technologijų ekspertai turės dirbti kartu, kad rastų tinkamą pusiausvyrą tarp inovacijų ir atsargumo.“ [1]
1. Politics & Ideas: Should We Believe the AI Doomsayers? Galston, William A. Wall Street Journal, Eastern edition; New York, N.Y.. 27 Aug 2025: A13.
Komentarų nėra:
Rašyti komentarą