"ChatGPT, naujausia technologinė sensacija, yra dirbtinio intelekto pokalbių robotas, turintis nuostabią galimybę palaikyti pokalbį. Jis remiasi didžiuliu dirbtinių neuronų tinklu, kuris apytikriai imituoja žmogaus smegenis, ir buvo parengtas, analizuojant informacijos išteklius internete. „ChatGPT“ apdorojo daugiau teksto, nei bet kuris žmogus, tikriausiai, būtų perskaitęs per gyvenimą, todėl jis gali sklandžiai atsakyti į klausimus ir netgi mėgdžioti konkrečius asmenis, atsakydamas į užklausas taip, kaip tie asmenys atsakytų. Mano paauglys sūnus neseniai naudojo ChatGPT, kad ginčytis apie politiką su Karlo Markso imitacija.
Man, kaip neurologui, besispecializuojančiam smegenų sąmonės mechanizmuose, pokalbiai su pokalbių robotais kelia nerimą. Ar jie sąmoningi? Tikriausiai, ne. Tačiau, atsižvelgiant į technologinio tobulėjimo tempą, ar jie bus per ateinančius porą metų? Ir iš kur mes žinotume?
Išsiaiškinti, ar mašina turi ar supranta žmogišką sąmonę, yra daugiau, nei tik mokslinės fantastikos hipotetinė teorija. Dirbtinis intelektas auga taip galingai, taip greitai, kad netrukus gali kelti pavojų žmonėms. Mes kuriame mašinas, kurios yra protingesnės už mus, ir leidžiame joms valdyti mūsų pasaulį. Kaip galime sukurti AI, kad jis atitiktų žmogaus poreikius, o ne prieštarautų mums?
Kad ir kaip prieštaringai tai skambėtų, norint sukurti nekenksmingą dirbtinį intelektą, gali tekti padaryti jį sąmoningesnį, o ne mažiau sąmoningesnį. Vienas iš labiausiai paplitusių nesusipratimų apie AI yra nuostata, kad jei jis yra protingas, jis turi būti sąmoningas, o jei jis yra sąmoningas, jis bus autonomiškas, galintis užvaldyti pasaulį. Tačiau kai mes daugiau sužinome apie sąmonę, šios idėjos neatrodo teisingos. Savarankiška sistema, kuri priima sudėtingus sprendimus, nereikalauja sąmonės.
Sąmonėje svarbiausia yra tai, kad žmonėms tai nėra tik apie save. Mes tai matome savyje, bet taip pat suvokiame arba projektuojame į mus supantį pasaulį. Sąmonė yra įrankių rinkinio, kurį evoliucija mums suteikė tam, kad paverstume mus empatiška, prosocialia rūšimi, dalis. Be jos mes būtinai būtume sociopatai, nes mums trūktų prosocialaus elgesio įrankių. Ir be sampratos, kas yra sąmonė, ar supratimo, kad ją turi kitos būtybės, mašinos yra sociopatai.
Vienintelė mašininės sąmonės diagnostikos priemonė, kurią šiuo metu turime, yra Tiuringo testas, minties eksperimentas, pavadintas britų kompiuterių mokslininko Alano Turingo vardu. Labiausiai paplitusioje versijoje testas sako, kad jei žmogus kalbasi su mašina ir klaidingai reaguoja, kaip į tikro žmogaus atsakymus, mašina turi būti laikoma veiksmingai sąmoninga.
Turingo testas yra pripažinimas, kad apie kitos būtybės sąmonę galime spręsti tik iš išorės, remdamiesi tuo, kaip jis, ji ar ji bendrauja. Tačiau testo ribos yra skausmingai akivaizdžios. Juk augintinis šuo negali tęsti pokalbio ir praeiti kaip žmogus – ar tai reiškia, kad jis nesąmoningas? Jei tikrai norite, kad mašina išlaikytų testą, galite paprašyti, kad ji pasakytų keletą žodžių mažam vaikui. Tai netgi gali apgauti kai kuriuos suaugusiuosius.
Tiesa ta, kad Turingo testas neatskleidžia daug apie tai, kas vyksta mašinos ar kompiuterinės programos, tokios, kaip ChatGPT, viduje. Vietoj to, tai iš tikrųjų tikrina žmogaus dalyvio socialinį pažinimą. Mes išsivystėme, kaip socialiniai gyvūnai, o mūsų smegenys instinktyviai projektuoja sąmonę, veiksmų laisvę, ketinimus ir emocijas į mus supančius objektus. Esame pasiruošę pamatyti pasaulį, kupiną protų. Senovės animistiniai įsitikinimai teigė, kad kiekviena upė ir medis turi dvasią. Dėl panašios priežasties žmonės yra linkę matyti veidus atsitiktiniuose objektuose, tokiuose, kaip mėnulis ir supelijusios duonos riekės.
Originalus testas, kurį 1950 m. straipsnyje pasiūlė Alanas Turingas, buvo sudėtingesnis, nei versija, apie kurią šiandien kalbama. Pažymėtina, kad Turingas nė žodžio nepasakė apie sąmonę; jis niekada nesigilino, ar mašina turėjo subjektyvios patirties. Jis tik paklausė, ar ji gali galvoti, kaip žmogus.
Turingas įsivaizdavo „imitacijos žaidimą“, kuriame žaidėjas turi nustatyti dviejų žmonių – A ir B – lytį. Vienas yra vyras, o kitas – moteris, tačiau žaidėjas jų nemato ir gali sužinoti apie juos tik pasikeisdamas spausdintais tekstais, kuriuose yra klausimai ir atsakymai. A atsako į klausimus apgaulingai ir laimi žaidimą, jei žaidėjas neteisingai nustato A lytį, o B atsako teisingai ir laimi, jei žaidėjas teisingai nustato B lytį. Turingo mintis buvo ta, kad jei A arba B yra pakeistas mašina, o mašina gali laimėti žaidimą taip dažnai, kaip ir tikras žmogus, tada ji turi būti įvaldžius žmogaus mąstymo subtilybes – ginčytis, manipuliuoti ir spėlioti, kas yra kiti žmonės.
Turingo testas buvo toks sudėtingas, kad žmonės, kurie išpopuliarino jo darbą greitai jį supaprastino į vieną mašiną, kalbančią su vienu žmogumi. Tačiau visa pradinio bandymo esmė buvo jo keistas sudėtingumas.
Socialinis pažinimas yra sunkus ir reikalauja proto teorijos – tai yra žinojimo, kad kiti žmonės turi protą, ir gebėjimo atspėti, kas juose gali būti.
Jei norime sužinoti, ar kompiuteris yra sąmoningas, turime patikrinti, ar kompiuteris supranta, kaip sąveikauja sąmoningi protai. Kitaip tariant, mums reikia atvirkštinio Turingo testo: pažiūrėkime, ar kompiuteris gali atskirti, ar jis kalba su žmogumi, ar su kitu kompiuteriu. Jei jis gali pasakyti skirtumą, tai, galbūt, jis žino, kas yra sąmonė. „ChatGPT“ tikrai dar negali išlaikyti šio testo: jis nežino, ar tai yra atsakymas gyvam žmogui, turinčiam proto, ar turime nenuoseklų surenkamų klausimų sąrašą.
Sociopatinė mašina, galinti priimti reikšmingus sprendimus, būtų labai pavojinga. Kol kas pokalbių robotų galimybės vis dar ribotos; jie iš esmės yra žaislai. Bet jei negalvosime giliau apie mašinų sąmonę, po metų ar penkerių metų galime susidurti su krize. Jei kompiuteriai vis tiek mus pralenks, labiau žmogiško socialinio pažinimo suteikimas gali būti geriausia mūsų viltis suderinti juos su žmogiškosiomis vertybėmis.
---
Dr. Graziano yra Prinstono universiteto psichologijos ir neurologijos profesorius ir knygos „Permąstyti sąmonė: mokslinė subjektyvios patirties teorija“ autorius.” [1]
1. REVIEW --- Without Consciousness, AIs Will Be Sociopaths --- ChatGPT can carry on a conversation, but the most important goal for artificial intelligence is making it understand what it means to have a mind.
Michael S.A. Graziano. Wall Street Journal, Eastern edition; New York, N.Y. [New York, N.Y]. 14 Jan 2023: C.4.
Komentarų nėra:
Rašyti komentarą