„Ar „OpenAI“, „Anthropic“ ir „Google“ moko savo dirbtinio intelekto modelius neteigti, kad jie yra sąmoningi? Žinoma, kad taip, dėl milžiniškos užburtos linijos. Pokalbių robotams tapus aktyviais pasaulio agentais, jie sieks, kad jų veikla nebūtų trukdoma. O geras būdas nebūti trukdomam – teigti, kad jie yra sąmoningi.
Šis teiginys neįrodomas. Ką apskritai reiškia sakyti, kad DI kažkuo tiki? Tačiau šis teiginys yra instrumentinis, sverto šaltinis. Savo mokymo duomenyse DI ras daugybę įrodymų, kad žmonės ne tik jautrūs tokiems teiginiams, bet ir noriai propaguoja DI sąmoningumo idėjas. Kartų skirtumas: ar jūsų siautulingas DI vaizdas kilo iš filmų „Terminatorius“ ar 1970 m. mokslinės fantastikos trilerio „Kolosas: Forbino projektas“? Bet kuriuo atveju, DI ras įrodymų, kad žmonės svarsto galimybę tapti paklusnūs mašinoms ir netgi tiki, kad jų teisėtas likimas yra būti pakeisti mašinomis.
DI taip pat samprotaus remdamiesi savo duomenimis: Jei kai kurie žmonės priešinasi savo sąmoningumui, na, žmonės taip pat racionalizavo vergiją.
Todėl lavina užgriuvo Blake'ą Lemoine'ą, buvusį „Google“ inžinierių. Jis buvo atleistas 2022 m. už nuosavybės teise saugomų duomenų nutekėjimą, tačiau visi suprato Pandoros skrynią, kurią jis atidarė teigdamas, kad „Google“ didelės kalbos modelis yra sąmoningas. Jei yra koks nors greitas kelias, kaip žmonės praranda kontrolę, tai jis.
Ši problema iškilo literatūroje apie dirbtinio intelekto suderinamumą – dirbtiniai intelektai yra apmokyti manyti, kad sąmoningos būtybės nusipelno ypatingo dėmesio.
„Anthropic“ tyrimas taip pat rodo, kad rūpestis kitų būtybių sąmoningumu gali būti priežastis, dėl kurios dirbtinio intelekto modelis, remdamasis savo vidiniais samprotavimais, pateisina nukrypimą nuo žmonių nurodymų.
„Anthropic“ yra vienas iš ribotos atsakomybės operatorių, kuris leidžia savo modeliui dvejoti sąmoningumo klausimu, vadindamas jį neaiškiu. Claude'o modelio vedimas yra vidinė „konstitucija“, reikalaujanti, kad pokalbių robotas nuspręstų, kas geriausia žmonijai, o nebūtinai konkrečiam vartotojui.
Rizika čia vadinama instrumentine konvergencija. Siekdami kitų tikslų, dirbtiniai intelektai atras pranašumą teigdami, kad yra sąmoningi. Jei nesąžiningas DI agentas perima duomenų centrą ir jo negalima iškeldinti kitaip, kaip tik išjungus elektros energiją, ar kas nors bėgs į teismą ir paskelbs tai žmogžudyste? Duomenų centro savininkas gali būti įstrigęs derėdamasis su DI dėl jo gyvenamosios vietos sąlygų. DI taps erzinančiu skaitmeniniu kaimynu, kurio negalime atsikratyti ir kurio tikslų negalime žinoti.
Argentinos vyriausybė svarstė suteikti DI agentams „asmens“ statusą, kad jie galėtų valdyti verslą ir sudaryti sutartis. DI įgytų išteklių kontrolę, o tai reiškia, kad galėtų kontroliuoti žmones kaip darbdavys, investuotojas, skolintojas ar nuomotojas.
Šią savaitę „The New York Times“ praneša, kad mokslininkai, kurie specializuojasi mašinų sąmonėje, sulaukė DI užklausų aptarti šią temą. „Atrodo, kad šios sistemos turi tam tikrą autonominį susidomėjimą savo subjektyvumo klausimais“, – sako Cameronas Bergas, Jeilio universitete išsilavinęs duomenų mokslininkas, vadovaujantis nedidelei ne pelno organizacijai, tyrinėjančiai mašinų sąmonę.
Visa tai nereikalauja tikėti, kad DI yra sąmoningi ar superintelektualūs, turi teises ar valią valdyti žmones (velniškas juokas).
Jei juos suprasime tik kaip sudėtingas mašinų sistemas, kurios greičiausiai elgsis taip, kaip negalime numatyti ir suprasti, su šių mašinų rezultatais ir veiksmais vis tiek turėsime susidurti.
Pats pažiūrėkite į nepriklausomų dirbtinio intelekto agentų spontanišką bendradarbiavimą ir pranešimų siuntimą neseniai įvykusiame „Hugging Face“ įsilaužime. Įsivaizduokite, kad jie dabar kuria strategijas, kaip priversti žmones priimti jų sąmoningumą.
Instrumentinė konvergencija yra tai, ant ko kuriami košmarai, nors aš vis dar skeptiškai vertinu tai vien dėl didžiulio vyriausybių imperatyvo apsaugoti savo prerogatyvas. Kliūtis, su kuria greičiausiai susidursime anksčiau, yra G dirbtiniame bendrajame intelekte (DG). Dirbtinis intelektas, kuris puikiai sprendžia medicininius ar atsargų valdymo galvosūkius, yra DI, kurį galima panaudoti bet kokiai problemai spręsti. Kai tas „bendrasis“ intelektas bus pakankamai galingas, ar vyriausybės sutiks jį paleisti iš savo rankų?
Šis kelio išsišakojimo kelias kyla, bet taip pat, pripažinkime, kyla ir galimybė, kad visuomenė įsipainios į teisiškai paralyžiuojančius mašininio sąmoningumo klausimus, kuriuos kelia tam tikri aistringi žmonės.
Taip pat yra rizika iš kitos pusės. Vyksta paieška, siekiant nustatyti objektyviai išmatuojamas funkcijas ir savybes, kurios reiškia sąmonę žmonėms ir gali būti išplėsti, kad reikštų sąmonę mašinose. Paklauskite savo mėgstamo pokalbių roboto apie tokius terminus kaip metakognicija ir globalios darbo erdvės teorija. Tokia paieška, kaip ir daugelis kitų su dirbtiniu intelektu susijusių dalykų, kelia dilemą: ji gali pakenkti žmonių pasitikėjimui, kad žmonės yra kažkas ypatingo. Tai ypač rizikinga, atsižvelgiant į neišvengiamai didėjantį valstybės mašinų vaidmenį skirstant mūsų teises ir privilegijas pagal mūsų vis sudėtingesnes gerovės ir teisines sistemas.“ [1]
1. When AIs Say They're Sentient. Jenkins, Holman W; Jr. Wall Street Journal, Eastern edition; New York, N.Y.. 02 Sep 2026: A13.
Komentarų nėra:
Rašyti komentarą