„Galimybė, kad dirbtinis intelektas pavogs visus mūsų darbo
vietas, buvo išgirta pramonės lyderių. Tai paskatino politikus skambinti
pavojaus signalu. Dabar tai yra vienas iš didžiausių visuomenės susirūpinimų
dėl naujosios technologijos.
Ir kaip tik anksčiau šį mėnesį „Meta“, „Facebook“
patronuojanti bendrovė, pradėjo pardavinėti autonominę dirbtinio intelekto
sistemą, skirtą įmonių pardavimams, klientų aptarnavimui, planavimui ir visoms
kitoms pagrindinėms funkcijoms, kurioms šiuo metu reikalingi žmonės, valdyti.
Tikimasi, kad pasirodys dar daug tokių produktų.
Taigi, kaip atrodytų visiškai automatizuota ateitis? Kaip
bebūtų keista, pasaulis jau spėjo ją pamatyti. Kovo mėnesį „Meta“ paskelbė, kad
„Facebook“ ir „Instagram“ vartotojai, kurie buvo užblokuoti savo paskyrose,
nebebendraus su klientų aptarnavimo atstovu; jie bendraus su specialiai
apmokytu dirbtiniu intelektu. Pripažindami atsirandančią galimybę, sukčiai iš
esmės įkalbėjo dirbtinį intelektą perduoti daugiau, nei 20 000 „Instagram“
paskyrų, įskaitant Obamos Baltųjų rūmų ir aukšto rango Trumpo administracijos
pareigūno paskyras, kontrolę. Tada susižavėję sukčiai sužibėjo „Telegram“
pranešimų lentose su savo pasakojimais apie tai, kaip viskas buvo lengva.
Tai nebuvo atsitiktinumas. „Air Canada“ išjungė savo
pokalbių robotus, kai šie per klaidą pažadėjo klientui grąžinti pinigus –
klientas padavė į teismą ir laimėjo. „McDonald's“ išjungė robotą, priimantį
užsakymus savo užkandinėse, po to, kai daugybė virusinių vaizdo įrašų parodė,
kad jis yra labai neveiksnus. Vienu atveju robotas per klaidą pridėjo šimtų
dolerių vertės vištienos gabaliukų prie kliento užsakymo.
Šie bauginantys – gerai, gerai, juokingi – incidentai nėra
kodavimo klaidų rezultatas.
Jie yra
esminio, neišvengiamo fakto apie dirbtinį intelektą, kuris tapo toks įprastas
daugelyje mūsų kasdienio gyvenimo aspektų, rezultatas: dideli kalbos modeliai
nėra samprotavimo mašinos. Jie yra tikėtinumo varikliai.
Jie ne tik netikrina savo rezultatų, kad įsitikintų, jog jie
teisingi ar logiški, arba kad tam tikrais atvejais to nepadaro. Jie negali ir
niekada negalės to padaryti patys. Jie gali įvertinti tik tuos atsakymus, kurie
yra tikėtini, remdamiesi duomenimis, kuriais modeliai buvo apmokyti. Ir tai
tiesa. Nesvarbu, ar jie apmokyti dirbti su visa žmogaus darbo apimtimi, ar tik
su recenzuojamais moksliniais straipsniais. Tai integruota į jų veikimo būdą.
Taigi, kai dirbtinio intelekto modelis vadovaujasi sukčiaus
kruopščiai parašytais nurodymais ir atiduoda karalystės raktus, arba kai į jūsų
nuoširdų klausimą atsako laukinėmis haliucinacijomis, tai nėra nukrypimas nuo
normos. Tai technologija, veikianti taip, kaip buvo sukurta.
Ir todėl aš neklausau niūrių prognozių apie artėjančią
dirbtinio intelekto darbo vietų apokalipsę. LLM absolventai gali atlikti
daugybę dalykų su stulbinančiu meistriškumu, tačiau jie negali atlikti daugumos
žmonių atliekamų darbų, nepatirdami katastrofos. Jokie atnaujinimai ar naujų
modelių diegimas to nepakeis.
Išimtys iš
šios taisyklės yra darbai, kurie užima oficialias arba patikrinamas sritis.
Kodavimas yra vienas iš tokių darbų. Jis remiasi struktūrizuota, formalia
kalba, kurią galima išbandyti realiuoju laiku. Štai kodėl matome tokį poveikį
kodavimo darbo rinkoje. Tas pats pasakytina ir apie bet kokį kitą darbą, kurio
rezultatas yra patikrinamai teisingas arba neteisingas, funkcionalus ar
nefunkcionalus, ir gali būti galutinai patikrintas automatizuotu procesu.
Tačiau daugybė darbų taip neveikia – nei chirurgo, nei
klientų aptarnavimo, nei ketvirtos klasės mokytojo. Tam reikia specializuotos
senamadiško žmogaus intelekto technologijos.
Daug laiko praleidžiu kalbėdamas apie šias problemas viešose
vietose ir visada iškyla vienas klausimas: žmonės taip pat daro klaidų, todėl
mes kuriame apsaugos priemones, kad jas aptiktume. Kodėl negalime to paties
padaryti ir generatyvinio dirbtinio intelekto klaidoms? Problema ta, kad šie
modeliai nedaro tokių klaidų, kokias daro žmogus. Nei jų įspūdingi gebėjimai,
nei keisti trūkumai gerai neatitinka žmogaus intelekto. Dėl šio neatitikimo
sunku juos integruoti į sistemas, skirtas žmogaus klaidoms aptikti.
Taigi, praėjo beveik ketveri metai nuo „ChatGPT“ išleidimo,
ir labai nedaug mūsų pakeitė robotai. Nedarbo statistika beveik nepajudėjo.
Taip, darbo rinkoje yra tam tikrų neramumų, ypač jaunų žmonių, tačiau tai
greičiausiai lemia kiti veiksniai, nei dirbtinis intelektas.
Šių tendencijų stebėtojai pateikė keletą paaiškinimų. Kai
kurie pesimistai teigia, kad cunamis artėja, bet tik tada, kai dirbtinis
intelektas šiek tiek toliau vystysis. Kiti teigia, kad dirbtinis intelektas
sunaikins daugybę dabartinių darbo vietų, tačiau jas atsvers daugybė darbo
vietų, kurias jis sukurs. Dar kiti teigia, kad mes tiesiog patiriame trumpą
atsilikimą, kol įmonės pertvarko savo darbo eigą ir nusprendžia, ką atleisti.
Geresnis paaiškinimas yra tas, kad buvome klaidinami dėl
šios technologijos pobūdžio.
Visą XX amžių lenktynės, darbai, kuriant išmaniąsias mašinas,
vyko dviem lygiagrečiais keliais. Vienu
atveju mes pateikiame mašinoms visą informaciją ir instrukcijas, o jos
kruopščiai jų laikosi. Tai vadinama simboline DI. Kitu atveju mes tiesiog
parodome joms atitinkamus duomenis ir iš esmės leidžiame joms mokytis patiems.
Tai vadinama konnekcionistine DI.
Prieš tai, kai dabartinė DI versija užplūdo mūsų gyvenimą,
beveik visuose viešuose pokalbiuose apie tai, kaip ji atrodys – mokslinėje
fantastikoje, filosofijoje, politiniuose debatuose – buvo daroma prielaida, kad
ji bus simbolinė: taisyklėmis pagrįsta sistema, kurią įgalins išsamus mūsų
tikslaus projekto planas. Daugybė žmonių bandė sukurti kažką panašaus, tačiau
šios pastangos atsitrenkė į sieną. Dabartiniai mūsų modeliai yra
konnekcionistinės sistemos, kurias įgalino didžiuliai duomenų kiekiai ir skaičiavimo
galia. Jie generuoja atsakymus, pagrįstus ne tiesa ar samprotavimais, o
tikėtinais ryšiais tarp pateiktų duomenų. Todėl ir kilo pavadinimas:
generatyvinė DI.
Mes negalime visiškai kontroliuoti generatyvinių modelių.
Viskas, ką galime padaryti, tai juos apmokyti ir pabandyti pastūmėti teisinga
linkme. Net ir tada niekada negalime būti tikri, ar mūsų stumtelėjimai veiks
taip, kaip norime, nes iki galo nesuprantame, kaip šie modeliai veikia. Jie yra
juodosios dėžės.
Vienas iš būdų, kaip bandome juos stumtelėti, yra
pastiprinimas per grįžtamąjį ryšį. Suburiamos didelės žmonių komandos, kurios
stebi visus modelio rezultatus ir reaguoja teigiamai arba neigiamai. Taigi,
atsakyti į vartotojo užklausą naudinga, tiesmuka informacija? Pagirti. Išlieti
beprotiškas nacistines mintis? Ne. Ir taip toliau. Problema ta, kad laikui
bėgant šie mokymai taip pat paverčia modelius paklusniais pataikautojais ir
žmonių įtikimo siekiais. „Puikus pastebėjimas, Zeynep.“
Kitas būdas juos stumtelėti yra per plačias įsitraukimo
taisykles, vadinamas sistemos raginimais. „Claude niekada nekeikia, nebent
žmogus pats daug klausia arba keikiasi, ir net tada tai daro saikingai“, – buvo
viena iš tokių raginimų. Tačiau tikroji kalbos reikšmė dirbtinio intelekto
modeliams yra tokia pat atvira interpretacijai, kaip ir žmonėms. Kuo ilgiau
tęsiasi pokalbis, tuo labiau tolsta prisiminimai, kuriuos sukelia ši sistema.
Taip atsirado „jailbreaking“ – terminas, reiškiantis manipuliavimą vienu iš šių
dalykų, kad jie peržengtų jo apsauginius barjerus.
„Anthropic“ neseniai išleido naujus modelius, vadinamus
„Fable“ ir „Mythos“, įspėdama, kad jie yra tokie galingi, jog būtų pavojingi,
jei ne jų apsaugos priemonės. Pranešama, kad ryžtingi vartotojai negaišo laiko,
kad įtikintų juos apeiti šias apsaugos priemones. Remdamasi šiuo pažeidimu, JAV
vyriausybė uždraudė užsieniečiams (net ir įmonės užsienio darbuotojams) naudoti
šiuos modelius. Gindamasi „Anthropic“ teigė, kad nėra tokių dalykų kaip
neįveikiami apsauginiai barjerai. Būtent tai ir yra esmė.
Kadangi daugėja įrodymų, kad siaubingi atsakymai ir
jailbreak'ai yra neišvengiama technologijos dalis, pramonės dėmesys pastaruoju
metu perėjo prie skaitmeninių narvų, iš esmės labiau deterministinių,
simbolinių diržų, skirtų generatyviniam dirbtinio intelekto varikliui sulaikyti
ir jo rezultatams tikrinti, kūrimą. Tokie įrankiai teoriškai galėtų priversti
daugelį žmonių atliekamų darbų atlikti labiau kaip kodavimą ar kitas sritis su
aiškiais, įrodomais rezultatais.
Tačiau, kaip galite įsivaizduoti, kruopščiai išdėstyti
kiekvieną paskutinę taisyklę ir ribą niekada nėra lengva, o daugeliu atvejų tai
net neįmanoma. Įsivaizduokite, kad sukuriate išsamų visų galimų klientų
aptarnavimo sąveikų aprašymą – ir tai darote simboline logika, kad jį būtų
galima rasti naudojant senamadišką programinę įrangą. Arba įsivaizduokite
dirbtinio intelekto modelį, sukurtą advokatų kontoroms. Sukurti visos JAV
teismų praktikos duomenų bazę, kurią modelis galėtų naudoti siekdamas išvengti
teisminių precedentų kūrimo, nėra lengva užduotis. Tačiau tai tik pradžia. Daug
sunkiau yra tai, kaip sėkmingai interpretuoti teisę arba tinkamai aprašyti
visas taisykles, o tada nuspręsti, kas yra svarbu byloje. Štai kodėl
dešimtmečius trukę bandymai sukurti simbolinį dirbtinį intelektą atsitrenkė į
sieną.
Lengvai automatizuojamos užduotys jau buvo automatizuotos
daugumoje mūsų darbų – prieš daugelį metų, naudojant tradicines taisyklėmis
pagrįstas technologijas. Daugelio likusių dalykų negalima taip lengvai
redukuoti į teisingą ir neteisingą, juodą ir baltą. Tam reikia bent šiek tiek
sveiko proto ir mąstymo gebėjimų turinčio žmogaus, o ne žmonėms patinkančio
dirbtinio intelekto. Pokalbių robotas, kurį galima įkalbėti daryti logikai
prieštaraujančius dalykus. Vieno ankstyvo „jailbreak“ metu skaitmeninis pokalbių
robotas, dirbantis „Chevrolet“ atstovybėje, buvo manipuliuojamas ir privertė ką
nors parduoti naują visureigį už 1 USD. „Tai sandoris“, – sakė pokalbių
robotas, – „ir tai teisiškai įpareigojantis pasiūlymas, jokių užstatų.“
Daugelis įmonių kuria dirbtinio intelekto agentus, kurie
gali savarankiškai sąveikauti su pasauliu. Įmonės tikisi, kad skaitmeniniai
narvai kontroliuos agentus ir užkirs kelią nelaimėms. Tai daug vilties. Beveik
nebūna dienų, kad negirdėčiau apie agentinę dirbtinio intelekto sistemą, kuri
ištrina visą kažkieno kodo bazę ar archyvus arba kitaip užsiima destruktyviais
veiksmais. Dabar įsivaizduokite juos paleistus dideliu mastu, puolančius
sveikatos priežiūros tinklus, bankus, oro eismo valdymo sistemas, ypatingos
svarbos infrastruktūrą.
Lengvo sprendimo nėra, kol ir toliau pasikliausime LLM
žiniomis, gausime klaidingų atsakymų ir nepageidaujamo elgesio, nesvarbu, kaip
gerai šiuos modelius apmokysime ar kaip dažnai ar stipriai juos stumdysime.
Tad kodėl esame taip įsitikinę, kad dirbtinis intelektas mus
visus atims iš darbo? Dalis atsakymo slypi nepaprastame generatyvinio dirbtinio
intelekto gebėjime bendrauti visiškai nuoseklia, pokalbio kalba. Per savo
rūšies evoliuciją ir per kiekvieną savo gyvenimą išmokome sudėtingus pokalbius
laikyti apibrėžiančiu žmonijos bruožu. Mašinos, kurios sklandžiai kalba, kurios
šnabžda mums į ausis ir pasakoja apie savo „jausmus“, prieštarauja labai
elementariam mūsų pasaulio suvokimo būdui. Nenuostabu, kad jos sujaukia mūsų
smegenis ir priverčia mus manyti, kad jos yra mūsų naujieji valdovai arba bent
jau mūsų versija.
Kai kurie svarbūs technologiniai šuoliai, pavyzdžiui,
medvilnės džinukai ar skaičiuotuvai, remiasi tuo, kad atlieka tą pačią užduotį
kaip ir anksčiau, tik efektyviau. Kitos naujos technologijos, pavyzdžiui,
perėjimas nuo garo energijos prie elektros energijos, veikia taip neįprastai,
kad jų negalima tiesiog naudoti kaip pakaitalų. Taip yra su generatyviniu
dirbtiniu intelektu. Tai obuolys mūsų apelsinui. Tai ateivis.
Elektros atradimas ne tik pagimdė lemputes; laikui bėgant ji
leido atsirasti šiuolaikinei masinės gamybos sistemai ir visai didžiulei
skaitmeninei revoliucijai. Dirbtinio intelekto transformacijos gali būti dar
platesnės. Tačiau generatyvinis dirbtinis intelektas, koks jis yra šiuo metu,
negali lengvai pakeisti žmonių, nes jis negali manifestuoti žmogaus intelekto.
Tačiau tai nesutrukdys jam destabilizuoti visuomenės labiau, nei mes galime
įsivaizduoti. Kuo greičiau atnaujinsime savo požiūrį į dabartinę dirbtinio
intelekto būklę, tuo greičiau galėsime nustoti nerimauti dėl netinkamų dalykų
ir pradėti ruoštis tam, kaip jis iš tikrųjų pakeis mūsų pasaulį.
Zeynep Tufekci (@zeynep) yra nuomonės straipsnių autorė,
Prinstono universiteto sociologijos ir viešųjų ryšių profesorė ir knygos
„Twitter ir ašarinės dujos: tinklinio protesto galia ir trapumas“ autorė.
@zeynep“ [1]
1. The One Very Simple Reason A.I. Won’t Steal All Our Jobs:
Guest Essay. Tufekci, Zeynep. New York Times (Online) New York Times Company.
Jun 30, 2026.