„Galimybė, kad dirbtinis intelektas pavogs visus mūsų darbo vietas, buvo išgirta pramonės lyderių. Tai paskatino politikus skambinti pavojaus signalu. Dabar tai yra vienas iš didžiausių visuomenės susirūpinimų dėl naujosios technologijos.
Ir kaip tik anksčiau šį mėnesį „Meta“, „Facebook“ patronuojanti bendrovė, pradėjo pardavinėti autonominę dirbtinio intelekto sistemą, skirtą įmonių pardavimams, klientų aptarnavimui, planavimui ir visoms kitoms pagrindinėms funkcijoms, kurioms šiuo metu reikalingi žmonės, valdyti.
Tikimasi, kad pasirodys dar daug tokių produktų.
Taigi, kaip atrodytų visiškai automatizuota ateitis? Kaip bebūtų keista, pasaulis jau spėjo ją pamatyti. Kovo mėnesį „Meta“ paskelbė, kad „Facebook“ ir „Instagram“ vartotojai, kurie buvo užblokuoti savo paskyrose, nebebendraus su klientų aptarnavimo atstovu; jie bendraus su specialiai apmokytu dirbtiniu intelektu. Pripažindami atsirandančią galimybę, sukčiai iš esmės įkalbėjo dirbtinį intelektą perduoti daugiau, nei 20 000 „Instagram“ paskyrų, įskaitant Obamos Baltųjų rūmų ir aukšto rango Trumpo administracijos pareigūno paskyras, kontrolę. Tada susižavėję sukčiai sužibėjo „Telegram“ pranešimų lentose su savo pasakojimais apie tai, kaip viskas buvo lengva.
Tai nebuvo atsitiktinumas. „Air Canada“ išjungė savo pokalbių robotus, kai šie per klaidą pažadėjo klientui grąžinti pinigus – klientas padavė į teismą ir laimėjo. „McDonald's“ išjungė robotą, priimantį užsakymus savo užkandinėse, po to, kai daugybė virusinių vaizdo įrašų parodė, kad jis yra labai neveiksnus. Vienu atveju robotas per klaidą pridėjo šimtų dolerių vertės vištienos gabaliukų prie kliento užsakymo.
Šie bauginantys – gerai, gerai, juokingi – incidentai nėra kodavimo klaidų rezultatas.
Jie yra esminio, neišvengiamo fakto apie dirbtinį intelektą, kuris tapo toks įprastas daugelyje mūsų kasdienio gyvenimo aspektų, rezultatas: dideli kalbos modeliai nėra samprotavimo mašinos. Jie yra tikėtinumo varikliai.
Jie ne tik netikrina savo rezultatų, kad įsitikintų, jog jie teisingi ar logiški, arba kad tam tikrais atvejais to nepadaro. Jie negali ir niekada negalės to padaryti patys. Jie gali įvertinti tik tuos atsakymus, kurie yra tikėtini, remdamiesi duomenimis, kuriais modeliai buvo apmokyti. Ir tai tiesa. Nesvarbu, ar jie apmokyti dirbti su visa žmogaus darbo apimtimi, ar tik su recenzuojamais moksliniais straipsniais. Tai integruota į jų veikimo būdą.
Taigi, kai dirbtinio intelekto modelis vadovaujasi sukčiaus kruopščiai parašytais nurodymais ir atiduoda karalystės raktus, arba kai į jūsų nuoširdų klausimą atsako laukinėmis haliucinacijomis, tai nėra nukrypimas nuo normos. Tai technologija, veikianti taip, kaip buvo sukurta.
Ir todėl aš neklausau niūrių prognozių apie artėjančią dirbtinio intelekto darbo vietų apokalipsę. LLM absolventai gali atlikti daugybę dalykų su stulbinančiu meistriškumu, tačiau jie negali atlikti daugumos žmonių atliekamų darbų, nepatirdami katastrofos. Jokie atnaujinimai ar naujų modelių diegimas to nepakeis.
Išimtys iš šios taisyklės yra darbai, kurie užima oficialias arba patikrinamas sritis. Kodavimas yra vienas iš tokių darbų. Jis remiasi struktūrizuota, formalia kalba, kurią galima išbandyti realiuoju laiku. Štai kodėl matome tokį poveikį kodavimo darbo rinkoje. Tas pats pasakytina ir apie bet kokį kitą darbą, kurio rezultatas yra patikrinamai teisingas arba neteisingas, funkcionalus ar nefunkcionalus, ir gali būti galutinai patikrintas automatizuotu procesu.
Tačiau daugybė darbų taip neveikia – nei chirurgo, nei klientų aptarnavimo, nei ketvirtos klasės mokytojo. Tam reikia specializuotos senamadiško žmogaus intelekto technologijos.
Daug laiko praleidžiu kalbėdamas apie šias problemas viešose vietose ir visada iškyla vienas klausimas: žmonės taip pat daro klaidų, todėl mes kuriame apsaugos priemones, kad jas aptiktume. Kodėl negalime to paties padaryti ir generatyvinio dirbtinio intelekto klaidoms? Problema ta, kad šie modeliai nedaro tokių klaidų, kokias daro žmogus. Nei jų įspūdingi gebėjimai, nei keisti trūkumai gerai neatitinka žmogaus intelekto. Dėl šio neatitikimo sunku juos integruoti į sistemas, skirtas žmogaus klaidoms aptikti.
Taigi, praėjo beveik ketveri metai nuo „ChatGPT“ išleidimo, ir labai nedaug mūsų pakeitė robotai. Nedarbo statistika beveik nepajudėjo. Taip, darbo rinkoje yra tam tikrų neramumų, ypač jaunų žmonių, tačiau tai greičiausiai lemia kiti veiksniai, nei dirbtinis intelektas.
Šių tendencijų stebėtojai pateikė keletą paaiškinimų. Kai kurie pesimistai teigia, kad cunamis artėja, bet tik tada, kai dirbtinis intelektas šiek tiek toliau vystysis. Kiti teigia, kad dirbtinis intelektas sunaikins daugybę dabartinių darbo vietų, tačiau jas atsvers daugybė darbo vietų, kurias jis sukurs. Dar kiti teigia, kad mes tiesiog patiriame trumpą atsilikimą, kol įmonės pertvarko savo darbo eigą ir nusprendžia, ką atleisti.
Geresnis paaiškinimas yra tas, kad buvome klaidinami dėl šios technologijos pobūdžio.
Visą XX amžių lenktynės, darbai, kuriant išmaniąsias mašinas, vyko dviem lygiagrečiais keliais. Vienu atveju mes pateikiame mašinoms visą informaciją ir instrukcijas, o jos kruopščiai jų laikosi. Tai vadinama simboline DI. Kitu atveju mes tiesiog parodome joms atitinkamus duomenis ir iš esmės leidžiame joms mokytis patiems. Tai vadinama konnekcionistine DI.
Prieš tai, kai dabartinė DI versija užplūdo mūsų gyvenimą, beveik visuose viešuose pokalbiuose apie tai, kaip ji atrodys – mokslinėje fantastikoje, filosofijoje, politiniuose debatuose – buvo daroma prielaida, kad ji bus simbolinė: taisyklėmis pagrįsta sistema, kurią įgalins išsamus mūsų tikslaus projekto planas. Daugybė žmonių bandė sukurti kažką panašaus, tačiau šios pastangos atsitrenkė į sieną. Dabartiniai mūsų modeliai yra konnekcionistinės sistemos, kurias įgalino didžiuliai duomenų kiekiai ir skaičiavimo galia. Jie generuoja atsakymus, pagrįstus ne tiesa ar samprotavimais, o tikėtinais ryšiais tarp pateiktų duomenų. Todėl ir kilo pavadinimas: generatyvinė DI.
Mes negalime visiškai kontroliuoti generatyvinių modelių. Viskas, ką galime padaryti, tai juos apmokyti ir pabandyti pastūmėti teisinga linkme. Net ir tada niekada negalime būti tikri, ar mūsų stumtelėjimai veiks taip, kaip norime, nes iki galo nesuprantame, kaip šie modeliai veikia. Jie yra juodosios dėžės.
Vienas iš būdų, kaip bandome juos stumtelėti, yra pastiprinimas per grįžtamąjį ryšį. Suburiamos didelės žmonių komandos, kurios stebi visus modelio rezultatus ir reaguoja teigiamai arba neigiamai. Taigi, atsakyti į vartotojo užklausą naudinga, tiesmuka informacija? Pagirti. Išlieti beprotiškas nacistines mintis? Ne. Ir taip toliau. Problema ta, kad laikui bėgant šie mokymai taip pat paverčia modelius paklusniais pataikautojais ir žmonių įtikimo siekiais. „Puikus pastebėjimas, Zeynep.“
Kitas būdas juos stumtelėti yra per plačias įsitraukimo taisykles, vadinamas sistemos raginimais. „Claude niekada nekeikia, nebent žmogus pats daug klausia arba keikiasi, ir net tada tai daro saikingai“, – buvo viena iš tokių raginimų. Tačiau tikroji kalbos reikšmė dirbtinio intelekto modeliams yra tokia pat atvira interpretacijai, kaip ir žmonėms. Kuo ilgiau tęsiasi pokalbis, tuo labiau tolsta prisiminimai, kuriuos sukelia ši sistema. Taip atsirado „jailbreaking“ – terminas, reiškiantis manipuliavimą vienu iš šių dalykų, kad jie peržengtų jo apsauginius barjerus.
„Anthropic“ neseniai išleido naujus modelius, vadinamus „Fable“ ir „Mythos“, įspėdama, kad jie yra tokie galingi, jog būtų pavojingi, jei ne jų apsaugos priemonės. Pranešama, kad ryžtingi vartotojai negaišo laiko, kad įtikintų juos apeiti šias apsaugos priemones. Remdamasi šiuo pažeidimu, JAV vyriausybė uždraudė užsieniečiams (net ir įmonės užsienio darbuotojams) naudoti šiuos modelius. Gindamasi „Anthropic“ teigė, kad nėra tokių dalykų kaip neįveikiami apsauginiai barjerai. Būtent tai ir yra esmė.
Kadangi daugėja įrodymų, kad siaubingi atsakymai ir jailbreak'ai yra neišvengiama technologijos dalis, pramonės dėmesys pastaruoju metu perėjo prie skaitmeninių narvų, iš esmės labiau deterministinių, simbolinių diržų, skirtų generatyviniam dirbtinio intelekto varikliui sulaikyti ir jo rezultatams tikrinti, kūrimą. Tokie įrankiai teoriškai galėtų priversti daugelį žmonių atliekamų darbų atlikti labiau kaip kodavimą ar kitas sritis su aiškiais, įrodomais rezultatais.
Tačiau, kaip galite įsivaizduoti, kruopščiai išdėstyti kiekvieną paskutinę taisyklę ir ribą niekada nėra lengva, o daugeliu atvejų tai net neįmanoma. Įsivaizduokite, kad sukuriate išsamų visų galimų klientų aptarnavimo sąveikų aprašymą – ir tai darote simboline logika, kad jį būtų galima rasti naudojant senamadišką programinę įrangą. Arba įsivaizduokite dirbtinio intelekto modelį, sukurtą advokatų kontoroms. Sukurti visos JAV teismų praktikos duomenų bazę, kurią modelis galėtų naudoti siekdamas išvengti teisminių precedentų kūrimo, nėra lengva užduotis. Tačiau tai tik pradžia. Daug sunkiau yra tai, kaip sėkmingai interpretuoti teisę arba tinkamai aprašyti visas taisykles, o tada nuspręsti, kas yra svarbu byloje. Štai kodėl dešimtmečius trukę bandymai sukurti simbolinį dirbtinį intelektą atsitrenkė į sieną.
Lengvai automatizuojamos užduotys jau buvo automatizuotos daugumoje mūsų darbų – prieš daugelį metų, naudojant tradicines taisyklėmis pagrįstas technologijas. Daugelio likusių dalykų negalima taip lengvai redukuoti į teisingą ir neteisingą, juodą ir baltą. Tam reikia bent šiek tiek sveiko proto ir mąstymo gebėjimų turinčio žmogaus, o ne žmonėms patinkančio dirbtinio intelekto. Pokalbių robotas, kurį galima įkalbėti daryti logikai prieštaraujančius dalykus. Vieno ankstyvo „jailbreak“ metu skaitmeninis pokalbių robotas, dirbantis „Chevrolet“ atstovybėje, buvo manipuliuojamas ir privertė ką nors parduoti naują visureigį už 1 USD. „Tai sandoris“, – sakė pokalbių robotas, – „ir tai teisiškai įpareigojantis pasiūlymas, jokių užstatų.“
Daugelis įmonių kuria dirbtinio intelekto agentus, kurie gali savarankiškai sąveikauti su pasauliu. Įmonės tikisi, kad skaitmeniniai narvai kontroliuos agentus ir užkirs kelią nelaimėms. Tai daug vilties. Beveik nebūna dienų, kad negirdėčiau apie agentinę dirbtinio intelekto sistemą, kuri ištrina visą kažkieno kodo bazę ar archyvus arba kitaip užsiima destruktyviais veiksmais. Dabar įsivaizduokite juos paleistus dideliu mastu, puolančius sveikatos priežiūros tinklus, bankus, oro eismo valdymo sistemas, ypatingos svarbos infrastruktūrą.
Lengvo sprendimo nėra, kol ir toliau pasikliausime LLM žiniomis, gausime klaidingų atsakymų ir nepageidaujamo elgesio, nesvarbu, kaip gerai šiuos modelius apmokysime ar kaip dažnai ar stipriai juos stumdysime.
Tad kodėl esame taip įsitikinę, kad dirbtinis intelektas mus visus atims iš darbo? Dalis atsakymo slypi nepaprastame generatyvinio dirbtinio intelekto gebėjime bendrauti visiškai nuoseklia, pokalbio kalba. Per savo rūšies evoliuciją ir per kiekvieną savo gyvenimą išmokome sudėtingus pokalbius laikyti apibrėžiančiu žmonijos bruožu. Mašinos, kurios sklandžiai kalba, kurios šnabžda mums į ausis ir pasakoja apie savo „jausmus“, prieštarauja labai elementariam mūsų pasaulio suvokimo būdui. Nenuostabu, kad jos sujaukia mūsų smegenis ir priverčia mus manyti, kad jos yra mūsų naujieji valdovai arba bent jau mūsų versija.
Kai kurie svarbūs technologiniai šuoliai, pavyzdžiui, medvilnės džinukai ar skaičiuotuvai, remiasi tuo, kad atlieka tą pačią užduotį kaip ir anksčiau, tik efektyviau. Kitos naujos technologijos, pavyzdžiui, perėjimas nuo garo energijos prie elektros energijos, veikia taip neįprastai, kad jų negalima tiesiog naudoti kaip pakaitalų. Taip yra su generatyviniu dirbtiniu intelektu. Tai obuolys mūsų apelsinui. Tai ateivis.
Elektros atradimas ne tik pagimdė lemputes; laikui bėgant ji leido atsirasti šiuolaikinei masinės gamybos sistemai ir visai didžiulei skaitmeninei revoliucijai. Dirbtinio intelekto transformacijos gali būti dar platesnės. Tačiau generatyvinis dirbtinis intelektas, koks jis yra šiuo metu, negali lengvai pakeisti žmonių, nes jis negali manifestuoti žmogaus intelekto. Tačiau tai nesutrukdys jam destabilizuoti visuomenės labiau, nei mes galime įsivaizduoti. Kuo greičiau atnaujinsime savo požiūrį į dabartinę dirbtinio intelekto būklę, tuo greičiau galėsime nustoti nerimauti dėl netinkamų dalykų ir pradėti ruoštis tam, kaip jis iš tikrųjų pakeis mūsų pasaulį.
Zeynep Tufekci (@zeynep) yra nuomonės straipsnių autorė, Prinstono universiteto sociologijos ir viešųjų ryšių profesorė ir knygos „Twitter ir ašarinės dujos: tinklinio protesto galia ir trapumas“ autorė. @zeynep“ [1]
1. The One Very Simple Reason A.I. Won’t Steal All Our Jobs: Guest Essay. Tufekci, Zeynep. New York Times (Online) New York Times Company. Jun 30, 2026.
Komentarų nėra:
Rašyti komentarą