„Įsivaizduokite, kad 1970 m. sakiau, kad ketinu išrasti
nuostabų įrankį. Šis naujas įrankis leis visiems, turintiems prieigą – ir
daugumai žmonijos – greitai bendrauti ir bendradarbiauti su bet kuo kitu.
Žmonių žinių ir minčių suma iki to momento tampa prieinama, ir visa tai būtų galima ieškoti,
rūšiuoti ir pernešti. Tekstą būtų galima akimirksniu išversti iš vienos kalbos
į kitą, naujienos būtų iš karto pasiekiamos iš viso pasaulio, ir mokslininkui nebereikia daugiau laiko, kad parsisiųsti 15 metų senumo žurnalą, negu, kad perversti įrašą
naujausiame numeryje.
Ką, jūsų manymu, šis informacijos, komunikacijos ir
bendradarbiavimo šuolis padarys žmonijai? Kiek sparčiau augs mūsų ekonomika?
Dabar įsivaizduokite, kad sakiau jums, kad ketinu išrasti
grėsmingą įrankį (galbūt, sakydamas jums tai, kvatojau). Kai žmonės jį naudoja,
jų dėmesys susilpnėja, nes įrankis nuolat perkelia dėmesį, susilpnindamas jų
koncentracijos ir kontempliacijos galias. Šis įrankis parodo žmonėms, nuo ko
jiems yra sunkiausia atitraukti žvilgsnį – kas dažnai būtų grėsmingiausia
pasaulyje – nuo blogiausių jų politinių oponentų idėjų iki gilios jų visuomenės
neteisybės. Jis tilptų jų kišenėse ir švytėtų ant naktinių stendų ir niekada
nebūtų tylus; niekada nebus akimirkos, kai žmonės galėtų atsikratyti jausmo,
kad reikia patikrinti krūvą pranešimų, įspėjimų ir užduočių.
Ką, jūsų manymu, šis blaškymosi, susiskaldymo ir pažinimo
lūžio variklis padarys žmonijai?
Mąstymas apie internetą šiais terminais padeda išspręsti
ekonominę paslaptį. Gėdinga tiesa yra ta, kad produktyvumo augimas – kiek
daugiau galime uždirbti, turėdami tą patį žmonių, gamyklų ir žemės skaičių –
didžiąją XX amžiaus dalį buvo daug spartesnis, nei dabar. Šiandien mes
vidutiniškai augame apie pusę produktyvumo augimo tempo, kurį matėme penktajame
ir šeštajame dešimtmečiuose. Tai reiškia sustingusias pajamas, vangią ekonomiką
ir politinę kultūrą, kuri labiau skirta kovoti dėl to, ką turime, o ne platinti
įgytus turtus ir stebuklus. Taigi, kas nutiko?
Galite galvoti apie du būdus, kaip internetas galėjo
paspartinti produktyvumo augimą. Pirmasis būdas buvo akivaizdus: leidžiant
daryti tai, ką jau darome, ir padaryti tai lengviau, bei greičiau. Ir tai
atsitiko. Nuo maždaug 1995 m. iki 2005 m. galite pastebėti produktyvumo augimą,
kai įmonės skaitmenizavo savo veiklą. Tačiau tai antrasis būdas, kuris visada
buvo svarbesnis: sujungęs žmoniją su savimi ir beveik visa jos informacijos
saugykla, internetas galėjo padaryti mus protingesnius ir pajėgesnius, kaip
kolektyvą.
Nemanau, kad šis pažadas buvo klaidingas. Net dirbant prie
šio straipsnio, man tai buvo tiesa: greitis, kuriuo galėjau rasti informaciją,
rūšiuoti tyrimus, susisiekti su ekspertais – nuostabu. Nepaisant to, abejoju,
ar parašiau tai greičiau, nei 1970-taisiais m. Didelę mano minties dalį užėmė nuolatinės
pastangos, reikalingos tiesiog išlaikyti mintis skaitmeninėje aplinkoje,
skirtoje atitraukti, sujaudinti ir linksminti mane. Ir aš nesu vienas.
Kalifornijos universiteto Irvine informacijos mokslų
profesorė Gloria Mark ir knygos „Attention Span“ autorė pradėjo tyrinėti, kaip
žmonės naudojasi kompiuteriais 2004 m. Vidutinis laikas, kurį žmonės praleido
prie vieno ekrano, buvo 2,5 minutės. „Buvau nustebus“, – pasakė ji man. „Tai
buvo daug blogiau, nei aš maniau. Bet tai buvo tik pradžia. Iki 2012 m. Mark
ir jos kolegos nustatė, kad vidutinis vienos užduoties laikas buvo 75 sekundės.
Dabar jis sumažėjo iki maždaug 47.
Tai rūgštinė vonia žmogaus pažinimui. Daugiafunkcinis darbas
dažniausiai yra mitas. Vienu metu galime sutelkti dėmesį į vieną dalyką.
„Atrodo, kad mūsų mintyse yra vidinė lenta“, - sakė Markas. „Jei dirbu su viena
užduotimi, turiu visą reikiamą informaciją toje mintinėje lentoje. Tada pereinu
prie el. laiškų. Turiu mintyse ištrinti tą lentą ir parašyti visą informaciją, kurios
man reikia el. laiškams. Ir kaip ant tikros lentos, mūsų mintyse gali būti likučių.
Galbūt, vis dar galvojame apie ką nors iš prieš tris užduotis.
Kaina yra ne tik našumas. Markas ir kiti jos srities
darbuotojai prikabino žmones prie kraujospūdžio aparatų ir širdies ritmo
monitorių bei matavo chemines medžiagas kraujyje. Nuolatinis perjungimas kelia
mums stresą ir dirglumą. Man nereikėjo eksperimentų, kad tai įrodyčiau – aš
taip gyvenu, o jūs, tikriausiai, taip pat – bet buvo apmaudu girdėti, kai tai
patvirtinama.
Tai atveda mane prie dirbtinio intelekto (A.I.). Čia aš kalbu apie
sistemas, kurias matome dabar: didelius kalbų modelius, tokius, kaip OpenAI GPT-4
ir Google Bard. Šios sistemos, dažniausiai, apibendrina joms parodytą informaciją
ir sukuria į ją panašų turinį. Suprantu, kad šis sakinys gali skambėti šiek
tiek atmestinai, bet neturėtų būti: tai didžiulis kiekisto, ką daro ir
žmonės.
Jau dabar mums sakoma, kad A.I. daro programuotojus ir
klientų aptarnavimo atstovus bei rašytojus produktyvesnius. Bent vienas vadovas
planuoja įtraukti ChatGPT naudojimą, vertindamas darbuotojų veiklą. Bet aš
skeptiškai žiūriu į šį ankstyvą ažiotažą. Tai matuoja galimą AI naudą,
neatsižvelgiant į galimas išlaidas – tą pačią klaidą padarėme su internetu.
Nerimauju, kad mes einame neteisinga kryptimi mažiausiai
trimis būdais.
Viena iš jų yra ta, kad šios sistemos labiau atitrauks ir
linksmins, nei sutelks dėmesį. Šiuo metu dideli kalbos modeliai linkę
haliucinuoti informaciją: paprašykite jų atsakyti į sudėtingą klausimą ir
gausite įtikinamą, eruditą atsakymą, kuriame dažnai pateikiami pagrindiniai
faktai ir citatos. Įtariu, kad tai sulėtins platų jų naudojimą svarbiose
pramonės šakose labiau, nei pripažįstama, panašiai, kaip be vairuotojo automobiliai
buvo sunkiai išleidžiami, nes jie turi būti visiškai patikimi, o ne gana geri.
Taigi, apie didelius kalbos modelius reikia užduoti klausimą:
kur patikimumas nesvarbus? Tai tos sritys, kuriose įvaikinimas bus
greičiausias. Žiniasklaidos pavyzdys, manau, yra labai geras.
CNET,
technologijų svetainė, tyliai pradėjo naudoti šiuos modelius straipsniams
rašyti, o žmonės redagavo kūrinius. Tačiau procesas nepavyko. Keturiasdešimt
viename iš 77 A.I. sukurtų straipsnių redaktoriai nepastebėjo klaidų, o CNET
susigėdęs pristabdė programą.
„BuzzFeed“, neseniai uždaręs naujienų padalinį,
pirmauja, naudodamas A.I. kurti viktorinas ir kelionių vadovus. Daugelis
rezultatų buvo menki, bet tai neturi jokios reikšmės. „BuzzFeed“ viktorina
nebūtinai turi būti patikima.
A.I. puikiai tiks, kuriant turinį, kur patikimumas nekelia
susirūpinimo. Suasmeninti vaizdo žaidimai ir vaikų pasirodymai, muzikos
deriniai ir pagal užsakymą sukurti vaizdai bus apakinantys. Ir ateina naujos
malonumo ir blaškymo sritys: manau, kad esame daug arčiau A.I. draugų,
meilužių ir bendražygių, tai tampa plačiau paplitusia mūsų socialinio gyvenimo
dalimi, nei visuomenė yra pasiruošusi.
Tačiau ten, kur svarbu patikimumas –
tarkime, didelis kalbos modelis, skirtas atsakyti į medicininius klausimus arba
apibendrinti gydytojo ir paciento sąveiką – diegimas bus sudėtingesnis, nes
priežiūros išlaidos bus didžiulės. Problema ta, kad šios sritys yra
svarbiausios ekonomikos augimui.
Marcela Martin, „BuzzFeed“ prezidentė, gražiai apibendrino
mano kitą nerimą, kai investuotojams pasakė: „Užuot sugeneravusi 10 idėjų per
minutę, A.I. per sekundę gali sukurti šimtus idėjų. Ji tai turėjo omenyje, kaip
gerą dalyką, bet ar taip? Įsivaizduokite, kad tai padaugėjo visoje ekonomikoje.
Kažkas kažkur turės apdoroti visą tą informaciją. Ką tai paveiks produktyvumą?
Viena iš skaitmeninio amžiaus pamokų yra ta, kad daugiau nevisada yra geriau.
Atrodo, kad daugiau el. laiškų ir ataskaitų, daugiau slakų
ir daugiau tviterių, daugiau vaizdo įrašų ir naujienų straipsnių, daugiau
skaidrių ir daugiau mastelio keitimo skambučių neprivedė prie daugiau puikių
idėjų. „Galime pateikti daugiau informacijos“, – sakė Markas. „Tačiau tai
reiškia, kad turime apdoroti daugiau informacijos. Mūsų apdorojimo galimybės
yra kliūtis."
El. pašto ir pokalbių sistemos, tokios, kaip „Slack“, siūlo
naudingų analogijų. Abi yra plačiai naudojamos visoje ekonomikoje. Iš pradžių
abi buvo parduodamos, kaip našumo didinimo priemonės, leidžiančios greičiau
užmegzti ryšį. Ir kaip žino visi, kurie jas naudoja, produktyvumo padidėjimas
– nors ir realus – yra daugiau, nei prilyginamas sąnaudoms, kurias sukelia daug
daugiau komunikacijos, daugiausia šlamšto ir nesąmonių.
Didelio kalbos modelio magija yra ta, kad jis gali sukurti
beveik bet kokio ilgio dokumentą beveik bet kokiu stiliumi, su minimaliomis
vartotojo pastangomis. Tik nedaugelis pagalvojo, kokias išlaidas turės tie,
kurie turėtų atsakyti į visą šį naują tekstą. Vienas iš mano mėgstamiausių to
pavyzdžių yra iš „The Economist“, kuris įsivaizdavo, kad NIMBY – bet iš tikrųjų
pasirinkite savo interesų grupę – naudoja GPT-4, kad greitai parengtų 1000
puslapių skundą, prieštaraujantį naujai plėtrai. Kažkas, žinoma, tada turės
atsakyti į tą skundą. Ar tai tikrai pagreitins mūsų galimybes statyti būstą?
Galite paprieštarauti, kad A.I. išspręs šią problemą, greitai
apibendrindamas nusiskundimus priblokštiems politikos formuotojams, nes
nepageidaujamo pašto padidėjimą (kartais šiek tiek) stabdo pažangesni šiukšlių
filtrai. Jonathanas Frankle'as, vyriausiasis MosaicML mokslininkas ir
kompiuterių mokslininkas iš Harvardo, man tai apibūdino kaip „nuobodžiosios
apokalipsės“ scenarijų A.I., kai „mes naudojame ChatGPT ilgiems el. laiškams ir
dokumentams generuoti, o tada jį gavęs asmuo naudoja „ChatGPT“, apibendrindamas iki
kelių punktų, ir yra daugybė informacijos, kuri keičia savininkus, tačiau visa
tai yra tik pūkas. Mes tik padidiname ir glaudiname A.I sukurtą turinį.
Kai kalbėjomės, Frankle atkreipė dėmesį į 100 puslapių
Aukščiausiojo Teismo dokumento įtraukimo į didelį kalbos modelį ir pagrindinių
dalykų santraukos magiją. Bet ar tai buvo gera santrauka, jis nerimavo? Daug iš
mūsų yra tekę paprašyti ChatGPT parengti teksto juodraštį ir per kelias
sekundes pamatyti, kaip burtų keliu, atsiranda visiškai suformuota kompozicija.
Trečias mano susirūpinimas yra susijęs su tuo A.I.
naudojimu: net jei tos santraukos ir juodraščiai yra gana geri, kažkas prarandama, perleidžiant darbą A.I. Dalis mano darbo yra 100 puslapių Aukščiausiojo Teismo dokumentų
skaitymas ir niūrių pirmųjų stulpelių juodraščių sudarymas. Tikrai būtų
greičiau, jei A.I. padaryti tą darbą. Tačiau padidėjęs efektyvumas atsirastų
naujų idėjų ir gilesnių įžvalgų kaina.
Mūsų visuomenės apsėstas greitis ir efektyvumas suteikė mums
klaidingą žmogaus pažinimo modelį, kurį aš pradėjau galvoti, kaip apie žinių
teoriją kūrinyje Matrica. Daugelis iš mūsų nori, kad galėtume panaudoti mažąjį
„Matricos“ lizdą, kad į galvą atsisiųstume knygos žinias (arba, pavyzdžiui,
filmo pavyzdį, kung fu meistriškumą), ir tada mes jas iškart gautume. Tačiau tai
praleidžia daugumą to, kas iš tikrųjų vyksta, kai devynias valandas
praleidžiame, skaitydami biografiją.
Tai laikas knygoje, praleistas susiejant su
tuo, ką žinome, ir turint minčių, kurių kitu atveju neturėtume.
„Niekas nemėgsta rašyti ataskaitų ar rašyti el. laiškų, bet
norime palaikyti ryšį su informacija“, – sakė Markas. „Mes mokomės, kai giliai
apdorojame informaciją. Jei mes to nepadarėme ir viską pavedame GPT – kad ji
apibendrintų ir parašytų ataskaitas už mus – mes neprisijungsime prie šios
informacijos.
Tai suprantame intuityviai, kai tai taikome studentams.
Niekas nemano, kad didelio literatūros kūrinio „SparkNotes“ santraukos skaitymas
yra panašus į knygos skaitymą. Ir niekas nemano, kad jei studentai su ChatGPT rašo
savo esė, jie sumaniai padidino savo produktyvumą, o ne prarado galimybę
mokytis. Analogija su biuro darbu nėra tobula – yra daug nuobodžių užduočių,
kurias verta automatizuoti, kad žmonės galėtų praleisti laiką kūrybiškesniems
užsiėmimams, tačiau pavojai, kylantys dėl per didelio pažinimo ir kūrybinių
procesų automatizavimo, yra tikri.
Tai, žinoma, seni rūpesčiai. Sokratas suabejojo rašymo
naudojimu (tai užrašė, ironiškai, Platonas), nerimaujantis, kad „jei žmonės tai
išmoks, tai jų sielose įsodins užmaršumą; jie nustos mankštinti atmintį, nes
pasikliauja tuo, kas parašyta, kviesdami dalykus prisiminti nebe iš savo
vidaus, o pasitelkdami išorinius ženklus. Manau, kad kompromisas čia buvo
vertas – juk aš esu rašytojas, – bet tai buvo kompromisas. Žmonės tikrai
prarado atminties gebėjimus, kuriuos kadaise turėjome.
Kad ištesėtų savo pažadą, dirbtinis intelektas turi
pagilinti žmogaus intelektą. Ir tai reiškia, kad žmonės turi kurti AI ir aplink
jį kurti darbo eigą bei biuro aplinką taip, kad mūsų neužgožtų, neblaškytų ir
nesumenkintų. Mums nepavyko susidoroti su šiuo testu su internetu. Neapsigaukime su A.I.
Ezra Klein prie Opinion prisijungė 2021 m. Anksčiau jis buvo
„Vox“ įkūrėjas, vyriausiasis redaktorius, o vėliau – redaktorius, dirbantis su įvairiomis temomis;
podcast'o „The Ezra Klein Show“ vedėjas; ir knygos „Kodėl mes esame
poliarizuoti“ autorius. Prieš tai jis buvo „The Washington Post“ apžvalgininkas
ir redaktorius, kur įkūrė „Wonkblog“ vertikalę ir jai vadovavo."
@ezraklein
A.I. sugebėjimas paaiškinti glaustai ir paprasta, aiškia kalba be žargono naudingas tiems, kurie mokosi visą gyvenimą ir neturi lėšų pasamdyti gerus mokytojus. Lengvai tokiu būdu gautas žinias galima patikrinti knygose, žurnaluose, blogiausiu atveju, guglinant.
Tikrinimas, kas veikia praktiškai, tampa svarbiausiu ir galutiniu tiesos
arbitru. Mes, norintys dirbti
A.I. amžiuje, turime bent dalį darbo dienos dirbti mokslininkais, tikrinančiais
viską, kas mums svarbu.
Turintiems daugiau laiko, jauniems ir turtingiems geriausia dirbti su mokytojais. Apibendrinant: A.I. gali pakeisti gerus mokytojus tiems, kurie nori įeiti į naują sritį ir neturi pinigų, kad pasamdyti gerus mokytojus.
Komentarų nėra:
Rašyti komentarą