„Dirbtinio intelekto (A.I) krikštatėvis“ palieka „Google“ ir įspėja apie pavojų

"Pusę amžiaus Geoffrey Hintonas puoselėjo pokalbių robotų, tokių, kaip „ChatGPT“, technologiją. Dabar jis nerimauja, kad tai padarys rimtą žalą.

 

Geoffrey Hintonas buvo dirbtinio intelekto pradininkas. 2012 m. daktaras Hintonas ir du jo aspirantai iš Toronto universiteto sukūrė technologiją, kuri tapo intelektualiniu A.I. sistemos, kuri, didžiausių technologijų pramonės įmonių nuomone, yra raktas į jų ateitį.

 

Tačiau pirmadienį jis oficialiai prisijungė prie augančio kritikų choro, teigiančio, kad tos bendrovės lenktyniauja link pavojų, vykdydamos savo agresyvią kampaniją, kuria gamina generatyvaus dirbtinio intelekto pagrindu sukurtus produktus, ty technologiją, kuri palaiko tokius populiarius pokalbių robotus, kaip ChatGPT.

 

Daktaras Hintonas teigė, kad paliko darbą „Google“, kur dirbo daugiau, nei dešimtmetį, ir tapo vienu gerbiamiausių šios srities balsų, todėl gali laisvai kalbėti apie A.I. Dalis jo, pasak jo, dabar gailisi dėl savo gyvenimo darbo.

 

„Guodžiuosi įprastu pasiteisinimu: jei aš nebūčiau to padaręs, būtų daręs kas nors kitas“, – praėjusią savaitę per ilgą interviu savo namų Toronte, kelios minutės pėsčiomis nuo vietos, kur jis ir jo mokiniai padarė savo proveržį.

 

Daktaro Hintono kelionė iš A.I. novatoriško sprendimo į „pražūties pranašą“ žymi stebėtiną momentą technologijų pramonei bene svarbiausiame per pastaruosius dešimtmečius posūkio taške. Pramonės lyderiai mano, kad naujos A.I. sistemos gali būti tokios pat svarbios, kaip žiniatinklio naršyklės įdiegimas dešimtojo dešimtmečio pradžioje ir gali lemti lūžius įvairiose srityse – nuo vaistų tyrimų iki švietimo.

 

Tačiau daugelio pramonės atstovų nerimas yra baimė, kad jie į lauką paleidžia kažką pavojingo. Generatyvus A.I. jau gali būti dezinformacijos įrankis. Netrukus tai gali kelti pavojų darbo vietoms. Kai kur žemyn, didžiausi technologijų nerimą keliantys asmenys sako, kad tai gali kelti pavojų žmonijai.

 

„Sunku suprasti, kaip galima neleisti blogiems veikėjams jį panaudoti blogiems dalykams“, – sakė dr. Hintonas.

 

Po to, kai San Francisko startuolis OpenAI kovo mėnesį išleido naują ChatGPT versiją, daugiau, nei 1000, technologijų lyderių ir tyrėjų pasirašė atvirą laišką, ragindami taikyti šešių mėnesių moratoriumą naujų sistemų kūrimui, nes A.I. technologijos kelia „didžiulį pavojų visuomenei ir žmonijai“.

 

Po kelių dienų 19 dabartinių ir buvusių 40 metų akademinės draugijos Dirbtinio intelekto pažangos asociacijos vadovų paskelbė savo laišką, įspėdami apie A.I. Šiai grupei priklausė Ericas Horvitzas, „Microsoft“ vyriausiasis mokslinis pareigūnas, kuris įdiegė OpenAI technologiją įvairiuose produktuose, įskaitant „Bing“ paieškos variklį.

 

Daktaras Hintonas, dažnai vadinamas „AI krikštatėviu“, nepasirašė nė vieno iš tų laiškų ir teigė nenorintis viešai kritikuoti „Google“ ar kitų įmonių, kol neišėjo iš darbo. Praėjusį mėnesį jis pranešė bendrovei, kad atsistatydina, o ketvirtadienį telefonu kalbėjosi su Sundaru Pichai, „Google“ patronuojančios įmonės „Alphabet“ vadovu. Jis atsisakė viešai aptarti savo pokalbio su p. Pichai detales.

 

„Google“ vyriausiasis mokslininkas Jeffas Deanas savo pareiškime sakė: „Mes ir toliau esame įsipareigoję laikytis atsakingo požiūrio į A.I. Mes nuolat mokomės suprasti kylančias rizikas ir drąsiai diegiame naujoves."

 

75 metų Didžiosios Britanijos emigrantas daktaras Hintonas yra visą gyvenimą dirbantis akademikas, kurio karjerą lėmė jo asmeniniai įsitikinimai dėl A.I. kūrimo ir naudojimo. 1972 m., būdamas Edinburgo universiteto absolventas, daktaras Hintonas priėmė idėją, vadinamą neuroniniu tinklu.

 

Neuroninis tinklas yra matematinė sistema, kuri mokosi įgūdžių, analizuodama duomenis. Tuo metu mažai tyrinėtojų patikėjo šia idėja. Bet tai tapo jo gyvenimo darbu.

 

Devintajame dešimtmetyje daktaras Hintonas buvo informatikos profesorius Carnegie Mellon universitete, bet paliko universitetą ir išvyko į Kanadą, nes pasakė, kad nenori imti Pentagono finansavimo. Tuo metu daugumą A.I. tyrimų JAV finansavo Gynybos departamentas. Dr. Hintonas labai priešinasi dirbtinio intelekto naudojimui mūšio lauke – tai, ką jis vadina „robotų kariais“.

 

2012 m. daktaras Hintonas ir du jo mokiniai Toronte, Ilja Sutskeveris ir Alexas Krishevsky, sukūrė neuroninį tinklą, galintį išanalizuoti tūkstančius nuotraukų ir išmokyti atpažinti įprastus objektus, tokius, kaip gėlės, šunys ir automobiliai.

 

„Google“ išleido 44 mln. dolerių, kad įsigytų įmonę, kurią įkūrė daktaras Hintonas ir du jo mokiniai. Jų sistema paskatino sukurti vis galingesnes technologijas, įskaitant naujus pokalbių robotus, tokius, kaip „ChatGPT“ ir „Google Bard“. Ponas Sutskeveris tapo vyriausiuoju OpenAI mokslininku. 2018 m. dr. Hintonas ir kiti du ilgamečiai bendradarbiai gavo Turingo apdovanojimą, dažnai vadinamą „Nobelio skaičiavimo premija“, už savo darbą neuroninių tinklų srityje.

 

Maždaug tuo pačiu metu „Google“, „OpenAI“ ir kitos įmonės pradėjo kurti neuroninius tinklus, kurie mokėsi, naudojant didžiulius skaitmeninio teksto kiekius. Dr. Hintonas manė, kad tai galingas būdas mašinoms suprasti ir generuoti kalbą, tačiau šis būdas buvo prastesnis už tai, kaip žmonės tvarko kalbą.

 

Tada, praėjusiais metais, kai „Google“ ir „OpenAI“ sukūrė sistemas, naudodamos daug didesnius duomenų kiekius, jo požiūris pasikeitė. Jis vis dar tikėjo, kad sistemos tam tikrais atžvilgiais yra prastesnės už žmogaus smegenis, tačiau jis manė, kad kitose jos užtemdo žmogaus intelektą. "Galbūt, tai, kas vyksta šiose sistemose", - sakė jis, "iš tikrųjų yra daug geriau, nei tai, kas vyksta smegenyse".

 

Įmonėms tobulinant savo A.I. sistemos, jo manymu, jos tampa vis pavojingesnės. „Pažiūrėkite, kaip buvo prieš penkerius metus ir kaip yra dabar“, – sakė jis apie A.I. technologija. „Paimkite skirtumą ir skleiskite jį į priekį. Tai baisu."

 

Pasak jo, iki praėjusių metų „Google“ veikė, kaip „tinkamas šios technologijos prižiūrėtojas“, stengdamasi nepaleisti nieko, kas galėtų pakenkti. Tačiau dabar, kai „Microsoft“ papildė savo „Bing“ paieškos variklį pokalbių robotu, o tai meta iššūkį pagrindinei „Google“ veiklai, „Google“ stengiasi įdiegti tokią pat technologiją. Technologijų gigantai yra įsitraukę į konkurenciją, kurios sustabdyti gali būti neįmanoma, sakė daktaras Hintonas.

 

Jo tiesioginis rūpestis yra tas, kad internetas bus užtvindytas melagingomis nuotraukomis, vaizdo įrašais ir tekstais, o paprastas žmogus „nebegalės žinoti, kas yra tiesa“.

 

Jis taip pat nerimauja, kad A.I. technologijos, laikui bėgant, apvers darbo rinką. Šiandien pokalbių robotai, tokie, kaip „ChatGPT“, paprastai papildo žmones, tačiau jie gali pakeisti advokatų padėjėjus, asmeninius padėjėjus, vertėjus ir kitus, kurie atlieka pagrindines užduotis. „Tai atima sunkų darbą“, - sakė jis. „Tai gali atimti daugiau, nei tai“.

 

Be to, jis nerimauja, kad būsimos technologijos versijos kelia grėsmę žmonijai, nes dažnai išmoksta netikėto elgesio iš daugybės analizuojamų duomenų. Pasak jo, tai tampa problema, nes asmenys ir įmonės leidžia A.I. sistemos ne tik generuoti savo kompiuterio kodą, bet iš tikrųjų paleisti tą kodą savarankiškai. Ir jis bijo dienos, kai tikrai autonomiški ginklai – tie robotai žudikai – taps realybe.

 

„Idėja, kad ši medžiaga iš tikrųjų gali tapti protingesnė už žmones – keli žmonės tuo patikėjo“, – sakė jis. „Tačiau dauguma žmonių manė, kad tai toli gražu negreit. Ir aš maniau, kad tai negreit. Maniau, kad tai už 30–50 metų ar net daugiau. Akivaizdu, kad aš taip nebegalvoju."

 

Daugelis kitų ekspertų, įskaitant daugelį jo mokinių ir kolegų, teigia, kad ši grėsmė yra hipotetinė. Tačiau daktaras Hintonas mano, kad lenktynės tarp „Google“ ir „Microsoft“ bei kitų peraugs į pasaulines lenktynes, kurios nesiliaus be kažkokio pasaulinio reguliavimo.

 

Bet tai gali būti neįmanoma, sakė jis. Skirtingai, nei naudojant branduolinius ginklus, jo teigimu, neįmanoma žinoti, ar įmonės ar šalys su šia technologija dirba slaptai. Didžiausia viltis yra, kad pirmaujantys pasaulio mokslininkai bendradarbiaus, ieškodami būdų, kaip valdyti technologiją. „Nemanau, kad jie turėtų tai didinti, kol nesupras, ar gali tai kontroliuoti“, – sakė jis.

 

Dr. Hintonas sakė, kad kai žmonės jo klausdavo, kaip jis galėtų dirbti su potencialiai pavojingomis technologijomis, jis perfrazavo Robertą Oppenheimerį, kuris vadovavo JAV pastangoms sukurti atominę bombą: „Kai pamatai tai, kas techniškai miela, tu eik pirmyn ir daryk tai“.

 

Jis daugiau to nesako“.