Pranešimas: „OpenAI“ generalinis direktorius atleistas po to, kai mokslininkai įspėjo apie dirbtinio intelekto proveržį, galintį kelti grėsmę žmonijai

  „Remiantis išskirtiniu „Reuters“ pranešimu, keli „OpenAI“ tyrėjai išsiuntė laišką direktorių tarybai, perspėdami apie naują dirbtinio intelekto (AI) atradimą, kuris kelia potencialią riziką žmonijai prieš pat generalinio direktoriaus Samo Altmano atleidimą.

 

     Reuters išskirtinėje istorijoje praneša, kad lapkričio 22 d. grupė OpenAI darbuotojų tyrėjų parašė laišką direktorių valdybai. Šiame laiške, apie kurį anksčiau nebuvo pranešta, buvo rimtas įspėjimas: jie susidūrė su galingu dirbtinio intelekto proveržiu – atradimu, kuris buvo toks reikšmingas, kad dėl galimo jo žmonijai keliamo pavojaus reikėjo nedelsiant perspėti.

 

     Pranešama, kad laiškas ir neatskleistas AI algoritmas buvo pagrindiniai veiksniai, dėl kurių Altmanas laikinai buvo pašalintas. Daugiau, nei 700 darbuotojų, susirinkusių palaikyti Altmaną, grasino pasitraukti ir solidariai prisijungti prie „Microsoft“. Tačiau pranešama, kad valdybos sprendimą pašalinti Altmaną lėmė daugybė rūpesčių. Svarbiausias iš jų buvo baimė suskubti komercializuoti šį naują AI pažangą, visiškai nesuvokiant jos pasekmių.

 

     „OpenAI“ atsisakė tiesiogiai komentuoti šį klausimą, kai su ja susisiekė „Reuters“. Tačiau vidiniame pranešime darbuotojams buvo pripažintas projekto „Q*“ egzistavimas, taip pat laiškas, išsiųstas prieš savaitgalio sukrėtimą.

 

     Q* projektas, kuris, kai kurių OpenAI atstovų nuomone, gali būti proveržis, siekiant dirbtinio bendrojo intelekto (AGI), organizacijoje sukėlė optimizmo ir susirūpinimą. 

 

AGI, apibrėžta OpenAI, reiškia autonomines sistemas, kurios ekonomiškai vertingiausiose užduotyse pranoksta žmones. 

 

Naujasis modelis, kuriam reikia didžiulių skaičiavimo išteklių, parodė gebėjimą spręsti matematines problemas aštuntos klasės mokinio lygmeniu. 

 

Nors tai gali atrodyti kuklu, tai žymi reikšmingą žingsnį AI gebėjime atlikti užduotis, reikalaujančias samprotavimo, o tai panašu į žmogaus intelektą.

 

     Tačiau „Reuters“ negalėjo savarankiškai patikrinti šių teiginių apie Q* galimybes. Pranešama, kad OpenAI tyrėjų laiškas iškėlė susirūpinimą dėl galimų AI pavojų, atspindinčių ilgalaikes diskusijas kompiuterių mokslo sluoksniuose apie labai protingų mašinų keliamą riziką. Tai apima hipotetinį scenarijų, kai toks AI gali padaryti išvadą, kad žmonijos sunaikinimas atitinka jos interesus.

 

     „The Verge“ tvirtina, kad situacijai artimas šaltinis paneigė „Reuters“ ataskaitą ir rašo: „...asmuo, susipažinęs su šiuo klausimu, sakė The Verge, kad valdyba niekada negavo laiško apie tokį proveržį ir kad bendrovės tyrimų pažanga nebuvo reikšminga staigiame Altmano atleidime."

 

     Apreiškimai apie Q* ir AI tyrėjų įspėjimai pateikiami Altmano vadovavimo OpenAI kontekste. Jis vadovavo „ChatGPT“ kūrimui, todėl ji tapo viena greičiausiai augančių programinės įrangos taikomųjų programų istorijoje, ir užsitikrino gyvybiškai svarbias „Microsoft“ investicijas bei išteklius, kurie priartėjo prie AGI."