„Nuo tų laikų, kai dirbtinis intelektas atrodė labiau, kaip pramanas, nei mokslas, viena idėja sužavėjo geriausius šios srities tyrėjus.
Šiomis dienomis DI laboratorijų vadovai tiki, kad tai gali pakeisti jų pramonę, pasaulio ekonomiką ir galbūt žmonijos likimą. „OpenAI“ vyriausiasis mokslininkas tai pavadino vieninteliu būdu išlikti priešakyje. „Anthropic“ įkūrėjas teigia, kad tai „gali būti svarbiausia techninė tendencija pasaulyje“.
Ir jei nedirbate DI srityje, tikriausiai niekada apie tai negirdėjote.
Tai reiškinys, žinomas kaip „rekursinis savęs tobulinimas“ arba RSI, kuris maždaug reiškia DI kuriant protingesnį DI.
„Anthropic“ tai vadina „ciklo uždarymu“ – ciklu, kuriame kiekvienas patobulinimas leidžia mašinoms tobulėti ir greičiau tobulėti.
DI bendrovės teigia, kad dabar mato pirmuosius rekursinio savęs tobulinimo požymius, kurie spartina jų tyrimus ir gąsdina visus. Šiai technologijai spartėjant jos evoliucijos metu, kyla rizika, kad mums bus sunku neatsilikti ir ją kontroliuoti.
Geriausi duomenys apie šį esminį pokytį gaunami iš „Anthropic“, kuri neseniai paskelbė diagramą, rodančią, kiek jos DI tyrimų ir plėtros atlieka DI.
Šioje diagramoje pateiktiems duomenims gauti prireikė viso Klodų kaimo. Klodo agentas peržvelgė įmonės „Slack“ pranešimus ir vidinius dokumentus, kad nustatytų 15 000 DI MTTP darbų užduočių. Klodo detektyvas tiksliai ištyrė, kaip tas darbas buvo atliktas. Tada Klodo teisėjas pasvėrė įrodymus ir įvertino darbą šešių lygių skalėje – nuo DI nebuvimo iki visiškai autonominio DI.
Dabar dar kartą pažvelkite į šią diagramą ir pastebėsite, kad „Anthropic“ viduje vyksta kažkas nepaprasto.
Iškalbingiausi stulpeliai yra oranžinės spalvos, žymintys „DI vadovauja“, o tai reiškia, kad jis atlieka didžiąją dalį MTTP, o žmogus prižiūri – penktas iš šešių lygių.
Prieš metus DI nevadovavo jokiam šiam darbui. Dar kovo mėnesį jis vis dar tik vadovavo. 1 %. Iki rugpjūčio mėnesio Claude'as vadovavo 26 % būsimų Claude'ų darbų. Ir šis skaičius šiandien beveik neabejotinai yra didesnis.
Net ir tada, kai bendrovės tyrėjai deleguoja darbą dirbtiniam intelektui, verta prisiminti, kad 0 % šio darbo atlieka vien tik dirbtinis intelektas. Yra šeši automatizavimo lygiai, o „Anthropic“ užfiksavo tik penkis. Tačiau tokiu progreso tempu dirbtinio intelekto gebėjimas mus ištraukti iš ciklo gali būti tik laiko, skaičiavimo galios ir laboratorijose dirbančių žmonių sprendimų klausimas.
„Mes dar nepasiekėme tikslo, ir rekursinis savęs tobulinimas nėra neišvengiamas“, – neseniai rašė „Anthropic“. „Tačiau tai gali įvykti greičiau, nei dauguma institucijų yra pasiruošusios.“
Dirbtinio intelekto bendrovės teigė, kad modelių mokymas, testavimas ir naujos kartos modelių tobulinimas yra būtinas jų sėkmei.
Jos taip pat bijo, ką ta sėkmė galėtų reikšti. Pasmerktieji paliko laboratorijas ir perspėjo, kad save tobulinantis dirbtinis intelektas gali mus visus pražudyti. Žymiausi šios srities tyrėjai prašė griežtesnės priežiūros, o generaliniai direktoriai paragino sulėtinti šią sparčiai tobulėjančią technologiją, kol ji pasieks visišką RSI.
„Jei nebus kontroliuojama, ji gali pranokti mūsų gebėjimą suprasti ir valdyti šias sistemas, todėl ją reikia taikyti labai atsargiai“, – rašė „Anthropic“ generalinis direktorius Dario Amodei, – „jei iš viso“.
Tačiau žmones viliojo save tobulinančio dirbtinio intelekto koncepcija per visą dirbtinio intelekto istoriją.
Kai 1956 m. Dartmute vasaros projektui susitiko novatoriški tyrėjai, jų darbotvarkėje buvo nagrinėjama, kaip mašinos galėtų tobulėti pačios. Kaip bebūtų keista, vienas iš mokslininkų, pasiūliusių seminarą, buvo Claude'as – genialus matematikas Claude'as Shannonas. Per dešimtmetį jie svajojo apie mašinas, kurios būtų protingesnės už mus visame kame, įskaitant ir mašinų projektavimą.
„Taigi“, – rašė kitas genialus matematikas I. J. Goodas, – „pirmoji itin intelektuali mašina yra paskutinis išradimas, kurį žmogui kada nors reikia sukurti, su sąlyga, kad mašina bus pakankamai paklusni, kad pasakytų mums, kaip ją kontroliuoti“.
Po dešimtmečių vyrai ir moterys, prikėlę tą mašiną, dar niekada nebuvo taip susirūpinę. apie jų galimybę tai suvaldyti. Daugelis jų apie tai, kad dirbtinio intelekto (DI) sistemos galėtų savarankiškai kurti kitas DI sistemas, svarstė dar tada, kai tai skambėjo, kaip mokslinė fantastika. Dabar jie nežino, ką apie tai manyti.
„Nežinau, kaip tai suvokti“, – neseniai rašė „Anthropic“ bendraįkūrėjas Jackas Clarkas.
Savo karjerą J. Clarkas pradėjo kaip technologijų žurnalistas, tačiau taip įsitraukė į nagrinėjamą temą, kad panoro tapti jos dalimi. Jis įsidarbino pradedančiojoje tyrimų laboratorijoje „OpenAI“, o vėliau, kartu su nedidele kolegų grupe, iš jos pasitraukė ir įkūrė „Anthropic“.
„Nuo to laiko bandau įtikinti pasaulį, kad vieną dieną DI sistemos gali tapti tokios galingos, kad jos galėtų paveikti nacionalinį saugumą, pakeisti planetos ekonominę trajektoriją ir galbūt ilgainiui įgyti gebėjimą pačios save kurti“, – sakė jis spalį Tarptautiniam valiutos fondui skirtoje kalboje. „Ką gi, tas momentas atėjo.“
Dar prieš kelis mėnesius atrodė, kad iki šio momento liko keleri metai. Jis atėjo net greičiau, nei tikėjosi Clarkas. Praėjusių metų lapkritį išėjęs tėvystės atostogų, vasarį jis grįžo į visiškai pasikeitusią įmonę. Kol jis keitė sauskelnes, „Anthropic“ pasikeitė.
„Pradėjo dėtis keisti dalykai“, – rašė jis savo naujienlaiškyje.
Įmonės kuriami modeliai staiga tapo tokie geri, kad inžinieriai ėmė patikėti jiems programavimo užduotis, o kai kurie išvis nustojo patys rašyti kodą.
Iki gegužės viskas pasikeitė taip keistai ir taip greitai, kad jis padarė išvadą: tikėtina, jog iki 2028 m. pabaigos bus pasiektas rekursinis savęs tobulinimas (angl. *Recursive Self-Improvement*, RSI). „Tai nėra ta nuomonė, kurios norėčiau laikytis, – rašė Clarkas, – nes pasekmės tokios didžiulės, kad jaučiuosi prieš jas visiškai menkas.“ Vėliau jis dar labiau sutrumpino savo prognozuojamą laikotarpį.
Jis nebe mano, kad 2028-ieji yra tikėtiniausi metai RSI pasiekti. Jo manymu, tai įvyks 2027-aisiais.
Pasirodo, nereikia jokių grafikų, kad suprastum, ką tai reiškia: tai, kas anksčiau buvo tik fantastika, netrukus taps realybe.“ [1]
1. EXCHANGE --- Science of Success: The Smartest People in AI Believe This Is the Most Important Chart --- AI is starting to build smarter AI. This self-improvement is speeding up -- and freaking out -- the labs. Cohen, Ben. Wall Street Journal, Eastern edition; New York, N.Y.. 31 Oct 2026: B2.
Komentarų nėra:
Rašyti komentarą