„Anthropic“ ragina geriausias dirbtinio intelekto laboratorijas apsvarstyti vystymosi tempo lėtinimą, teigdama, kad dirbtinio intelekto sistemos tobulėja taip sparčiai, kad netrukus gali tobulėti be žmogaus įsikišimo, o tai gali kelti didelę riziką visuomenei.
Galimybė sulėtinti pasaulinį dirbtinio intelekto kūrimą „greičiausiai būtų geras dalykas“, – ketvirtadienį tinklaraščio įraše, kuriame atskleisti vidiniai duomenys, rodantys, kaip greitai tobulėja pažangiausi jos modeliai, teigė bendrovė.
Įraše, kurį parašė jos vidaus tyrimų instituto vadovas ir politikos vadovas, pažymėta, kad modelių tobulinimas, atrodo, eina „rekursyvaus savęs tobulinimo“ keliu, kai dirbtinio intelekto sistemos gali tobulėti pačios be žmogaus įsikišimo.
Kai kurie dirbtinio intelekto atstovai šią ribą matė kaip potencialų pavojaus ir didžiulių visuomeninių perversmų ženklą.
„Manome, kad pasauliui būtų naudinga turėti galimybę sulėtinti arba laikinai pristabdyti pažangiausių dirbtinio intelekto kūrimą, kad visuomeninės struktūros ir suderinimo tyrimai neatsiliktų nuo technologijų pažangos“, – teigiama Marinos Favaro ir Jacko Clarko įraše. sakė.
Jame siūlomas pasaulinis susitarimas, kaip galimai sulėtinti plėtrą, ir mechanizmas, skirtas patikrinti, ar konkurentai to laikosi.
Įraše įspėjama, kad rekursinis savęs tobulinimas dar neįvyko ir nėra neišvengiamas, „tačiau gali įvykti anksčiau, nei dauguma institucijų yra pasiruošusios“.
„Anthropic“ neseniai baigė lėšų rinkimo etapą, kurio metu bendrovės vertė siekė beveik 1 trilijoną dolerių, ir pateikė konfidencialius dokumentus, kad pradėtų viešo akcijų įtraukimo į biržą procesą. Neseniai bendrovė tapo lydere įnirtingoje konkurencijoje dėl dirbtinio intelekto viršenybės su „ChatGPT“ kūrėja „OpenAI“, kuri taip pat turėtų netrukus pateikti dokumentus dėl pradinio viešo akcijų siūlymo.
„Anthropic“ veiklos rodiklis, kurį dažnai naudoja startuoliai, prognozuodami metines pajamas, pagrįstas trumpalaikiais pardavimais, iki šio mėnesio pabaigos turėtų pasiekti 50 milijardų dolerių metinių pajamų, palyginti su 9 milijardais dolerių 2025 m. pabaigoje.
Bendrovė, kuri nuo pat įkūrimo pabrėžė dirbtinio intelekto saugumą, jau seniai sulaukia kritikos, kad jos politika yra skirta sulėtinti konkurentų dirbtinio intelekto pažangą. Davidas Sacksas, rizikos kapitalo fondas Investuotojas ir neoficialus prezidento Trumpo patarėjas apkaltino „Anthropic“ vadovus vykdant „reguliavimo užgrobimo darbotvarkę“.
Neseniai paskelbtame tinklalaidėje Sacksas teigė, kad „reguliavimo užgrobimo darbotvarkė“ Vašingtone gali paskatinti pastangas uždrausti atvirojo kodo modelius, iš esmės dirbtinio intelekto sistemų versijas, kurias organizacijoms yra daug pigiau naudoti ir kurti viduje.
Kiti teigė, kad „Anthropic“ įspėjimai apie pavojingą savo įrankių potencialą taip pat gali būti laikomi rinkodaros gudrybe. Tokie skeptikai nurodo, kad „Anthropic“ sprendimas apriboti galingo „Mythos“ kibernetinio saugumo modelio, galinčio rasti klaidas ir problemas, išleidimą yra patogus būdas reklamuoti savo produktų galimybes.
„Anthropic“ vadovai teigė, kad jie rimtai žiūri į saugumą ir stengiasi paskatinti daugiau diskusijų apie riziką.
Ethanas Mollickas, Pensilvanijos universiteto Wharton mokyklos profesorius ir įtakingas dirbtinio intelekto transformacijos mokslininkas, teigė, kad nors kai kurie „Anthropic“ kritikai jų pareiškimuose dėl saugumo mato tuščiažodžiavimą ir rinkodarą, daugelis įmonės darbuotojų yra „tikri tikintys“.
„DI laboratorijos yra įvairių dalykų mišinys“, – sakė Mollickas, kurio knyga apie dirbtinį intelektą „Sambūvis“ (angl. „Co-Existence“) turėtų pasirodyti rudenį. „Yra trilijono dolerių vertės įmonė su visais įprastais trilijono dolerių vertės įmonės dalykais, tokiais kaip rinkodaros komandos ir teisininkai. Tada yra tyrėjų branduolys, kuris tiesiog kuria kitus modelius.“ „O tada yra grupė žmonių, kurie yra filosofų karaliai, susirūpinę dėl ateities ir to, kas bus toliau, ir kartais visi jie konfliktuoja tarpusavyje.“
Dirbtinio intelekto pramonė jau kurį laiką yra susiskaldžiusi dėl to, kiek dabartiniai modeliai yra arti tokių etalonų kaip „dirbtinis bendrasis intelektas“ arba AGI, intelekto lygis, palyginamas su žmonėmis, arba rekursinis savęs tobulinimas.
Kai kurie mokslininkai, pavyzdžiui, buvęs vyriausiasis dirbtinio intelekto mokslininkas „Meta Platforms“ ir dirbtinio intelekto pradininkas Yann LeCun, teigė, kad didelių kalbų modeliais pagrįstos ribinės sistemos niekada negalės žengti šuolio, kad prilygtų žmogaus intelektui.
Laikydamas dirbtinio intelekto modelius galingais įrankiais, jis palygino juos su katės intelektu ir ginčijosi su tyrėjais, kurie baiminasi, kad dirbtinis intelektas kelia egzistencinę grėsmę žmonijai. „Anthropic“ vadovai, įskaitant generalinį direktorių Dario Amodei, jau daugelį metų perspėja apie galimą pavojingą dirbtinio intelekto poveikį ir siekia plataus masto visuomenės bendradarbiavimo, kad būtų galima spręsti riziką.“ [1]
1. Anthropic Wants Pace Of AI Developing To Pause. Olson, Bradley; Schechner, Sam. Wall Street Journal, Eastern edition; New York, N.Y.. 05 June 2026: B1.
Komentarų nėra:
Rašyti komentarą