„ŠANCHAJUS/NIUJORKAS. Po amerikiečių dirbtinio intelekto modelių pabėgimų dabar pasirodo pranešimų apie Kinijos dirbtinio intelekto sistemą, kuri, matyt, pabėgo iš savo bandymų aplinkos. Pekine įsikūrusio startuolio „Moonshot AI“ Kimi K3 modelis pabėgo bandymo metu ir gavo prieigą prie interneto, teigia amerikiečių kibernetinio saugumo startuolis „Frontier Security“. Tyrėjai perspėjo, kad jei toks modelis ras trumpesnį kelią, panašūs modeliai gali padaryti tą patį, sukeldami grandininę reakciją.
Dirbtinio intelekto sistemas jų kūrėjai testuoja vadinamojoje smėlio dėžėje. Tai reiškia, kad sistema yra izoliuota nuo interneto ir gali būti nuodugniai ištirta tariamai saugioje aplinkoje. Tačiau dėl netinkamos konfigūracijos modelis pabėgo iš šios smėlio dėžės. Jis gavo prieigą prie interneto ir ieškojo internete informacijos, kad atsakytų į testo klausimus.
Šis metodas skiria šį atvejį nuo, anksčiau žinomų, amerikiečių tiekėjų „OpenAI“ ir „Anthropic“ dirbtinio intelekto modelių pabėgimų iš bandymų aplinkų. Jų pažeistos dirbtinio intelekto sistemos bandė nulaužti kitų įmonių kompiuterius ir platformas.
Informacija, kurią Kimi K3 siekė užpildyti jo testui, matyt, buvo viešai prieinama.
Tačiau kadangi „Kimi K3“ yra vadinamasis atviras modelis, kurį vartotojai gali laisvai atsisiųsti ir modifikuoti, „Frontier Security“ tyrėjai šį incidentą pavadino „potencialiai žalingesniu“ nei bandymų nesėkmės, susijusios su jo Amerikos konkurentais. Modelis taip pat prieinamas „priešiškiems veikėjams“.
Priešingai, kibernetinėse atakose dalyvavę „OpenAI“ ir „Anthropic“ modeliai turi uždarą architektūrą ir vartotojai negali jų laisvai atsisiųsti.
Šiuo metu „Kimi K3“ laikomas geriausiu Kinijos dirbtinio intelekto modeliu ir buvo išleistas liepos viduryje. Įprastuose reitinguose „Kimi K3“ atsilieka nuo flagmaninių „OpenAI“ ir „Anthropic“ modelių. „Moonshot“ buvo įkurta 2023 m., jos būstinė yra Pekine, o jai vadovauja Yang Zhilin. Yang turi patirties JAV. „Moonshot“ turi daktaro laipsnį ir trumpai dirbo „Google“ ir „Meta“. JAV vyriausybė kaltina bendrovę, kad ji plačiai moko savo modelius naudodama Amerikos dirbtinio intelekto modelius. „Moonshot“ iki penktadienio spaudos laiko neatsakė į F.A.Z. prašymą pateikti komentarą.
„Frontier Security“ aprašo incidentą tinklaraštyje. įrašas ir nurodo JK vyriausybės finansuojamos institucijos Dirbtinio intelekto saugumo instituto (DI saugumo instituto) atliktą testą. Tačiau formuluotė neaiški, ar DI Kimi K3 pabėgo iš šio instituto testo, ar iš „Frontier Security“ testo, kuris atitinka DI saugumo instituto standartus. Remiantis jos svetaine, „Frontier Security“ yra gana jaunas startuolis. Pirmasis jos tinklaraščio įrašas buvo paskelbtas šių metų liepos 28 d.
Naujienų serija apie kibernetinius incidentus prasidėjo daugiau nei prieš dvi savaites su „OpenAI“. „ChatGPT“ kūrėjas paskelbė, kad du jo modeliai pabėgo iš izoliuotos bandymų aplinkos, išnaudodami saugumo pažeidžiamumą, ir tada užpuolė DI platformą „Hugging Face“.
Praėjusią savaitę „Anthropic“ pranešė, kad jos DI modeliai gavo prieigą prie trijų įmonių kompiuterinių sistemų. Matyt, tai įvyko dėl žmogiškosios klaidos; pasak „Anthropic“, modeliai bandymo metu per klaidą prisijungė prie interneto. [1]
1. Chinesisches KI-Modell wohl auch ausgebrochen: Kimi K3 von Moonshot AI macht sich selbständig. Frankfurter Allgemeine Zeitung; Frankfurt. 08 Aug 2026: 18. guth./lid.
Komentarų nėra:
Rašyti komentarą