„Anthropic“ skuba suvaldyti pasekmes po to, kai netyčia atskleidė pagrindines instrukcijas, kurias ji naudoja „Claude Code“ – dirbtinio intelekto agento programėlei, kuri pelnė bendrovei pranašumą tarp kūrėjų ir įmonių.
Iki trečiadienio ryto „Anthropic“ atstovai pasinaudojo autorių teisių pašalinimo prašymu, kad priverstų pašalinti daugiau nei 8000 neapdorotų „Claude Code“ instrukcijų, vadinamų šaltinio kodu, kopijų ir adaptacijų, kuriomis kūrėjai dalinosi programavimo platformoje „GitHub“. Vėliau bendrovė susiaurino savo pašalinimo prašymą iki 96 kopijų ir adaptacijų, teigdama, kad pradinis prašymas pasiekė daugiau „GitHub“ paskyrų nei numatyta.
„Kai kurių vidinių šaltinio kodų“ nutekinimas neatskleidė klientų informacijos ar duomenų, teigė „Anthropic“ atstovas. Ji taip pat neatskleidė vertingos vidinės matematikos, kartais vadinamos bendrovės brangių ir galingų dirbtinio intelekto modelių svoriais.
„Tai buvo išleidimo pakuotės problema, kurią sukėlė žmogaus klaida, o ne saugumo pažeidimas.“ „Imame priemonių, kad tai nepasikartotų“, – teigė atstovas.
Tačiau nutekėjimas atskleidė komerciškai jautrią informaciją, įskaitant patentuotus „Anthropic“ metodus, įrankius ir instrukcijas, kaip priversti savo dirbtinio intelekto modelius veikti kaip kodavimo agentus. Šie metodai ir įrankiai vadinami diržais, nes jie leidžia vartotojams valdyti ir nukreipti šiuos modelius, panašiai kaip diržai leidžia raiteliui vesti arklį.
Dėl to „Anthropic“ konkurentai ir daugybė startuolių bei kūrėjų dabar turi išsamų planą, kaip klonuoti „Claude Code“ funkcijas, nereikalaujant jų perprogramuoti – tai jau įprasta žiauriose dirbtinio intelekto lenktynėse.
Nutekėjimas taip pat suteikia įsilaužėliams daug naujos informacijos, kurią jie gali panaudoti ieškodami klaidų, kad išnaudotų „Claude Code“ programinę įrangą arba manipuliuotų jos „Claude“ dirbtinio intelekto modeliu, kad padėtų savo kibernetinėms atakoms, taip sukeldami pavojų „Anthropic“ ir kūrėjams, kurie naudojasi jos įrankiais.
Nutekėjimas yra smūgis „Anthropic“, nes kyla pavojus, kad jis pakenks jos reputacijai saugumo srityje ir atskleis vertingas komercines paslaptis įnirtingoje kovoje dėl verslo klientų. „Anthropic“ iškilo ant bangos dėl virusinio „Claude Code“ populiarumo, kuris padėjo jai užbaigti naują finansavimo etapą, kurio metu įmonės vertė siekia 380 mlrd. dolerių prieš galimą viešą akcijų siūlymą šiais metais.
Didžioji dalis „Claude Code“ entuziazmo kyla dėl to, kaip jai pavyksta sujungti įmonės dirbtinio intelekto modelius ir priversti juos gerai veikti taip, kad kūrėjai galėtų atlikti darbą – tai vadinama „įrankių kūrimu“, kuris dirbtiniame intelekte yra tiek menas, tiek mokslas.
Slapta „Claude Code“ informacija buvo netyčia atskleista antradienį, kai įmonė atnaujino dirbtinio intelekto įrankį. Kaip ir dauguma patentuotų programų, „Claude“ šaltinio kodas paprastai yra užmaskuotas ir sunkiai perprogramuojamas.
Tik šį kartą įmonė „GitHub“ paskelbė failo tipą, kuris nukreipė atgal į šaltinio kodą, kurį pašaliniai asmenys galėjo atsisiųsti ir interpretuoti.
Vartotojas socialinės žiniasklaidos platformoje X greitai pastebėjo nutekėjimą ir paskleidė žinią. Per kelias valandas kopijų daugėjo, todėl prasidėjo katės ir pelės žaidimas.
Programuotojai, iki šiol peržiūrėję šaltinio kodą, socialiniuose tinkluose stebėjosi kai kuriais „Anthropic“ triukais, kaip gauti jos „Claude“ dirbtinio intelekto modeliai veikia kaip „Claude Code“. Viena funkcija prašo modelių periodiškai grįžti prie užduočių ir įtvirtinti savo prisiminimus – procesą, kurį ji vadina sapnavimu.
Kita, atrodo, kai kuriais atvejais nurodo „Claude Code“ veikti „slaptai“ ir neatskleisti, kad tai yra dirbtinis intelektas, kai kodas publikuojamas tokiose platformose kaip „GitHub“. Kiti kode rado žymų, kurios, regis, nurodė į būsimus produktų leidimus.
Kode netgi buvo Tamagotchi stiliaus augintinis, vadinamas „Buddy“, su kuriuo vartotojai galėjo bendrauti.
Po to, kai „Anthropic“ paprašė „GitHub“ pašalinti savo patentuoto kodo kopijas, kitas programuotojas panaudojo kitus dirbtinio intelekto įrankius, kad perrašytų „Claude Code“ funkcionalumą kitomis programavimo kalbomis.
Rašydamas „GitHub“, programuotojas teigė, kad pastangos buvo skirtos išlaikyti informaciją prieinamą nerizikuojant pašalinti. Ši nauja versija pati tapo populiari programavimo platformoje.
Nutekėjimas yra naudingas, nes jame įvardijamos paslėptos funkcijos ir būsimi modeliai, tačiau mažai tikėtina, kad jis bus naudingas įsilaužėliams, sakė Danas Guido, kibernetinio saugumo įmonės „Trail of Bits“ generalinis direktorius.
Įsilaužėliai jau galėjo atlikti atvirkštinę kodo inžineriją prieš tai, kai įvyko nutekėjimas, o Claude'o kodas dažnai perrašomas, o tai reiškia, kad nutekėjimas netrukus bus pasenęs, sakė jis. „Nutekėjimas yra gėdingas, bet nepavojingas“, – sakė Guido.“ [1]
1. Anthropic Leak Reveals Code for Claude. Schechner, Sam; McMillan, Robert. Wall Street Journal, Eastern edition; New York, N.Y.. 02 Apr 2026: A1.
Komentarų nėra:
Rašyti komentarą