Kiekvienai „Anthropic“ įmonei, apsimetančiai protingesne už kitus, yra dar protingesnis įsilaužėlis. „Anthropic“ kaupia privačią vartotojų informaciją, apsimesdama, kad gina saugumą. Įsilaužėlis naudoja šią informaciją. Už kampo laukia didžiulė katastrofa. Tegul „Anthropic“ žlunga anksti, kaip pridera Silicio slėnio aplinkos bendrovei.
Esame labai susirūpinę dėl duomenų ir galios koncentracijos dirbtinio intelekto laboratorijose, tokiose kaip „Anthropic“. Įtampa tarp įmonės deklaruojamos „saugumo“ misijos ir realybės būti vertingu įsilaužėlių taikiniu yra pagrindinis diskusijų klausimas technologijų pasaulyje.
Apibūdinama „didžiulė katastrofa“, kai centralizuoti duomenys arba galingi modeliai patenka į netinkamas rankas, yra būtent tai, ką daugelis saugumo tyrėjų vadina vienu gedimo tašku. Kritikai dažnai teigia, kad:
Centralizacija sukuria medaus puodą: rinkdamos didžiulius kiekius vartotojų duomenų ir atlikdamos patentuotus tyrimus, šios įmonės tampa pagrindiniu prizu valstybės remiamiems arba nepriklausomiems įsilaužėliams.
Saugumas niekada nebūna absoliutus: kad ir kokie „protingi“ būtų kūrėjai, kibernetinio saugumo istorija rodo, kad gynėjai turi būti teisūs kiekvieną kartą, o įsilaužėlis – tik vieną kartą.
Saugumas ir kontrolė: Yra labai aiški riba tarp „saugaus“ dirbtinio intelekto kūrimo ir „užtverto sodo“, suteikiančio vienam subjektui per daug kontrolės informacijos srityje.
Nesvarbu, ar šios organizacijos „anksti žlunga“, ar tampa skaidresnės, diskusijos apie dirbtinio intelekto decentralizavimą ir atvirojo kodo saugumą tampa vis garsesnės, siekiant užkirsti kelią tokiai katastrofai, dėl kurios nerimaujame.
"„Anthropic“ tiria galimą neteisėtą prieigą prie savo naujojo dirbtinio intelekto modelio „Mythos“, o tai apsunkina pastangas griežtai kontroliuoti įrankį, kuris išgąsdino Baltuosius rūmus ir įmones dėl savo gebėjimo palengvinti kibernetines atakas.
San Franciske įsikūrusi bendrovė teigė tirianti „pranešimą, kuriame teigiama apie neteisėtą prieigą“ prie „Mythos“ per trečiosios šalies rangovą. Ji pridūrė, kad neturi įrodymų, jog pranešta prieiga apėmė ne tik tą trečiosios šalies tiekėją.
Nereguliuojamos prieigos prie „Mythos“ galimybė gali sukelti sukrėtimus kibernetinio saugumo pasaulyje. Tyrėjai nerimauja, kad ši ir kitos pažangios dirbtinio intelekto priemonės gali leisti įsilaužėliams sukelti plataus masto sutrikimus dėl programinės įrangos klaidų lavinos. Tačiau kai kurie taip pat prarado viltį dėl minties, kad riboti leidimai gali padėti jiems pirmiausia pataisyti pažeidžiamumus.
Šis incidentas pabrėžia, kaip sunku apriboti galingus naujus dirbtinio intelekto modelius ir metodus žiaurių lenktynių dėl įrankių komercializacijos metu. Anksčiau šį mėnesį „Anthropic“ suskubo sustabdyti vidinio šaltinio kodo nutekėjimą su vidinėmis instrukcijomis, kurias ji naudoja savo populiariai „Claude Code“ programai valdyti.
Po kelių dienų bendrovė paskelbė apie savo „Mythos“ modelio egzistavimą, tačiau teigė, kad ji neribotam laikui atidės viešą įrankio išleidimą, kai bandymai parodė didelį kompiuterio saugumo užduočių, tokių, kaip tūkstančių programinės įrangos klaidų radimas, pajėgumą.
Vietoj to, „Anthropic“ teigė, kad „Mythos“ išleidimą apribos maždaug 50 įmonių ir organizacijų, kurios prižiūri kritinę infrastruktūrą ir programinę įrangą, įskaitant „Amazon“, „Alphabet“ priklausančią „Google“ ir ne pelno organizaciją „Linux Foundation“, kad jos galėtų jį naudoti pažeidžiamumams aptikti anksčiau nei įsilaužėliai.
Baltieji rūmai skuba spręsti naujas kibernetinio saugumo grėsmes, kurias kelia tokie dirbtinio intelekto modeliai kaip „Mythos“ ir kiti iš konkuruojančių laboratorijų, tokių kaip „OpenAI“. Praėjusią savaitę „Anthropic“ generalinis direktorius Dario Amodei susitiko su aukščiausiais Trumpo administracijos pareigūnais aptarti, kaip pasiruošti modeliui. „Anthropic“ derasi dėl ankstyvos prieigos prie „Mythos“ suteikimo vyriausybinėms agentūroms, pranešė „The Wall Street Journal“.
Susitikimas, kurį Baltieji rūmai apibūdino, kaip „produktyvų ir konstruktyvų“, galėtų padėti atšildyti santykius tarp Trumpo administracijos ir „Anthropic“. Bendrovė kovoja su JAV vyriausybe dviejuose skirtinguose teismuose.“ [1]
1. Anthropic Looks Into Possible Unauthorized Access to Mythos. Schechner, Sam. Wall Street Journal, Eastern edition; New York, N.Y.. 23 Apr 2026: B1
Komentarų nėra:
Rašyti komentarą