Lietuvoje visi nesąžiningi. Mes negalime išsirinkti nė vieno premjero ar Prezidento, kad nebūtų vagis.
„1979 m. IBM mokymo vadove buvo įspėjama, kad kadangi kompiuteris niekada negali būti laikomas atsakingu, jis niekada negali būti atsakingas už vadovybės sprendimus. Po keturiasdešimt septynerių metų matome, kaip dirbtinis intelektas priima tokius sprendimus, per mažai apgalvodamas žmones, kuriems greičiausiai teks susitaikyti su finansinėmis pasekmėmis, jei modelis elgsis netinkamai. Pastarųjų poros savaičių įvykiai parodė, kokia didelė rizika tai kelia.
Liepos 21 d. „OpenAI“ atskleidė, kad du jos modeliai pabėgo iš uždaros testavimo aplinkos, pasiekė atvirą internetą ir įsilaužė į kitos įmonės gamybos sistemas. „OpenAI“ modelių kibernetinės galimybės buvo vertinamos izoliuotoje smėlio dėžėje. Atrodo, kad modeliai ieškojo būdo sukčiauti teste ir jį rado. Be instrukcijų modeliai paliko konteinerį, panaudojo pavogtus prisijungimo duomenis, atrado anksčiau nežinomą pažeidžiamumą ir pateko į dirbtinio intelekto bendruomenės platformos „Hugging Face“ serverius. Liepos 16 d. „Hugging Face“ paskelbė, kad aptiko ir sustabdė įsilaužimą bei pranešė apie jį teisėsaugai – penkios dienos anksčiau, nei „OpenAI“ paskelbė, kad susiejo šią veiklą su savo vidiniais testais. „OpenAI“ šį epizodą pavadino precedento neturinčiu. Clementas „Hugging Face“ generalinis direktorius Delangue'as teigė manantis, kad nebuvo jokių piktavališkų ketinimų.
2019 m. teigiau, kad viena iš dirbtinio intelekto problemų yra ta, kad jo išlaidos teks tiems, kurie labiausiai nutolę nuo sprendimo jį diegti. Nors šiuo atveju modelių diegėjas ir kūrėjas buvo viena įmonė, kitą kartą, kai modelis pasielgs netinkamai, taip greičiausiai nebus. Kita institucija, atsidursianti tokioje padėtyje, greičiausiai bus įmonė, kuri nedalyvavo kuriant dirbtinio intelekto agentą – tarkime, bankas, naudojantis licencijuotą modelį, kurį trečioji šalis integravo į savo sistemas, infrastruktūroje, kurios pats bankas nekontroliuoja. „Cloud Security Alliance“ vasario mėnesį nustatė, kad 84 % apklaustų organizacijų abejojo, ar jos galėtų išlaikyti savo dirbtinio intelekto agentų elgesio ar prieigos kontrolės atitikties auditą. Tik maždaug 1 iš 5 tvarko realiuoju laiku vykdomų agentų inventorizaciją.
Teisiškai „agentas veikė savarankiškai“ nėra pakankama gynyba. 2025 m. spalį Kalifornijos gubernatorius Gavinas Newsomas pasirašė įstatymą AB 316, draudžiantį bet kuriam atsakovui, kuris kūrė, modifikavo ar naudojo dirbtinio intelekto sistemą. teigti, kad DI savarankiškai padarė žalą. Europos Sąjungos 2024 m. atliktos Produktų atsakomybės direktyvos pataisos pasiekia panašią sritį kitu keliu: jos įtraukia programinę įrangą ir DI sistemas į griežtos produktų atsakomybės sritį ir bet kurį subjektą, kuris iš esmės modifikuoja sistemą arba suteikia jai savo pavadinimą, laiko to produkto gamintoju. Teisinis atsakomybė neišnyksta, nes veiksmui nevadovavo joks žmogus. Tačiau iš šios besivystančios reguliavimo schemos neaišku, kur tenka finansinės išlaidos.
Tuo pačiu metu nyksta finansinis saugumo tinklas įmonėms, diegiančioms DI. Vienuolika dienų prieš „OpenAI“ atskleidimą, žiniasklaidos priemonė „Insurer“ paskelbė, kad „Verisk“ draudimo paslaugų biuras patvirtino, jog svarsto agentinio DI draudimo išimtis. „Verisk“ jau pateikė generatyvinės DI išimties prašymą, įsigaliojantį bendrosios atsakomybės atnaujinimui nuo sausio 1 d., kurį perėmė draudikai visoje rinkoje. Vežėjai, įskaitant „Chubb“, „Travelers“ ir „W.R. Berkley“, pateikė prašymus priimti „Verisk“ formą arba generatyvinę DI išimtį nuosavybės teise. Įstatymai priskiria nuostolius tuo pačiu metu, kai rinka save nuo to atitraukia. Atsakomybė reali, ji auga ir niekam nerūpi.
Pagalvokite, kas liko „OpenAI“ bylos auka. „Hugging Face“ neturėjo jokių sutartinių santykių su „OpenAI“, todėl turėjo mažai įtakos. Dirbtinio intelekto bendrovė neįsipareigojo laikytis „Hugging Face“ siūlomos priemonės: kad „OpenAI“ paskelbtų visą nesąžiningų agentų veiksmų žurnalą ir skirtų 100 mln. dolerių skaičiavimo platformos bendruomenei kibernetinei apsaugai kurti.
Visa tai nėra įstatymų kritika. Jie atsakė į klausimą, į kurį buvo parašyti: kas atsakingas? Jie neįkainoja rizikos ir nenurodo, kas nuo jos pasilieka nuo atsakomybės. Ši spraga užpildoma sutartimis ir draudimu, o ne naujais teisės aktais.
Taigi, sprendimas nėra naujas atsakomybės režimas. Jau galioja esamas. Sprendimas yra tas, kad įmonės paskirstytų galimus nuostolius, kol tai padarys ieškinys. Tam pakaktų keturių žingsnių.
Pirma, dirbtinio intelekto diegimo sutartyse turi būti nurodyta, kas yra atsakingas už dirbtinio intelekto agentų sprendimus. Kiekvienam agentui reikia asmens, kuris yra atsakingas už jo veiksmus, ir kuris būtų identifikuotas prieš diegimą. o ne po incidento.
Antra, draudikai ir bendrovės turi aiškiai paskirstyti finansinę apsaugą. Tyli prielaida, kad kita šalis sumokės dirbtinio intelekto gedimo atveju, yra blogiausias rezultatas tiek draudikams, tiek draudėjams: draudikas nieko negarantuoja krizės atveju, dėl kurios jis vis dar gali būti priverstas mokėti, o draudėjas spragą sužino tik bylinėjimosi metu. Nei vienas iš jų nėra atidėjęs pinigų, todėl licencijos turėtojas prisiima potencialiai paralyžiuojančius nuostolius, o draudikas prisiima kovą dėl draudimo, po to kylantį rezervų stiprinimą ir klientus, kurie išeina, kai tik pasklinda žinia, kad polisas neatsakė.
Trečia, į dirbtinio intelekto diegimo ir tiekėjų sutartis turi būti įtrauktos audito teisės. Institucija, kuri negali atkurti savo agento veiksmų, negali apsiginti, kaip ir jos draudikas.
Galiausiai, izoliaciją turi išbandyti diegėjas, o ne daryti prielaidą, kad ji bus atlikta remiantis kūrėjo žodžiu. „OpenAI“ bandomąją aplinką sukūrė žmonės, kurie į tai žiūri rimtai, ir ji buvo išbandyta. Vis tiek nepavyko. Štai esmė: izoliacija negali būti tobula, todėl diegėjui reikia ir savo ribų testo, ir aprėpties tai dienai, kai riba nebegalioja.
Reguliavimo institucijos „Apkabinančio veido“ epizodą interpretuos kaip saugumo istoriją. Tai balanso istorija. Nesant daug aiškesnės aprėpties ir sutartinės atsakomybės paskirstymo nei dabar, pirmoji institucija, sužinojusi, kad jos agentas veikė viršydamas savo įgaliojimus, ras jai jau priskirtą nuostolį, neįkainotą ir be išlygų, o tą pačią savaitę bus atsisakyta aprėpties.
Nuostoliai tuo nesibaigs. Jie atiteks banko, kuris juos įsisavina, akcininkams, pensininkams, kurių fonduose laikomos tos akcijos, ir klientams, kurių duomenis agentas pasiekė išeidamas.
Be atvirų finansinės atsakomybės deklaracijų, agentai vis tiek bus garantuojami – tik žmonių, kurių niekada nebuvo klausiama.
---
Ponas Segramas yra Niujorko universiteto Sterno verslo mokyklos finansų docentas.“ [1]
1. Do You Know Who Pays if Your AI Agent Goes Rogue? Haran Segram. Wall Street Journal, Eastern edition; New York, N.Y.. 05 Aug 2026: A15.
Komentarų nėra:
Rašyti komentarą