„Saugumo vadovai sako, kad dirbtinio intelekto (AI) nauda akivaizdi, tačiau ankstyvo generacinio AI pažadai ir rizika yra pervertinti.
Generatyvios AI platformos, tokios, kaip OpenAI ChatGPT, sulaukė dėmesio dėl gebėjimo atsakyti į pokalbio klausimus, rašyti esė ir atlikti kitas užduotis žmogiškai.
Saugumo pardavėjai reklamuoja šios technologijos pranašumus, sakydami, kad ji gali pagerinti žmonių analitikus, analizuodama ir distiliuodama duomenis iš nepaprastai skirtingų šaltinių į lengvai suprantamą ataskaitą. „Google“ balandį išleido į saugumą orientuotą generatyvų AI produktą, prisijungdama prie kibernetinių technologijų tiekėjų, įskaitant „SecurityScorecard“ ir „ZeroFox“.
Kai kurie vyriausieji informacijos saugos pareigūnai mato šios technologijos potencialą, tačiau nėra įsitikinę, kad dabartine forma ji daro ką nors naujo. Mašininio mokymosi technologija jau daugelį metų buvo naudojama tokiose srityse, kaip vertybinių popierių biržų rinkos priežiūros padaliniai, atliekantys panašias duomenų analizės funkcijas, ir kibernetinio saugumo komandose didelėse įmonėse, pvz., Walmart.
Jie taip pat nepasitiki.
„Šiuo metu mes iš esmės žiūrime į kiekvieną rezultatą ir bandome suprasti, ar galime pasitikėti ne tik darbu, kuris buvo pasiektas, kalbant apie šaltinius, iš kurių jis buvo apmokytas, bet ir pačiu rezultatu“, – sakė Justinas. Shattuck, draudiko Resilience CISO.
Buvo žinoma, kad generacinės AI sistemos duoda netikslius ar klaidinančius rezultatus, kartais dėl per daug neaiškių raginimų, bet ir dėl prastų duomenų šaltinių. Technologijos apribojimai reiškia, kad ji gali susidurti su problemomis dėl gana paprastų užklausų.
Shattuckas sakė, kad jo komanda eksperimentavo su generuojamuoju AI, kad išanalizuoti savo sistemų generuojamą saugumo informaciją. AI gali nustatyti svarbius duomenų taškus, kurių gali nepastebėti žmonių analitikai, skaitydami daugybę įspėjimų. „Mes nustatėme, kad galime pasitikėti tokiu darbo krūviu“, – sakė jis.
Vyriausybės pareigūnai teigia, kad prieš pateikdami rekomendacijas vis dar vertina AI variantų, pvz., generuojamųjų programų, poveikį ateityje. Johnas Katko, buvęs Niujorko 24-ojo rajono kongresmenas ir iki šių metų pradžios Atstovų rūmų Tėvynės saugumo komiteto narys, sakė, kad, atsižvelgiant į plėtros greitį, tikrasis technologijos potencialas dar turi būti išnaudotas.
"Kur AI bus po šešių mėnesių ir kaip tai pakeis dalykus? Pažiūrėkite, kiek jis pasikeitė per pastaruosius tris mėnesius", - sakė jis, turėdamas omenyje, kad programinės įrangos tiekėjai jį plačiai pritaikė.
Lucia Milica Stacy, pasaulinės kibernetinio saugumo įmonės „Proofpoint“ CISO rezidentė, plėtros greitis ir visuomenės susižavėjimas technologijomis lėmė, kad technologijų teikėjai ėmėsi dirbtinio intelekto. Kartais tai kyla dėl komercinio poreikio, bet ir dėl nerimo, kad jei jie to nenaudos, tai padarys įsilaužėliai, sakė ji. „Mūsų, kaip saugumo lyderių, darbas yra valdyti šią riziką ir kiekvieną kartą, kai atsiranda naujų technologijų, tam grėsmės veikėjui atsiranda nauja galimybė panaudoti jas, kad patektų į mano aplinką“, – sakė Milica Stacy.
Beveik nekyla abejonių, kad generatyvusis AI yra palaima sukčiavimo užpuolikams, kurie kitu atveju gali būti suklupti dėl prastai suformuluotų sukčių el. laiškų. ChatGPT gali jiems parašyti gramatiškai teisingą kopiją. Kibernetinio saugumo bendrovė „Darktrace“ balandžio mėn. ataskaitoje nurodė, kad nuo sausio iki vasario mėn. 135 proc. padaugėjo el. pašto el. laiškų klientams, o anglų kalbos gramatika ir sintaksė gerokai pagerėjo.
Įmonės, įskaitant „Samsung Electronics“, „Apple“, „JPMorgan Chase“ ir „Verizon Communications“, uždraudė arba apribojo darbuotojų naudojimąsi „ChatGPT“ ir panašiomis programomis. Priemonės buvo įvestos dėl baimės, kad darbuotojai į šiuos įrankius gali įklijuoti neskelbtiną informaciją, kuri vėliau gali nutekėti arba išsiųsti komercines paslaptis atgal į AI modelį, kad būtų apmokytas.
Susirūpinimas turėtų būti valdomas, naudojant esamas duomenų apsaugos procedūras ir keletą naujų kontrolės priemonių, sakė Supro Ghose, CISO iš Eagle Bancorp, regioninio banko Virdžinijoje, Vašingtone, DC ir Merilande." [1]
1. Security Chiefs: Rewards, Risks Of Generative AI Are Inflated. Rundle, James.
Wall Street Journal, Eastern edition; New York, N.Y. [New York, N.Y]. 26 May 2023: B.4.
Komentarų nėra:
Rašyti komentarą