Kita dirbtinio intelekto (A.I.) bumo pusė: aptikti, ką A.I. gamina

„Daugiau, nei tuzinas, įmonių atsirado, siūlančių paslaugas, skirtas nustatyti, ar nuotraukos, tekstai ir vaizdo įrašai yra sukurti žmonių, ar mašinų.

 

Andrejus Doroničevas pernai sunerimo, kai socialiniuose tinkluose pamatė vaizdo įrašą, kuriame matyti, kaip Ukrainos prezidentas pasiduoda Rusijai.

 

Vaizdo įrašas greitai buvo demaskuotas, kaip sintetiniu būdu sukurta gili klastotė, tačiau ponui Doroničevui tai buvo nerimą keliantis signalas. Šiais metais jo baimės priartėjo prie realybės, nes įmonės pradėjo konkuruoti, siekdamos tobulinti ir išleisti dirbtinio intelekto technologijas, nepaisydamos sumaišties, kurią jos gali sukelti.

 

Generatyvus A.I. dabar yra prieinamas visiems, ir jis vis labiau gali apgauti žmones tekstu, garsu, vaizdais ir vaizdo įrašais, kuriuos, atrodo, sugalvojo ir užfiksavo žmonės. Visuomenės patiklumo rizika sukėlė susirūpinimą dėl dezinformacijos, darbo praradimo, diskriminacijos, privatumo ir plačios distopijos.

 

Tokiems verslininkams, kaip P. Doroničevas, tai tapo ir verslo galimybe. Dabar daugiau, nei tuzinas, kompanijų siūlo įrankius, leidžiančius nustatyti, ar kažkas buvo sukurta, naudojant dirbtinį intelektą, tokiais pavadinimais, kaip „Sensity AI“ (deepfake aptikimas), „Fictitious.AI“ (plagiato aptikimas) ir „Originality.AI“ (taip pat plagiatas).

 

P. Doroničevas, gimęs Rusijoje, įkūrė įmonę San Franciske, Optic, kad padėtų atpažinti sintetinę ar suklastotą medžiagą – kad būtų, jo žodžiais, „skaitmeninio turinio oro uosto rentgeno aparatas“.

 

Kovo mėnesį ji pristatė svetainę, kurioje vartotojai gali patikrinti vaizdus ir sužinoti, ar jie padaryti iš tikrosios nuotraukos ar dirbtinio intelekto. Jis dirba su kitomis paslaugomis, kad patikrintų vaizdą ir garsą.

 

„Turinio autentiškumas taps didele visos visuomenės problema“, – sakė p. Doronichevas, kuris buvo veido keitimo programėlės „Reface“ investuotojas. „Mes įžengiame į pigių padirbinių amžių“. Kadangi netikro turinio gamyba nekainuoja daug, sakė jis, tai galima padaryti dideliu mastu.

 

Bendra generatyvinio A.I. rinka, rinkos tyrimų įmonės „Grand View Research“ duomenimis, iki 2030 m. rinka turėtų viršyti 109 mlrd. dolerių. Įmonės, orientuotos į technologijų aptikimą, yra auganti pramonės dalis.

 

Praėjus mėnesiams po to, kai ją sukūrė Prinstono universiteto studentas, GPTZero teigia, kad daugiau, nei milijonas, žmonių naudojo jos programą, norėdami išsiaiškinti kompiuteriu sukurtą tekstą. „Reality Defender“ buvo viena iš 414 įmonių, pasirinktų iš 17 000 paraiškų, kurias šią žiemą finansuos startuolių akseleratorius „Y Combinator“.

 

„Copyleaks“ praėjusiais metais iš dalies surinko 7,75 mln. dolerių, siekdama išplėsti kovos su plagiatu paslaugas mokykloms ir universitetams, norint aptikti dirbtinį intelektą studentų darbe. Sentinel, kurio įkūrėjai specializuojasi Britanijos karališkojo laivyno ir Šiaurės Atlanto sutarties organizacijos kibernetinio saugumo ir informacinio karo srityse, 2020 m. užbaigė 1,5 mln. pradinių investicijų rinkimo etapą.

 

Taip pat dalyvauja didelės technologijų įmonės: „Intel“ „FakeCatcher“ teigia, kad gali 96 procentų tikslumu atpažinti padirbtus vaizdo įrašus, iš dalies analizuodama pikselius, kad būtų galima rasti subtilių kraujotakos požymių žmonių veiduose.

 

Federalinėje vyriausybėje gynybos pažangių tyrimų projektų agentūra šiais metais planuoja išleisti beveik 30 mln. dolerių tam.

 

Net „OpenAI“, stumiantis A.I. bumą, kai praėjusių metų pabaigoje išleido savo ChatGPT įrankį, dirba su aptikimo paslaugomis. Bendrovė, įsikūrusi San Franciske, sausį pristatė nemokamą įrankį, padedantį atskirti tekstą, sukurtą žmogaus, ir tekstą, parašytą dirbtinio intelekto.

 

OpenAI pabrėžė, kad nors įrankis pagerino ankstesnes iteracijas, jis vis tiek „nebuvo visiškai patikimas“. Įrankis teisingai nustatė 26 procentus dirbtinai sukurto teksto, tačiau klaidingai pažymėjo 9 procentus žmonių sukurto teksto, kaip sukurto kompiuteriu.

 

OpenAI įrankis turi bendrų aptikimo programų trūkumų: jis sunkiai kovoja su trumpais tekstais ir raštu, kuris nėra anglų kalba. Švietimo įstaigose plagijavimo aptikimo įrankiai, tokie kaip TurnItIn, buvo apkaltinti netiksliai klasifikuojant studentų rašinius, kaip sukurtus pokalbių robotų.

 

Aptikimo įrankiai iš esmės atsilieka nuo generacinės technologijos, kurią jie bando aptikti. Tuo metu, kai gynybos sistema sugeba atpažinti naujo pokalbių roboto ar vaizdo generatoriaus, pvz., „Google Bard“ ar „Midjourney“, darbą, kūrėjai jau sugalvoja naują iteraciją, kuri gali išvengti šios gynybos. Situacija buvo apibūdinta kaip ginklavimosi lenktynės arba virusų ir antivirusų santykiai, kai vienas pagimdo kitą, vėl ir vėl.

 

„Kai „Midjourney“ išleidžia „Midjourney 5“, mano paleidimo pistoletas įsijungia ir aš pradedu dirbti, kad pasivyčiau – ir kol aš tai darau, jie dirba su „Midjourney 6“, – sakė kompiuterių profesorius Hany Faridas. Kalifornijos universiteto Berklio universitete, kuris specializuojasi skaitmeninėje kriminalistikoje ir taip pat dalyvauja A.I. aptikimo pramonėje. „Tai iš prigimties priešiškas žaidimas, kai aš dirbu su detektoriumi, kažkas kuria geresnį pelėkautą, geresnį sintezatorių."

 

Nepaisant nuolatinio pasivijimo, daugelis įmonių pastebėjo A.I. aptikimo paklausą  iš mokyklų ir pedagogų, sakė Joshua Tuckeris, Niujorko universiteto politikos profesorius ir jo Socialinės žiniasklaidos ir politikos centro direktorius. Jis suabejojo, ar panaši rinka atsiras prieš 2024 m. rinkimus.

 

„Ar matysime savotišką paralelinį šių įmonių sparną, besivystantį, kad padėtų apsaugoti politinius kandidatus, kad jie žinotų, kada tokie dalykai yra tarsi jų taikinys“, – sakė jis.

 

Ekspertai teigė, kad sintetiniu būdu sukurtas video įrašas vis dar buvo gana sudėtingas ir lengvai atpažįstamas, tačiau garso klonavimas ir vaizdo kūrimas buvo labai pažangūs. Norint atskirti tikrąjį nuo netikro, reikės skaitmeninės kriminalistikos taktikos, pvz., atvirkštinės vaizdų paieškos ir IP adresų sekimo.

 

Galimos aptikimo programos bandomos su pavyzdžiais, kurie „labai skiriasi nuo išėjimo į laukinę gamtą, kai vaizdai, kurie sklandė ir buvo modifikuoti, apkarpyti, sumažinti, perkoduoti ir komentuoti, ir Dievas žino, kas dar jiems nutiko“. Ponas Faridas pasakė.

 

„Dėl turinio plovimo tai sudėtinga užduotis“, - pridūrė jis.

 

„Content Authenticity Initiative“, 1000 įmonių ir organizacijų konsorciumas, yra viena grupė, kuri nuo pat pradžių bando padaryti kūrimo technologiją akivaizdžią. (Jei vadovauja „Adobe“ su tokiais nariais kaip „The New York Times“ ir dirbtinio intelekto žaidėjais, tokiais, kaip „Stability A.I.“) Užuot sujungusi vaizdo ar vaizdo įrašo kilmę vėliau jo gyvavimo ciklo metu, grupė bando nustatyti standartus, kurie bus taikomi, kai atsekami kredencialai iki skaitmeninio kūrinio sukūrimo.

 

„Adobe“ praėjusią savaitę pranešė, kad jos generacinė technologija „Firefly“ bus integruota į „Google Bard“, kur prie savo gaminamo turinio pridės „mitybos etiketes“, įskaitant vaizdo padarymo datą ir skaitmeninius įrankius, naudotus jam sukurti.

 

Vartotojo tapatybę padedančios patikrinti bendrovės „Persona“ pasitikėjimo ir saugos architektas Jeffas Sakasegawa teigė, kad dirbtinio intelekto keliami iššūkiai tik prasidėjo.

 

„Banga didina pagreitį“, – sakė jis. „Ji eina link kranto. Nemanau, kad ji jau sudužo“."