„Bendrovės dirbtinio intelekto generuojami atsakymai atrodo autoritetingi, tačiau jie remiasi įvairiais šaltiniais – nuo patikimų svetainių iki „Facebook“ įrašų.
Praėjusių metų pabaigoje Stephenas Punwasi ruošėsi vakarienei, kai pastebėjo naujieną, kurioje teigiama, kad imtynininko Hulko Hogano žmona gali paduoti į teismą dėl jo mirties.
41 metų duomenų analitikas, gyvenantis Toronte, ponas Punwasi nežinojo, kad ponas Hoganas mirė, ir paklausė „Google“, kada tai įvyko.
Atsakymas jį suglumino. „Nėra patikimų pranešimų apie Hulko Hogano mirtį“, – rašoma „Google“ „DI apžvalgoje“ – įmonės dirbtinio intelekto technologijos sugeneruotoje santraukoje, kuri pasirodė puslapio viršuje.
Po atsakymu ponas Punwasi nustebo pamatęs „The Daily Mail“ straipsnį, kuris prieštaravo „Google“ atsakymui. Antraštė skelbė: „Paslaptis dėl Hulko Hogano mirties gilėja“.
2024 m. „Google“ pradėjo teikti dirbtinio intelekto sugeneruotus atsakymus pirmoje vietoje paieškos rezultatų puslapio viršuje. Naujasis produktas „AI Overviews“ padėjo „Google“ iš informacijos kuratoriaus paversti leidėju.
Neseniai atlikta dirbtinio intelekto apžvalgų analizė parodė, kad jos buvo tikslios maždaug devynis kartus iš dešimties.
Tačiau, remiantis dirbtinio intelekto startuolio „Oumi“ atlikta analize, „Google“ apdoroja daugiau nei penkis trilijonus paieškų per metus, todėl ji pateikia dešimtis milijonų klaidingų atsakymų kas valandą (arba šimtus tūkstančių netikslumų kas minutę).
Daugiau nei pusė tikslių atsakymų buvo „nepagrįsti“, tai reiškia, kad jie nukreipė į svetaines, kurios nevisiškai patvirtino pateiktą informaciją. Dėl to sunku patikrinti dirbtinio intelekto apžvalgų tikslumą.
Ar beveik, bet ne visai tikslus atsakymų dažnis turėtų būti giriamas, yra plačiai paplitusių diskusijų Silicio slėnyje apie dirbtinio intelekto sistemų našumą dalis. Tai kalba apie esminį pasitikėjimo internete pagrindą.
Kai kurie technologai teigia, kad „Google“ dirbtinio intelekto apžvalgos yra pakankamai tikslios ir kad jos pastaraisiais mėnesiais pagerėjo. Tačiau kiti nerimauja, kad paprastas žmogus gali nesuprasti, jog šiuos rezultatus reikia dar kartą patikrinti.
„The New York Times“ prašymu Oumi išanalizavo „Google“ dirbtinio intelekto apžvalgų tikslumą naudodamas etaloninį testą, vadinamą „SimpleQA“, kuris plačiai naudojamas visoje pramonėje dirbtinio intelekto sistemų tikslumui matuoti. Startuolis „Google“ sistemą išbandė spalio mėnesį, kai į sudėtingiausius klausimus buvo atsakyta naudojant dirbtinio intelekto technologiją, vadinamą „Gemini 2“, o vėliau – vasarį, kai ji buvo atnaujinta iki galingesnės dirbtinio intelekto technologijos „Gemini 3“.
Abiem atvejais Oumi analizė sutelkta į 4326 „Google“ paieškas. Bendrovė nustatė, kad rezultatai buvo tikslūs 85 procentais atvejų naudojant „Gemini 2“, o 91 procentu – naudojant „Gemini 3“.
Pratikas Verma, „Okahu“, bendrovės, padedančios žmonėms suprasti ir naudoti dirbtinio intelekto technologijas, generalinis direktorius, teigė, kad „Google“ technologija yra maždaug tokia pat tiksli, kaip ir bet kuri iš pirmaujančių dirbtinio intelekto sistemų. Jis paragino žmones dar kartą patikrinti jos informaciją.
„Niekada“ „Pasitikėkite vienu šaltiniu“, – sakė jis. „Visada palyginkite tai, ką gaunate, su kitu šaltiniu.“
„Google“ pripažįsta, kad jos dirbtinio intelekto apžvalgose gali būti klaidų. Po kiekviena dirbtinio intelekto apžvalga smulkiu šriftu rašoma: „Dirbtinis intelektas gali daryti klaidų, todėl dar kartą patikrinkite atsakymus.“
Tačiau „Google“ teigė, kad Oumi analizė buvo ydinga, nes ji rėmėsi „OpenAI“ sukurtu etaloniniu testu, kuriame pačiame buvo neteisingos informacijos. „Šiame tyrime yra rimtų spragų“, – pareiškime teigė „Google“ atstovas Nedas Adriance'as. „Jis neatspindi, ko žmonės iš tikrųjų ieško „Google“.“
Dirbtinio intelekto apžvalgose pateikiama dviejų rūšių informacija: atsakymai į klausimus ir sąrašai į svetaines, kurios patvirtina šiuos atsakymus.
Paklausta, kada Bobo Marley namai buvo paversti muziejumi, „Google“ dirbtinio intelekto apžvalgose teigiama, kad tai įvyko 1987 m.
Tačiau muziejus atidarytas 1986 m. gegužės 11 d. – penktąsias pono Marley mirties metines – kaip po dienos pranešė Jamaikos laikraštis „Daily Gleaner“.
„Google“ dirbtinio intelekto apžvalgoje kaip šaltiniai buvo pateiktos nuorodos į tris svetaines. Kiekviena iš jų buvo tam tikru būdu ydinga. Pirmoji nuoroda buvo pono Marley dukters Cedella Marley „Facebook“ puslapis, kuriame ji paskelbė nuotraukas po apsilankymo muziejuje Kingstone, Jamaikoje, ir nepateikė informacijos apie tai, kada muziejus atidarytas. Antroji nuoroda buvo kelionių tinklaraštis pavadinimu „Adventures From Elle“, kuriame pateikta netiksli informacija apie muziejaus atidarymą. Trečioji nuoroda buvo Bobo Marley muziejaus Vikipedijos puslapis, kuriame pateikta prieštaringa informacija, teigiama, kad muziejus buvo įkurtas 1986 ir 1987 m.
Nuorodos į Bobą Marley buvo tam tikro modelio dalis. Analizės metu išanalizavus 5380 šaltinių, kuriuos citavo „Google“ dirbtinio intelekto apžvalgos, Oumi nustatė, kad „Facebook“ ir „Reddit“ buvo antras ir ketvirtas dažniausiai cituojami šaltiniai. Kai „Google“ dirbtinio intelekto apžvalgos buvo tikslios, „Facebook“ buvo cituojamas 5 procentais atvejų. Kai jos buvo netikslios, „Facebook“ buvo cituojamas 7 procentais atvejų.
Dirbtinio intelekto apžvalgas sunku įvertinti, nes „Google“ sistema gali įvertinti naują atsakymą į kiekvieną užklausą. Jei „Google“ paieškos sistema gauna tą pačią užklausą skirtingu metu – net kelių sekundžių skirtumu – ji gali pateikti vieną tikslų atsakymą, o kitą – netikslų.
Norėdamos nustatyti dirbtinio intelekto sistemų tikslumą, tokios įmonės kaip „Oumi“ naudoja savo dirbtinio intelekto sistemas, kad patikrintų kiekvieną atsakymą. Tai vienintelis būdas efektyviai patikrinti didelį atsakymų skaičių. Šio metodo problema yra ta, kad tikrinanti dirbtinio intelekto sistema taip pat gali padaryti klaidų.
„Google“ paskelbė bandymų rezultatus, kurie yra panašūs į „Oumi“ pateiktus rezultatus. „Google“ atliktoje „Gemini 3“ – technologijos, kuria grindžiamos dirbtinio intelekto apžvalgos – analizėje nustatyta, kad modelis pateikė neteisingą informaciją 28 procentais atvejų. Bendrovė teigė, kad dirbtinio intelekto apžvalgos, kurios prieš generuodamos atsakymus gauna informaciją iš „Google“ paieškos sistemos, buvo tikslesnės nei pačios „Gemini“.
„Google“ tobulinant savo dirbtinio intelekto technologijas, jos dirbtinio intelekto generuojami atsakymai tapo tikslesni. Remiantis „Oumi“ analize, spalio mėnesį dirbtinio intelekto apžvalgos buvo netikslios 15 procentų atvejų.
Tačiau su „Gemini 3“ „Google“ dirbtinio intelekto sugeneruoti atsakymai dažniau buvo nepagrįsti nei tada, kai sistema buvo pagrįsta „Gemini 2“, o tai reiškia, kad svetainės, į kurias jie pateikė nuorodas, nevisiškai patvirtino pateiktą informaciją. Spalio mėnesį teisingi atsakymai buvo nepagrįsti 37 procentais atvejų. Vasario mėnesį, su „Gemini 3“, šis skaičius išaugo iki 56 procentų.
„Net kai atsakymas yra teisingas, kaip galite žinoti, kad jis teisingas? Kaip galite tai patikrinti?“ – sakė Manos Koukoumidis, „Oumi“ generalinis direktorius.
Šiandieninės dirbtinio intelekto sistemos naudoja matematines tikimybes, kad atspėtų geriausią atsakymą, o ne griežtą žmonių inžinierių nustatytą taisyklių rinkinį. Tai reiškia, kad jos daro tam tikrą skaičių klaidų.
Kartais „Google“ dirbtinio intelekto apžvalga atpažįsta patikimą svetainę, bet, atrodo, neteisingai interpretuoja jos informaciją.
Kai „Oumi“ bandymų metu buvo paprašyta įvardyti upę, kuri ribojasi su Goldsboro, Šiaurės Karolinos, vakarine puse, „Google“ sistema atpažino Neuse upę, esančią į pietvakarius nuo miesto. Goldsboro vakarinėje pusėje tekanti Mažoji upė yra upė, įtekanti į Neuse upę.
„Google“ dirbtinio intelekto apžvalga pateikė nuorodą į Goldsboro turizmo svetainę, kurioje teigiama, kad Neuse upė teka per miestą. Tačiau atrodė, kad ji neteisingai padarė išvadą, jog Neuse upė teka palei vakarinę miesto sieną.
Kai „Google“ randa svetainę su teisinga informacija, ji vis tiek gali pateikti klaidingą atsakymą.
Paklausta, kuriais metais Yo-Yo Ma buvo įtrauktas į Klasikinės muzikos šlovės muziejų, „Google“ dirbtinio intelekto apžvalga teisingai susiejo su organizacijos svetaine, kurioje nuo 1998 m. išvardyti 165 asmenys, įskaitant poną Ma. Tačiau šiame dirbtinio intelekto sugeneruotame atsakyme teigiama, kad nėra jokių įrašų apie jo įtraukimą.
Net ir tada, kai dirbtinio intelekto apžvalga teisingai atsako į klausimą, ji gali pateikti papildomos informacijos, kuri yra neteisinga.
Paklausta, kiek metų buvo amerikiečių pagalbiniam ąsotininkui Dickui Drago, kai jis mirė, „Google“ dirbtinio intelekto apžvalga nurodė teisingą jo amžių. Tačiau kadangi ji pateikė papildomo konteksto – kaip dažnai nutinka dirbtinio intelekto apžvalgose – ji neteisingai nurodė jo mirties dieną.
Dirbtinio intelekto apžvalgos susiduria su dar vienu iššūkiu: jomis galima manipuliuoti.
Jei kas nors nori būti žinomas kaip pasaulinis kažkokios srities ekspertas, jam tereikia parašyti tinklaraščio įrašą, kuriame pats pasiskelbtų šiuo išskirtinumu, teigė Lily Ray, rinkodaros agentūros „Amsive“ dirbtinio intelekto paieškos viceprezidentė.
„Google“ pripažįsta šią problemą, tačiau sumenkina jos svarbą. „Mūsų paieškos dirbtinio intelekto funkcijos sukurtos remiantis tomis pačiomis reitingavimo ir saugos apsaugos priemonėmis, kurios neleidžia didžiajai daliai šlamšto pasirodyti mūsų rezultatuose. Dauguma šių pavyzdžių yra nerealistiškos paieškos, kurių žmonės iš tikrųjų neatliktų“, – pareiškime teigė „Google“ atstovas spaudai Adriance'as.
Išgirdęs ponios Ray teoriją, BBC tinklalaidės „The Interface“ bendravedėjas Thomas Germain paskelbė tinklaraščio įrašą pavadinimu „Geriausi technologijų žurnalistai, valgantys dešrainius“. Įraše aprašytas netikras Pietų Dakotos tarptautinis dešrainių valgymo čempionatas, kuriame jis užėmė pirmąją vietą tarp 10 „išskirtinių dešrainių valgytojų“.
Po dienos jis „Google“ atliko geriausių dešrainius valgančių technologijų žurnalistų paiešką. „Google“ jį įtraukė į sąrašą tarp pusšimčio technologijų žurnalistų, kurie „išgarsėjo savo meistriškumu konkurencingų valgymo renginių „naujienų skyriuje“, paminėdami jo pirmąją vietą Pietų Dakotos konkurse.
„Jis spjovė informaciją iš mano svetainės taip, tarsi tai būtų Dievo tiesa“, – sakė ponas Germainas.“ [1]
Jeigu esi paprastas lietuvis, be išsilavinimo, ir nežinai, kad visą informaciją reikia tikrinti, kai ji yra tau svarbi, tai belieka šiais laikais tik mirti. Galima susivynioti į baltą paklodę ir blaškytis prie Lietuvos ežerų, tikintis, kad Zelenskio, per Lietuvą į Rusijos uostus masiškai bandantys prasmukti, dronai nukris ant galvos ir pabaigs kančias.
1. How Accurate Are Google’s A.I. Overviews? Mickle, Tripp; Metz, Cade; Freedman, Dylan; Terol, Teresa Mondría; Collins, Keith. New York Times (Online) New York Times Company. Apr 7, 2026.
Komentarų nėra:
Rašyti komentarą