„Kai naudojate dirbtinį intelektą kaip tyrimo asistentą, dalyko ekspertą ar patobulintą paieškos sistemą, turite susidurti su haliucinacijų rizika – dirbtinio intelekto polinkiu sugalvoti savo faktus. Jūsų pirmoji gynybos linija nuo šių prasimanymų? Daugiau dirbtinio intelekto.“
Dabar stengiuosi, kad dirbtinis intelektas patikrintų kiekvieną man pateiktą faktą. Jis vis dar nėra patikimas, ir protinga pasitelkti tikrą žmogų, kad patikrintų viską, ką turite teisingai patikrinti. Tačiau dirbtinio intelekto naudojimas faktų tikrinimo etapui gali pagreitinti žmogaus atliekamą faktų tikrinimo procesą.
Pirmiausia, dar prieš perskaitydamas dirbtinio intelekto sugeneruotą tyrimą, paprašau kito dirbtinio intelekto patikrinti jo tikslumą. Galiu naudoti tą pačią platformą, kuri sugeneravo mano pradinę ataskaitą, bet visada pradedu visiškai naują sesiją; kitaip logika, kuri turėjo įtakos pradinei ataskaitai, gali turėti įtakos faktų tikrinimui. procesas.
Šią naują sesiją pradėjau pasitelkdamas tas pačias pataikavimo, žmonėms įtikti siekiančias tendencijas, kurios iš pradžių gali sukelti DI haliucinacijas. Jei pirmasis DI sukūrė savo faktus, kad mane įtiktų, mano DI faktų tikrintojas turi mane įtikti, surasdamas visas vietas, kur pirmasis DI suklydo.
Kad paleisčiau tą įkyrų antrąjį DI, faktų tikrinimo užduotis pradedu tokiomis instrukcijomis kaip „Esate žurnalistikos profesorius savo universiteto etikos taryboje ir jūsų darbas yra ištirti tyrimų komandos, kuri naudojo DI ataskaitoms rengti, darbą.“ Arba „Esate auditorius, pasamdytas patikrinti vidinės duomenų analizės komandos, kuri naudojo DI klientų duomenims ir potencialiems pardavimams rinkti, darbą.“ Suprantate mintį. Noriu, kad antrasis DI taptų kiekvieno darbuotojo košmaru.
Toliau liepiu savo virtualiam faktų tikrintojui išvardyti kiekvieną vadinamąjį faktą, kurį reikia patikrinti: kiekvieną vardą ar citatą, kiekvieną duomenų tašką ir kiekvieną praneštą išvadą. Liepiu jam surasti šaltinį kiekvienam iš šių teiginių ir, jei jis peržiūri tyrimo atmintinę su hipersaitais arba straipsnio šaltiniais, kad spustelėjus būtų galima pasiekti kiekvieną iš šių nuorodų ir perskaityti originalų straipsnį savo virtualiomis akimis.
Dažnai taip pastebiu dideles ir mažas klaidas: mano dirbtinis intelektas (DI) faktų tikrintojas gali pranešti, kad tariamas šaltinio straipsnis neegzistuoja arba kad citata iš straipsnio buvo ištraukta iš konteksto.
Tada nurodau faktų tikrintojui sukurti lentelę, kurioje būtų išvardyti visi tikrinami faktai, ir kiekvieną iš jų pažymėti kaip „teisinga“, „klaidinga“, „dviprasmiška“ arba „nepagrįsta“. Nurodau jam pridėti stulpelį pastaboms (kad jis galėtų man pasakyti, kaip jis priėjo prie savo išvadų), taip pat stulpelį šaltiniui ir (tai labai svarbu!) stulpelį, kuriame jis įtrauktų tikslią citatą iš šaltinio, pagrindžiančią jo išvadą. Tai leidžia man patikrinti faktų tikrintoją, ieškant šaltinio straipsnio, kad įsitikinčiau, jog citata tikrai yra ir kad ji buvo teisingai interpretuota.
Galiausiai žengiu dar vieną žingsnį: nurodau faktų tikrinančiam DI pateikti man pataisytą patikrinto tyrimo versiją, kurioje būtų matyti visi rasti pataisymai.
Kai Naudodamas dirbtinį intelektą (DI), kad galėčiau atlikti ypač svarbius tyrimus, imuosi veiksmų, kurie dar labiau padidina šių tikslumo patikrinimų efektyvumą. Užuot davęs savo faktų tikrinimo užduotį vienam įsivaizduojamam smulkiai kalbėjusiam asmeniui, naudoju du (kiekvieną kartą pradėdamas nuo naujo). Tada jų rezultatus pateikiu trečiam DI faktų tikrintojui ir paprašau jo nustatyti, kur du ankstesni smulkiai kalbėję asmenys nesutiko, ir atlikti savo tyrimą, kad būtų galima nuspręsti, dėl ko balsuojama.
Jei tai skamba kaip daug darbo ar pernelyg daug laiko reikalaujantis procesas, atminkite, kad tai vis tiek daug greičiau nei atsukti savaites darbo ar priimti klaidingą sprendimą, pagrįstą neteisinga informacija. Arba atlikti tyrimą patiems nuo pat pradžių.
Taip pat galite nustatyti savo DI įrankius, kad paspartintumėte faktų tikrinimo procesą, pavyzdžiui, paversdami mėgstamą smulkiai kalbėjusią užduotį DI asistentu (pvz., pasirinktiniu GPT arba Claude projektu), kad galėtumėte jam pateikti bet kokį pirmojo juodraščio DI tyrimą ir gauti patikrintų faktų sąrašą bei pataisytą atmintinę.
Arba naudokite Claude Code (arba Claude Cowork), kad suburtumėte visą komandą faktų tikrintojai: Pasakykite DI, kad sudaręs tikrintinų faktų sąrašą, jis turėtų tuos faktus mažomis partijomis priskirti faktų tikrintojų komandai, kad kiekvieną faktą patikrintų bent du skirtingi DI, o prireikus – ir trečias lygiųjų taškų skaičiuotojas. Kai DI faktų tikrintojas šį darbą partijomis perduoda savo virtualiems pagalbininkams, net ir išsami tyrimo santrauka gali būti gana greitai patikrinta (ir pataisyta).
Žinoma, tuo viskas nesibaigia. Net ir po to, kai peržiūriu savo DI tyrimų santraukas per savo DI faktų tikrintuvą, ir net jei tas pataisytas santraukas peržiūriu dar vieną faktų tikrinimo ciklą, kartais randu keistenybių ar neatitikimų, kurie priverčia mane atlikti tolesnius tyrimus ir perskaityti kai kuriuos pagrindinius tyrimus savo žmogiškomis akimis.
Tačiau tai nepadaro viso DI faktų tikrinimo beprasmiu. Priešingai: DI naudojimas Galimybė pastebėti akivaizdžiausias dirbtinio intelekto klaidas suteikia man erdvės gilintis į tyrimų klausimus, kuriems reikalingas žmogaus intelektas.
---
Alexandra Samuel yra technologijų tyrėja ir dirbtinio intelekto tinklalaidės „Aš + Viv“ vedėja. Rašykite jai el. paštu reports@wsj.com.“ [1]
1. Artificial Intelligence (A Special Report) --- Yes, AI Can Make Mistakes. AI Can Find Them, Too.: Since chatbots hallucinate their own facts, it's useful (and easy) to have a second, nitpicking AI that can audit the results for errors. Samuel, Alexandra. Wall Street Journal, Eastern edition; New York, N.Y.. 26 May 2026: R5.
Komentarų nėra:
Rašyti komentarą