„Tikslus derinimas, RAG, vektoriai? Dirbtinis intelektas turi daug techninių terminų, apibūdinančių svarbius pokyčius. Štai apžvalga visiems, norintiems prisijungti prie pokalbio:
1. Žetonai
Tai yra pagrindinis vienetas, kurį naudoja tokie kalbos modeliai, kaip „ChatGPT“ ar „Google Gemini“. Žodžiai suskirstomi į jų komponentus. Trumpi žodžiai dažnai sudaro vieną žetoną, kaip ir tarpai bei skyrybos ženklai. Ilgi žodžiai suskirstomi į kelis žetonus. Vokiečių kalboje vienas žetonas atitinka maždaug 0,75 žodžio.
Kiekvienas kalbos modelis turi ribotą žetonų skaičių, kurį jis gali sekti pokalbio metu. Jei pokalbis tampa per ilgas, dirbtinis intelektas pamiršta pradžią, nes pasiektas maksimalus žetonų skaičius.
2. API sąsajos
DI modelių API sąsajos yra pagrįstos žetonais. Tai programavimo ryšiai tarp serverių. Jas naudoja daugelis įmonių, norinčių, kad dirbtinis intelektas būtų prieinamas jų darbuotojams, nereikalaujant atskiros paskyros kiekvienam darbuotojui. Mokėti mėnesinį mokestį ilgainiui paprastai yra pigiau. Pavyzdžiui, naudojant GPT-5.2, vienas milijonas žetonų kainuoja 1,75 USD, kaip įvestis, ir 14 USD, kaip išvestis. Taigi, dirbtinio intelekto sistemos atskiria įkeltą informaciją nuo mašininio generavimo duomenų.
3. Optimizuoti dirbtinio intelekto modeliai
Jie dažnai turi tokias priesagas, kaip „Instant“, „Flash“ arba „Mini“. Jiems reikia mažiau skaičiavimo galios ir jie kainuoja mažiau.
Pavyzdžiui, naudodami „Gemini 2.5 Flash“, galite nusiųsti dirbtiniam intelektui dokumentą su 750 000 žodžių, o tai atitinka maždaug vieną milijoną įvesties žetonų ir kainuoja maždaug 0,30 USD. Jei užklausiate ilgos, maždaug 7500 žodžių santraukos per raginimą (tai atitinka maždaug 10 000 išvesties žetonų), tai kainuoja 0,025 USD, taigi užduotis iš viso kainuoja mažiau, nei 33 centus.
4. Vektoriai
Vektoriai, taip sakant, yra pagrindinis dirbtinio intelekto skaičiavimo vienetas. Jie verčia žodžius koordinatėmis. Paprastoje dvimatėje vektorinėje diagramoje DI gali rūšiuoti objektus pagal savybes „dydis“ ir „pūkuotumas“, pavyzdžiui, šunį įterpti į koordinates 0,8 ir 0,7, katę – į koordinates 0,3 ir 0,9, o skrudintuvą – į koordinates 0,4 ir 0,0. DI iš karto mato: šuo ir katė yra arti vienas kito, skrudintuvas – toli. Realiuose DI modeliuose šie vektoriai dažnai turi ne du, o šimtus ar tūkstančius matmenų. Tai leidžia DI rasti šunį, kai jo paklausiama apie „lojantį augintinį“, nes terminas „šuo“ yra saugomas daugiamatėje vektorinėje duomenų bazėje [1], o jo koordinatės yra labai artimos terminams „augintinis“ ir „lojimas“.
5. Tikimybės
Jos sudaro dirbtinio intelekto pagrindą. Kokia tikimybė, kad šalia žodžio „mėnulis“ atsiras vardas Neilas Armstrongas? Tai tikrai labiau tikėtina, nei dainininko Louiso Armstrongo vardas. Vektorius paverčia žmonių kalbos neapibrėžtumą griežta matematika ir suteikia kiekvienai sąvokai tikslų adresą didžiulėje prasmių visatoje.
6. Haliucinacijos
Jos kyla, kai mašina negali aiškiai suprasti reikšmės. Dirbtinis intelektas nežino, kas yra tiesa. Jis žino tik tai, kas tikėtina. Neteisingi, sugalvoti, atsakymai dažnai atsiranda dėl žinių spragų, kurias dirbtinis intelektas užpildo panašių temų modeliais. Be to, dirbtinis intelektas dažnai stengiasi įtikti vartotojui, o ne jį taisyti. Pagal numatytuosius nustatymus dirbtinio intelekto sistemos yra apmokytos būti naudingos. Atsakymas, pvz., „Nežinau“, atsakymo algoritmui dažnai atrodo mažiau naudingas, nei sugalvotas atsakymas. Tai galima ištaisyti: „Atsakykite į klausimą tik remdamiesi patikrintais faktais. Jei nesate tikri dėl atsakymo arba jūsų mokymo duomenyse trūksta informacijos, atsakykite: „Neturiu jokių patikrintų duomenų apie tai.“ Nespėliokite.”
7. Temperatūra
DI temperatūra yra naudingas nustatymas profesionalioje aplinkoje, norint perjungti tikslius atsakymus į vaizduotės išklotines. Temperatūra svyruoja nuo nulio iki dviejų. Pavyzdžiui, faktinių tekstų (arti faktų) analizei naudotumėte 0 arba 0,1 temperatūrą, o rašydami romaną, norėtumėte lavinti vaizduotę, todėl nustatytumėte, tarkime, 1,5 temperatūrą. Profesionalioje aplinkoje šiuos parametrus galima reguliuoti, naudojant slankiklius; paprastuose pokalbiuose tai veikia ir teksto lygmeniu: „Imituokite 0,0 temperatūrą. Būkite itin tikslūs, glausti ir venkite bet kokio kūrybinio pagražinimo.“
8. RAG
RAG sistema yra dar vienas būdas užkirsti kelią dirbtiniam intelektui (DI) pasinerti į haliucinacijas. RAG yra „Išgavimo papildytas generavimas“ (angl.), jis reiškia generavimą, pagerintą per paiešką. DI pateikiamas užrakintas žinių rinkinys, iš kurio jis gali išimtinai semtis žinių. Visi pateikti duomenys dokumentai ir jų turinys konvertuojami tada į vektorius. Kai DI užduodamas klausimas, jis naudoja vektorius, kad surastų matematiškai panašiausią turinį.
Ypač patogi RAG naudojimui yra „Google“ užrašų knygelė LM: į vieną užrašų knygelę galite įkelti iki 300 dokumentų ir tada pateikti DI užklausą dėl išsamesnės informacijos.
Kita vertus, įmonės dažnai naudoja vektorinių duomenų bazių teikėjus, kurie gali talpinti dešimtis tūkstančių ar daugiau dokumentų, juos suskaidyti į atskiras dalis ir vektorizuoti.
9. Tikslinimas
Tikslinimas apima daugiau, nei RAG sistemą. Tai apima esamo modelio, pvz., GPT-4o, perkvalifikavimą su konkrečiu, nedideliu duomenų rinkiniu. Tai leidžia DI išmokti, pavyzdžiui, kopijuoti asmens rašymo stilių ir rašyti medicinines ataskaitas pagal konkrečias gaires.
Mašina gauna daugybę pavyzdžių klausimų ir atsakymų formatu, naudojant, pavyzdžiui, „OpenAI“ prietaisų skydelį arba „Google Cloud Vertex“ DI.
Po mokymo gaunate „pasirinktinį“ DI modelį. Vienkartinis tikslus derinimas reikalauja papildomų žetonų, o užklausos jūsų „pasirinktiniam“ dirbtiniam intelektui (DI) – dar daugiau.
Įprastas daugelio įmonių naudojamas triukas vadinamas distiliavimu: aukštos kokybės, brangus modelis, pvz., „GPT-5.2 Pro“, iš pradžių sugeneruoja apie 500 tobulų klausimų ir atsakymų porų. Šie 500 atsakymų vėliau naudojami mažam, nebrangiam modeliui, pvz., „Gemini Flash-Lite“, tiksliai suderinti. Nuo tada aukštos kokybės atsakymai saugomi nebrangiame modelyje.
10. Agentai
Vadinamieji DI agentai yra konkrečių užduočių specialistai. Jų elgesį apibrėžia vaidmuo („Jūs esate kelionių ekspertas“), jų žinios plečiamos dešimčia ar dvidešimties dokumentų arba prisijungiant prie RAG sistemos. Agentas gali suskaidyti užduotis į dalines užduotis. Ir pagal iš anksto nustatytus parametrus jis gali modifikuoti duomenis, pavyzdžiui, kurdamas kalendoriaus įrašus arba rengdamas ir išsaugodamas el. laiškus.
11. Sistemos instrukcija
Tai apibrėžia, ką DI agentas turėtų mokėti daryti. „ChatGPT“ galite nustatyti savo agentus skiltyje „Naršyti GPT“. Ten jūs jam suteikiate vardą (pvz., „Rašybos patarėjas Frobenas“) ir trumpą aprašymą: „Tikrina tekstų rašybą vokiečių kalba ir atlieka pataisymus“. Po to pateikiamos išsamios instrukcijos agentui, pavyzdžiui: „Rašybos patarėjas Frobenas tikrina tekstų rašybą vokiečių kalba pagal Vokiečių kalbos rašybos tarybos taisykles. Jis gauna tekstus, patikrina juos pagal oficialias taisykles ir tada sukuria lentelę. Lentelėje yra originalus sakinys, pataisytas sakinys ir atliktų pakeitimų paaiškinimas. Jis paaiškina, kodėl atliko pakeitimus, ir pateikia aiškius bei tikslius pagrindimus. Jis atkreipia dėmesį į taisyklingą rašybą, gramatiką ir skyrybą bei užtikrina, kad tekstai atitiktų dabartinius standartus. Klaidos neleidžiamos. Rašybos patarėjas Frobenas kalba normaliai ir mandagiai. Rašybos tarybos taisyklės pateiktos įkeltame dokumente „RfdR_Amtliches-Regelwerk_2024-komprimiert.pdf'“. Remkitės tik šiuo dokumentu, jokiais kitais šaltiniais.“ Šis mūsų rašybos agentas yra viešai prieinamas „ChatGPT“ platformoje ir nuo pat pradžių ištaisė kelis tūkstančius „ChatGPT“ vartotojų dokumentų. Kaip agentų kūrėjai, negalime peržiūrėti įkeltų dokumentų ir pokalbių istorijos.
12. Daugiagentės sistemos
Šios sistemos leidžia bendradarbiauti keliems agentams. Agentas R yra atsakingas už tyrimus, agentas K veikia, kaip kritikas, o agentas M yra vadovas, kuris viską apibendrina ir pateikia. Šie agentai bendrauja tarpusavyje ir keičiasi tarpiniais rezultatais. Tokių agentų organizavimui reikalinga moderni agentų platforma, pvz., „Langdock“ arba „Nuwacom“. Šios platformos naudoja įprastas dirbtinio intelekto sistemas per API sąsajas ir, be dedikuotų agentų, leidžia greitai kurti duomenų bazes, kuriomis galima dalytis tarp kolegų, ir kurti žinių bazes, prieinamas darbuotojams ir dirbtinio intelekto agentams.” [2]
1. Vektorinėje duomenų bazėje saugomi galutiniai arba tarpiniai modelio rezultatai, konkrečiai – vektoriniai įterpimai, vaizduojantys jūsų dokumentus, vaizdus ar mediją. Atgalinį platinimą galite laikyti „gamybos procesu“, kurio metu sukuriamas vektorinis įterpimas, o vektorinę duomenų bazę – „sandėliu“, kuriame tie baigti įterpimai tvarkomi, kad būtų galima greitai juos rasti.
2. Zwölf KI-Begriffe, die jeder kennen sollte. Frankfurter Allgemeine Zeitung; Frankfurt. 02 Mar 2026: 18. Von Marcus Schwarze
Komentarų nėra:
Rašyti komentarą