New method aims to prevent hallucinations in language AI models

"Scientists at the University of Oxford have developed a method to predict and prevent hallucinations in AI models behind ChatGPT and Gemini. 

 

In the future, the models will generate and compare multiple answers before delivering a result.

 

Hallucinations are a well-known problem with large language models (LLMs), where the models generate plausible-sounding but incorrect or completely made-up information. Scientists at the University of Oxford have developed a method to predict and prevent hallucinations in large language models. The research was published in the journal "Nature".

 

Just in May, Google's AI search function "AI Overview" was criticized for giving users absurd and health-endangering answers. This included the recommendation to use glue as a topping for a pizza or to eat a stone every day. "LLMs can formulate the same thing in many different ways. With old approaches, you couldn't distinguish whether a model was unsure what to say or whether it was unsure how to express itself," says Sebastian Farquhar, one of the study's co-authors. 

 

The new method focuses on measuring the uncertainty in the meaning of the generated answers, rather than just looking at the uncertainty in the choice of words.

 

Comparing different answers to the same question

 

The idea is this: If the language model generates several different answers for a question that are worded differently but have the same meaning, then the model is very sure about the answer. 

 

If a model gives many answers with different meanings to the same query, then the model is unsure. This is a warning sign that the model may be giving something wrong or unfounded.

 

The study proposes estimating probabilities in the meaning space and only then giving a final answer. This method makes it possible to quantify the uncertainty of an answer and thus identify hallucinations before they occur. This allows users to be warned when the model's answer may be incorrect or unfounded. During the training of a language model, answers with high meaning deviations can be rejected to improve the accuracy of the model.

 

However, the implementation of this method is complex, because the language model has to generate several possible answers for each question in advance in order to find a final result. The study suggests that comparing ten pre-generated answers could improve the performance of a model. This is computationally intensive, especially for longer answers. "In situations where reliability is crucial, calculating semantic uncertainty is a small price to pay," says the head of the study, Yarin Gal." [1]

 

1. Neue Methode soll Halluzinationen der Sprachmodelle vermeiden. Frankfurter Allgemeine Zeitung (online) Frankfurter Allgemeine Zeitung GmbH. Jun 20, 2024. Von Nina Müller

Viena didelė krizė, sunaikinanti santaupas ir bevaikiai egoistai mirs gatvėse, kaip benamiai šunys

 „Shauna Sharpes nekeliauja ir daug maisto užsiaugina savo namuose vakarinėje Vašingtono valstijoje. Vietos indėnų genčių valdžios darbo užmokesčio vadybininkė turi nedaug santaupų ir tikisi, kad jai teks dirbti bent ateinantį dešimtmetį.

 

 Dalis jos iššūkio: jai sausį sukako 60 metų, todėl ji atsidūrė kūdikių bumo kartos, kuri neaiškiai artėja prie pensinio amžiaus, uodegos gale. Gimę vidurio amžiaus, pokario Amerikoje, kupinoje daug pažadų, daugelis jauniausių bumo laikų atstovų vis dar kenčia nuo finansinių nuosmukių, kilusių dėl 2007–2009 m. krizės ir nuolatinio tautos perėjimo nuo garantuotų pensijų prie tiesioginių investicijų į akcijų rinką.

 

 „Šiuo metu man svarbiausi dalykai yra vieta gyventi uždaroje patalpoje, vanduo ir maistas“, – sakė Sharpes, kurios pensijų sąskaitose yra apie 3000 dolerių. „Ir galvoju apie tai, kaip aš tuo pasirūpinsiu nuo šiol, iki kol numirsiu“.

 

 Iki šių metų pabaigos visiems jauniausiems kūdikių bumo žmonėms sukaks 60 metų. Šios kartos žmonių gimimo datos – maždaug 70 milijonų žmonių arba kas penktas amerikietis – apima 19 metų laikotarpį, besitęsiantį po II pasaulinio karo pabaigos iki 1964 m., kai „The Beatles“ debiutavo Edo Sullivano šou.

 

 Vyresnio amžiaus amerikiečiai, įskaitant jaunus bumo žmones, turinčius pensijų sąskaitas, kurias skatina klestinti akcijų rinka, išlieka pagrindine ekonomikos jėga. Federalinio rezervo duomenys rodo, kad 55 metų ir vyresni asmenys kontroliuoja beveik 70% JAV namų ūkių turto.

 

 Tačiau šiai amžiaus grupei taip pat priklauso vyresnio amžiaus žmonės, kurių pensijų lėšų yra mažai, jei iš viso yra, arba tik socialinė apsauga, kuriems gresia auksiniai metai, kupini rizikos. Milijonams jaunesnių žmonių, kurie galėtų gyventi dar mažiausiai du dešimtmečius, prarastas darbas ar brangi medicininė problema gali pakenkti jų stabilumui, o kartu padidinti spaudimą jaunesnėms kartoms.

 

 Kūdikių bumo kartos ilgas laikotarpis reiškia, kad jauniausius bumo žmones svarbiausi gyvenimo įvykiai ištinka skirtingu metu, nei jų vyresnius. Pasak išėjimo į pensiją ekspertų, jų karjeros vidurio metai, kai pajamos paprastai pradeda didėti, buvo apkartinti 2007–2009 m. finansinio šoko.

 

 Jaunesni tie žmonės, neturintys tradicinių pensijų, turėjo prisiimti didesnę investavimo riziką, kaupdami pensijai. Taip pat yra didesnė dalis jaunų, nebaltųjų, kuriems labiau trūksta pensijų sąskaitų.

 

 Remiantis atidžiai stebimu Federalinio rezervo įrankiu, pavadintu Vartotojų finansų tyrimu, maždaug trečdalis jaunesnių namų ūkių neturėjosantaupų išėjimui į pensiją, viršijančių socialinę apsaugą 2022 m., ty paskutiniais metais, kai turimi skaičiai. Kai vyresnio amžiaus žmonės buvo maždaug tokio paties amžiaus, mažesnei sumai – vienam ketvirčiui – trūko šių išėjimo į pensiją išmokų.

 

 Daugiau tokių jaunų bumo narių „ketina išeiti į pensiją, neturėdami reikiamų išteklių“, – sakė Davidas Johnas, AARP viešosios politikos institute studijuojantis pensijų kaupimo klausimus.

 

 Daugeliui žmonių, kad sugyventi galą su galu, teks gerokai padirbėti iki senatvės, jei tik galės. Tačiau jiems taip pat gali tekti pasikliauti jaunesniais šeimos nariais, kaip globėjais ir finansine parama.

 

 Daugelis skurdžiai gyvenančių senjorų taip pat galėtų labiau pasitikėti Medicaid, vargšų sveikatos programa, kuri apmoka ilgalaikės priežiūros, įskaitant slaugos namus, sąskaitas.

 

 Sharpes, kuri turi keturias suaugusias dukteris ir gyvena Oakville mieste, Vašingtone, per 2007–2009 m. finansinį sukrėtimą prarado maždaug pusę 20 000 dolerių jos 401(k). Likusią dalį ji skyrė būsto hipotekai, nepaisydama didelės baudos už išankstinį išėmimą.

 

 Praėjus keleriems metams po finansų krizės, ji sakė, kad, uždarius įmonę, prarado mažos medienos gamyklos kontrolierės darbą. Nutrūko ir jos santuoka.

 

 Praėjusiais metais ji nusipirko apleistą dviejų miegamųjų namą beveik 2 arų plote, kurį reabilituoja su savo sužadėtiniu. Ji tikisi bent jau sumažinti darbo skaičių iki 70 metų. Kad tai padarytų, pasak jos, jai reikės sumokėti 260 000 dolerių, su namais susijusių, skolų ir pavėluotai pastatyti pensinio lizdo kiaušinį. Jos tikslas: 100 000 dolerių.

 

 „Tai nebus daug, aš tai jau žinau“, – sakė ji.

 

 Neseniai atliktame tyrime, kuriame buvo nagrinėjami maždaug 30 milijonų žmonių, kuriems nuo šių metų iki 2030 m. sukaks 65 metai, nustatyta, kad tik daugiau, nei pusė, turi ne daugiau, kaip 250 000 dolerių finansinio turto.

 

 Remiantis tyrimu, kurį užsakė Vašingtone įsikūrusi ne pelno organizacija „Alliance for Lifetime Income“, pasisakanti už pensijų anuitetus, tikėtina, kad šie žmonės turės pasikliauti socialine apsauga po to, kai sudegino santaupas, kaip pagrindinį pajamų šaltinį išėjus į pensiją, ir tai apima draudikus bei finansinių paslaugų įmones.

 

 „Socialinė apsauga niekada nebuvo numatyta, kaip vienintelis pajamų šaltinis vėliau gyvenime“, – sakė Ramsey Alwin, Nacionalinės senėjimo tarybos, pasisakančios už pagyvenusių žmonių finansinį saugumą, vadovas.

 

 Bostono koledžo Pensijų tyrimų centro mokslininkai, tyrę finansinį silpnumą tarp jaunų bumo atstovų, sakė, kad yra keletas veiksnių.

 

 Vienas iš jų yra tas, kad jaunesni bumo gyventojai yra įvairesni, ypač dėl didėjančio ispanų populiacijos. Naujausi surašymo skaičiavimai rodo, kad ispanai sudaro apie 15 % jauniausių bumo metų, palyginti su 8 % seniausių.

 

 Tyrimai parodė, kad ispanai ir juodaodžiai daug rečiau turi galimybę gauti pensijų planus jų darbe, palyginti su ne ispanakalbiais baltaodžiais. Mažas atlyginimas taip pat neskatina taupyti, sako finansų ekspertai. Daugelis ispanų imigrantų taip pat siunčia santaupas šeimos nariams į savo gimtąsias šalis.

 

 Kai kurie ekspertai ir kai kurie duomenų šaltiniai nemato tvirto pasiskirstymo tarp šių grupių. Be to, augančios rinkos padėjo jauniems bumo nariams, kurie turi investicijų sąskaitas, sakė Lowell Ricketts, St. Louis Fed duomenų mokslininkas.

 

 Fed apklausa parodė, kad jauni bumo asmenys, turėję 401 k) ir individualius pensijų planus 2022 m., turėjo daugiau turto, nei vyresni, būdami tokio paties amžiaus. Vidutinė jaunų bumų laikų vidurkis buvo 189 000 dolerių, o vyresnio amžiaus žmonių mediana prieš devynerius metus, pakoregavus infliaciją, buvo šiek tiek mažesnė, nei 143 000 dolerių.

 

 Apklausoje neatsižvelgiama į pensijų ir socialinio draudimo vertę.

 

 Tačiau daug jaunų bumo narių, neturinčių tokių sąskaitų, susiduria su niūresnėmis perspektyvomis, sakė Ricketts ir pridūrė: „Tai gali reikšti tiesiog sumažėjusį gyvenimo lygį vėliau."

 

 60 metų Keithas Seawellas neturi kaupiamųjų pensijų sąskaitų ir nuomojasi butą netoli Baltimorės, kurį dalijasi su jo mergina ir paaugle dukra. Jis gaudavo apie 2500 dolerių per mėnesį iš laikinojo administracinio darbo ir socialinio draudimo išmokų dėl neįgalumo dėl nugaros traumos, kurią jis patyrė, dirbdamas statybose ir kitus fizinio pobūdžio darbus. Neįgalumo išmokos galiausiai paverčiamos įprastomis socialinio draudimo išmokomis.

 

 Kaip ir kiti jauni bumo nariai, Seawellas sako neketinantis išeiti į pensiją, nes nenori, kad jo keturi vaikai jį išlaikytų finansiškai. Neseniai pablogėjusios nugaros problemos paliko Seawellą nuošalyje, todėl prireikė operacijos. Jis sakė, kad pasveikęs tikisi vėl prisijungti prie darbo jėgos.

 

 „Visada jaučiau, kad esu tas, kuris turės būti paslaugų teikėjas, niekada nežiūrėjau į daugelį metų, kai jie turės tai padaryti už mane“, – sakė Seawellas." [1]

1. U.S. News: Younger Baby Boomers See Financial Peril --- Recession, vanishing pensions leave many 60-year-olds in a precarious state. Kamp, Jon; Calvert, Scott; Overberg, Paul.  Wall Street Journal, Eastern edition; New York, N.Y.. 24 July 2024: A.3.  

One Big Crisis, Wiping out the Savings, and Childless Egoists Will Be Dying on the Streets Like Stray Dogs

"Shauna Sharpes doesn't travel and grows much of her own food at her home in western Washington state. The payroll manager for a local Native American tribal authority has meager savings and expects she will have to keep working for at least the next decade.

Part of her challenge: She turned 60 in January, putting her at the tail end of a baby boom generation that is hurtling toward retirement age in uncertainty. Born in a midcentury, postwar America brimming with promise, many of the youngest boomers are still sporting financial bruises from the 2007-09 recession and the nation's steady shift away from guaranteed pensions.

"The most important things for me right now are a place to live indoors, water and food," said Sharpes, who has about $3,000 in her retirement accounts. "And thinking about how I'm going to provide that for myself from now until I drop dead."

By the end of this year, the youngest baby boomers will all turn 60. The birth dates of those in this generation -- around 70 million strong, or one in five Americans -- cover a 19-year span stretching from the aftermath of World War II to 1964, the year the Beatles made their debut on the Ed Sullivan Show.

Older Americans -- including young boomers with retirement accounts powered by a booming stock market -- remain a major force in the economy. Those 55 and up control nearly 70% of U.S. household wealth, Federal Reserve data show.

But that age group also includes older adults with little if any retirement funds socked away, or only Social Security to lean on, who are facing golden years laden with risk. For millions of younger boomers, who could live at least two more decades, a lost job or expensive medical problem could upend their stability, while ramping up pressure on younger generations.

The baby-boom generation's long span means the youngest boomers hit major life events at different times than their elders. Their midcareer years, when earnings typically start to peak, got upended by the 2007-09 financial shock, according to retirement experts.

Younger boomers without traditional pensions had to shoulder more investment risk while saving for retirement. There also is a greater share of nonwhite young boomers who are more likely to lack retirement accounts.

About a third of younger boomer households didn't have retirement benefits beyond Social Security in 2022, the most recent year available, according to a closely watched Federal Reserve tool called the Survey of Consumer Finances. When the older boomers were roughly the same age, a smaller amount -- one quarter -- were missing these retirement benefits.

More of these young boomers "are going to enter into retirement without the resources they need," said David John, who studies retirement savings issues at the AARP Public Policy Institute.

For many, making ends meet likely will mean having to work well into old age, if they are able. But they might also have to rely on younger family members as caregivers and for financial support.

Many seniors in poverty also could increase reliance on Medicaid, the health program for the poor, which foots bills for long-term care including nursing homes.

Sharpes, who has four adult daughters and lives in Oakville, Wash., lost roughly half the $20,000 in her 401(k) during the financial shock of 2007-09, she said. She applied the remainder to a home mortgage despite the steep penalty for early withdrawal.

Several years after the financial crisis, she said, she lost her job as controller of a small lumber yard when the company closed. Her marriage also ended.

Last year, she bought a rundown two-bedroom home on nearly 2 acres that she is rehabbing with her fiance. She hopes to at least cut back on work by age 70. To do that, she said, she will need to pay down $260,000 in home-related debt, while belatedly building a retirement nest egg. Her target: $100,000.

"It's not going to be a lot, I already know this," she said.

A recent study looking at the roughly 30 million young boomers who will turn 65 between this year and 2030 determined that just more than half have no more than $250,000 in financial assets.

This makes it likely these people will have to rely on Social Security after burning through savings as a primary source of income in retirement, according to the study, commissioned by the Washington, D.C.-based nonprofit Alliance for Lifetime Income, which advocates for retirement annuities, and includes insurers and financial-services companies.

"Social Security was never intended to be the sole source of income later in life," said Ramsey Alwin, chief executive at the National Council on Aging, which advocates for older peoples' financial security.

Researchers at Boston College's Center for Retirement Research, who have studied financial weaknesses among young boomers, said that there are several contributing factors.

One is that younger boomers are more diverse, especially because of growth in the Hispanic population. Recent census estimates show Hispanic people represent about 15% of the youngest boomers compared with 8% of the oldest.

Research has shown Hispanic people and Black people are far less likely to have access to retirement plans at their jobs, compared with the non-Hispanic white population. Low pay also discourages saving, say financial experts. Many Hispanic immigrants also send savings to family members in their native countries.

Some experts and some data sources don't see a firm divide among the boomer cohorts. Moreover, surging markets have aided young boomers who do have investment accounts, said Lowell Ricketts, a data scientist at the St. Louis Fed.

The Fed survey showed young boomers with 401(k) and individual retirement account plans in 2022 had more assets in them than older boomers did when they were the same age. The median for young boomers was $189,000, while the median for older boomers, nine years earlier, and adjusted for inflation, was just under $143,000.

The survey doesn't take into account the value of pensions and Social Security.

But the many young boomers without such accounts face gloomier prospects, Ricketts said, adding, "That can translate to just a diminished standard of living later in life."

Keith Seawell, 60, has no retirement savings accounts and rents the apartment near Baltimore he shares with his girlfriend and teenage daughter. He has been pulling in about $2,500 a month from a temporary administrative job, and Social Security disability payments stemming from a back injury he sustained working construction and other manual-labor jobs. Disability payments eventually convert to regular Social Security benefits.

Like other young boomers, Seawell says he has no intention to retire, because he doesn't want his four children to have to support him financially. Worsening back problems recently sidelined Seawell, requiring surgery. He said he hopes to rejoin the workforce after he recovers.

"I always felt I was the one that would have to be the provider, never looked at years down the road where they would have to do for me," Seawell said." [1]

1. U.S. News: Younger Baby Boomers See Financial Peril --- Recession, vanishing pensions leave many 60-year-olds in a precarious state. Kamp, Jon; Calvert, Scott; Overberg, Paul.  Wall Street Journal, Eastern edition; New York, N.Y.. 24 July 2024: A.3.