Why is artificial intelligence research physics?

Hopfield and Hinton, who laid the foundations for machine learning research, received the Nobel Prize in Physics. Why?

"— The laureates used physics tools to develop methods that became the basis of modern machine learning, — the Nobel Committee noted in a press release. — Hopfield created associative memory that can store and reconstruct images and other types of patterns in data. Hinton invented a method that helps autonomously find certain properties in data and perform tasks such as identifying certain elements in images.

 

As explained by the Nobel Committee, one of Hopfield's significant contributions is that he invented a network that uses a method for storing and recreating patterns. Thanks to it, network nodes can be represented as pixels. This network became the prototype of artificial intelligence algorithms that help restore input data based on its context.

 

— John Hopfield is known for creating the "Hopfield network." 

It is based on an elegant mathematical approach close to physics. It consists in the fact that when data is fed to the input of a neural network, it tries to go into a state with minimal energy. This is similar to associative memory. For example, if we teach a network an image and then feed it a distorted form, the program, striving for “rest”, will correct errors in the image.

 

At the same time, Geoffrey Hinton, in accordance with the statement of the Nobel Committee, used the Hopfeld network as the basis for a new network that helps to recognize characteristic elements in data of a certain type.

— In 1985, Hinton came up with the “Boltzmann machine” — a system that is capable of searching for an absolute, rather than a local minimum of energy. This means that the algorithm is more likely to find the correct solution, rather than one that “looks like the correct one”.

The software implementation of such a machine uses an algorithm for simulating annealing. This is a process that occurs when molten substances solidify. Thus, the idea of ​​​​implementing the computational process is associated with a physical effect, which was emphasized by the members of the Nobel Committee.

- Despite the fact that physics and machine learning seem to be different areas of science, they both rely on statistical approaches. When developing the Hopfield and Hinton neural networks, they used a basic physical principle - energy minimization. 

The fact that memorization is associated with the concept of energy is one of the main results for which the prize was given.

Modern neural networks operate on a famous learning principle — the so-called backpropagation of errors [1]."

1.  A-step-by-step-backpropagation-example

Kodėl dirbtinio intelekto tyrimai yra fizika?

 

Hopfieldas ir Hintonas, padėję pagrindus mišininio mokymosi tyrimams, gavo fizikos Nobelio premiją. Kodėl?

 

"— Laureatai naudojo fizikos priemones, kad sukurtų metodus, kurie tapo šiuolaikinio mašininio mokymosi pagrindu, - pranešime spaudai pažymėjo Nobelio komitetas. - Hopfieldas sukūrė asociatyviąją atmintį, kuri gali saugoti ir atkurti vaizdus ir kitokius duomenų modelius. Hintonas išrado metodą, padedantį savarankiškai rasti tam tikras duomenų ypatybes ir atlikti tokias užduotis, kaip identifikuoti tam tikrus elementus vaizduose.

 

 

 

Kaip paaiškino Nobelio komitetas, vienas reikšmingų Hopfieldo indėlių yra tai, kad jis išrado tinklą, kuriame naudojamas šablonų saugojimo ir atkūrimo metodas. Jo dėka tinklo mazgai gali būti pavaizduoti, kaip pikseliai. Šis tinklas tapo dirbtinio intelekto algoritmų, padedančių atkurti įvesties duomenis pagal kontekstą, prototipu.

 

 

 

— Johnas Hopfieldas yra žinomas, kaip „Hopfieldo tinklo“ sukūrėjas.

 

„Hopfieldo tinklas“ pagrįstas elegantišku matematiniu požiūriu, artimu fizikai. Tai susideda iš to, kad, kai duomenys tiekiami į neuroninio tinklo įvestį, jis bando pereiti į būseną su minimalia energija. Tai panašu į asociatyviąją atmintį. Pavyzdžiui, jei mes išmokome tinklą paveikslėlio, o tada pateikiame jį iškraipytu pavidalu, programa, siekdama „poilsio“, ištaisys vaizdo klaidas.

 

 

 

Tuo pačiu metu Geoffrey Hintonas, vadovaujantis Nobelio komiteto pareiškimu, naudojo Hopfeldo tinklą, kaip pagrindą naujam tinklui, padedančiam atpažinti būdingus elementus tam tikro tipo duomenyse.

 

— 1985 m. Hintonas sugalvojo „Boltzmanno mašiną“ – sistemą, galinčią ieškoti absoliutaus, o ne vietinio energijos minimumo. Tai reiškia, kad algoritmas, greičiausiai, suras teisingą sprendimą, o ne tą, kuris „atrodo, kaip teisingas“.

 

Tokios mašinos programinė įranga naudoja atkaitinimo modeliavimo algoritmą. Tai procesas, vykstantis, išlydytoms medžiagoms sukietėjant. Taigi, skaičiavimo proceso įgyvendinimo idėja siejama su fiziniu efektu, kurį pabrėžė Nobelio komiteto nariai.

 

– Nepaisant to, kad fizika ir mašininis mokymasis yra skirtingos mokslo sritys, jos abi remiasi statistiniais metodais. Kurdami Hopfieldo ir Hintono neuroninius tinklus, jie naudojo pagrindinį fizinį principą – energijos mažinimą.

 

Tai, kad įsiminimas yra susijęs su energijos sąvoka, yra vienas iš pagrindinių rezultatų, už kurį buvo įteikta Nobelio premija.

 

Šiuolaikiniai neuroniniai tinklai veikia pagal žinomą mokymosi principą - vadinamąjį klaidų platinimą atgal."  [1]

 

1. Žingsnis po žingsnio klaidų platinimo atgal pavyzdys yra čia.

 

 

Kodėl Lietuvos grietinėlė dedasi brangius dantų implantus už kariuomenės pinigus ir muilinasi pabėgti į Graikiją?

 

Nes kiekvienas supranta, kad Lietuvai apsiginti nerealu ir mūsų karui skirti milijardai eurų yra veltui švaistomi. Mes neturime ilgojo nuotolio oro gynybos, kad apsiginti nuo balistinių raketų, kuriomis Iranas neseniai apdorojo Izraelį taip, kad mažai nepasirodė. Neturėti apsaugos nuo balistinių raketų yra tas pats, kaip Hitlerio laikais neturėti tankų, turėti tik kavaleriją. Todėl kariniu požiūriu esame nulis. O kur nueina kasmet karo reikalams milijardai eurų iš, Lietuvoje surinktų, mokesčių? Ginklų gamintojams, kavalerijai ir žirgams reikia valgyti. Susidedame dantų implantus ir pirmyn. Kadrus turime, kaip tikrus, su pulkininkais ir generolais. "Štai jums kariškas vaizdelis: ...O gražuolės toli, švelniai rankomis moja, širdys plaka karštai, jos mylės amžinai..." Tikros kariuomenės tai, kaip neturėjome, taip ir neturime. Iliuzijų, kas prieina prie mūsų pinigų, tie irgi neturi:

"Prezidento patarėjas Kęstutis Budrys antradienį paragino neturėti iliuzijų dėl oro gynybos, nes ilgojo nuotolio sistemų trūksta visame pasaulyje ir jos, turbūt, negalės būti dislokuotos Lietuvoje nuolat, o vidutinio nuotolio ginklų šiuo metu pakaktų apsaugoti tik karius ir kritinę infrastruktūrą nuo kai kurių mažų raketų.

 

„Jų yra didelis trūkumas, kaip ir kitų oro gynybos sistemų, ir čia yra dar viena priežastis sakyti, kad nekurkime iliuzijų apie oro gynybą kaip tokią. Dėl to čia ir dedama tiek daug pastangų, dėl to yra tiek daug kalbama apie tai“, – Žinių radijui antradienį sakė prezidento vyriausiasis patarėjas nacionalinio saugumo klausimais.

 

NATO jau prieš kelerius metus yra sutarusi dėl rotacinio oro gynybos modelio Baltijos jūros regione, turinčio reikšti, kad Vakarų sąjungininkės įvairios trukmės rotacijoms atsiųs į Lietuvą ir kitas šalis įvairios oro gynybos ginkluotės.

 

Tačiau tai kol kas padarė tik Nyderlandai, kelioms savaitėms į Lietuvą šių metų vasarą atsiuntę ilgojo nuotolio sistemas „Patriot“.

 

Krašto apsaugos ministras Laurynas Kasčiūnas praėjusią savaitę sakė, jog artimiausiu metu turėtų paaiškėti daugiau informacijos dėl to, kokios šalys pajėgumus atsiųs kitais metais.

 

K. Budrys nesiėmė vertinti, ar kada nors sąjungininkai dislokuos Lietuvoje ilgojo nuotolio sistemas nuolat.

 

„Ar mes turėsime kada nors nepertraukiamą buvimą sąjungininkų sistemų visame regione, aš tokiomis tolimomis perspektyvomis negaliu planuoti, nes jų tiesiog nėra, jų trūks. Čia yra elementari matematika, o ten, kur yra pramonė, fizika, kiek mes galime pagaminti“, – sakė K. Budrys.

 

„Jeigu kalbame apie „Patriot“, jos nėra vienintelės, mes jas galime suskaičiuoti, kiek jų yra pasaulyje, kur jos yra šiuo metu ir kas gali čia atsirotuoti“, – pridūrė jis.

 

Vis dėlto, pasak prezidento patarėjo, trumpalaikio dislokavimo nauda taip pat yra milžiniška, taip pat ir Lietuvos kariams, kurie mokosi dirbti sąveikaujant su tokiomis sistemomis.

 

„Tai nėra taip paprasta, kad atvažiavau čia, pasistačiau ir jau veikia. Reikia įsijungti sistemas, reikia žinoti, kaip jos funkcionuoja, komunikuoja tarpusavyje, kokios situacijos gali būti ir kiekvieną kartą su nauju atvažiavimu tas laikas, per kurį jau gali pradėti veikti, jis trumpėja. Tai čia nauda yra neabejotina“, – sakė K. Budrys.

Naujojo pirkinio – NASRAMS sistemų – užteks tik kritinės infrastruktūros objektams apsaugoti

 

Krašto apsaugos ministerija praėjusią savaitę pranešė pasirašiusi sutartis dėl oro gynybos sistemų įsigijimo, įskaitant vidutinio nuotolio sistemas NASRAMS.

 

Kartu su anksčiau įsigytomis NASRAMS, Lietuva 2028 metais turės tris tokių sistemų baterijas.

 

Paklaustas, kiek tokių sistemų reikėtų, norint užtikrinti didžiųjų miestų, Suvalkų koridoriaus gynybą, K. Budrys sakė: „To nepakaks, tai iš karto galima pasakyti“.

 

„Šios vidutinio nuotolio oro gynybos sistemos komplekse su kitomis priemonėmis pirmiausia yra skirtos apsaugoti ginkluotąsias pajėgas Lietuvoje (...) ir kitus kritinės infrastruktūros objektus, ypač susijusius su priimančiosios šalies parama, apsaugoti nuo kaikurių mažų raketų“, – kalbėjo prezidento patarėjas.

 

Pasak jo, norint užtikrinti visa apimančią oro gynybą, Lietuvai reikėtų pačiai turėti ilgojo nuotolio oro gynybos sistemų, kurios gebėtų numušti balistines raketas.

 

Pirmoji NASRAMS baterija jau yra Lietuvoje, antroji bus pradėta pristatyti 2026 metų pirmąjį ketvirtį ir galutinai atvyks iki 2027-ųjų.

 

Pagal praėjusią savaitę pasirašytą sutartį, trečioji baterija į Lietuvą bus pradėta vežti 2028 metų antrąjį ketvirtį.

 

Šalis praėjusią savaitę taip pat įsigijo papildomos trumpojo nuotolio oro gynybos ginkluotės."