Kaip suprasti, kodėl dirbtinio intelekto sistema priima vienokį ar kitokį sprendimą

Autonominio (be vairuotojo) automobilio vystymo pradžioje mokslininkas, važiuojantis tokiu automobiliu, pastebėjo, kad automobilis, privažiavęs prie tilto, praranda orientaciją ir bando nuvažiuoti nuo kelio, priversdamas mokslininką skubiai griebti vairą ir ištaisyti padėtį. Po ilgų tyrimų išaiškėjo, kad automobilis orientavosi pagal žolę, augančią prie kelio. Ant tilto tos žolės nėra, todėl iškyla problema. Bendrai, sunku susigaudyti, kodėl dirbtinio intelekto sistema priima vienokį ar kitokį sprendimą. Dabar Google mokslininkai, vadovaujami Olah, padarė tam priemonę, kad tai suprasti būtų lengviau.

"Išvystyta priemonė iš esmės yra gudrus būdas išbandyti gilų neuronų tinklą. Pirma, jie maitina tinklą atsitiktine vaizdinio triukšmo įvairove. Tada jie ištaiso šį vaizdą vėl ir vėl, norėdami sužinoti, kas labiausiai jaudina kiekvieną tinklo sluoksnį. Galų gale, šis procesas randa platoninį idealą, kurio ieško kiekvienas tinklo sluoksnis. Olah pademonstravo tai tinkle, parengtame klasifikuoti skirtingas šunų veisles. Galite atskirti nuo kitų neuroną iš viršutinio sluoksnio, kai analizuojamas aukso retriverio vaizdas. Jūs galėtumėte pamatyti idealą, kurio ieškote - šiuo atveju - charakteringą diskelių ausų maišymą ir liūdną išraišką. Tinklas iš tikrųjų susitelkė aukštesnio lygio požymiams, kuriuos galėtume suprasti."