Tamsioji dirbtinio intelekto paslaptis: niekas iš tiesų nesupranta jo veikimo

... google matyt irgi vertėjauja DI. Ir kaip čia suprasi DI neurotinklo veikimą, jei net "išversto" teksto neįmanoma suprast ...

Aha, mistika.

https://www.youtube.com/watch?v=nv5_4GB0gZo

Suprantu, kad nuspėti kokį sprendimą sistema priims gali būti labai sudėtinga, bet kodėl negalima išgauti paaiškinimo apie jau priimtus sprendimus tai nesuprantu. Ar taip sunku įrašyti visą sprendimo priėmimo "logą", kuriame tai atsispindėtų? Taip, greičiausiai jis būtų didelis ir sudėtingas, reikalaujantis papildomos analizės, bet įmanomas patikrinti. Juk DI tai ne žmogus, kurio neuronų veikimo negalim užrašyti.

Tiek žmogui , tiek DI logą galima užrašyti, tai bus sudėtinga matematinė formulė. Bet tiek žmogaus (ar bet kokio kito gyvūno), tiek DI atveju niekas nežino, iš kur ta formulė ir koks jos veikimo principas. Mes mokam simuliuoti neurotinklus ir jie duoda neįtikėtinus rezultatus, tačiau suprasti jų sprendimų logikos negalime, t. y. ne užrašyti tinklo formulę, o suprasti, kodėl ji tokia.

Ir kaip tą „logą“ bus galima suprasti? Jis bus toks sudėtingas, kad jo supratimui reikės dar vieno dirbtinio intelekto lygmens, kurio veiksmų logo supratimui reikės dar vieno DI lygmens, kurio veiksmų … ir taip toliau. Straipsnyje ši problema minima, pažymint, kad DI veiksmų paaiškinimai neišvengiamai supaprastinami. Žmogus, stengdamasis ką nors suprasti, pasitelkia vaizdinius, palyginimus. Tai tinka, aiškinant Biblijos pamokslus, tačiau ne sudėtingus reiškinius su dešimtimis, šimtais ir tūkstančiais kintamųjų. Kad galėtų suprasti, žmogus turi galvoje laikyti visą, bendrą vaizdą. Kompiuteriui tas nėra būtina.

Matematiškai tos sistemos gali būti užrašomos tūkstančiais lygčių, į jas ateina šimtai kintamųjų o galutinai lygtys sumuojamos tarpusavyje ir vienu atveju gaunamas atsakymas nulis, kitu atveju vienetas. O kodėl nulis ar vienetas išanalizuoti neišeina, taip gaunasi, rezultatas nulemtas šimtų ir tūkstančių kintamųjų kombinacijos. Bet straipsnyje vienas dalykas nutylimas - paprastai tokos sistemos pusęį duomenų naudoja sistemos mokymui, kitą pusę testavimui, ar sistema gerai išmoko duomenis. Sistema laikoma parengta kai ji praeina testavimą su duomenimis nenaudojamais mokyme. Jei sistema vien mokoma - tada ja pasitikėti negalima.

"Tamsioji dirbtinio intelekto paslaptis: niekas iš tiesų nesupranta jo veikimo". Niekas nesupranta... Labai adekvatus teiginys... Negalima sakyti "niekas" turint galvoje tik save... Ar esat 100% įsitikinę, kad pasaulyje nėra žmogaus, kuris supranta DI veikimą?......................

Taip

Čia taspats teiginys, kaip ir "niekas nesupranta žmogaus smegenų veikimo", tiek straipsnio, tiek mano teiginyje kalba eina, kad niekas nesupranta "softo", arba programinės įrangos detalaus veikimo, dėl konkretaus sprendimo priėmimo, nes perdaug plastiškai veikia neuroniniai tinklai ir save persiprogramuoja "on the fly". Biologinio neuroninio tinklo dar ir "hardware" yra kintamas (jungtys tarp neuronų ir patys neuronai) ne vien "software". Gali ir DI neuronų tinklas imituoti biologinį, gali simulioti neuronų jungtis, bent teoriškai, kad paspartėtu mokymosi procesas. Bet kas mus apsugos nuo mašinų, kuriu supratimu gyvybė ir mirtis yra tik "on" arba "off" rėžimas.

hmm iki DI irgi buvo nemazai abejoniu ar suprasim ka isgromuliuos super kompiuteriai, kokius atsakymus ir ar suprasim kodel toks rezultatas o ne kitoks, o kaip ta patikrint, jei rezultata generuoja kaip ir tobuliausia technika,isgyvenom pasirodo, klausimu nekyla bent viesumoj ar tikrai teisingai super kompas paskaiciavo kazkokia tikimybe,, dabar sudetingesne versija, laiko klausimas tik, realiai mums dzin kaip tai veikia, mums svarbu ar rezultata gavus, galim rast formule, kodel tas rezultatas teisingas P.S. glodrax jus pats bent supratot ka klauset? kiek operaciju per sekunde kad ir pigiausiais mobiliakas atlieka? kiek registru yr kurie per kiekviena operacija keicia savo busena? ta viska susekt, ir is to pamatyt sistema kuri generuoja butent toki o anoki rezultata is ateinanciu duomenu?

Iki DI kompiuteris skaičiavo taip, kaip programuotojas jį buvo užprogramavęs. Tą padauginti iš to, tada iš to ir tokių operacijų atlikti milijardus. Rezultatų "tikrumas" priklausė nuo programuotojų rankų ir teorinių simuliuojamų proceso žinių. Buvo nebent abejojančių ar greitai atsiras pakankamo galingumo superkompiuteriai, kurie galės atlikti pakankamą skaičių operacijų. O sistema paremta DI, gali pradėti "sukčiauti", dėl mokymosi ydų, susigalvoti netikrų "šortkutų", kurie "teisingi" tik "mokymų medžiagai", o per testus visko nepatikrinsi. Tada realioje situacijoje, toks "šortkutas" gali būti žiaurus klystkelis. Vienas dėstytojas sakė, kad kažkada studentams davė gan sunkų fizikos uždavinį, ir tik padiktavus sąlygą vienas studentas pasakė teisingą atsakymą. Dėstytojas nustebęs paklausė, kaip studentas taip greitai apskaičiavo teisingą atsakymą. Šis pasakė, kad sudėjo visus sąlygos skaičius. Nežinodamas kaip DI sprendžia uždavinius negali patikrinti jo rezultatų validumo, galbūt jo metodas paremtas tik sutapimais ir jis teisingus rezultatus gauna visiškai atsitiktinai, o realioje situacijoje jo klaidos gali būti katastrofiškos.