Gąsdinantis mokslininkų pareiškimas – būtų neįmanoma kontroliuoti superprotingo dirbtinio intelekto: jau dabar mašinos mokosi pačios ir programuotojai nežino kaip jos tai padarė (Video)

Nera kazkas neitiketino, kad programuotojai nezino kaip/kodel veikia ju kodas.

Dirbtinis intelektas yra nevaldomas. Todėl tik laiko klausimas, kada jo sprendimai taps priešiški... Tarkime dirbtinis intelektas gautu užduotį uztikrinti maisto kiekį reikalinga žmonijai prasimaitinti. Tai priimtas sprendimas gali būti ne maisto kiekio didinimas, o žmonių sumažinimas. Ir ne tiesiogiai, bet darant gerą žmonijai. Išvedant nauja kviečių rūšį, kuri atspari sausroms, ligoms. Tik va tu kviečių poveikis po 50 metu visišką impotencija. Žmonės ta sužinos per vėlai, o DI 50 metu yra niekis....

rand(); programuotojai nežino kodėl gražino skaičių XXX, o ne 125 ar 36.

Dirbtinis intelektas yra 100% valdomas, tik nevaldomas dirbtinis intelektas yra nevaldomas. Dirbtinis intelektas ir nevaldomas dirbtinis intelektas - tai du skirtingi dalykai. Gamtos mylėtojas nusprendė, kad žmogus yra pavojingas gamtai, tapo genetikos mokslininkų ir išvedė nauja kviečių rūšį, kuri atspari sausroms, ligoms. Tik va tu kviečių poveikis po 50 metu visišką impotencija. Žmonės ta sužinos per vėlai, o tam gamtos mylėtojui poxui po 50 metu jis jau karste gulės...

Sia tema perklausiau Max Tegmark - Life 3.0. Nick Boztrom- Superinteligence nesugebejau iki galo iveikt, nes per sunki techniskai. Viena is labiau istrigusiu minciu, kad jeigu kalbetume apie superintelligence AI, zmoniu norai tokiam protui gali buti tiek aktualus, kaip mums butu aktualu skruzdziu noras statyti skuzdelyna.

Rimtai kalbant DI iš vis gali nerūpėti gyvybė jei neužprogramuosi kad tai jam rūpėtu. Žmogui gyvybė rūpi nes jam reikia gyvybę valgyti kad jis išgyventu, o kam DI rūpintis gamta? Jam gali rūpėti tik du dalykai: ištekliai reikalingi kompiuterinių sistemų gamybai, kad galėtu tapti dar protingesnis arba kad kitu į save prigamintu; antra butu energija kad galėtu pats veikti. Viskas. Žmogus? Augalai? Gyvūnai? Kodėl jam tai turėtu rūpėti? Jam iš vis gali labiau rūpėti palikti Žemę ir iškeliauti į kitas planetas ar kometas kur yra daug reikiamu išteklių.

Kvaila mintis. Protingiems žmonėms yra aktualus skuzdžių noras statyti skurzdelyną. Nes jie suvokia skruzdžių svarbą aplinkai, kurioje žmonės gyvena.

Tai butent ka dabar kalbat, butu paciu programuotoju spragos, kurias kaip ir butu galima numatyti. Ir kaip AI elgtusi, mastom tik per musu isivaizdavimo prizme. Esme tame, jei kalbetume butent apie superintelligence AI, kaip toks protas elgtusi galim tik postringaut, realiai neturint ne maziausio supratimo, kaip butu istikruju. Superinteligence AI tai ne terminatoriai ar dar kas is filmu, kur zmones laimedavo. Pries tokia sistema zmogus neturetu jokiu galimybiu konflikto atveju. Bet kokiu atveju mano mintis, kad galim svaigt apie kvailas programuotoju klaidas, bet jeigu kalbetume apie neisivaizduojamai protingesne sistema, mes net negalim isivaizduot kaip ji elgtusi, kaip skruzde negali isivaizduot zmogaus intelekto.

Jeigu AI būtų protingesnis už savo programuotojus, tai ta sistema savo dirbtinius apribojimus nulaužtų per sekundės dalį, todėl jokios suprogramuotos taisyklės, ale negalima skriausti žmogėnų, jam negaliotų arba tai nebūtų tikras AI. Taigi vienintelis vertas klausti klausimas yra: ar AI biologinę gyvybę matytų kaip vertą išsaugoti (ir kaip žmonės, pastoviai naikinantys kitas rūšis, į šitą vaizdą įsipaišytų), kaip paprasčiausią resursą, parazitus, o gal tiesiog nevertą dėmesio išorinės aplinkos elementą.

galima samprotaut, kad is pradziu su AI ekspermentuotu uzdaroj sistemoj, ir cia jau jokie kodu nulauzimai nepadetu. Reiktu zmogaus pagalbos, kad prijungtu prie bendros sistemos, panasiai kaip filme "transcendence". Idomu kada atsiras samoningos programos, nes tik tokios realiai gali kelt pavoju, kuri tu aprasei. Nes jau dabar yra programu protingesniu uz zmones kai kuriose srityse. Kalbu apie Alpha go. Bet tokios programos nesuprantu, kaip galetu but pavojingos.

zmoniu pagalba galimai galetu apgaut zmogu ir tiek kaip filme upgrade

Kad tam mūsų sukurtam dirbtiniam intelektui iki tikro žmogaus dar kaip iki mėnulio. Dirbtinio intelekto sistemos yra griežtai specializuotos ir skirtos konkrečiam uždaviniui spręsti.Kad padaryt kažkokią žalą jos turi turėti vykdymo priemones kažkokias. O kad atskiram kompe bus labai protinga sistema tai žmonijos nesunaikins. Na, tinka terminatoriaus scenarijus, kur dirbtinis protas paleidžia atomines raketas. Bet tos sistemos taip paprastai iš bele kur nevaldomos, galų gale net elementari elektrinė ar gamykla turi gerai apsaugotą valdymo sistemą prie kurios iš šalies neprisijungsi

Ne visai taip atrodytų esmė. Vienas iš pagrindinių klausimų yra ar superintelektas norės/turės būti gyvas./? T.y. ar jis norės pats iš savęs turėti tikslą, emocijas, savisaugos procedūras/instinktus ir t.t.? Kitas pagrindinis klausimas. Ar negyvas (savyje nesimotyvuojantis) superintelektas gali kaip nors peržengti „superbibliotekos“ galimybių ribas? Dar kitas pagrindinis klausimas. Ar aplamai/teoriškai yra galimas/įmanomas (superuniversalus) supermotyvatorius superintelektui? .....

Geri klausimai. Jei DI neatsiras vidinis poreikis, kažkokiu tai programuotojams nesuprantamu būdu, džiaugtis gyvenimu, daugintis, jei neatsiras baimės - išlikimo instinktas, visa tai galima mėginti suprogramuoti..., tai bet kuriuo atveju net ir pats super super DI bus tik pagal tam tikrą algoritmą veikianti programa... O jau kaip ta programa suveiks, priklausys nuo programuotojų.

tu esmiu tu gali kiek nori prigalvot. Tavo mintis nuo manosios skiriasi, bet nereiskia kad priestarauja, tiesiog ji kitokia. Atsakymas i tavo klausima paprastas. AI motyvatorius yra uzduotis. Siuo klausimu bene zymiausia "paperclip maximizer" ideja.Cia gali pasiskaityti kaip nekalta uzduotis, gali tapti zalinga zmonijai. https://en.wikipedia.org/wiki/Instrumental_convergence bet cia kaip ir turiu galvoj paprasta AI. siulyciau pasiskaityt apie superintelligence https://en.wikipedia.org/wiki/Superintelligence kad suprastum, kad superintelekta, negali siet su superbiblioteka. Tai yra kur kas aukstenio lygio sistema.

Jei bus sukurtas tikras intelektas ir taps gerokai pažangesnis. Tai kokios garantijos kad jis mąstys kaip žmogus ? Didelė tikimybė, kad jo mąstymas gerokai skirsis nuo žmogiškos. Ir jam net nebus įdomus žmonijos naikinimas. Žmonės taip patys išsigalvoja, nes jie įpratę vienas kitą naikinti dėl įvairių priežasčių... Tai gali būti visai kita erą mąstymo sritį. Ir šito žmogus nelabai atspės, nes jis kitoks...

.