E.Muskas nesupranta tokio abejingumo: „aš vis skambinu pavojaus varpais, bet turbūt žmonėms reikia pamatyti gatvėse žudančius robotus“

Kažkada Sapiens (ty mes) išstūmė visas kitas Homo rūšis. Dabar su didžiuliu entuziazmu kuriame aukštesnio evoliucijos laiptelio rūšį. Kas gali suabejoti, kad ji neturės galimybės nušluot ir mus, savo ne tokius tobulus protėvius?

https://en.wikipedia.org/wiki/List_of_d ... tic_events http://rationalwiki.org/wiki/List_of_pr ... _the_world http://www.webtoons.com/en/comedy/adven ... sode_no=46

Dėl dviejų dalykų šitos nuorodos ne į temą gaunasi : 1. DI kūrimas ir kažkokių religinių pamišėlių kliedesiai nelabai susiję; 2. Suplakt į krūvą galimą DI grėsmę Homos Sapiens rūšiai su pasaulio pabaiga yra antropocentrizmo apraiška Pasaulis tai ne vien žmogus vis tik

We are all F*CKED! beje, kalbant apie A.I. labai rekomenduoju filma Ex Machina (2014). Superinis!

Tai Musko robotas jau pražudė gatvėj žmonių, kam čia dar papildomai gąsdint.

Tarp kitko mačiau čia kažkur internetuose labai vaizdžiai pavaizduotus moralinius testus, kuriuos turi apgalvoti autonominius automobilius kuriantys inžinieriai. Pvz., susiklosto situacija, kai tiesiog turi rinktis ką eismo įvykio metu užmuši. Tiesiog įvertinama, kad be aukų neapsieisi, reik tik pasirinkti į ką rėšiesi. Žmogus tokiose situacijose veikia pasąmonės lygmeniu. O vat inžinieriui reikia morališkai suprogramuot: "užmušiu du mokinukus vs užmušiu mamą su vaiku". Ir tokių situacijų galima prigalvot begales. ką rinktumėtės jūs? Kaip šiuolaikinis teisėjas traktuos jūsų parašytą kodą nelaimės atveju?

Užprogramtoti robotai, tai dar nuspėjami robotai, bet kai padarys tokį Roboto Dirbtinį intelektą kuris savo pagrindinį kodą pats taisys ir tobulins, tada jau viskas labai greitai pasikeis. Per filmus tai tik bando parodyti kaip maždaug atrodo, o ištikro robotai dirbtiniu intelektu bus žymiai greitesni, vikresni negu galim įsivaizduot. Ir nemaišykit, 'AI' tai nėra gyvybės forma, jis nieko nejaučia, sąmonės neturi, egzistenciškai "savyje neegzistuoja" kaip męs. Su tokio tipo AI galima labai daug naudingų dalykų nuveikt, bet lygiai taip ir atvirkščiai. Bendrai žmonija dar per dideliame tranze, kad būtų tam pasiruošus. Nors situacija keičiasi, bet vis dar daug žmonių yra užsirakinę 'savo ideologiniam teisume' o kitaip sakant 'užsirakinę savo paradigmoje'.

Nėra čia jokios moralės ir panašių nesąmonių. Jei automobilis užfiksuoja KET pažeidėja kelianti avarines situacijas, bando jio išvengti, jei negali jo išvengti, tai jį traiško ir važiuoja toliau. Čia negali būti jokios diskriminacijos. Nei pagal amžių, nei pagal lytį, nei pagal odos spalvą ar religinius ir politinius įsitikinimus. Ar dar pagal kažkokius kriterijus. Tad visos moralinės diskusijos yra tik tavo galvoje, kaip ir šizofreniko atveju.

Kodėl manai, kad kliūtis sudaro vien pažeidėjai? Kažkaip neapgalvotai karštakošiškai viską vertini. paprasčiausias pavyzdys: tu pats esi pažeidėjas, tau stabdžiai atsisakė ir leki į pėsčiųjų perėją, kur pėstiesiems dega žalia.Pasakyk kurį pėsčiąjį nurodysi žudyti? (nes kitus gali išgelbėti). EDIT: dar viena situacija, kur nėr pažeidėjų: autonominio taksi mašina tapo nevaldoma. Ką programuosi rinktis: trenktis į sieną ir užmušt keleivį, ar važiuot tiesiai į šaligatviu einančius žmones/žmogų ir sustot įstrigus gyvatvorėje taip išgelbstint keleivį? O jei net ir pažeidėjai: tu su tokiu kategoriškumu lengvai apsipręsi situacijoje: prieš nosį paskui kamuolį į gatvę išpuolį 5 metų vaikas. Tu teoriškai gali šį "pažeidėją" išgelbėti parmušdamas ramiai šaligatviu kėblinantį akivaizdų alkoholiką. ką rinksies? Taisykles (sutraiškysi tą banditą 5 metų pažeidėją vaiką, kuris net nesuvokia, kad pažeidžia taisykles), ar skrupulingai eismo taisyklių besilaikantį alkoholiką? O toks kategoriškumas neapgalvotas, kaip tavo, irgi turi man rodos psichologinį apibrėžimą. Pamąstyk kitą sykį giliau + DI (jei jis tikrai bus DI, o ne tiesiog sudėtingesnė programa) tikrai skiriasi nuo religinių pamišėlių kliedesių. Ir, kaip jau minėjau, nereikia maišyt "pasaulio pabaigos" nuo grėsmės visuomenei. Tą suplakt į vieną krūvą tai yra mažų mažiausiai pasipūtėliška EDIT2: šios dilemos atrodo tiesiogiai nesusijusios su straipsnio tema (DI galimomis grėsmėmis), bet jos parodo, kad problema reali. Mes patys nelabai susivokiame savo sprendimų priežasčių/pasekmių džiunglėse. Galimai mūsų sukurtas DI (jei jis tikrai bus savarankiškas DI) turės savo supratimą apie priežastis/pasekmes, savo supratimą apie taip mūsų vadinamą "moralę". jam pvz., gali pasirodyti, kad mūsų kertami medžiai popieriaus gamybai, arba naujai rausiama kasykla dar vienos kokios nors reikalingos žaliavos "touchscreen" gamybai, yra didesnis blogis, nei mūsų išnaikinimas. (juolab, kad mes patys dažnai nesam dėl to tikri). Kokį jis sprendimą priims? ir kokių galimų veiksmų jis gali imtis? O jei jis matys konkurencinę išlikimo grėsmę mūsų veiksmuose? Tarkim jo paties egzitavimui (ty jį palaikančių įrengimų gamybai) reikės kokios nors retos žaliavos, kurią MES norėsime naudoti jo požiūriu nereikalingam šlamštui irba žaisliukų gamybai. Kokių priemonių jis norės imtis konkurencinėje kovoje dėl žaliavos? Nesakau, kad tokios problemos būtinai kils, bet Muskas ir siūlo ne jų aklai ir karštakošiškai bijoti, bet tiesiog pradėt jas vertint. EDIT3: kaip įdomu matyt, kai shinigami deda minusą postui vien dėl to, kad nesugeba paprieštaraut diskusijos forma

Vienam straipsnyje Ilonas Maskas, kitam Elonas Muskas. Apsispreskit.

Kiek ms tavo reakcija prie vairo?

Na spausi garso signalą, stabdysi varikliu, rankiniu. Žiūrėsi kurie pėstieji greičiausiai bėga. Vairuosi į stulpą. Jei kažką numušiu bus nepavykęs bandymas išgelbėti žmones negalvojant kurį renkuosi, o ne tikslingas pasirinkimas kažkurį vieną trenkti

OpenIDuser: Kalbat apie idealius atveju, kai avarinės situacijos galima sakyt nėr. Patikslinsiu situacijas: HardAx: Kaip jau sakiau, žmogui tokiose extra greitose situacijose suveikia pasąmonė, jis tiesog nespėja apmąstyt visko įvykio metu ir graužiasi jau po to. Visi aplinkiniai daugmaž supranta, kad per sekundę tu negali visko apgalvot. O vat tau reikia dabar geriant kavą ramiai viską apsvarstyt ir šaltakraujiškai nuspręst kas mažiau vertas gyvenimo, numatyt pagal kokius kriterijus tą spręsi ir pan. Kas be ko, įvertint, kaip tavo rašytą algoritmą vertins teisėjas, jei tau po įvykio, kuriame dalyvavo DI, žuvusių artimieji iškels bylą ir kaip tu ginsies. Nepamirškit, kad šiaip čia kalbam apie ne visai tikrą DI. Jis elgiasi vis dar pagal mūsų instrukcijas, o ne pats priimdamas sprendimus pagal savo motyvus. O kaip elgtųsi tikras DI, tai visiškai neaišku. Kažkur teko skaityti, kad pabandžius kurti save apmokančias sistemas specifiniams uždaviniams spręsti po kiek laiko žmogus jau nebe suprasdavo kokiu "keliu" mašina priima vienokius ar kitokius sprendimus.

DI tai ne tupas lietuvis, jis neskries dideliu greiciu ir apie visus savo gedimus zinos gerai, DI tures ir atsargini stabdymo mechanizma del uztikrinto saugumo, bent as jau toki irengciau

sakyt, kad mašinos niekada negenda kelyje tai tikrai tupa (arba genda tik lietuviams) Atsarginiai stabdymo mechanizmai ir dabar būna įrengiami ir vis tiek 100% saugumo nesuteikia. + mano pateiktas pavyzdys su kamuoliu ir vaiku. Tu manai, kad jei vairuos kompas tai tokių netikėtų kliūčių tikrai niekada nebus? Visi tokie pasakymai yra tik bandymas išvengt klausimo apsimetant kad jo nėra.

Kai kurie asmenys mėgsta prisigalvoti dirbtinių ir ne egzistuojančių problemų, o paskui bandyti ieškoti sprendimų šioms ne egzistuojančioms problemoms. Jie įsivaizduoja, kad per DI per 1 sekunde iki avarijos sugebės sužinoti visų aplinkui ją esančių asmenų tapatybes, amžių, rases, religines ir politines pažiūras, patikrins teistumo istorijas, lygos bylas ir tada užmuš mažiausiai "vertinga" asmenį. Apie tokius dalykus net absurdiška diskutuoti. DI tikrai nenustatinės amžiaus, lyties ir nesisiųs lygos bylų kad sužinotu ką užmušti. DI vienintelis tikslas išvengti avarijos, o jei išvengti neišeina tai daryti viską kad butu kuo mažiau aukų ir kuo mažesni sužalojimai. VISKAS. Daugiau jokių problemų DI neturi spręsti. Ji neturi spręsti moralinių problemų ką užmušti, o ką palikti gyvą.

Kai kurie asmenys nemoka skaityti atrodo. Kalba eina apie tai, ką rinksis DI, kai yra pasirinkimas. O jis realiai gali būti. Minėtose situacijose jis yra. Ir gali net į lygtį įsirašyt kokį nori aukų skaičių kiekvienoje vietoje (netgi tokį patį abiejose). Taigi rinkis, užmuši esantį dešinėje, ar kairėje. Galvok atsakymą teisme prieš užmuštojo giminaičius, bei pasiteisinimą prieš savo sąžinę, kodėl dėl tavo sukurto kodo kaltės žuvo būtent tas, o ne kitas. Nežinai rasės lyties ir amžiaus? Fine, pasakyk kokiu principu duosi komandą. EDIT klausimas eina apie tavo (žmogaus) sprendimą kuriant "pseudo DI" instrukcijas kaip jam elgtis. Ir matosi, kad straipsnio tiesa iš šios diskusijos. Daug kas net nesupranta kur problema slypi. Ir čia kol kas pavyzdys su "pseudo DI". Tikras DI laisvai gali nuspręsti, kad banginių išsaugojimas yra svarbiau ekosistemai, nei niekingi keliolika/keliasdešimt tūkstančių Farerų salų gyventojų ir juos pašalinti, kaip elementarią grėsmę. Sentimentų jis jiems nejaučia, juk mes irgi dėl kolorado vabalų sau nesukam galvų ir nuodijam juos. Dar kartą kartoju: nesakau, kad jau ryt bus šitos problemos, bet aklai sakyt, kad va, savarankiškas DI bus gerutis ir mus ant rankų nešios tai irgi kvaila.

DI nieko ir nespręs, spręs atitinkamos institucijos, o užprogramuos (vienaip ar kitaip) programuotojas.

To Shinigami - sutinku kad DI neturetu spresti moraliniu klausimu. Labai jau komplikuotas sitas klausimas. Net ir paciu zmoniu nuomone kurio asmens gyvybe yra svarbesne daznai skirias. Bet taikyti taisykle kur zusta tik pazeidejai, gali visviem sukelt nemenku moraliniu klausimu. Stai pvz: Vaziuoja DI valdomas autobusas su 40 keleiviu ir jam sugenda stabdziai. Per pereja eina zmogus su kuriuo susidurimo isvengt imanoma tik autobusui staiga nusukus ir nulekus jam nuo skardzio. Ka tokioj situacijo DI turetu pasirinkt.

DarkNRG, Shinigami jau suprogramuotų šiuo atveju, kad daužt pėsčiąjį, nes matematiškai aukų mažiau. Su tokiu sprendimu gal ir +/- viskas OK ir sąžinė ramesnė programuotojo. O vat pakeisk sąlygą iki "autobuse tik 1 keleivis" Kaip čia pritaikyt žalos dydžio apskaičiavimą?