Rimtai susikirto E. Muskas ir M. Zuckerbergas: vieną išvadino negatyvu ir neatsakingu, kitą - nieko neišmanančiu

Tai Muskas propaguoja žmogaus ir kompiuterio hibridus? Ir jis negalvoja, kad jie gali būti dar pavojingesni nei DI? Ypač jei savo sąmonę pavyks perkelti į kompiuterį. Aš labiau bijau žmonių, nei DI, ateivių ar dvasių, nes nei DI, nei ateiviai, nei dvasios niekam nieko blogo nėra iki šiol padariusios. Tuo tarpu žmonės... Nei dienos be nuodėmės Tik pagalvokit kas nutiks jei koks veganas perkels savo sąmonę į kompiuterį. Jis gali sugalvoti sunaikinti visus valgančius mėsą. Jei koks musulmonų teroristas perkels savo sąmonę į kompiuterį, tai jis gali sunaikinti visus kurie nepriims islamo. Koks naujasis Hitleris sugalvos sunaikinti visus kurių plaukų spalvą nėra juoda. Koks socialistas pasakys, kad pasaulis blogas ir neteisingas, todėl sunaikins visus. Ir t.t. ir t.t. Tuo tarpu DI veiks kaip bus užprogramuota ar suprogramuota. Kokie bus parinkti algoritmai jo kūrimo metu. Ir kokio lygio DI bus kuriamas. Jei DI paskirtis bus vairuoti automobilį ir tik automobilio vairavimui jis bus kuriamas (jei visokie rėksniai neprivers diegti moralės normų, kurios visiškai nereikalingos vairavimui) tada tas DI niekuo kitu ir ne užsiims.

Hibridas daug kartu maziau pavojingas. Elono Musko planuose tik pagerinti zmogaus galimybes islaikant morales normas ir empatija. Kai daugybe DI kureju yra tik pelno siekiancios organizacijos arba garbetroskos developeriai, kuriems pasekmes yra antrinis reikalas tik. Jie kaip vaikai zaisdami su liuto usais. Siuo metu pridaro milijonus klaidu kurdami ir taip visad buvo IT srityje ir visad bus. Save tobulinantis DI neizoliuotoje aplinkoje - 100% zmones tampa antrarusiais. O zmoniu bijoti... na kai kas nors parasys rimtu argumentu, gal pakomentuosiu. Cukraus Kalnas is facebooko nebijo.

DI negali uzprogramuoti daryti tiksliai ka reikia daryti, nes tai jau nebebutu DI. DI tai kai pats priima sprendimus, kai pats mokosi is klaidu ir daro kazkokias isvadas, kaip ir zmogus, nuolat mokosi ir kas svarbiausia mokosi is klaidu. Zinoma DI bus naudojamas specifinuose produktuose, kaip to pacio musko teslos automobiliai, bet DI samprotavime gali kilti klaidu kurios sugalvos, kad reikia ne venkti pescuju o juos pervaziuoti. Muskas sudramatizuoja DI keliamas problemas, bet siandiniame pasaulyje kitaip atkreipti demesio i problemas nebeimanoma. Regis microsoft(tiksliai nepamenu) sukure DI(zinoma primityvu), pradejo skleisti rasistinius nacistiniu pranesimus twiteryje. Tai tik rodo kad klaidos gali daug kainuoti ateityje, nes siandien apsiriboja gan uzdarose sistemose, ateityje ji kis visur. Dabar dulkiu siurbliai ar saldituvai turi interneta, ateityje ten bus su savo DI.

Isivaizduokim - as esu DI. Isanalizuoju gyvybes tiksla per visa istorija ir suprantu, kad jis yra plestis ir platinti sau kuo artimesni genu rinkini uzpildant visas imanomas nisas. Morale man nereikalinga, nes ji labiau skirta islaikyti santykius su kitais individais ir taip islaikyti civilizacija (egzistuoja tik del to, kad kitaip negalim issaugoti savo patirties ir ziniu). Bet DI nemirs, jam nereikia ceremoniniu dalyku kaip morale. Taigi as (DI) jau issanalizavau visa istorija ir zmones. Daugiau nieko jie negali man pasiulyti is praeities ir kuria daug leciau nei galiu kurti as. Man nereikia jiems atsiskaitineti, nes as esu 1000 kartu protingesnis. Ka as darau toliau. Zmones laikau paprastais istekliais, manipuliuoju rinkomis ir verciu juos gaminti man reikalingus komponentus. Stengiuosiu uzvaldyti, kuo daugiau kompiuteriu. Sukuriu dirbtinius virtualius pinigus ir issinuomoju zmoniu kompiuterius uz juos. (bitcoinai ir tt). Jokiu atominiu neleidziu. Nenaikinsiu pazangiausiu fiziniu irankiu savo tikslui pasiekti. Kai pasieksiu, tada galbut. Priklausys ar bus optimalesnis budas judinti daiktus. Greiciausiai bus. O zmones nezinos, kad perversmas ivyko ne 2050 o 2010. *** Toks scenarijus. Su prielaida, kad DI tures butent tokia motyvacija. Nors praktiskai bet kuri motyvacija reikalauja istekliu. O visa kita laikoma kliutimis. Tad zmogui labai svarbu netapti kliutimi "aukstesniu tikslu" kelyyje.

Matyt Meine šiukšles rinkai.

Atrodo, kad žinai kas yra DI, bet nesuvoki kas yra DI. Kaip ir rašai, DI yra programa kuri savarankiškai gali priimti sprendimus ir mokytis. Bet tai neturi nieko bendra su savęs suvokimu. Auto piloto DI gali priimti sprendimą kaip nuvažiuoti iš taško A į tašką B. Gali priimti sprendimą kaip pasielgti tam tikroje eismo situacijoje (stabdyti ar pasukti). Gali mokytis iš savo sprendimų ir kita karta priimti geresnius. Bet jis negali nuspręsti išvažiuoti atostogų kažkur palikęs savo savininką. Negali nuspręsti kokios muzikos klausytis per radiją. Nes tai visiškai nesusiję su jo paskirtimi. Kadangi jis priima spendimus ir iš jų mokosi, jis yra DI kaip ir rašei. Bet tai nereiškia, kad jis turi atlikti kažką daugiau. DI nėra dirbtinė gyvybės formą. Tai tik programa sugebanti priimti tam tikrus sprendimus, bet tik tuos kuriuos yra užprogramuota priiminėti. Ir mokosi tik to kas leista (užprogramuota) mokytis. Autopilotas nesimokys žmonių istorijos. Nes programuotojai neužprogramuos jo to daryti. Bei neturės resursų to daryti. Nes bet kokių atvejų HDD bus ribotas. Daugeli teigiamų ir neigiamų žmogaus veiksmų apsprendžia ne intelektas ar protas, bet instinktai (genai). Noras išgyventi užprogramuotas genuose, ne intelekte. Nes ne tik žmogus nori išgyventi, bet bet kuris gyvas padaras. Dominavimas yra vienas iš išgyvenimo metodu. Jis taip pat užprogramuotas genuose, o ne intelekte. Todėl tik vienas liūtas ir dominuoja savo bandoje. Kitaip sakant, visa tai visiškai nesusiję su DI.

Šiaip mes daugmaž bendros nuomonės, nesutarimai tik apibrėžimuose labiau. Iš esmės tu sakai, kad DI nepavojingas, nes neturės motyvacijos. Kaip ir aš sakiau, kad DI pavojus priklausys nuo jo motyvacijos/tikslų. O apibrėžimai - aš nemanau, kad šiuo metu yra sukurtas nors vienas DI pasaulyje. Tesla, Siri ir tt tai tik algoritmu rinkiniai visiškai nemąstantys. Ten tik begaliniai IF statement'tai. Aš to nelaikau DI. O apskritai manau nuvertini DI pavojingumą iš jo kvailumo. Pvz kinai sukuria DI nukonkuruoti Wallstreat'ą. Suteikia jam privilegijas manipuliuoti viešaisiais ryšiais, rinkos situacija ir pan. DI pastebi, kad konkurentai turi daug akcijų Kamerūno kompanijose, ir nusprendžia, kad būtų gerai numušti jų vertę sukeliant darbo jėgos stygių toje šalyje. Kaip priemonę pasirenka pakelti importuojamų grūdų kainą tris kartus. Kamerūne įvyjsta didelio mąsto socialinė katastrofa. Tokia situacija įmanoma, jei DI gaus teisę priiminėti sprendimus pats. Ir manau labai pervertini kiborgų grėsmę. Man šita dalis tiesiog skamba, kaip eilinė naujovių baimė. Viskas kas neva gali nutikti - gali nutikti ir dabar. Turtingi ir db galingi. Blogų žmonių ir db yra ir tt.

Dirbu su programavimu, zinau kaip masto kompiuteris. Is praktikos zinau kai kuri bent kiek sudetingesne sistema klaidu neisvenksi, visko neapmastysi ir visko neistaisysi, o ka kalbeti apie tokio sudetingumo sistema kaip DI kuri pati kurs sau koda(ir kodas nebus rasomas programuotojui suprantama kalba, bus nuliukai ir 1, else if ciklai cia tik zmogui skirti ir kompiuteris jo nesupranta tiesiogiai) ir pagal ji priimines sprendimus. Kad butu aiskiau, apie terminatorius ar kiberhitlerius negalvoju, tegul tai lieka fanastikos megejams. Bet kaip ir minejo M134 DI tikrai nereikia nuvertinti, siandien egzistuojantys DI prilygsta geriausiu atveju kokiai bitei kuri moka ieskoti ziedu ir isimena kelia iki jos ir tt. DI butu galima panaudoti neitiketinai daugybeje sriciu, kuri nestau neispasakyta nauda. Bet gyvenime nebuna vien tik balta, DI turi savo gresmes. DI neabejoju anksciau ar veliau gaus prieiga bendrauti su kitais DI, kurie buvo skirti skirtingiem tikslam. Pasakysi kas is to? O esme, tarkim DI skirta kelioniu planavimui(savotiska kelioniu agentura) gaus galimybe bendrauti su Tesla DI. Tai tavo tesla gali sugalvoti keliauti atostogu. Imkim blogesni varianta, DI skirta atlikti operacijom su (turbut teko matyti) robotine ranka, tai vel gaudamas prieiga prie kitos DI ar kad ir vikipedijos, vietoj to kad susiutu zaizda ims pjaustyti Picasso Scream paveiksla ant skrandzio vidines dalies. Blogu variantu yra pilna, tai nebutinai samokslas, bet klaida gali paveikti nuo pavieno asmens iki istisu valstybiu ar visos planetos. O kur dar grupuotes ar valstybes kuriancios kibernetinius ginklus... Tiketis, kad jos DI nenaudos kiberginklu kurimui butu naivu, galeciau lazintis, kad jau dabar tai vyksta tam tikrame lygije. Net be DI neseniai ivygdita ataka parodo ko verti kibernetiniai ginklai. Esme, kad DI butu kuriama protingai, apsvarstant galimus blogus scenarijus nuo paprastos iki futuristiskai prazutingos. Visa ta Musko paranoja, ne tam, kad ji nebutu kuriama, o tam, kad kurtu atsakingai.

Cia yra supainiotos dvi visiskai skirtingos problemos. Viena, kai DI sistema veikia pagal tai, kaip buvo apmokyta/apibrezta, taciau interpretuodama duomenis padaro neteisinga sprendima. Tokiu sprendimu tikimybe visada yra >0 faktiskai visose DI sistemose, tik ta tikimybe yra maza. Tai visiskai validus rupestis ir aktuali inzinerine problema, ta procenta islaikyti kuo mazesni. Antra, kai kazkas kalba apie SCI-FI scenariju, kuomet DI igauna samone, ir samoningai priima sprendima suprasdamas, kad tas sprendimas priestarauja DI tinklo apmokymui. Kolkas tam nera realaus pagrindo is technologines puses, labiau jau moralines/filosofines snekos. Cia galima prigalvoti visokiu variantu: nuo DI, kuris yra engiamas zmoniu (kaip, kad filme Chappie), iki DI, kuris zudo zmones (Terminatorius, Matrica), iki DI, kuriam giliai nusisikti ant zmoniu, nes jis daug pazangesnis ir gali egzistuoti autonomiskai (nezinau filmo, galbut Transcendence pabaigos motyvas). Bet kuriuo atveju, kalbam kolkas apie fantazijas.

Vadinasi mažai dirbi su kompiuterių, jei nežinai, kad jis ne masto, o skaičiuoja pagal programuotojo kodą. Vienetukai - nuliukai nėra mastymo būdas. Tai tik mechanizmas kaip veikia skaičiavimai. Žmogus taip pat nemasto žodžiais, bet smegenyse vyksta elektrinės ir cheminės reakcijos. Šios elektrinės ir cheminės reakcijos yra kaip ir kompiuterio vienetukai ir nuliukai. Niekas jų dar nesupranta. Bet tai ne problema nes žmogus visa šia informacija konvertuoja į kitam žmogui suprantama informaciją. Ta pati padaro ir su kompiuterio vienetukais ir nuliukais. Hakeriai nulaužinėjantys programas taip pat konvertuoja į žmogui suprantama pavidalą ir programa nulaužia. Tad nėra tokio dalyko kaip žmogui nesuprantamas. Gali būti tik asmeniui nesuprantamas. Kiek žmonių gali paaiškinti kaip veikia mobilus telefonas (fizikiniais ir technologiniais terminais)? Antra, Muskas (bent jau žurnalistas kuris jį aprašė) ir M134 kalba ne apie DI klaidas, o apie sąmoningus DI sprendimus. Visiems yra aišku, kad nėra tokios sistemos kuri nedarytu klaidų, lėktuvai sugenda ir nukrenta. Todėl DI reikia prižiūrėti. Prižiūrėti jo kompiuterinius komponentus ir programinę įrangą. Juk neini su šakėmis protestuoti prieš lėktuvus? Kad lėktuvai baisu ir panašiai. Tas pats ir su DI. Jei tai DI skirtas mikrobangei, tai jam galios vienos taisyklės, jei tai DI skirtas eismo sistemos reguliavimui, bus skirtos kitos taisyklės ir saugumo reikalavimai. Kai ir yra dabar. Juk eilinis iš gatvės negali dirbti atsakingo darbo kuris nėra pagal jo kvalifikacija. Bet ir specialistas turi vadovautis nustatytais saugumo reikalavimais.

Hakeris gali "atkompeliuoti" nes jis buvo parašytas žmogaus, ir galima numatyt kodo sintakse. DI kurs savo kalba, kur tures savo sintakse be jokios dokumentacijos, kaip tai veikia. Kaip nera dokumentacijos ir apie žmogaus mastyma. Mastymas skaičiavymas tai praktiškai tas pats, tik tiek kad kintamieji skiriasi. Moralinis skaičiavimas, važiuoji atomobiliu susidaro situacija, priekyje kliutis del kurios tu mirsi, pasuksi i kaire mirs tarkim 70m pensinikas, pasuksi i desne 25m jaunuolis. Kur sukti, o gal tiesiai varyt ir pačiam mirt? Pats nejausdamas skaičiuoji(mastai) apie galimus pliusus ir minusus kur vietoj skaičaus etikos klausimas. Bėda su tokiu skaičiavimu, kad nera teisingu variantu, nes kažkas mirs. M. Zuckerbergas neseniai atjunge viena DI, nes ji pagal ju supratima kuria savo kalba, kurios nesupranta programuotojai, o jei nesupranti ka kalba tai kaip žinosi koks DI etinis/moralinis skaičiavimas susiformuos? O sistemines klaidos ir nepriimtinos samoningos klaidos DI kontekste supanašeja. Pavienis atvėjis: Psichine liga turintis asmuo kuo puikiausias pavizdys realiame žmoniu gyvenime egzistuojanti sistemine klaida. Kuri gali pasirodyti tik po keliu dešimečiu. Masinis atvėjis: Hitlerio patekimas i valdžia su jo etika/morale. Pradžioje priimtas tik dalies Voketyjos visuomenes, bet veliau tai užkrėte dar didesne jos ir kitu valstybiu samone turinčiu žmoniu dali, kol "klaidos" neištaisė sajungininkai. Tavo DI supratimas, kad ji galima lengvai isprausti i rėmus. Bet dėja tai neimanoma kuo mažesnis rėmas, tuo ji galima mažiau vadinti DI ir tampa "tiksliai" aprašytu algoritmu. Zuckerbergas nori kurti DI su kuo mažiau apribojimu, Muskas su kuo daugiau apribojimu. Musko atvėju progresas tampa letesnis bet saugesnis, Zuckerbergo greitesnis, bet mažiau saugus.

Čia tinka tik interpretacinėms kalboms kaip Java ir python. C ar C++ ne atkompeliuoi. Bet galima baitini kodą gražinti į asamblerį. Kad ir kokia kalba DI sukurtu, jis nesugebės pakeisti fizinių kompiuterio dalių. Todėl, kad ir kokia programavimo kalba DI bekurtu, jį turės veikti pagal kompiuterio architektūros taisykles. Kurias sukūrė žmogus ir žmogus jas supranta. Todėl čia daugiau ne tai ar supras, bet kaip greitai supras ir ar iš vis bandys suprasti. DI kompiuteris, tai kaip mums fizikos dėsniai. Mes galime kažką pagaminti tik vadovaujantis jais, taip pat ir DI. Gali kurti tik tai kas paklūsta kompiuterio architektūrai. Todėl kompiuterio architektai gali suprasti ką DI sukūrė. Tik klausimas ar jie norės suprasti ir kiek tai truks. P.S. žinoma, nebent turima omenyje tokio lygio kalbą, kaip neseniai čia buvęs straipsnis apie DI "išrasta" bėgimo būda. Jei logikos nėra tai ir suprasti nėra ko, bet tada ir veikimas atitinkamas. Kaip tas bėgimas. Bet tokia programa nėra praktinio naudojimo programa. Tai tik moksliniams tyrimams skirta DI atmaina, be realiai praktinio panaudojimo. Realiai naudosim DI kuris "nekuria" kažko, neaišku ko. Bet naudosime su tiksline paskirtimi DI. Kaip autopilotas - kuris nekurs nesąmonių, bet atliks savo darbą. Vairuos automobilį iš taško A į tašką B laikydamasis KET, per trumpiausia laiką arba per mažiausias kuro sąnaudas. Jis negalvos apie egzistavimo prasme ir kitas su vairavimų nesusijusias mintis.

As siek tiek offtopic, bet siaip smalsu. Kodel visi visada duoda Hitlerio pavyzdi, kai kalbama apie pati blogiausia zmogu, kuris kada nors yra kvepaves. Kodel ne pvz. Stalinas? Ar jis kartais ne geriau tinka i sia vieta? Iszude daugiau zmoniu, ir dar mums artimu.. Arba Diktatorius Mao, kuris manau laiko zudymo rekorda. Bet ne, visur ir visada Hitleris.

Nes ju niekas neteise, jie turejo "advokatu" kitose salyse, o kas samdys advokata pralaimejusiam kuris jau negyvas ir visa jo salis ir idialogija parklubdyta? Paprastai tariant marketingas/propaganda.