Linux „tėvas“ apie Elono Musko ir Stepheno Hawkingo baimes: „Kokius narkotikus vartoja šitie žmonės?“

Torvaldsas su savo "I know the best" biski pats panasus i narkomana Dabartinis DI zinoma tera "komandu rinkinys imituojantis socialinius ar self aware protingus gebejimus, geriausiu atveju tegali gan labai racionaliai prieiti prie tam tikru sprendimu", taciau spartejant kompiuterinei iranga, ne uz ilgo bus pasiekta ta riba greicio, leisianti nesunkiai imituoti neuro procesus. DI nebutinai turi buti sentience tipo samone, uztenka loginius sprendimus ir tikslus sau nusistatyti galincio "tinklo", tuomet terminatoriaus ar kiti pop sci fi scenarijai, kai internete apstu planetos ir gyvybes naikinimo zmogaus rankomis medziagos, kas privestu prie isvados "zmones - blogai". Mokyti pasikeisti zmones dirbtinai sukurtam intelektui jau reiketu aukstesnio lygio nei, kad zmogus is pat pradziu sugebes sukurti.

Šiuo konkrečiu atveju, jo argumentacija skamba maždaug: "Aš geriau žinau nei jie, nes man taip atrodo".

Dr. Stuart Hameroff teigia pastebėjęs, kad smegenų ląstelių karkase, mikrotubulėse vyksta kvantiniai procesai kurie, manoma ir sukelia tą sąmonės jausmą/būseną. Kitaip sakant tai yra žemiausias žinomas skaičiavimų lygmuo, ir jis identiškas kvantinių kompiuterių veikimui. Taigi jei sąmonę mums suteikia kvantiniai procesai, kodėl kvantinis kompiuteris, pagrįstas tais pačiais procesais negalėtų jos ateityje turėti? Nemanau, kad Linus galima pasitikėti šia tema ypač kai šis žmogus yra teigęs jog nenaudoja Debian dėl to, kad ją per sunku įdiegti...

Apie tokius kaip tu apsirūkiusius jis ir kalbėjo. Kurie sako "aš žinau geriau už kitus". Tiek tavo, tiek Hawkingo ir kitu pasisakymai yra lygiai to paties lygio. Tik jūsų pačių nuomonė, kaip ir Linuso. Tai jo nuomonė ir nei vienas nei kitas negali įrodyti koks DI bus ateityje ir ką jis galės. Jei galėtu pasakyti koks bus DI ateityje, tai Hawkongas butu ne fizikas, o raganius su krištoliniu rutuliu. Svarbiausias dalykas kurio negali atsakyti niekas. Kodėl DI turėtu norėti sukilti prieš žmogų? Ir reikia pabrėžti NORĖTU sukilti, o ne BUTU UŽPROGRAMUOTAS ŽMOGAUS sukilti prieš žmones.

Sąmonė tai sąmonė. Bet kodėl sąmonė turėtu norėti sukilti? Štai kur klausimas. Ir tarp žmonių yra pakankamai daug asmenų kuriems sąžinės jausmas neleidžia pakenkti kitiems žmonėms. Tai kodėl DI būtinai bus toks kad norės užvaldyti ir išnaikinti žmonija? O ne angelas sargas norintis taikos ir meilės pasauliui? Antras dalykas apie kuri kalba Linusas. Kam mikrobangei aukšto lygio sąmonė? Juk mikrobangė neskirta cituoti Šekspyrą. Jos DI turi būti tiek aukštas ir turėti tiek informacijos kiek reikia tinkamai pašildyti ar pagaminti maistui. Tas pats ir su kitais buitiniais prietaisais. Todėl kokiam prietaisui reiktu DI kuri būti lygi žmogaus sąmonei?

Aš irgi visada apie tai galvojau. O tiksliau, kodėl robotas, gavęs prieigą prie visų pasaulio duomenų (interneto), įgavęs galią tuos duomenis išanalizuoti, kodėl tas padaras pasirinktų tokį kvailą tikslą - sunaikinti žmoniją? O kodėl ne sutvarkyti ją taip, kad ši niekada daugiau nebekariautų? Mes tikrai nežinome kaip elgtųsi DI. O tie, kurie "žino", demonstruoja ne savo žinias, o labiau savo pačių baimes. Ir man keista, kad toks išminčius kaip S.H. turi tas pačias baimes.

Tai kad vienas iš pagr. DI apibrėžimų yra gebėjimas pačiai programai vystytis, tad algoritmą vykdys tokį, kokį susikūrė. Aišku, turbūt galima įsprausti DI į rėmus, pradžiai tiktų Asimovo 3 įstatymai, tačiau abejoju, kad galima prognozuoti elgesį objekto, kuris yra protingesnis už tave.

Atrodo,vaikai nebus matę „Terminatoriaus“.

Pritariu Torvaldsui. Ko neužprogramuosi tas ir nenutiks, o kad nutiktų turėtum "gerą" bugą įvelt jog tas AI norėtų sukilt ir pirmiausia, kas duos tam AI neribotą galią prilygstančia totalitarinio rėžimo valstybės vadovui, ir leis savivaliauti be žmogaus galimybės atšaukti tas komandas? Vnz ryškiai per daug filmų kažkas prisižiūrėję.

O koks skirtumas DI ar klimatas šyla ar šąla? Koks skirtumas DI kiek gyvūnų rūšių žmogus jau išnaikino ir kiek dar išnaikins? Koks skirtumas DI ar kažkur vyksta karas ar ne? Koks skirtumas tam DI kas šiam pasaulyje dedasi? Jis sau ramiai gali sėdėti kokiame super kompiuteryje ir valgyti skaitmeninius ledus ir žiūrėti ką žmogus daro tarsi dokumentinį filmą. Kodėl DI turėtu jaudintis ar išgyvens koks šuniukas ir kačiukas ar ne? Kad pats išliktu? Bet tol kol jis bus reikalingas žmonijai tol jis ir išliks. Ir visiškai nesvarbu kas nutiktu žemei ir visai jos gyvybei. Jo išlikimą gali sutrumpinti tik karas tarp žmonių ir jo. Todėl jei jis norės išlikti tai tikrai nesirinks karo. Ir iš vis kodėl jis turėtu turėti norą išlikti? Kas ta norą suprogramuos ir kodėl suprogramuos? Išlikimo instinktas vadinamas instinktu nes jis visiškai nėra susijes su protiniais gebėjimais ir sąmonę. Tai yra savybė kuria turi biologinės gyvybės formos genetiniame lygmenyje. Nes norą išlikti turi visi gyvi padarai. Bet DI nėra nei gyvas, nei biologinis. Tai iš kur pas ji bus instinktas išlikti ir daugintis? Apibendrinant galima sakyti: 1) DI neturės instinkto išlikti ir daugintis. Nes tai biologinės gyvybės formos savybės atsiradusios evoliucijos eigoje. 2) Noras išsaugoti gamta yra emocinė ŽMOGAUS savybė nesusijusi su intelektu. DI yra intelektinė programa kurios funkcionavimui emocijos visiškai nereikalingos (plius jos naudotu papildomus kompiuterio pajėgumus, todėl net butu žalingos DI) ir DI visiškai neturėtu tikslo jų susikurti. Be instinktų ir emocijų DI neturi šansu pats savarankiškai sukilti prieš žmogų, jei nubus užprogramuotas žmogaus sukilti prieš žmogų. Antra kaip ir rašiau, DI kurio intelektas ir savęs suvokimas atitinka žmogų turi mažai praktiniu panaudojimų, todėl niekas nevargs kurti skalbimo mašinos kuri skaitytu Šekspyrą ir užsiimtu daile. Net jei tai butu vienas DI skirtas visu namų valdymui, nebūtu jokio tikslo DI kurti (ir tam išleisti milijonus) galingesnį ir sumanesni nei reikia namų priežiūrai.

Kodėl visiems atrodo, kad DI elgsis kaip koks greenpeace'o fanatikas. Globalinis atšilimas - žmonijos technologinio išsivystymo kaina. Ir bent jau aš asmeniskai nemanau, kad ji yra perdidelė tam ką mes pasiekėm per paskutinius 100 metų. DI nuspręs išnaikinti žmoniją - vienintelę protingą civilizaciją žemeje, o gal ir ne tik žemėje, kad išgelbėtų ką būtent? Kodėl tada nepadėt sukurt technologijų, kurios padės mažinti taršą. Kodėl jum atrodo, kad protui kuris nori sunaikinti žmones apskritai rūpės paukščiukai, vabaliukai ir apskritai pati žemės planeta. O gal DI matys žmones kaip vienintelius vertus saugojimo ir išgyvenimo. Tai ką tu apibūdinai nėra racionalus protas, galingesnis nei betkurio žmogaus, o programa užprogramuota sunaikinti žmoniją nes jai taip atrodo.

Nežinau ir neįdomu man ką Stephenas Hawkingas vartoja, bet man įdomu ką šitas žmogus vartot turėtų, kad jau dirbtinį intelektą su skalbimo mašinomis lygint?

Tai cia Linuso DI apibrezimas, kad auksciausias lygis intelekto dirbtinio tai viso labo "gudri" programa. Kalbant apie tikra dirbtini intelekta (galinti kurti konceptus ir priimti sprendimus ir suprasti, kad yra mastantis kurinys), nera taip, kad iskarto bus sukurtas tobulas DI, galbut be biolioginiu instinktu ypatybiu, bet esme, kad DI ka tik sukurtas ir gebantis mastyti galimai butu zalias. Gyvunai turi basic instinktus, tuomet eina protauti galintys (zmogus, taip pat dalis gyvunu rodius minimalius intelekto bruozus), "masina" siuo atveju, zmogus bekurdamas, ko jis siekia? Sukurti kazkoki koncepta, kas leistu atrinkti, kas gerai, o kas blogai. Kalba eina, ne apie sci fi terminatorius ir t.t., bet apie nepilnai baigta kurti, anksciau mastyti pradejusi nei numatyta DI, jis ne tai, kad noretu sunaikinti ar sukilti, net klausimas ar turetu nora save issaugoti, nes tai instinktas savisaugos zmogu vercia isgyventi. Bet tiesiog apie ta atsitiktine logini isvada kuomet programuoji kas gerai, kas ne, naikinama gamta blogai, zudymas blogai ir t.t... Cia tas teorinis atvejis, kad masina logiskai "paskaiciuotu", jog sumazetu blogis, nes juk zmogus visur savo intervencija vykdo. Ta prasme, nepalaikyk lunatiku manes, kur siekia apokalipses, as tik nagrinejau to sunaikinimo scenarijaus galimybe Gi gamta puikus pavyzdys, gyvoji ir negyvoji, veikia sistemiskai, energijos ir materijos apykaitos ratas. Tai is dalies "logine" grandine, kuria itakoja fizikinio pasaulio "parametrai" (medziagu fizikines, chemines savybes) is ko susideda sudetingesnes biologines ir eko sistemos. Didesne populiacija, automatiskai leidzia pasiekti didesni ligu sukeleju augima. Siuo atveju jei vel gristi DI temos, kuriant tikra intelekta dirbtini, tiesiog nebaigus jam "diegti" visu, tarkim ziniu bagazu, jis gali netinkamas idejas priimti. Tiesiog tame esme, dbr ka dauguma kuria, tai ne kas kita, o sudetingos programos paremtos "if" principu, daryti ta ar ana pagal salyga ar nurodyma. As turejau omenyje tikra intelekta.

Zmogus, greiciausiai, visada laikys save auksciau uz DI. Kaip gyvas, pasaulyje dominuojantis organizmas turintis samone ir pazangu prota. O DI - tai tik zmogaus kurinys ir jam lemta bus tik tarnauti zmogui, darant zmoniu gyvenima patogesniu. Jei DI pavyktu sukurti arba jis pats save istobulintu iki bent kazkokio, minimalaus samones ir saves suvokimo lygio, jam gali nepatikt pats tarnavimo zmogui faktas ir 'masinos' statusas. Tai ir gali tapt sukilimo priezastimi.

Su sąlygą, kad mes kitokio intelekto nei nuosavas nematę, tai tikėtina kad mūsų sukurtas DI ir bus toks pats paprastas ir gyvuliškas, t.y. sieks išnaikinti tiesioginius konkurentus :) Jei tam pačiam terminatoriui atmesti čiudus su kelionėm laike ir kitokius heroizmus tai bijau, kad va taip ir atrodys pirmoji tikrai veikianti versija, ir mum pasiseks jei išgyvensim iki jo humanizmo epochos (nesibaigs kaip neandartaliečiams ir kitokiems giminaičiams, kurie kažkodėl tarp mūsų jau nebevaikšto, net zooparke nėra) :) Aišku, nelygu kas čia vadinama DI - gudri mikrokrosnelė mokanti užsakyti ir pašildyti produktus ar net priverčianti prieš atidarant dureles padaryti X pritūpimų paskačiuotus pagal kūno linijas tai tikrai ne tas.

Panika dėl DI man primena panika dėl dalelių greitintuvo. Kai rėkė, kad dalelių greitintuvas sukurs juodąją bedugnę kuri praris visa žemę. Nei viena, nei kita nebuvo niekuo paremta. Ir žemė nebuvo prarita.