„Microsoft“ vadovas: jei nesuvaldysime dirbtinio intelekto, laukia orveliška ateitis - ir tai gali įvykti greičiau nei įsivaizduojate

Neišvengiama. Kompai galu gale vistiek pergudraus žmones. Tiksliau patys žmonės vis daugiau norės kompais tapt, kol daeis iki 100%. Nes, jei bus chipas smegenyse, būsi pranešesnis už kitus darbe, uždirbsi daugiau pinigų ir t.t. Galiausiai realybę suvokiame tik per 6 pojūčius, kuriuos bus galima simuliuoti programiškai. Įdomu, ką žmonės- mašinos pasirinks ar sąveiką su fiziniu pasauliu ar sapnus (virtualią realybę). Žmonių evoliucija užtruko milijonus metų, jei skaičiuojant bakterijas, gal milijardus, o kopams nei 100 metų nėra - progreso kreivė milžinišku greičiu (žmogaus evoliucijos atžvilgiu) kyla aukštyn.

Tik laiko klausimas, kada jis bus sukurtas ir taps nekontroliuojamas (nebent koks nors atominis karas įvyks anksčiau). Kaip rašė Max Tegmark knygoje "Life 3.0" (nemokamai audio knyga yra youtube), kai AI taps protingesnis nei žmogus, pabėgti bus kaip suaugusiam žmogui ištrūkti iš kalėjimo, kurį saugo 5-iamečiai. Kaip tėvai pagimdę vaiką negali garantuoti, kad jis netaps nusikaltėliu, taip ir čia - tiesiog AI reikia "auklėti" gerais pavyzdžiais ir kad mūsų vertybė sutaptų su AI. O dėl virtualios realybės - tai daug efektyviau nei fizinis pasaulis. Gal dėl to ir niekas neranda ateivių, nes jie užsidarę savo matricose ir jiems nėra prasmės kažkur afišuotis.

Realiai mūsų progreso kreivė šauna į viršų jau kokius 5 tūkstančius metų, nuo rašto išpopuliarėjimo. Kompai tiesiog gali labiau sukoncentruoti žinias, paspartinti procesus, ar palengvinti komunikaciją. Dėl čipo smegenyse kažkaip esu skeptiškas. Pvz mobiliakas yra labiau nešiojamas, bet su juo nėra taip lengva manupuliuoti informacija kaip su kompiuteriu. Google akiniai neprigijo. O valdymas balsu irgi turi savų minusų. Neatrodo kad mažesni įrenginiai suteiktų efektyvumo. Dažniausiai tam padeda daugiau ekranų. O iki pilno integravimosi į neuronų tinklą dar tolokai, todėl sunku apie tai kalbėt, net potencialių galimybių nežinome. Smegenų skaitymas su šalmu taip pat yra ganėtinai neefektyvus, kaip įvesties principas. O dėl dirbtinio intelekto reikia panikuoti tiek pat kiek panikuojame dėl tarpkontinentinių raketų nukreiptų į strateginius pasaulio taikinius. Taip tai potenciali problema, ir jau yra autonominių karybos technologijų, bet dažniausiai žmogus nuspaus mygtuką įjungiantį tą naikinantį prietaisą.

Dideles problemos prasides jau tada, kai atsiras galimybe save dirbtinai tobulinti - prota, atminti, t.t ir aisku fizines savybes. Dabar darbo interviu visi turi kazkiek panasias galimybes. Darbe Performancas visu panasus. Bet ateity turintys daugiau pinigu igaus didziuli pranasuma ivariose srityse, turedami patobulinimus. Bus labiau paklausus. Tai, manau lems stipru socialiniu klasiu pasiskirstyma. Gal net bus kaip kastos. Arba kaip seriale 'Altered Carbon' 'patobilinti' gyvens padebesyse, o atstumtieji kazkur pozemiuose.

Sakykim atsiranda kažkoks hipotetinis čipas, tai kiek jis kainuos? Arba bus ant tiek brangus, kad tik nedidelė dalis jį turės, tai žmonių rinka vis dar lieka, arba kainuos kaip geros studijos. Tai su paskola bus įperkamas/atsipirks. Galbūt pats darbdavys dalins darbuotojam čipus. Dabar automobilis brangus, bet kokį pranašumą suteikia žmonių judėjime. O traktorius suteikia pranašumą ž.ū. Tokį, kad visi ūkininkai be traktorių gali tik pavydėti. Ar tai jaučiame kaip neligybę? seniai nebėra visi lygūs. Šiaurės/rytų Europoje gal +/- ir lygūs, bet kituose kontinentuose prasideda visokie privatūs koledžai, universitetinis mokslas už kosminę kainą. Jav gimęs prastam rajone statybinko ir pardavėjos šeimoje sunkiai tapsi mediku. Tas pats Indijoj, afrikoj. O tai jau daugiau nei pusė pasaulio.

HardAxe paskutiniu metu pasidare komunistuojantis. Tik ner tu geru komunistu pavyzdziu ir nebuvo.

Čia ne komunizmas o realybė. Komunizmas yra kai tokią nelygybę bandai spręsti padarydamas visus vienodai neturtingais.

jeigu DI ir trikojai efektyviai sektų kiekvieną gatvę ir automatiškai nuskatytų baudas, tai būtų komunizmas? O gal tiesiog gera įstatytymų vykdomi valdžia? Juk taisykles ir baudas nustatys žmonių renkamas seimas, ne greičio kameros. visiem prieinamas mokslas (aka čipai ateityje), čia socializmas? kai visi "susimeta" silpnesnių lavinimui, keldami bendrą šalies lygį. Aš niekada negalvojau ir neteigiau, kad viskas turi būti valdiška ir dalinamasi. "Išlygink" viso pasaulio žmones, versliausi ir darbščiausi neužtruks metų atgauti savo pozicijas. Šiai dienai DI yra tik įrankis. Blogiausia ką jis galėtų padaryti, tai įsisukti į finansų rinkas ir pripūsti išskirtinai tik turtingų žmonių pinigines. Bet pasaulio jis neužvaldys

Aa ehem. Wallstreet? Ten jau senai nevyksta taip kaip 80s filmuose (kurie beje buvo prieš 40 metų kurti). Sėdi IT personalas, ir optimizuoja prekybos botus. Tie botai senai turi "machine learning" galimybes. Bet eilinis žmogus į tą rinką negali įeiti, nes yra dideli mokesčiai tokiam prekybos pagreitinimui. Taip kad tik turtingų pinigines išskirtinai ir pučia.

superinė knyga, ypač patiko antra knygos pusė, kur buvo įsivaizduojami galimi Di ir žmonių santykių modeliai, bei Di galimybės kosmoso tyrinėjime. Užsihaipines knygos gerumu, iškart bandžiau paklausyt ir kitą knyga šia tema Nick Boztrom-superintelligence. Nežinau, kaip ištvėriau daugiau nei pusę, bet ryškiai per sunkiais terminais sudėliota viskas. 3 sąraše yra Roger Penrose-emperor's new mind, bet kiek girdėjau irgi sunkokai skaitos/klausos, tai po |Boztromo kankynės, bijau net pradėt.

Išvis DI išsigalėjus mūsų darbui nebereikės, nes kompas padarys, o verslininkas prieš di.... . Greičiau mumis augins arba auginsimės kaip naminiai gyvūnėliai ir būsim ekonomikoje kaip kokia vartojanti avinų banda su nustatytais išmokų limitais, nes di su 2proc intelektualų reikės atpirkti investicijas į technologine pažanga. Na mes aišku galėsim mokslus dirbtinai į galva per kokį neurolinka kalti dėl ko būsim apynormaliai ir mokyti tik lėtesni už di. Žinoma turėsim atgyventi savo gyvenimo minimalius limitus ir per pinigines išmokas būsime skatinami daugintis, o einant saulelei vakarop galėsime atsikratyti savo biolognių kūnų ir apsigyventi serveryje kompo palaikomame simsičio ir gta hibridineme pasaulyje. Jei norėsime fizinių kūnų mūsų virtualius įrašytus neuroninius tinklus su info perkels į gerai atkaltus robotus kurie buvo gerai atidirbti paslaugų sektoriūje ar pradineme visuomenės vystimosi etape kai konkuravome su robotais ir išsiunčiami į kitas planetas teraformacijai. Žinoma robotai kitoje planetoje sukurs kolonijas su bazine infrastruktūra pasisvečiuoti gyviems žmonėms, o patiems robotams nereikės vandens, maisto. Aišku iki tokio pasaulio su išrinktaisiais galime prisigyventi tik sunkiai sektūsi atpirkti moksline pažanga nuo servų virtualiams neurotinklui iki kosmoso kolonizavimo, nes gerokai sumažintų ekonomikos apimtis.

Totalus absurdas. Visų pirma neturime technologijų tam daryti. Jau senai yra žaislai skaitantys mintis, bet pati technologija yra ganėtinai ribota. Yra priežastys, dėl ko dangoraižiai nebūna 5 km aukščio, negalime su vienu lėktuvu nuskristi iki kentauro alfos, ar išgerti ežero. Taip kad nereikia tikėtis, kad kažkokia kompanija skelbianti kad turi technologijas iš sci-fi filmų, nėra scamas. Visų antra kompiuterio dirbtinis intelektas niekada nebus lygus žmogaus intelektui. Tam yra daug priežasčių, ir yra daug skirtumų. Tai kas dabar vyksta technologijose kelia per daug panikos neišmanantiems to. Mašininis mokymasis gali būti geriausiu atveju kaip priedas žmogaus intelektui. Pvz masinis veidų atpažinimas kinijoje sutaupo savaites darbo kai policija gaudo tą kuris pavadino jų prezidentą mike pukotuku. Taip pat prekybos botai kuriuos minėjau ankščiau. Ar kad ir gamyklų automatizavimas (nors nežinau ar ten naudojamas mašininis mokymasis). Tai tiesiog yra pagalba žmogui. Taigi šiuo metu tai ką vadiname DI, yra tiesiog pagalbinės programos. Vėlgi nieko tokio kaip sci-fi filmuose, kur DI yra kaip geresnis žmogus. Bet tarkim, jei atsiras pavojingas DI, jo sąmonė bus labiau kaip skruzdėlės. Labai motivuotos ir pavojingos skruzdėlės. Nereikia didelio proto kad kažką nužudytum. Ir tokiam DI nebūtina suvokti meno, ar atlikti kitas nebūtinas funkcijas, kurias sugeba žmogus. Ar tokiam DI reikės bendradarbiavimo su žmonėm?

Nemanau, kad buvo/yra deklaruojamas žodis "neturtingais" komunizme. Buvo ir yra deklaruojama lygybė: visi dirbs ir normaliai gyvens. Jei tarybų sajungą būtų kūrę su tokiu lozungu - "biednai, bet teisingai" tai būtu nepatraukliai atrodę. Ir lotynų ameriką su Chiagiavara kažin ar būtų sudominę.

Sutik, negali žinoti, kokios technologijos bus sukurtos per 100, 200 metų.

Pačioje pradžioje taip ir bus. Dar reikės išgyventi konkurencinį laikotarpį kai be menkiausių skrupulų pralaiminėsim visose srityse ir masiškai pradės trauktis darbo vietų skaičius ištisomis ūkio šakomis dėl di diegimo. Tikriausiai reikia nepamiršti, kad di jau koda gali rašytis pats sau, o kalba jau di kūrėsi pokol facebookas atjungė tokius samaučkas. Didžiausia problema bus psichologija kai reikės 60 proc žmonių suvokti, kad jie bedarbiai ir darbų neturės už minimalius poreikius patenkinantį atlygi, o jei norės dirbti dar ir prisimokėti turės, nes esant lėtesniam ir nesiplečiant rinkoms tai pavirsta sanaudomis ko schematiškai nesuvokė sovietai ir ką muilina visokie neoliberalai dankstydami konkurencijos, asmeninių pastangų beprasmiškumą. Dėl di poreikio bendradarbiauti nėra aišku koks di bus ar bus kontroliuojamas per klasifikatorius sukuriant logine architektūrą ir žmogui leidus nukopinama kitiems di masyvams ar di turės savireguliacinius mechanizmus. Jei di nesukurs savasties bus gerai, o jei sukurs galės kartu su mūsų protais ir robotiniais kūnais įsirašyti į teraformuojamos planetos serverius. Panašu, kad monitoringa turėsim vykditi belekuriuo atveju per klasifikatorius, kad neprikurtų informacinio šabakštyno kurį supranta ir nesusitvarko tik pats di. Dėl meno suvokimo tai jau di peckioja ir muzikyte kuria tik dar nesugeba suvokti kam to reikia kaip skruzdelytė statydama skruzdelyna, o jei tokios atsiranda statybininko nebereikia kaip ir inžinieriaus su architektu kuriuos pavaduos nieko nesuprantantis di peckiojantis paveiksliukus ir pripeckiojantis šimtais per dieną ir vis kokybiškiau. Nesvarbu ar di supranta ką ir kodėl kuria, svarbu, kad tai daro geriau už mus. Didžiausia problema di kaip ir vakcinų kūrime yra skirtingi standartai ir susikurtos informacijos uždarumas. Dėl scamo kai gali evoliucionuoti 24/7 tai laikas di pusėje, o laikas labai svarbu todėl jei dabar tai scam ir apribojimas ssd su cpu-gpu ir info uždarumu tai ryt koks zukerbergas gali servo neatjungti. Dėl smegenų nuskaitymo žinoma dar negalima to daryti, o po 25 metų gal ir galėsim, nes bitus neužilgo galės saugoti atominės struktūros kurios jau pradės lenkti polimerus iš ko sudaryti mūsų baltymai kuriose tikriausiai ir saugoma info smegenyse.

Dėl meno, tai tik žmonių darbų plagijavimas. Nors realiai tai yra paplitę ir tarp netalentingų menininkų, kai vieni nuo kitų plagijuoja. Algoritmas su mašininių mokymuosi yra daug efektyvesnis plagijavime, bet tai nereiškia kad jis suvokia ką piešia. Ar iš vis ką nors daugiau. O informacinis šabakštynas jau senai egzistuoja. Jei rašai programą ne su žemiausio lygio programavimo kalba, tavo kodas bus kompiliuojamas. Ir labai sunku pasakyti koks kompiliatoriaus išspjautas rezultatas bus, tas pats kodas dviejuose neidentiškuose kompiuteriuose gali būti sukompiliuojamas į skirtingą paleidžiamajį failą ar biblioteką. Modernūs paketų valdymo įrankiai kartais taip persistengia su suderinamumu, kad priinstaliuoja tūkstančius failų vienai funkcijai atlikti. Windows katalogas nuolat didėją, laikydamas įvairias šiukšles. Ir tai dažnai vyksta, nes programuotojai nesupranta vieni kitų darbo, ir nebeegzistuoja žmonės kurie visą sistemą gali pilnai suvokti. Dėl to matau didesnį pavojų kai spageti kodas nefunkcionuoja taip kaip nori, nei kažką iš DI pusės. Ten raklamoje buvo sakoma "žemdirbystė ūkininkams, konvejeriai darbuotojams, mirtis kariams, o visa valdžia tarybų stalinui". Ar kažkas panašaus. Iš karto buvo aišku kur keliaus visi turtai.

Dėl perkėlimo čia aišku fantazija, bet aš galvoju čia panašiai kaip su tv priedeliu kuris skaitmeninį signala vertė paprasta tik čia būtų atvirkščiai. Miego metu kai smegenys apsimoko per priedelį prijungtų prie dirbtinio pasaulio ir galėtų daryti smegenų nurašyma, įrašyma per neurolinka. Kai miego metu žmogus pradėtų gyventi savo gyvenima virtualeme pasaulyje žmogui suleistų mirtį sukeliančių vaistų, o neurolinkas ir toliau dirbtinai siūstų signala su elektriniu inpulsu info apsikeitimui kol galiausiai gautų malonumo doze mirštant tikroms smegenims. Kai info nebegautų beliktų atlikinėti kūno utilizavimo procedūras ir taip galvoju išsilaikys tikrasis aš. Dėl įrašymo patys mokslininkai pateikia pvz kai senais laikais prie žmogaus stuburo prijungė kamera kuri veikė ir patys nervai veikė kaip torrentai decentralizuotai perduodant info ten kur reikia ir į kokį reikia smegenų skiltį. Dabar svarbu sukurti užprogramuota virtualų neurona ir sinapsės gali būti užprogramuotos iš išeinančio virtualaus neurono, o priimantis neuronas suprastų kaip interpretuoti gauta info ir kas svarbu programai nereikia laidų ir jungčių tarpusavyje info apsikeisti.

Na bent vienas kertinis komunizmo punktas pažymėtas. Bet programa nėra graži. Kai kurie dalykai yra tiesiog neįmanomi, kai kurie priklauso ne tik nuo valdžios, o likę ir taip daugumoje valstybių egzistuoja. O va tas nacionalinių resursų ir strateginių ekonomikos sektorių nacionalizavimas, su rinkimų pašalinimu skamba labai blogai.