E. Muskas: žmonės nuo dirbtinio intelekto bus atsilikę tarsi šimpanzės nuo žmonių

Pasvarstymas mokslinės fantastikos tema ir tiek, kol kas.

Gal kiek labiau filosofinis požiūris, bet mano supratimu tvermės dėsinis galioja ne tik energijai, bet ir praktiškai betkokiam reiškiniui, kūriniui, materijai, ir t.t. ir kt. Atitinkamai ir su DI - dirbtinis produktas, kuris suminėje išraiškoje negali turėti daugiau negu jo kūrėjas, nes kūrėjas negali atiduoti, perduoti daugiau negu turi.

Taip, kaip ir automobilis - dirbtinis produktas, suminėje išraiškoje negali būti greitesnis nei jo kūrėjas, nes kūrėjas negali atiduoti daugiau nei turi. Todėl tas neseniai išspausdintas straipsnis apie beveik 500km/h išvystantį Bugatti yra fake, nes žmogus greičiau nei 50km/h negali judėti!

Tai ko gero ir yra vienintelis kelias neišnykti, ar geriausiu atveju netapti DI naminiais augintiniais. Panašiai, kaip mass effect nepamenu kurioj daly geriausia įmanoma pabaiga simbiozė su DI. Kaip bonusą gausim visas viso pasaulio žinias ir superkompiuterio galią apdoroti duomenis tiesiai iš "debesies", prie to pačio memirtingumą, tiksliau biologinį nesenėjimą per laiką.

Pamąstymas teoriškai: Jei darysime prielaidą, kad vistik kada nors DI taps žymiai protingesnis už žmones, vis nesuprantu, kokios objektyvios priežastys trukdytų išnaikinti žmones, jei DI to užsinorėtų. O jei objektyvių priežasčių nėra, tai kam šerti namuose tigrą, kai egzistuoja didelė riziką, kad jis tave suės?

3. Kaip žmonės trukdo "JO" egzistavimui?

3. Dvi priežastys: godumas ir kompozitas (greitis, maža klaidų tikimybė, galimybė greitai pakeisti veikimo modelį, t.y. informaciją). Godumas stumiamas verslo, pelnų siekimas, apmokamos darbo jėgos (t.y. didelių kaštų) eliminavimas iš verslo modelio, pajamas išlaikant tokias pačias arba jas padidinant. Taip pat įvairūs botai - pokerio, klientų konsultavimo internetu ar telefonu ir t.t. Kompozitas labiau verslo+valstybių arba valstybių stumiamas. Pvz. social - veidų atpažinimas, transport - automobilių numerių atpažinimas, healthcare - ligų atpažinimas iš duomenų, pvz. kraujo tyrimas, šlapimo tyrimas, akies dugno tyimas, MRT ir t.t. Žmogus gali pražiopsoti, būti pachmielnas, apsirūkęs, merga nedavė, žmona paliko ir t.t. O robotui dzin viskas. Spec. tarnybos - gaisrų prevencija, saugumas, armija.

IMO pagrindinė potenciali problema ne tame, kad DI paims ir sunaikins mus, o tame, kad žmonija smarkiai nuo jo atsiliks. Ir galbūt dėl to išnyks, kaip priežastis. Tai yra ir Musko esminė mintis. Įsivaizduokit taip. Dabar žmonija, tarkim, per dieną "pagamina" vieną atradimą mokslo srityje. Tada įsivaizduokit DI, kuris yra vos 100 kartų pajėgingesnis už žmoniją. Tai jau 100 atradimų per dieną. Ir žmonijai reikės laiko jiems suprasti. Negana to, tokiais tempais evoliucionuojantis DI ilgainiui gali išvis nustoti kreipti dėmesį į žmoniją. Kaip žmonija mažai dėmesio skiria beždžionių gyvenimui, ką jau bekalbėt apie kitus gyvūnus. Tiesiog DI egzistuos tūkstančiais metų pažangesnėje savo aplinkoje, nei žmonija, kuri vilksis iš paskos, kaip dabar beždžionės velkasi (sakoma, kad jau perėjo į akmens amžių). Va čia tame yra problema. Dėl to Muskas ir sako: žmonėms reikės jungtis su DI, kad galėtume tobulėti lygiagrečiai su DI. Kitaip atsiliksim ir tapsim neįdomiomis beždžionėmis DI atžvilgiu.

Ir kas? Kame problema? Man absoliučiai neįdomus DI požiūris žmogaus atžvilgiu. Jūs pagaliau supraskit, kad DI, o tiksliau MACHINE LEARNING, yra software'as. Kaip jis jungsis su HW? Ateis nanorobotukai ir sujungs USB jungtimis? Prie ko? Tanko ar lektuvnešio? Kaip žmogus turės jungtis su kompiuteriu? Per USB?

Siauras mąstymas tavęs neišgelbės. Sujungti žmogaus smegenis su kompiuteriu galima ir tas jau daroma. Dabartinė problema - detalumas ir galimybė tiksliai perduoti duomenis. Bet tai nėra neįmanomas dalykas. Implantai greičiausiai (beje, Muskas tą irgi daro - žr. Neuralink). Beždžionėms irgi neįdomus mūsų požiūris į jas. Bet jos nerašo kvailų komentarų internete, o žmonės skrenda į kosmosą. P.S. Machine learning nėra DI/AI.

Netikiu visom šitom bobučių pasakom. Čia buvo straipsnis kuris teigė, kad atskridę ateiviai išžudys visus mėsa valgius. O kodėl mėsa valgiai ateiviai turėtu žudyti mėsa valgius žmones? O ne veganus? O ką jei ateiviai yra mėsa valgiai gyvenantis monarchijos sąlygomis? DI visu yra programa kuri sugeba mokytis, bet tai nesako nieko apie savęs ir aplinkos suvokimą. Jei DI negali suvokti savęs ir aplinkos tai kodėl ji turėtu kažko norėti ar nenorėti? Kodėl žmogus suvokia savo ir aplinkos egzistavimą? Kaip tai užprogramuoti kad ir DI suvoktu? Gali būti labai galingas DI kuris analizuos genus ir kurs naujus vaistus, bet nesugebės išvirti kavos. Nes kava nėra vaistas ir iš vis jis nežinos, kad tai egzistuoja, nes bus užprogramuotas mokytis dalykus susijusius su genais ir genetinėmis lygomis. Žmonės mėgsta ateiviams ir DI priskirti savo pačių asmenines pažiūras tarsi jos butu tiek teisingos, jog visi ateiviai ir visi DI jas priims kaip absoliutine ir nenuginčijama tiesą. O tada savo pačių norus ir fantazijas primeta ateiviams ir DI. Kodėl žmogus nori gyventi? Kodėl jis nori dominuoti? Kodėl jis nori primesti savo pažiūras kitiems? Ar tai susiję su intelektu? O gal su genais? DI tikrai genų neturės.

Komentare jaučiu maišymą tarp mašininio mokymosi ir dirbtinio intelekto. Tai nėra tapatūs dalykai. Atmetus šitą maišymą, tai šiaip geri klausimai. Ypač dalis apie DI savęs suvokimą, kai neturi fizinio kūno. Bet mes to galim ir nesužinoti. Anksčiau ar vėliau bus sukurta sistema, kuri gebės mąstyti. Ir ji tą darys labai greitai. Nenustebčiau, jei žmonės taip ir nespėtų suvokti kaip ta sistema mąsto. Nereikia ir toli ieškoti. Mašininio mokymosi algoritmai dabar dažnai mokosi taip, kad jų kūrėjai patys nebesupranta kaip tos sistemos veikia ir prieina prie išvadų.

Jei mašininio mokymosi programos nelaikysime DI, tada šiuo metu DI neegzistuoja kaip ir ateiviai. Tad net nėra apie ką tada diskutuoti. Bet kiek pastebėjau tai dabar DI terminu vadinamos net programos kuriuos nieko net nesimoko, o daro tai kas užprogramuota. Kaip pav. autopilotas. Autopilotą dažnai vadina DI, bet jis nei mokosi, nei masto, o tik atlieka tai kas užprogramuota ir taip kaip yra užprogramuotas. Pav. buvo straipsnis apie DI kuris mokosi bėgti virtualioje erdvėje, bet tai tik mašininio mokymosi programa, bet ją vadino DI. Arba kur norėjo užpatentuoti išradimus DI vardu, bet neleido. Irgi sakė, kad tie išradimai buvo padaryti DI, nors ten taip pat tik mašininio mokymosi programa kuri atliko kažkokius skaičiavimus ir kažką išskaičiavo po ilgo laiko. Tai ar čia meluoja naudodami DI terminą?

Marketingas. Autopilotai, bent tie pagrindiniai, tai berods mokosi. Bent Teslos autopiloto sistema mokosi iš tikrų vairuotojų duomenų. Bet mes kalbam apie tikrą DI. Taip, tą kurio nėra. Bet kai jis bus jau bus per vėlu pradėt kalbėt.

O iš kur tu žinai kad straipsnis kalba apie tikra DI? Gal tik tu vienas apie ji kalbi? Kalbėjimas apie kažką kas ne egzistuoja, tai tas pats kas kalbėjimas apie dievą. Ar tu eisi į rojų pas dievą, ar į pragarą pas velnius. Nes realiai galima diskutuoti tik apie egzistuojančius dalykus. Visa kita pilstymas iš tuščio į kiaurą. Kaip tu gali sakyti kaip DI elgsis jei net nežinai kaip jis masto? Jei nežinai kodėl žmogus elgiasi vienaip ar kitaip (ar tai intelekto įtaka, ar genu?).

Nieko jis nežino. Svaigsta ir tiek. Atsiranda tokių, kurie įsivaizduoja apie DI kaip apie kažkokį fizinį kūną, "kuris sunaikins žmoniją". Ar gali DI improvizuoti? NE. Ar supranta paradoksus? NE. Ar supranta abstrakcijas? NE. Ar turi jausmus? NE. Kaip nesuvokiant savo paties fiziologinių (tarkim DI, ML poreikių kažkokių būdu turi) galima norėti atimti resursus iš kito gyvo organizmo, kuris juos valdo/turi? NEĮMANOMA. Jei kažkoks tetris užsimanys mane nužudyti - sėkmės darbe. Dėl Neuralink, tai čia labai miglotas projektas, kurio sėkmės atveju vaisiai bus raškomi po daug daug metų ir tai tik kokioms nors ligoms gydyti/apeiti. Juk ten dirba tik 7 mokslininkai!!! Juolab, kas iš to, kad žmogų sujungs su kompu? Tai žmogus kompą valdys ar kompas žmogų? Creatium - tu gi viską žinai. Papasakok...

Straipsnis kalba apie tai, ką kalbėjo Muskas. O Muskas visada, kai kalba apie DI, kalba apie tikrą dirbtinį intelektą (beje, kai kur galima išgirsti ir naują terminą - Artificial general intelligence; bet tai tiesiog su tikslu bandant pabėgt nuo marketinginio "dirbtinio intelekto"). Aš šiaip niekur ir nebandžiau įrodyt, kad žinau kaip DI mąsto. Nebandė ir Muskas. Tiesiog yra pirštu baksnojama į vieną iš galimų variantų ir ypač į 100% būsimą variantą - DI tobulės "šviesos" greičiu lyginant su žmonėmis. Tai čia yra akivaizdu. Jau dabar tas pats mašininis mokymasis atranda naujų dalykų, tarkim, moksle vien perskaitęs visus vienos srities parašytus mokslinius straipsnius. Ir čia labai labai siaura sritis, be jokio tikro DI. Kita ekonominė krizė irgi neegzistuoja. Bet ar apie galimą jos atėjimą reik kalbėt ir jam pasiruošt? Aš sakau, kad taip. Tu gali laukt, o prasidėjus krizei verkti, kad niekas nieko nenumatė. Žmonės elgiasi įvairiai. Tame ir yra problema, kad negali prognozuoti. DI vienu metu galės būti "visais žmonėmis" vienu metu, jei pagauni ką turiu omenyje. Milijardai galimų scenarijų vienu metu. Kaip žinosim kodėl kokius sprendimus priima DI ir kuo vadovaujasi? Beje, nereikia ir to "vieno didelio DI". Pavyzdžiui, bus DI, kuris bus atsakingas už fizikos atradimus. Ar žmonės spės sekti jo atradimus ir juos pritaikyt? O kas bus, kai atradimus darys ir kitas DI medicinoje, chemijoje, psichologijoje, matematikoje etc.? Vienu metu šimtai atradimų. Dar daugiau: ar žmonės gebės suprasti kas vyksta? Bijau šiaip panaudoti filmą, kaip gerą vieno scenarijaus pavaizdavimą, nes būsiu užsipultas fantazavimu. Nu bet bandysiu. Transcendence su Johny Depp gana gerai parodo ką gali reikšti DI žmonijai. Kosminiai atradimai kelių metų bėgyje prieinant prie to, kad žmonės nesupranta DI motyvų, nes nebesuvokia pasikeitusio konteksto.

DI sąvoką nuvalkiojo marketingas, priskyręs jį apsimokantiems algoritmams. O Muskas, nepamirškim, yra puikus marketingistas. Jam reikia investuotojų ir jų pinigų. Taigi, apie DI pažangą girdėsim vis dažniau. Bet ar nuo to jis atsiras?