Oksfordo universiteto mokslininkai: ši technologija pavojingesnė net už branduolinius ginklus

Kuo tobulesnis DI tuom daugiau skaičiavimo galios jam reikia. Visi įsivaizduojam terminatorių, kuris vaikščios ir žudys visus. Bet realiai pagal dabartines technologijas iki tokio terminatoriaus dar labai toli. Visi mūsų telefonai ir vadinami DI čipais t.y. tik žaisliukas palyginus su tuom kiek skaičiavimo galios reikia tokiai mašinai. Visas DI internetu suplauke visa info į centrus, ten apdoroja ir tik paskui grąžina rezultatą. Pats telefonas tik apdoroja info paruošia perdavimui ir atkuria grąžintą info iš duomenų centrų, arba jeigu atlieka telefonas DI funkciją tai tik labai siauro profilio algoritmas. Tai terminatorius turės lakstyt su kabeliu, arba pristatyt telekomunikacijos bokštų ant kiekvieno kampo kaip planuojamo 5g.

Man atrodo, kad tik Jūs įsivaizduojate vaikščiojantį ir žudantį terminatorių. Iš tiesų dirbtiniam intelektui pasireikšti fizinis kūnas visiškai nebūtinas. Kuo toliau, tuo daugiau dalykų pasaulyje valdoma nuotoliniu būdu. Jums juk nereikia fiziškai būti kambaryje, jei per appsą norite išjungti šviesą, naudodamiesi smart jungikliu?

Šiuolaikinė komunikacija perdaug pažeidžiama, kad tai būtų panaudota armagedonui. Pažeidimų gali padaryti, bet be fizinio kūno jie nebus kritiniai iki tiek, kad susinaikintume, beto masinio naikinimo ginklai jungemi į tinklą tik filmuose... Galima įsivaizduoti, kažkokį viruso tipo DI plintantį tinkle ir veikiantį panašiai kaip kripto mainingas, bet tai būtų pastebėta ankstyvoje fazėje ir izoliuotas, šalimis ar regionais, žemynais, jei pradėti naikint žmogų prasidėtų nevaldomas elektros tinklo degradavimas, vėl gi mirtis DI. Be fizinio kūno čia nieko nepadarysi.

Ir vėl pats sau prieštarauji. Taip, branduoliniai ginklai tiesiogiai prie tinklo nejungiami. Tačiau kaip tavo nuomone perduodamos komandos daliniams atsakingiems už branduolinius ginklus? Pašto karveliais, ar vis tik komunikaciniais kanalais kuriuos DI gali perimt ir imituot tikrąjį siuntėją? Tu supranti kas yra A, kas yra B, bet sudėt A su B ir suprast kas iš to gausis tau niekaip nesiseka ir taip labai didelėje dalyje tavo komentarų. Ir kuo daugiau kintamųjų bandai sukraut į savo komentarus, tuo labiau nusigrybauji į lankas.

Net nereikia branduolinių ginklų aktyvavimo - užteks, jei žmogų nužudyti galės šaldytuvas ar dulkių siurblys. Žinau, šiandien tai skamba nesąmonė, bet išmaniųjų prietaisių kiekis auga eksponentiškai, jie vis tobulėja, netrukus jų projektavimu ir gamyba užsiims DI, tad žvelgiant į ateitį tai visai tikėtina. Yra viena serija šia tema seriale "Love, death and robots" - visai vertas dėmesio serialas. Kitas klausimas: ar DI tikrai matys reikalą žudyti žmones? Kam jam tai? Niekas juk neina specialiai į mišką naikinti skruzdėlių - gyvena ir gyvena sau.

Kodėl prieštarauju sau? Čia ką putkinas nešiojasi lagaminą su raudona knopke paspaudiai ir skrenda? Ar kadanors teko administruoti valstybei priklausantį tinklą? Čia šneku ne apie telia tinklą, o sukarintos organizacijos? Bent įsivaizduoji kokios taisyklės ir reikalavimai tokiam tinklui? Bent jau aš įsivaizduoju, kad branduoliniui ginklui panaudoti neužteks vien tik kompiuteriu valdomos komandos, čia turėtų būt krūva saugiklių kurie turėtų būti aktyvuojami fiziškai įsikišant žmogui, gal net visai komandai, nuo paruošimo iki paleidimo.

Praplėsti mintį turi kaip tu įsivaizduoji žudantį šaldytuvą? Ką galima padaryti tarkim su 8 bitų arduino lygio mikroprocesorium kuris valdo kelis procesus, na dar galbūt keletą iš tų procesų gali administruoti tinkle... Čia nors logikos ineštum į parašymą užvaldo elektrines, užtvankas kurios realiai gali padaryt primityvios žalos, bet jos nebus tiek destrukcinės, kad išnaikintų žmoniją, laikinas nepatogumas labiau.

Kaip ir minėjau, kalbu apie teorinį ateities šaldytuvą, suprojektuotą ir pagamintą DI. Rekomenduoju atidžiau skaityti komentarus.

Aš asmeniškai rinkčiausi elektros iškrovą, fizinį sutraiškymą arba cheminį/psichinį (sakykim, kažkokio dažnio ar sekos garso bangų skleidimą) kvėpavimo sustabdymą. Bet mano fantazija ribota, spėju, DI bus išradingesnis.

Čia vadini ribota fantazija? Čia plokščios žemės lygio samokslo teorija. Jei robotas kada ir ruošis naikyti žmoniją tokiom nesąmonėmis neišnaikinsi. Jei nori pradėt žudyt žmogų technika aplamai nėra efektyvu ir dar ilgai nebus. Nes skaičiavimo ir energijos perdavimo galimybės tai labai ribos. Vienintelis būdas kurį galiu sugalvot su dabartinėmis technologijomis tai virusas su n mutacijų, kad neišsikvėptų eidamas iš organizmo į organizmą.

Prisipažinkit, Jūs trolinat, tiesa? Netikiu, kad raštingas žmogus gali turėti tokių teksto suvokimo sunkumų. Nebent išgėręs.

Nu patikėk transformerio šaldytuvo aš nesuvokiu.

Aš Jums dviejuose komentaruose pabrėžiau, kad kalbu apie hipotetinius ateities šaldytuvus, projektuotus ir gamintus DI, o Jūs vis dabartinėse tehnologijose užstrigęs. Lengviausia didelę žalą padaryti tuo, kas yra šalia kiekvieno žmogaus ir lyg visiškai nekelia grėsmės padarant tokius patobulinimus, kurie nesukeltų jokių įtarimų. Tam net nereikia nieko specialiai kurti ar gaminti. Virusas - ok, irgi variantas, bet po paleidimo DI vargiai jį galėtų kontroliuoti. Tikiuosi, kad tapo aiškiau? Ar tol, kol į gatves neišbėgo terminatoriai, jausitės saugus?

intelekto ir kiek mums dar trūksta iki dirbtinio intelekto, aš suprantu koks yra tarpas ir sakau panikuot nėra ko ir dar ilgai nebus. Jei tavo fantazija laki tai čia tik tavo bėdos. Visi lakstė su lankais ir žudė vieni kitus, tada sukūrė paraką pamatė kiek tai tobulesnis ginklas ir pasakė netobulinam nes sukursim atominę bombą ir susinaikinsim? Ne mes viską padarėme eigoje kaip ir padarysime su DI. Jei sugebėsim sukurt intelektą sugebėsim nuo jo ir apsisaugot tokia žmogaus prigimtis.

Čia aš tau dar šiek tiek paaiškinsiu kaip veikia sistema. Dabartinis DI yra kaip mikrobangų krosnelė. Ten nėra nieko mikro tik mili. Pavadinome mikro nes tuo metu tai buvo populeru. Visas mūsų dabartinis DI tai nėra DI, o tik advanced algoritmas. Dabar kodėl aš taip manau... Musu sistema veikia taip: Mes sukūrėm algoritmus, tada sušėrėm krūvą duomenų, tada sukūrėm algoritmus pagal kuriuos pateikus užklausą apdoros užklausą pritaikant duomenis ir išspjaus atsakymą. Tai nėra DI. DI turėtų veikti visaip kitaip mes davėme krūvą duomenų, DI apdorojo duomenis, Tada mes pateikiam užklausą su norimu rezultatu, DI sukuria algoritmus, arba išnaudoja jau sukurtus, modifikuoja, kad pagal turimus duomenis suformuotų ir išspjautų rezultatą tokį kokį mes norim. Mūsų programavimo kalbos tokio dalyko negali padaryt dėl to, kad turi limitus iki kiek mes tai galime plėsti. Tai pradėt svaigt apie baubus kurių net teoriškai kolkas nelabai įsivaizduojame kaip sukurt yra juokinga. Kai pradėsime kurt programavimo kalbą leidžiančią sukurti DI tada ir galėsime rėkt, o kur saugikliai... Iki tol tai tik reklaminiai triukai tokių kaip muskas ir zukerbergas...

Turbūt esminis šios diskusijos trūkumas yra tai, kad Jūs ir straipsnio atidžiai neskaitėte ar nesupratote. Jūs kalbate apie tai, kas neįmanoma šiandien dėl ribotos technologijos. Straipsnis apie ateities perspektyvas - DI jau dabar gali keisti ir tobulinti savo veikimo algoritmą, nematau kliūčių atsirasti naujai, labiau adaptuotai programavimo kalbai, sukurtai paties DI. Ir tik jo paties suprantamai. Man ši tema įdomi tik dėl smalsumo ir fantazijos atpalaidavimo, panikai priežasčių nematau. Autobusai žudo žmones jau šiandien, bet jei gerai elgsies - turi daug šansų likti gyvas. :D

Algoritmai + kažkas ir šiandien žudo žmones ir ką? Aš skaičiau straipsnį ir n tokių straipsnių ir visokių kliedesių vajė kaip bus blogai... Ir kaip čia mes darysim kad vajė nebūtų. Tik visam vajė ir ką daryt dar labai anksti. Bendros taisyklės jau seniai sukurtos ir visas tas perdimas į vandenį tik gadina orą, o nekuria naudą... Galima sakyt nesuprantantiems žmonėms sukuriamas baubas... Bijai vilko neik į mišką. Tie kas galvoja ir dirba su tuo žino kaip apsisaugot nuo vilko.

Dar vieną dalyką norėčiau paminėti ir užbaigti temą, nes toliau nėra prasmės diskutuoti. Pirmasis mūsų kompiuteris ir buvo mūsų pirmasis žingsnis į DI. Nuo tada mes visais įmanomais būdais bandome apriboti algoritmus, kad jie mums dirbtų, bet ne kenktų. DI neatsiras viens du opa žiūrėk DI... Prie visa to bus einama etapais ir toliau ir visos tos taisyklės bus kuriamos etapais. Dėl to ir pati apsauga bus atsiradus tik čia ir dabar. Dėl to mes ir sugebėsim pasiruošti.

Kaip Jums patogiau, gerbiamasis. Tik patenkinkite mano smalsumą, prašau, ar dažnai kalbate apie batus temoje apie ratus dėl savo nepagaulumo, ar tiesiog turite polinkį neproduktyviam, bet spalvingam spicy bendravimui?