Profesoriaus perspėjimas: jau dabar turime galvoti, kaip apsisaugosime nuo dirbtinio intelekto ir karinių robotų

Tik dvasinis vystymasis išgelbės. Bet žmonės keistis nenori, o bando dekoracijas keisti.

Tai ka cia sukt galva gi skrisim i marsa gyvent DDDD

Neįsivaizduoju C-3PO naikinančio žmoniją.

Tačiau R2D2 galėtų taip niekšiškai pasielgti..

tie robotai vienas kita isdauzytu ir pasibaigtu, susiremontuot jie ir daugintis nesugebetu. Bent kol kas

Šitas neaiškus. Negalima pasitikėt ;D

Grigas ir delfis kaip visada savam stiliuke. By tik sukelti triukšmą visiems nusibodusioje „mokslinėje“ srityje, apie kurią žino tik tiek, kiek užsienio geltonojoje spaudoje priburta. Plius dar paranojiškos „gilios autorinės įžvalgos ir išvados“ iš lemputės. O esmės tai visai nepaliečia. Nei kas tie 1500 pasirašiųsiųjų, nei kodėl, nei kokias problemas kelia, nei kokius sprendimus siūlo. Visi tie hawkingai turi proto suprasti, kad moratoriumai negali būti išeitis, tik reikia prieš paleidžiant kai kurias technologijas į eksploataciją tiksliai sudėlioti įstatyminius saugiklius, apibrėžti atsakomybes ir pasirašyti tarptautines konvencijas. Imant konkrečiai, klausimai yra 3, ir galimi sprendimai jiems visiškai skirtingi. 1. Jėgos panaudojimas naudojant dronus ir pan. karinėse ir teisėsaugos struktūrose, apsaugos sistemose. Manau, čia viskas aišku, nieko naujo lyginant (a) su minų, elektrinių tvorų įrengimu civiliniuose objektuose – įrengėjas atsako už pasekmes. Patruliuojantis ginkluotas dronas yra tas pats kaip sausumos mina, galinti sprogti visiškai netikėtai, ant jos užlipus neatsargiam briedžiui. Įrengti kokius nors kriptografinius+elektromechaninius saugiklius, kad dronas negalėtų atakuoti be leidimo iš valdymo centro (net ir labai „norėdamas“ ir būdamas „visiškai savarankiškas“) – techniškai nesudėtinga. (b) Ginkluotas dronas kovos zonoje iš principo niekuo nesiskiria nuo raketos su automatiniu nusitaikymu. Tegu jis skanuoja teritoriją užtaisytas, bet su saugikliu. Va, kai operatorius tiksliai žinos, kur yra taikinys, ir galės užtikrinti, kad tai yra taikinys, bei kad dronas neapsipažins – tegu ir duoda įsakymą atakuoti. Juk ir raketa, paleista į priešo tanką ar lėktuvą, gali apsipažinti, pasigauti ir nukalti greta esantį savą arba civilinį objektą. Kitaip tariant, dronas pirmiausia turi „užlockinti„ taikinį, tik tuomet prašyti leidimo pulti. 2. Etikos klausimai. Kaip turi elgtis automatas ribinėse situacijose. Pvz., ar automobilis neišvengiamos avarijos atveju turi bet kokiom aplinkybėm saugoti keleivį, ar rizikuoti keleiviu, bet išvengti susidūrimo su minia? Kas atsakingas už „naudos“ ir „žalos“ funkcijų įvertinimą? Kuris algoritmas morališkai labiau priimtinas: Minimax ar Maximin – t.y., mažiausia tikimybė patirti maksimalią žalą, ar didžiausia tikimybė patirti minimalią? Ar kiekviena gyvybė (pvz., paauglio ir 2 mėnesį nėščios moters) vienodai saugotina, kuri labiau? Ar algoritmas privalo atsižvelgti į kultūrinius skirtumus bei kitas aplinkybes? Šitas klausimas yra kebliausias ir universaliai niekaip neišsprendžiamas, ir ko gero aktualiausias, bet apie jį pasirašiusieji beveik ir nekalba, laiko jį kone nereikšmingu. 3. DI sugalvos padaryti perversmą ar pan.. Apie tai prikurta dešimtys sci-fi kūrinių, įvairaus plauko veikėjai prirašę šimtus veikalų, pasakę tūkstančius kalbų. Tik vat, rimti informatikai seniausiai žino, kad tokia galimybė teoriškai būtų neįmanoma, jei ne žmogiškasis klaidos ar piktybiškumo faktorius. Trumpai tariant, jei visokie astrofizikai, lingvistai, sociologai, politikai vandens atminties akademikai ir šiaip diletantai savo trigrašio nekiš, tai nieko ir neatsitiks. Sukurti dirbtinį superintelektą ir technologinį singuliarumą įmanoma, bet vien jo apsauga nuo nemokšų gali kainuoti šimtamečius visos Žemės BVP. HAL9000 iš 2001-ų Kosminės Odisėjos būtent ir „sudurniavo“, nes diletantai politikieriai neteisingai, dviprasmiškai ir nepilnai suformulavo misijos užduotį. HAL'as jau pradinėse misijos stadijose žinojo, kad misijos pagrindinis tikslas yra „įvykdyti misiją“, o tai greičiausiai neįmanoma nepašalinant įgulos, nebent būtų laiku gauti tinkami nurodymai iš Žemės. Politikieriai melavo įgulai ir HAL'o programuotojams, o HAL'ui nuo pradžių nesuteikė pakankamai galimybių neutralizuoti įgulą be aukų, o po to pradelsė progą viską išsiaiškint ir išgąsdino HAL'ą, kad įgula jį išjungs, ištrins ir misija bus sužlugdyta.

Oj kaip tu klysti. Gal su dauginimusi ir sudėtinga, bet savęs remontas, čia ir yra vienas iš pavojų. Susiremontuoti save, gi užtenka proto suprasti ką reikia remontuoti ir valdyti atitinkamas dalis. Jiems kraujo grupės nereikės rmeontui, kaip žmogui reikia, tik mokėti pakeist kokią dalį, palituot ir vėl sveikas, o elektronikos dalių ir taip pilna visur.