Linux „tėvas“ apie Elono Musko ir Stepheno Hawkingo baimes: „Kokius narkotikus vartoja šitie žmonės?“

Pati skylė nei "gera" nei "bloga", tiesiog arba gali užsirauti ant kažko labai nežinomo ir pavojingo (na ten kaip jau būta pvz su Castle Bravo kur netyčia driokstelėjo gal triskart galingiau nei planuota) arba ne. DI nebus iš karto kažkoks "grynas protas", darantis vien tik gerus darbus, o tuos kurie numatyti. Pvz. altruistai kurs DI galintį vairuoti mašiną, o realistai jį pritaikys tankui. Vieni saugos nuo įsilaužimų, o kiti kaip tik atvirkščiai.

Rėkė geltonoji spauda. Mokslininkai, priešingai, ramino, jog kataklizmas neįmanomas. Dabar gi yra priešingai, nerimą dėl dirbtinio intelekto grėsmės išsako patys mokslininkai.

O kas svarbiausia, kokiais moksliniais įrodymais tai yra pagrįsta?

Su Torvaldsu dalinai sutinku, dalinai – ne. Faktas, kad niekas nebando sukurti programos, kuri diskutuotų apie Sartre'ą. Bet anksčiau ar vėliau pabandys. Linusas žiūri iš savo siauros perspektyvos – kernelio, kuris tesugeba apdoroti USB signalus, užkrauti draiverius, alokuoti atmintį, paleidinėti ir žudyti procesus, etc.. Ne, skalbimo mašinos ir mikrobangės pačios nesugalvos žudyti. Tačiau kompiuterija seniai peržengė vieno procesoriaus ribas. Internet of things? Social networks? Cloud computing? Torvaldsui seniai laikas į pensiją. Užstrigo jis 1980-tuosiuose su monolitiniais kerneliais. Konkretus pavyzdys: japoniški robotai-slaugai. Bet kas, prižiūrintis neįgaliuosius, puikiai žino, kad slauga – tai ne vien subinės nuvalymas. Reikia su jais kalbėtis, aptarinėti prisiminimus, nuspėti, kokią škadą iškrės... Tik laiko klausimas, kada inžinieriai perlips per „uncanny valley“ ir tokio tipo robotai taps žmogiškesni už žmones. Kaip taikiai jie bebūtų sukonstruoti, jei vienas žmogus gali užmušti kitą panaudodamas mikrobangę, tai tą sugebės ir žmogų imituojantis robotas. Tetrūksta esminės detalės, motyvo. Čia su Torvaldsu reikia sutikti. Parašysim specifikacijas, pagal kurias roboto pasitenkinimo indeksas bus proporcingas jo iškeptos kiaušinienės skanumui. Jis keps tobulas kiaušinienes. Tačiau dauguma programuotojų yra kreivarankiai tinginiai – jie atidirba savo 8 valandas, per kurias tiesiog sukodina 100 eilučių nesivargindami apmąstyti keleto žingsnių priekin. Vieną sykį kiaušinienės kepimo androidas apskaičiuos, kad pagrindinė kliūtis tobulai kiaušinienei – po virtuvę besišlaistanti šeimininkė, pasiutę jos anūkai ir ne vietoje drybsantis šuo. Ir jis be skrupulų tas kliūtis pašalins. O mes tada steigsime komisijas išsiaiškinti, koks lodarius pamiršo specifikacijoje įrašyti trijų Azimovo dėsnių automatinius testus.

Kuo blogai monolitinis Linux branduolys?

programavimo niekur nepabėgsime, tačiau sprendimus priiminės ne tokie algoritmai, kur lengvai uždėtum breakpointą ant INT16H ir būtum ramus. Dauguma mūsų gyvenimą lemiančių algoritmų bus metaheuristiniai, savaime apsimokantys, tokie, kurių elgsenos negalės prognozuoti net jų kūrėjai. Vis daugiau matysime tokių kliurkų, kaip kad Gūglas negrus pavadina gorilomis. Ir nebeišeis perkrauti OS ar pakeisti sukepusį konkretų CPU. Paprasčiausiai nebebus „single point of failure“, kiekviena algoritmo problema bus kompleksinė, lydima krūvos pašalinių efektų. Ar sugebėsime prirašyti tūkstančius taisyklių ir išimčių kiekvienam atvejui, kai algoritmas nuspręs atlikti kažką, kas kuriam nors iš mūsų atrodo netinkama? Konkretus pavyzdukas. Mano tvarkaraščių planavimo algoritmas prieš porą savaičių IĮ buhalterei sudėliojo po valandą kasdien. Na ir kaip tu jam išaiškinsi, kad buhalterei patogiau atvažiuoti kartą per savaitę prieš algadienius? Na gerai – pabūsiu Torvaldsas ir įlituosiu taisyklę geležimi. Ar algoritmas supras, kodėl jį taip skriaudžiu? Ar dabar iš naujo perleisti visus skaičiavimus, kad jo netrikdytų mano naujai įvestas kognityvinis disonansas? O dar primesk, jei tie skaičiavimai vyksta kažkur debesyje, kur tūkstančiai procesorių lygiagrečiai optimizuoja tūkstančius tvarkaraščių. Perkrauti ir perskaičiuoti visą debesį? Aha, o jei dešimtyje kitų firmelių buhalterės dirba namuose, ir joms puikiausiai tinka apsiforminti po valandą kasdien? Pavyzdys, aišku, kvailas, tačiau ar ne į tai ir susiveda sistemų architekto darbas – numatyti visus ribinius atvejus, kad ir kokie neįmanomi jie atrodytų. Ir tame yra Torvaldso požiūrio siaurumas. Seniai praėjo laikai, kai mus ribojo aparatūra, ir programuotojai stengėsi sukišti į ją kuo daugiau funkcionalumo, „kurio reikia“. „Pakabink ant laikrodžio interrupto funkciją, kuri kas 8/16 sekundės nupieštų arba ištrintų kursoriaus kvadratuką“. Dabar yra priešingai: sistemos veikia 24 valandas per parą, mūsų reikalas yra pasirūpinti, kad jos neužstrigtų. Ir sudėlioti saugiklius, kad nepridarytų bėdų. Taigi, ar Linuso kernelis apsaugos mane nuo androido-kiaušinienės kepėjo, kai tas supyks, kad neišploviau keptuvės?