E.Muskas nesupranta tokio abejingumo: „aš vis skambinu pavojaus varpais, bet turbūt žmonėms reikia pamatyti gatvėse žudančius robotus“

Ir kur tu mieste rasi skardi? Arba kalnuose perėja? Iš vis nėra prasmės kalbėti apie tai, užmušti vairuotoją (kad ir autobuso ar lengvosios) ar pėstijį. Nokiam DI kuris gali nuspręsti tave užmušt nereikės. Pirkėjas sutiks kad automobilis gali nulėkti nuo skardžio tik tuo atvejų, jei automobilyje nėra žmonių. Kitu atvejų niekam toks automobilis nebus reikalingas. Dėl manęs per gatve gali eiti ir visa mokinių klasė. Aš tikrai nesirinkčiau dėl jų mirti jei vairuočiau, todėl neturėsiu jokio noro, kad mane DI nužudytu. Todėl apie morales net ne apsimoka pradėti diskutuoti. Galima kalbėti tik apie kitų eismo dalyvių užmušimą. Užmušti kairėja, du ar dešinėje dešimt. Ir klausimas tik sausai skaitinis, be lyties, amžiau, rasės, politinių ir religinių pažiūrų. Užmušti du ar dešimt? Čia jokios moralės nėra, tik grynas išskaičiavimas. Antra, jei DI laikosi KET (neviršija greičio) tada mirtino įvykio tikimybė mažėja. Jei eismo įvykio dalyvių mažėja (du, o ne dešimt), tai mirties tikimybė taip pat mažėja. Todėl, bet kokiu atvejų DI neturi užsiiminėti moraliniais klausimais. Tik lengvai apskaičiuojamais pragmatiškais klausimais. O čia jau viskas labai paprasta.

Tupas del greiciu o ne aplamai genda negenda, di turetu matyti labai placiu kampu ir is toli visus judancius ir nejudancius objektus ir juos indentefikuoti, zinoma niekas nera apsaugotas nuo issokimu i gatve is uz automobilio, bet net ir tai turetu buti numatyta, tiesiog tokiose vietose vaziuoti leciau. Nuo savizudziu kurie soka po ratais niekas neisgelbes nuo kvailiu taipat

Jau buvo didziule diskusija siuo klausimu siame forume siek tiek seniau - galit per paieska susirasti ir perskaityti. Siaip esme ta, kad visi pamate ten tuos feisbuko ar kazkokius paveiksliukus su suniukais, zmogiukais ir tesla, ir pradejo daug fantazuot, daryti nerealias prielaidas. Autopilotai paremti machine learn'ingu. Ten nera jokio klasikinio deterministinio programavimo (bent jau jis nera pagrindas), viskas paremta tikimybiniu tinkamo sprendimo priemimu neuro tinklui kramtant davikliu/kameru/radaru duomenis. Visada egzistuoja tikimybe, kad autopilotas ims ir pasuks pries fura be jokios priezasties - tik ji labai, labai nedidele. Autopilotai tures atitikti KET/saugaus eismo reikalavimus. Is esmes tai reiskia, kad jie tures buti tune'inti orientacijai i saugu eisma ir mazesnes zalos parinkima. O tai is esmes reiskia avarini stabdyma, nes toks veiksmas statistiskai saugiausias. Niekas neuzsiims jokiais automobilio staigiais judesiais i neaisku kur.

Paimtu ir padarytu, kad eisme gali dalyvauti tik tokie automobiliai, kurie neišvengiamos stiprios avarijos atveju visada aukotu vairuotoją. Tokiu atveju niekur nevažiuotum ir sėdėtum namuose? Nors galimybė patekti į mirtiną avariją sumažėtų 10 000 kartų?

To Shinigami Pagal dabartines morales normas, zmoniu gyvybiu skaicius turi reiksme kazkure prasme. Stai pavyzdziui jei lektuvas su 300 keleiviu yra uzgrobtas/sugedes ir lekia tiesiai i didmiesti kur jam nukritus, zus tukstanciai (panasiai kaip buvo 9/11 New Yorke) Yra leidziama toki lektuva numust vien remiantis auku skaiciaus principu. Buvo pakelti naikintuvai pasiruose lektuvus numust per Rugsejo 11. Amerikieciai ta butu ir padare, jei butu zinoje kiek istikruju zmoniu zus.. Klausimas, remiantis kuriuo standartu DI turetu pasirinkt kas ir kiek zus. Pagal tavo logika, DI neturetu jokiu atveju atsizvelgt i auku skaiciu. Mazdaug prioritetas yra zut but issaugot vairuojancio gyvybe jei tik jis nepazeide jokiu taisykliu. Bet lektuve esantys 300 keleiviu irgi nieko nepazeide ir yra niekuom deti. Taciau yra renkamasi juos paaukoti, kad isvengt kur kas didesniu auku. Visa esme tame, kad sitas moralinis klausimas yra gana keblus ir nera aiskus. Ir duot DI leist ji sprest yra labai rizikinga. Dabar yra gan paprasta, nes uz netinkamai priimta sprendima galima paprasciausiai apkaltinti arba vairuotoja arba pesciaji jei manoma, kad kazkuris pazeide taisykles ir 'case closed'. O ka tu kaltinsi del abejotinu DI sprendimu?

>>Evil Goku Zinoma, kad sauguma pagerintu. Vien del to, kad vaziuotu pagal taisykles. Taip, teoriskai visada egzistuoja viena optimali veiksmu grandine ir ji ne visada yra stabdymas. Praktiskai visu situaciju niekas neapmokys ir autopilotas tiksliai realiu laiku to neivertins, todel bus mokoma tokios sekos, kuri statistiskai saugiausia pagal jau zinomas situacijas. Autopilotas pagal turimus duomenis parinks tokisu veiksmus, kurie statistiskai labiausiai atitinka jam mokymo metu sertus duomenis. Zodziu patikekit, niekas ten i lankas ir pievas autombiliu nenukreipines Siaip jus snekat hipotetiniam/filosofiniam/moraliniam lygmenyje. Tai taip galima diskutuoti ir tris dienas. As del situ dalyku nesigincysiu. Is technines/praktines puses, siai dienai neimanoma patikimai ivertinti, ar, pavyzdziui, staigus platus pasukimas vietoje stabdymo konkrecioje situacijoje bus geriau. Autopilotas net tiksliai nezino, kokia zala bus jeigu nesuks. Ir jis tuo labiau nezino, ar saugiu atstumu is priekio vaziuojantis pensininkas neissigas tokio manevro ir be pagrindo issigandes nenusuks i saligatvi kur eina zmones (ir panasus dalykai). Inzinieriai bus apmoke statistiskai dazniausiu situaciju statistiskai saugiausias veiksmu sekas. Ir viskas.

Normaliomis sąlygomis viskas puiku. Tačiau kaip inžinieriai prieš mokinant nuspręs, kurios sekos pasekmės yra geresnės? Pasikartosiu, ne ateities nuspėjimas bus moralinės DI mokymo problema, bet kokiais kriterijais jis interpretuos savo pačio suskaičiuotas prognozes.

Problema ir yra ta, kad galimu aplinkybiu kombinaciju kiekis artimas begalybei Tai ir yra priezastis, kodel autopilotai nera programuojami klasikiniu metodu, ir kodel autopilotai deterministiskai neprognozuoja ir nesimuliuoja galimu variantu. Siaip autopilotu veikima galima isivaizduoti taip: yra kibiras su ivairaus tipo zemem: zvyru, smeliu, juodziamiu ir t.t. Tai yra davikliu generuojami input'o duomenys. Yra sudetingas sietas/filtras, i kuri pilant tas zemes, pagal daleliu dydi jos suskirstomos i rusis. Tai neuroninis tinklas. Pili misini, filtras realiu laiku skirsto. Problema ta, kad kartais viena rusis gali praeiti ten, kur jai negalima, nes statistiskai nukrypsta nu osavo rusies savybiu. Tai va labai grubiai tariant panasiai veikia ir autopilotas. Tas "filtras" bus parinktas is esmes statistiskai. Kaip inzinieriui zinoti, kada autopilotas turetu daryti ka, jeigu tu tiksliai nezinai visu aplinkybiu? Realiai niekaip. Eini i kazkokia sukauptu istoriskai ivykiu duombaze, analizuoji, kokie vairuotoju veiksmai kaip statistiskai suveike, tada sudarai kazkoki data-set'a, prie kurio tikimybiskai geriausia daryti X veiksma, ir sakai tinklui, kad jeigu tokei duomenys, tai reiskia daroma X. Ir as asmeniskai manau, kad autopilotas absoliuciai dazniausiai tiesiog stabdys, o kazkoki kitoki manevra darys tik isimtiniais atvejais, nes toli grazu nera tiek sukaupta duomenu, kad patikimai butu apmokoma visokiausi fantastiniai atvejai Kaip tiksliai implementuos as nepasakysiu - tai is esmes bus komercine paslaptis.

Matau mes visiškai nesusišnekam. Ką tu rašai, tai techninės, ne moralinės problemos. Na pavyzdžiui iš priešpriešinio kelio į tavo juostą įslysta fūra, tai stabdymas nepagelbės, arba sukant posūkyje per vėlai pastebima rimta kliūtis (betono blokas), o kitose juostuose nieko nėra, tai nežymiai pakeitus trajektorija, galima išvengti avarijos, kuri stabdant galbūt baigtųsi mirtimi.

Taip, as is esmes ta ir norejau pasakyti, kad daug rasiusiuju kalbejo apie dalykus, kurie gerokai nutole nuo realios technines situacijos siai dienai. Tokia diskusija idomi, bet labiau artima sci-fi, nei realijoms Mes galime diskutuoti, koki moralini sprendima turetu ar neturetu priimti autopilotas, jeigu galetu, taciau dar praeis tikrai ne viena desimtis metu, kol autopilotai techniskai gebes taip tiksliai vertinti situacijas.

Abu argumentai turi tiesos. Kalbant apie autopilotus juos santykinai galima skirstyti į dvi rūšis: suprogramuoti ir valdomi DI. Pirmas yra suprogramuotas žmogaus, todėl jo veiksmai kritinėj situacijoj aiškūs ir žinomi, nors tokiu atveju is anksto turi būti apspręstos ir moralines dilemos. Tuo tarpu antras vairuoti išmoksta pats (tiesiog stebėdamas kaip vairuoja žmogus), todel moralinių dilemų zmogui spręsti net ir nereikia. Bet tokių autopilotų net nenumatoma legalizuoti, nes jo veiksmai nenuspėjami ir nežinomi. Todėl į gatves išleidžiamas tik pirmas variantas.

Yra tekę gyvai čia su programeriais diskutuot apie autopilotus. Tai dabartinių technologijų lygmenyje autopilotai ženkliai pagerintų eismo saugumą, jei VISI automobiliai būt pilotuojami autopilotų. Tuo tarpu žmonių ir autopilotų mišinys yra pavojingesnis, nei atskirai "grynos" sistemos. Mes čia šioje diskusijoje kiek iečių laužome vien dėl tokios siauros srities, kaip auto valdymas tik labai jau sąlyginai autonominių/savarankiškų sistemų pagalba. O juk reikia dar prisiminti, kad su didžiuliu entuziazmu bandoma ieškoti/kurti visiškai savarankiškai mokytis ir sprendimus galinčias priimti sistemas. Kurios per kažkurį laiką greičiausiai išvystys tokius sprendimo priėmimo metodus, kurių mes net nesuvoksim "kas ir kodėl". Juk ir savęs paties dar nesuprantam iki galo. Iš esmės būtų galima kalbėt apie naujos "rūšies" kūrimą. Kurios logika nebūtinai sutaps su mūsų. Tikėtina, netgi radikaliai vietomis skirsis, nes pats mąstymo "būdo" pagrindas skirsis (jau vien dėl to, kad mes greičiausiai nemąstome dvejetainiu kodu). Ir kokių veiksmų tokia dirbtinė sąmonė imsis, jei galės jų savarankiškai imtis, mes negalime numatyt visais atvejais.

tas momentas, kad žmonės pradeda nebesuprasti AI mastymo sveikintinas. Galbūt jau greitai sulauksim tikria naudingų gaminių. Kaip kažkas paskė "jei mūsų smegenys būtų tokios paprastos, kad galėtume jas suprasti, mes būtume tokie kvaili, kad jų nesuprastume". Turbūt tas pats galioja ir AI.

"mes būtume tokie kvaili, kad jų nesuprastume" Gal kaip tik šitas atvejis ir yra?

Jie paprasčiausiai mėgsta pilstyti iš tuščio į kiaurą. Kurtis neegzistuojančias problemas ir paskui visus su jomis gazdinti. Dabartiniai DI net savęs nesuvokia, o nori juos mokyti moralės. Dabartinės technologijos gali tik priimti iš anksto užprogramuota sprendimą, o jie nori kad DI per 2 sekundes spręstu filosofinius klausimus apie moralę, o ne bandytu išvengti avarijos.

Shinigamis pastoviai ignoruoja jam nepatogius klausimus. Mes tau daugybę kartų ir rašėm, kad kalbam apie žmogų, kuris rašo instrukciją. Tik jis kažkodėl tos būtent vietos "neperskaito" Tegul jis atsako normaliai į daugybėje vietų čia pateiktus pavyzdžius: kaip jis užprogramuos autopilotą ką užmušt gatvėje susiklosčius nepalankioms aplinkybėms. Tiesiog, paprastai. Ką tu užmuštum? Nes vat dabar sėdėdamas prie stalo turi daug gražaus laiko apgalvot instrukcijai, kurią rašysi daugiatonei mašinai. Ir, Shinigami, nepradėk vėl išsisukinėt aptakiais "pažeidėjais", "aukų skaičiumi" ir pan. Tau čia daugybė atvejų buvo parašyta, kur taip paraidžiui nepritaikysi.

Aš tau taip pat DAUG kartu rašiau. Iš kur programuotojui žinoti kada, kur ir koks automobilis pateks į avarine situacija? Kaip? Gal jam tyčia reikia suorganizuoti avarija? Kad galėtu butent tai konkrečiai avarijai parinkti moraliniu veiksmus? Man atrodo aš parašiau labai aiškiai. DI NENUSTATINĖS EISMO DALYVIŲ AMŽIAU, RASĖS, LYGOS ISTORIJOS. TAD PROGRAMUOTOJAS UŽPROGRAMUOS TAIP KAD BUTU KUO MAŽESNĖ ŽALA. KAIP IR RAŠĖ kernel_panikuoja NIEKAS ČIA NEUŽSIIMINĖS KLAUSIMAIS KĄ NUŽUDYTI. TODĖL TAI TU NESUVOKI KĄ TAU KITI SAKO IR TOLIAU DAUŽAI GALVĄ Į SIENĄ.

Nu tai ir pasakyk, kaip tu, būdamas programuotoju įvertinsi kieno mirtis yra mažesnė žala? kai situacija bus ar taksi su vienu keleiviu lekia į prarają, ar rėžiasi į pėsčiąjį pėsčiųjų perėjoje? Paprastai tiesiog. Kokia vertė pėsčiojo ir kokia keleivio? Muskas, kuris "turbūt" dalyvauja autopilotų kūrimo programose jau greičiausiai praktiškai susidūrė su tokia problema ir sako, kad dauguma žmonių net nesuvokia kad jos yra. Kaip rodo ši diskusija, jis teisus, nes nu niekaip iš tavęs negalime išgirsti tokios "įsivaizduojamos" problemos sprendimo.

Jei jau ieškai sliekų ten kur jų niekas neieško tai atsakyk dabar kaip pats suprogramuotum automobilį tokioje situacijoje: auto važiuoja mieste 180 km/h greičiu, užsidega raudonas šviesoforo signalas (vat taip tiesiog, buvo žalia ir staiga raudona), o ant perėjos iškart pilna žmonių (na greiti gi jie). Ką daro autopilotas? Lekia per pėsčiuosius, suka į kairę (o ten praraja, na žinai, visi miestai tokių turi), suka į dešinę - stulpas, kuris virsdamas užkliudo fūrą su super duper toksiškos medžiagos cisterna ir pusė miesto žūsta. Na va, paprasta kasdienė situacija mieste, tai ką pasirinktum?

Ir vėl chebra prie to paties, dirbtinis intelektas rinktis ką pražudyti neįmanomoje situacijoje - visi laikosi eismo taisyklių, bet kažkodėl kažkas būtinai turi žūti. Jei visi laikosi eismo taisyklių - niekas nežus. Jei gedimas - autopilotas nebegali daryti teisingo sprendimo, nes jis nebegali teisingai suprasti aplinkos.