Pražudysite vaiką, benamį ar šunį? Įdomus testas, verčiantis susimąstyti apie autonominius automobilius ir mus pačius (Video)

Šito testo gvildenti neverta, nes jis absurdiškai nelogiškas. Tos situacijos kaip nurodoma teste yra beveik neįmanomos. Nes jei jau kelyje per perėją (reguliuojama arba ne) eina pėstieji, vadinasi tai miesto ar gyvenvietės teritorija, kur greitis 50 km/h. Tai jei mašina pasirinks apvažiuoti pėsčiuosius ir trenktis į sieną, tai iki smūgio akimirkos ji spės greitį sumažinti bent iki 30-40 km/h. O įvertinant tai, kad autonominiai automobiliai bus bent 5-6 NCAP žvaigždučių, tai keleiviams užsimušti beveik nėra šansų. Ir šiaip, keleiviai salone yra geriau apsaugoti (diržai, oro pagalvės, minkštos plastmasės) nei pėstieji susidūrimo su mašinos metaliniu kėbulu metu. Todėl sistema turėtų labiau vengti susidūrimo su pėsčiausiais, nes jiems žūti yra daug didesnė tikimybė.

Autinominiai automobiliai ir bus skirti parogiam greitam susisekimui. Manai nereikia, kad automobilis sugebetu reaguoti visuose situacijose. Niekas ir nemano, kad i dieną kiekvienam reikes nutrenkti po tris žmones. Tačkau viena kart ler metus 1 iš milijono automobilių gali iskilti sudetinga situacija. Tai jei vaziuojant kam nors iš automobilio iškris maišas. Tai gale važiuojančiam automobiliui turetu ekrane pasirodyti not responding lentelė ir automobilis nevaldomas turetu trenktis į stulpą, žmonių būrį ar kitą automobilį, nes tokios situacijos nenumatė programuotojas?

Maišas nesustos greičiau nei autombilis, todėl automobilis nuspaus stabdžius ir tiek. Nes reakcija bus milisekundžiu (gal ir mikrosekundžiu eigos). Jei maišas atskries iš priešais esančios juostos vėlgi, jei kelias absoliučiai tuščias lieka manevravimas, o kitu atveju stabdymas ir įkalimas į maišą. Paskutinis atvejis kai maišas iškrenta priešpriešais ir net nelieka fizinių galimybių sureaguot. Dėl greito susiekimo manau daug didesnę įtaką turės sumanus srauto valdymas nei tiesiog bukas gazo pedalo spaudimas. Tuo labiau jei kils dilema tarp greičio ir saugumo tai niekam tikrai nekils dvejonių ką rinktis. Tuo labiau, kad automobiliui pačiam vairuojant, galima bus užsiimti kita veikla.

Pasidomėk apie https://en.wikipedia.org/wiki/Machine_learning ir kaip plačiai tai taikoma. Didžiausios kliūtys yra resursų trūkumas.

Kodel isradinejat dvirati? Aiskinat nesilaikyti KET taisykliu neva del morales. Kokis morale aukot besilaikanti taisykliu vietoje nesilaikanciu, bet jaunesniu, ar ju daugiau. Jei taip vairuotojas padarys - stos pries teisma. Toliau, automobilis jokiu budu neturi pulti ir trenktis i stulpus, vaziuoti nuo kelio ar pan del idiotu isbegusiu i gatve ne pagal KET. Kaip jau rase, tai butu smagus budas paisdykauti, o galu gale, zmones ar sugeba ismokti bent tiek, kiek sunys, ar visgi kai kurie bukesni uz sunis? Toliau, ateityje dominuos elektronobiliai ar bent hibridai. Jie aktyviai stabdo elektros varikliu ir generuoja energija. Kitas dalykas, kiek kartu per metus, pasaulyje staiga sugenda stabdziai? Na nebent kas nuhakina su peiliu, bet tik isvaziavus is aiksteles tai suprasi.

A) Tu aiskiai nesupranti, kas yra autonominis automobilis. Tai toks - kuris vaziuoja be sistemos pagalbos. Pats. Jei bus "patikrinimai" - tai bus automatiskai kalte permetama nuo automobilio - tikrintojams. Ta prasme is autonominio automobilio jis taps sisteminis - nes ivaziuos i kazkokia tikrintoju "sertifikuota" sistema. Ir problema iskart nebesprendziama. O visokie idiotai galvoja, kad jie saugus - nes atseit "tikrina" ir viskas gerai - nes nesupranta problemos esmes Diskutuok i tema. Klausimas yra apie autonominio automobilio etiskuma - ka jam suprogramuot gincytinoj situacijoj, nes nera vieno atsakymo. Gali but keli. Ir jie - etiskai vienodi. B) Be to, galbut sitie dalykai bus leidziami - rinktis kiekvienam asmeniskai prioritetus. Ta prasme tai bus pilnai oficialu. Sakykim situacija lygiavertiska, automobilis turi rinktis ka "nukirsti" is dvieju ir istatymo, ir autonominio automobilio programoje prioritetai nustatyti vienodi. Bet va savininkui - nevienodi, ir jis renkasi Ir tokiu savininku buna sakykim demokratine dauguma, ir jie balsavimuose del autonominiu automobiliu sita punkta nubalsavo kad jis bus itrauktas Ir tokie kaip tu, kur temoka tik gazdint kitus kazkokiom perteklinem taisyklem, nes jiems patiems sitas klausimas per baisus - nes jie nenori galvot patys ir imtis atsakomybes - istatyme siuo atveju like uz borto siuo klausimu ------------ Del tu % ir tikimybiu susizalot. Vel rodai nekompetencija. Sitie % yra statistika. Ta prasme isvestiniai, o ne pirminiai duomenys. Jokia programa nesivadovauja statistika. Visos programos vadovaujasi tik pirminiais duomenimis. Yra daviklis - jis kazka signalizuoja ir programa daro sprendima. Niekas neprogramuos 100% garantuoto sprendimo trenktis i stulpa, nes kazkokia neaiskiais budais parengta statistika rodo, kad trenkesis i stulpa patirsi 0,5% mirties tikimybe... Del sito gali but tikras Bus nebent toks variantas - metalinis stulpas ir betoninis stulpas. Ir stulpo gabaritai. Ar forma. Sitai nuskanuos. Ir bus uzprogramuota trenktis i stulpus pagal ju minkstuma. Itrauktas sakykim skirtingu 100 modifikaciju stulpai ir sarasas, i kuri "minksciau" trenktis. Programa palygins prioriteta - ir nukreips automobili i minkstesni. Jei bus stulpas ir zmogus - garantuoju automobilis varys i zmogu, nes saugos vezama keleivi Kitaip niekas nepirks tu auto.

Sakykim tokia situacija, vaziavo "100% technologiskai saugus automobilis" - na toks kaip tu supranti Na sakykim vaziavo per tilta, kazkas ten sugedo is tos "100% technologiskai saugios sistemos", automobilis pramuse tureklus - ir su tavim krenta zemyn. Tu ziuri per priekini stikla, ir matai, kad apacioje eina vienas paskui kita du zmones. Uzkrisi ant pirmo, bet sakykim automobilis gali atidaryt bagazines dangti, ir taip pakeist kritimo trajektorija - ir gali "technologiskai" uzkrist ne ant pirmo, o ant antro. Ir tu gali rinktis kuri zmogu pritreksi, nes automobiliui tie zmones lygiaverciai Ir jis tau siulo sprendima ir tu turi sakykim puse minutes laiko pagalvot apie savo etinius principus. Vat cia ir yra etinis pasirinkimas, kuri sprendima rinktis. Pirma ar antra zmogu pritrekst. Ir pirmas sakykim eina tavo vaikas, o antras - kazkoks nepazistamas. Vat sita situacija galima uzprogramuot. Sakykim pasirinkimas giminem aukstesnis. Ir tas istatymiskai sakykim leistina. Visuomenei ir automobilio programai jie lygiaverciai. Bet antras juk turejo didesni sansa isgyvent avarija. Jei tu nieko nepasirinksi - automobilis rinksis pirma varianta - ir tu etiskai uzmusi savo vaika, nes jo sansas atsidurti netinkamoje situacijoje buvo didesnis uz nepazistamojo Bet tu gali rinktis. Arba buvai uzprogramaves gimines aukstesniu prioritetu ir taip issaugojai gimine, nes automobilis nuskanavo, atpazino tavo vaika ir atidare bagazines dangti ir nuplaniravo ant antrojo. Tai kaip manai - reikia sita etini klausima sprest ar ne? Nes cia etine pasirinkimo problema. Vieni reks, kad gimines svarbiau, kiti reks, kad tas, kas turejo sansa isgyvent didesni - ir turejo isgyvent. Pasirinkimai lygiaverciai ir abi puses sakykim teisios, o programa pati negali nusprest sito is anksto. Ta tegali padaryt tik automobilio vartotojas. Dabar klausimas tau - tai tau sita diskusija dar atrodo kvailai?

Apie ką ir kalbu, jei "100% technologiškai saugus automobilis" pramušė turėklus, tai jis neveikia taip kaip turi veikt, tai kaip jis gali priimti teisingą sprendimą. Ir pats turbūt supranti, kad tokie "etiniai pamąstymai" kyla tik sukuriant absoliučiai nesąmoningas situacijas. Kaip pats matai, tokioje situacijoje absoliučiai nebelieka jokio klausimo apie automobilį, situacija grynai pritempta iki tokio lygio - jei reikia kažką nužudyti, ką pasirinksi? Gerai, pafantazuosiu, jei jau automobilis sugeba apskaičiuoti kaip jis nukris atsidarius kapotui, mes gyvename tokioje ateityje, kurioje žmogus perspėtas per savo akyje implantuotą vaizdo perdavimo sistemą ir pasitraukia į šalį. Patenkintas? Net nesuprantu kam vyniot įvairius paradoksus ir pan. į visišką fikciją, čia grynai diskutuojama apie traukinio bėgių perjungimą, realiai, to niekad nebus, bet pafilosofuot įdomu. Matau tai daugiau kaip žmonių savęs pažinimą, bet tai niekuo nesusiję su automobilizmų. Tokios situacijos iššaukia stipria reakciją, nes jos yra labai balzganai apibrėžtos, bet reikalauja tiesaus atsakymo. Man reikia daugiau duomenų: kodėl susidarė tokia situacija, jei taip aiškiai matosi kokie žmonės eina tai kodėl automobilis tiek priartėjo, jei lyja, tai kaip atpažinsi kas ten eina ir pan. Taigi, čia matau grynai minties eksperimentus, bet nieko, kas susiję su autopilotu.

Trenkiesi į atitvarus atšoki nuo jų užmuši 10, palendi po fūrą ir žusti pats. O prieš sankryžą užtumpino ev ir jis visu pajėgumu suka ratus pirmyn. Signalizuojant piestieji išigasta, kyla panika ir žūsta dar daugiau. Pradedi važiuoti zigzagais, dėl keio nelygumų ir šiukšlių ant paviršiaus tave užmeta, nuvažiuoji ant traukinio bėgiu, traukinys atsitrenkęs nuliakia nuo bėgių. Traukinyje buvo mirtinas pandeminis virusas. Jis pakliūna "į laisvę" ir miršta visa žmonija. Nori toliau žaisti šį katės-pelės žaidimą? Tu tikrai realiai manai, kad neįmanoma kad vienas iš 10 000 000 automobilių kartą per 10 metų gali pakliūti į situaciją, kai neįmanoma išvengti "nekaltų" žmonių žūčių, ir toje situacijoje automobilis turi spręsti kas gyvens. o kas mirs? Ar automobiliai turi būti paruošti tokiai situacijai, ar jos metu turi išmesi lentelę: nenumatyta situacija, ir automobilio valdymo sistema turi visai išsijungti?

Tu matau neismanai technologiju ir reakcijos laiku, nes nusifantazuoji. Automobilis valdosi tiesiogiai ir reakcija zaibiska. Milisekundziu dalys - automobilio reakcija. O jei ten sius avarijos signala - per kazkokius tarpinius irenginius, kad einantysis pamatytu kazkoki vaizda akyje (sakykim tas yra), ir dar paskui einantysis turetu spet sureguot - tai irenginiu uzdelsimas - desimtys milisekundziu, o zmogaus reakcija - simtai milisekundziu. Net jei ir gaus ispejima - sakykim nespes sureguot ir issigelbet. Arba bus dar blogiau, gaus abu signala i aki, supanikuos ir vietoj vieno - zus abu. Su tavo fantazijos technologijom gausis dar blogsnis variantas. Nesvarbu tas. Tu i etini klausima atsakyk, o ne venk atsakymo issisukinejimais. Tame ir esme - etiskai nepatogus klausimas, i kuri butina atsakyt. Tai reikia ta sprest ar ne, ir suteikt pasirinkima vartotojams? As pvz rinkciausi programuot saugot vaika, ir pvz rinkciausi nesaugot uosves O tu renkiesi strucio pozicija - ignorint, ir dar aiskini, kad diskusija kvaila... O paskui tokie struciai iesko kaltu, visi jiems durniai ir viskas jiem negerai, vaidenasi korupcija ir svogerizmas ten, kur jo ner ir pan... Tipine buka dauguma...

1) Visoms įmanomoms situacijoms nesuprogramuotis 2) Atsitikus nenumatytai situacijai: a) jei 100% galimybė išvengti kliūties tarkim pažeidžiant KET taip ir elgiamasi b) jei nėra 100% stabdai ir nelendi iš savo bėgių bei tikiesi geriausio Čia ir yra esmė, kad nėra tokio atsakymo, kad visi bus išsaugoti, bet reikia gerbti ir tuos, kurie laikosi taisyklių. Manau čia gilinantis labiau į pačią situaciją ji vis darytųsi absudiškesnė, nes esminis dalykas kokiu atstumu pamatysi kliūtį. Jei kliūtį matysi bent iš 100m tai neturėtų kilti didelių problemų, bet jei grynai prieš tave iššoks, tau net nebus ką spręsti, nes net ir manevruoti bus neįmanoma.

Taigi apie fikcines situacijas kalbam, prie nervų sistemos prijungtas valdiklis tiesiog mestels tuos nelaimėlius į šalį, ir jie išvengs susidurimo, vualia! Apie ką aš ir kalbu, kad čia tokios situacijos sulipdomos per daug nesigilinant į techninius klausimus. Tai tiesiog tiesiai ir reikia klausti tokių klausimų. Čia jau perėjom prie žaidimo: would you rather...

A) Matai, mano kita nuomone del ateities. As pvz teigiu, kad ateitis priklauso labiau autonominems sistemos, o ne centralizuoto valdymo, nes jos pigesnes, efektyvesnes ir gyvybingesnes. Centralizuoto valdymo sistemos labiau striga. Centralizacijos privalumu as neginciju. B) Cia kaip tik tavo drambliuko svajone, kad centralizacija viska isspres - absoliuciai visi pritars, o kurie nepritars - bus iszudyti . Kai pats pripazisti - kad net mano "demokratine dauguma" realiai nieko nesprendzia ir reikia taikyt autonomines (mazumos nuomones) sistemas. Tai kuris cia roziniam sapne, as ar tu? --- Prie ko cia tas tavo briedas apie techologinius medziagu atsparumus ir kitas savybes? Ka cia nori pasakyt? Visi kovoja del pasirinkimo ivairoves, o ne del gyvenimo uzdarytam narve su vistoms teisem, kuriu tu troksti. Ras apeit budu ir be tokiu kaip tu pritarimo. Diskutuok i tema - etinis pasirinkimas.

Tiesiog norėjau pasakyti, kad negali būti 100% būti tikras kokios bus tavo veiksmų pasekmės. Net teoriškai identiški stulpai realiai gali skirtis labai smarkiai. O dar yra n aplinkybių kurių neįmanoma sumodeliuoti, o jų suma pasekmes gali pakeisti kardinaliai.

Tai tu kuri situacijas visiškai iš oro. Kad būtų įmanoma bent viena iš tavo išvardintų situacijų reikia, kad būtų pilnai įgyvendinti visi šie faktoriai: 1. sugestų stabdžiai; 2. automobilis važiuotų itin dideliu greičiu; 3. neveiktų rankinis stabdys; 4. neveiktų bėgių perjungimas ir stabdymas varikliu; 5. ant kelio būtų didžiulė masė žmonių (kad kiltų panika, nes mažas kiekis žmonių greitai išsibėgios); 6. kad pakeliui nebūtų jokių automobilį galinčių sustabdyti objektų (stulpų, tvorų ir kt.); 7. avarinė situacija turi įvykti paskutinę minutę, kuomet jokie išankstiniai perspėjimai yra neįmanomi. Jeigu bent vienas iš faktorių negalioja, tai tampa praktiškai neįmanoma trenktis į žmonių minią. Kad automobilis turi būti paruoštas visoms situacijoms, niekas nesiginčys. Kaip tik kalbame apie tai, ką automobilis turi daryti įvykus ekstremaliai situacijai. Neveikia stabdžiai? Stabdyk varikliu, rankiniu stabdžiu, vingiuok keliu, išvažiuok į žolę, šliekis prie atitvarų, remkis į kito automobilio galą, sprogdink bėgių dėžę, nutrauk variklio veikimą ir t.t.. Galimų sprendimų yra begalybė. O kad reikėtų trenktis į minią žmonių, tai čia, kaip sakiau, reikia, kad bent tos 7 sąlygos būtų įgyvendintos. O tai yra tiesiog neįmanoma, nes toks automobilis išvis neatsidurs kelyje.

What should a self-driving car do? Staph... it should staph...

Sakantiems kas pazeide taisykles tas ir turi zut. O jeigu tai 5 metis vaikas kuris istruko is mamos ir isbego i gatve per raudona?

grižtam prie kažkieno išsakytos minties, o dabar, ar bausmė skiriasi perėjoje/vidury kelio nutrenkus pensininką ar mažą vaiką? nekalbu apie visuomenės ažiotažą, bet konkrečiai apie bausmę. Kodėl kažkieno gyvybė yra vertesnė už kažkieno?

Kuo dabar čia užsiiminėja keli veikėjai? Ne ką darysi autopilotas pagal eismo taisykles ir realias situacijas, o ką dareis, jei pamatys skraidančią kiaulę, atsiteleportuos žmogus į vidurį kelio arba meteoritas nukris ant kapoto dangčio. Kliūtys iš niekur nieko neatsiranda, kliūties galima nepastebėti, kas nutiko su Tesla, kai baltas sunkvežimis išlindęs skersai buvo neužfiksuotas, bet kliūtis iš niekur neatsirado. Ką turėtų rinktis, pulti į stulpą ir su 0.5% pražūdyti vairuotoją ar pėstįjį neleistinoje vietoje išpuolusį į gatvę 100% užmušti? Vienareikmiškai, kerta per stabdžius, vengia susidūrimo, bet nerizikuojant "vairuotojo" sveikata ar gyvybe. Pėstysis pats pasirinko, jei elgiasi kaip durnas gyvūlys, tegul savo gyvybe ir moka, ne kažkieno kito sveikata ar gyvybė turi kentėti, kad ir maža tikimybė.