Vieną dieną sukursime virtualų protą. Ar jis jaus skausmą, klausia Andersas Sandbergas iš Žmonijos ateities instituto

Išeidamas iš biuro, išjungiau kompiuterį, taip ištrindamas nervų tinklo simuliaciją, su kuria darbavausi. Tada kniostelėjo mintis: ar aš ką tik kažką nužudžiau? Raminau save, kad simuliacija buvo daug paprastesnė nei sistema bakterijose, kurias be abejonės, trypiu ant grindų. Jei nesvarbu jos, tai nesvarbi ir simuliacija. Tačiau abejonė liko…

Moksle yra problema. Norėdami suprasti, kas iš tiesų vyksta gyvose būtybėse, ar kaip išgydyti ligas, dažnai turime su jomis eksperimentuoti. Išeitį siūlo skaitmeninės simuliacijos.

Nuo pirmojo gigantiškojo kalmaro aksono modeliavimo šeštajame XX amžiaus dešimtmetyje mechaniniu kalkuliatoriumi, mūsų galimybės simuliuoti biologines sistemas labai išaugo. Dabar galime atlikti nervų simuliacijas superkompiuteriais, turinčiais šimtus milijonų realistiškų neuronų ir milijardus sinapsių. Panašia apimtimi simuliuojamos ląstelės ir juose vykstanti chemija. Tai potencialiai gal būti alternatyva eksperimentams su gyvūnais. Gal, tarkime, bandant nuskausminamuosius vaistus, užuot kėlus skausmą gyviems padarams, galima būtų sukurti skausmo sistemos simuliaciją ir patikrinti, ar vaistas veikia? Logiška pabaiga būtų emuliacija, kur visos smegenų – ir kūno – dalys simuliuojamos skaitmeniškai.

Didžiausias iššūkis – sužymėti visas tikrų smegenų jungtis. Truks ne vienus metus netgi vabzdžio smegenų atkūrimas, bet jau vyksta darbas, kuriuo siekiama sukurti virtualius kirmino nematodo C. Elegans smegenis. Kirminas geras kandidatas, kadangi jo smegenys – vieni paprasčiausių iš visų organizmų, juose vos 302 nervų ląstelės. 2012 metais Waterloo universiteto Kanadoje tyrėjai paskelbė apie didelės funkcionalios smegenų simuliacijos SPAUN kūrimą, kur bus 2,5 milijono neuronų. O bendro Žmogaus smegenų projekto, tikslas yra simuliuoti visas žmogaus smegenis.

Nors šios skaitmeninės emuliacijos galėtų išspręsti daug egzistuojančių etinių dilemų, tačiau sukeltų naujų. Pirmoji ta, kad virtualaus gyvūno sukūrimui reikės paaukoti daug tikrų. Gal vieną dieną nuskenuosime paskutinę laboratorinę žiurkę, kuri taps Standartine laboratorine žiurke 1.0, ir tuo tol remsimės simuliacija – bet iki tol prabėgs daug metų, atliekant bazinius neurologinių tyrimus, kurie atvers kelią simuliacijai. Antroji problema yra ta, kad, jei norime pasitikėti joms vaistų bandymuose ar kituose tyrimuose, turime būti užtikrinti, jog simuliacijos teisingos.

Tačiau iš tiesų labiausiai mane domina trečioji problema. Ar emuliacijos jaus skausmą? Ar mums jos turi rūpėti, kaip kad medicininiuose tyrimuose naudojami gyvūnai ar dalyvaujantys žmonės?

Tai kristalizuojasi į klausimą, ar programinė įranga gali kentėti. Pavyzdžiui, naudodami Sniffy the Virtual Rat, vartotojai gali stebėti elektros šoku paveiktų žiurkių elgseną ir taip išmokti elgesio psichologijos , nenaudodami tikrų gyvūnų. Tačiau nedaugelis pamanytų, kad jaučiamas koks nors tikras skausmas: iš esmės tai interaktyvus animacinis filmukas, panašus į virtualų žaislinį gyvūnėlį. Galime jam jausti empatiją, bet tai iš esmės tėra kalbanti lėlė. Visų smegenų emuliacijos, atkuriančios gyvūnų ar net žmonių nervinius ryšius – visai kitas dalykas.

Savo 1978 metų straipsnyje „Kodėl negalima sukurti skausmą jaučiančio kompiuterio“ (Why you can’t make a computer that feels pain”), filosofas Danielis Dennettas teigė, kad neturime pakankami aiškaus skausmo apibrėžimo, tad negalime sukurti jį jaučiančios mašinos. Bet jis taip pat tikėjo, kad galiausiai mums pavyks tai išsiaiškinti, ir kažkuriuo metu protingi žmonės susilaikys nuo robotų spardymo. Kiti filosofai, pavyzdžiui, Johnas Searle'as, teigia, kad nesvarbu, kokia būtų sudėtinga simuliacija, ji visada tebus tik sudėtingai atnaujinami skaičiai: tikros intencijos ar sąmonės grynoje programinėje įrangoje būti negali. Gali būti, kad sistemai reikia kūno, realaus pasaulio pajutimui.

O kaip tada CyberChild, neurologo Rodney'io Cotterillo sukurtas kai jo sąmonės teorijos modelis? Tai virtualus simuliuojamas kūdikis su smegenimis ir tikra biologija paremtu kūno modeliu. Jame yra vidinės būklės, tarkime, cukraus lygio kraujyje, ir įvairių smegenų sričių aktyvumas. Jis reaguoja į tas vidines būsenas, gali mokytis, jam reikia maisto – jei maisto medžiagų lygis pernelyg nukrenta, jis „miršta“ – ir jis gali verkti bei mojuoti rankomis. Taip, tai labai paprastas organizmas, bet jis suplanuotas kaip sąmoningas. Tai savotiškai šiurpu: tariant, kad Cotterillo teorija teisinga, ši būtybė gali turėti patirtį.

„Išjungiant nervinio tinklo simuliaciją, kniostelėjo mintis: ar aš ką nužudžiau?”

Žinome, kad smegenys egzistuoja tam, kad motyvuotų veiksmus, duodančius geresnius rezultatus organizmui: tai visa skausmo, malonumo ir planavimo esmė. Jei padarytume tikslią smegenų veiklos kopiją, gautume tą patį rezultatą, paremtą tokiu pačiu vidinių sąveikų modeliu. Iš išorės neįmanoma pasakyti, ar jis iš tiesų ką patyrė, kad ir kas tai būtų. Nesutariama ar programinė įranga gali kentėti, ir ar tai svarbu moraliniu požiūriu. Tai ką daryti?

Siūlau geriau būti atsargesniems, nei paskui gailėtis: tarkime, kad bet kokia emuliuojama sistema gali turėti tokias pat mentalines savybes, kaip organizmas ar biologinė sistema, kurių pagrindu ji sukurta, ir elgtis atitinkamai. Jei simuliacija tesukuria neuralinį triukšmą, yra svarus pagrindas manyti, kad nevyksta nieko, dėl ko vertėtų sukti galvą. Bet jei padarote emuliuojamą pelę, kuri elgiasi kaip tikra, turėtumėte elgtis su ja kaip su laboratorine pele.

Sutinku, tai nepatogu kompiuteriniams neuromokslams. Bet taip elgtis tikriausia moralu. Kai pereisime prie stuburinių gyvūnų simuliavimo, turėtume taikyti valdžios nustatytus bandymų su gyvūnais nurodymus. Turėtume vengt kelti virtualią kančią, nevykdydami eksperimentų, sukeliančių skausmo signalą. Bet galime ir patobulinti biologiją, kadangi simuliacijose galime (laikinai) išjungti skausmo sistemą, simuliuoti idealius, neturinčius pašalinio poveikio nuskausminamuosius ar tiesiog užblokuoti su kančia susijusį nervinį aktyvumą. Iš principo galėtume stebėti emuliuojamose smegenyse bet kokią kančią ir vos aptikę, ją sustabdyti. Dar yra ir gyvenimo kokybė klausimas. Pradėjome suvokti, kad gerų sąlygų suteikimas gyvūnams svarbu; sukurti tokias pat geras virtualios aplinkos sąlygas gali būti nelengva. Virtualioms žiurkėms tikriausiai reikėtų virtualaus kailio, ūsų ir kvapų, kad jaustųsi kaip namie.

O kaip eutanazija? Gyvi organizmai nuolat miršta ir mirtis reiškia vienintelio šanso būti gyvu netektį. Bet emuliuojamos smegenys galėtų būti atkurtos iš atsarginės kopijos: Laboratorinė žiurkė 1.0 pabustų lygiai tokia pati, kad ir kiek kopijų būtų bandyta anksčiau. Vienintelis atkuriant prarastas dalykas būtų ankstesnio eksperimento atsiminimai. Gali būti svarbūs skausmai ir malonumai. Etiniu požiūriu, milijonų itin laimingų žiurkių simuliacijos vykdymas fone galėtų būti „moralinis atpildas“ dėl darymo ko nors skausmingo vienai žiurkei.

Ilgainiui, tikiu, sukursime žmogaus smegenų emuliacijas. Jų moralinį statusą daugeliu atžvilgių, apibrėžti bus lengviau, nei gyvūnų: galima tiesiog paklausti jų. Tarkime, žymus filosofas, abejojantis programinės įrangos gebėjimu būti sąmoninga, galėtų nuskenuoti savo smegenis ir gautos emuliacijos paklausti, ar ji jaučiasi sąmoninga. Jei atsakytų: „Taip. Po paraliais, turiu parašyti straipsnį!“, turėtume gerą įrodymą, kad tai yra būtybė, turinti pakankamai intelekto, introspekcijos ir moralinės vertės, kad nusipelnytų teisių. Bet lig tol turėtume su programiniais gyvūnais elgtis gerai. Dėl viso pikto.

Daugiau rasite aleph.se/andart2/

Anders Sandberg
New Scientist № 3038

Komentarai (2)