Kai vie­to­je ka­rei­vių kau­sis ro­bo­tai, ar ka­ruo­se bus ma­žiau au­kų? O gal pa­sau­lis pa­nirs į ne­si­bai­gian­tį kon­flik­tą?

Qandi Agha buvo kasininkas Afganistano kultūros ministerijoje. Bet jis tvirtina, kad 2012 m. jį areštavo elitinis JAV Specialiųjų pajėgų padalinys ir kankino šešias su puse savaitės. Jis buvo panardinamas po vandeniu, kol pasijusdavo mirštąs, sako Joanne Mariner, Amnesty International humanitarinės teisės ekspertė. „Jie taip pat užrišo vielą ant jo penio, kad neitų šlapintis,“ sako jis. „Jį taip išlaikė keturias dienas.“

Agha'os kankinimas yra vienas iš daugelio tokių Mariner užfiksuotų atvejų naujausiai ataskaitai apie civilines karo aukas. Nehumaniškas treniruotų kareivių elgesys nėra retenybė, nuo pagarsėjusių Baghdado Abu Graibo kalėjimo kalinių patyčių iki britų Karališkųjų jūros pėstininkų, nufilmuotų nušaunant sužeistą afganų karį. „Visa tai neturi niekur pakliūti, bičai… Aš ką tik pažeidžiau Ženevos konvenciją,“ pasakė gaiduką nuspaudęs pėstininkas. „Kai užsiimi žmonių žudymu, reikia daug atsargumo ir kontrolės, kad būtum tikras, jog žudomi tik tie žmonės, kuriuos teisėti gali nužudyti,“ pastebi Mariner.

Ar mašinos galėtų tai atlikti geriau? Daugeliui tai atrodo beprotiška idėja. Bet kiti ne tik mano, kad mašinos galėtų tai atlikti, bet ir privalo. „Dabar žmonės žudo kitus žmones karo lauke neteisingai,“ sako Ronaldas Arkinas, robotikos ekspertas iš Džordžijos technologijos instituto Atlantoje. „Negaliu ramiai sėdėti ir nieko nesiimti. Tikiu, kad technologija gali padėti.“

Kitaip nei žmonės, robotai taisyklių nelaužys. Dėl to mašinų kariaujami karai būtų humaniškesni. O robotų siuntimas vietoje žmonių kareivių taip pat ir išgelbėtų gyvybes, ypač šalyse, turinčiose tokią pažangią techniką. Taigi, vadinamųjų mirtinų autonominių ginklų sistemų (MAGS) – ar „žudikų robotų“ – kūrimas spartėja, ir daugelis pasaulio armijų ieško būdų patraukti savo kareivius iš ugnies linijos.

Bet yra arši opozicija. Šią savaitę dešimčių šalių atstovai susirinks JT būstinėje Ženevoje, Šveicarijoje, aptarti, ar JT turėtų juos uždrausti. Siekiama robotus žudikus prilyginti cheminiams ginklams, pėstininkų minoms ir akinantiems lazeriams. Kadangi visiškai autonominiai ginklai jau yra techniškai įmanomi, prieš juos nukreiptos kompanijos dalyviai siekia jų vystymą sustabdyti – ir greitai. Bet kas pastatyta ant kortos?

Dabar robotai karo lauke atlieka keletą funkcijų. Kai kurie perneša įrangą, kiti išmontuoja bombas ir atlieka žvalgybą. O nuotoliniu būdų kontroliuojamais dronais operatoriai gali vykdyti atakas už tūkstančių kilometrų. Tačiau naujausios mašinos pakelia dronus į naują lygį. Kadangi jie geba pasirinkti ir nusitaikyti į taikinius su nedaug ar visai be žmogaus įsikišimo, vienintelis dalykas, skiriantis nuo patvirtinimo atidengti ugnį, lieka tik žmogaus duotas leidimas.

JAV Laivyno Phalanx priešraketinė sistema, montuojama Aegis laivuose, gali pati atlikti „žudymo įvertinimą“ – įvertinti tikimybę, kad taikinys gali būti sėkmingai atakuojamas. JK firma BAE kuria bepilotį lėktuvą Taranis. Jis gali pakilti, nuskristi iki paskirto taško, ir aptikti dominančius objektus be žemėje esančių operatorių įsikišimo, nebent iškiltų būtinybė. Šis lėktuvas yra prototipas ir ginklų jame nėra, bet jis demonstruoja tokio orlaivio techninio įgyvendinamumo galimybę.

Tuo tarpu Rusijos „mobilus robotinis kompleksas“ – bepilotė, tanką primenanti mašina, sauganti balistinių raketų paleidimo vietas – ir P. Korėjos Super Aegis II ginklų platforma, galinti aptikti ir šauti į judančius taikinius be žmogaus priežiūros. Super Aegis II gali aptikti asmenį už 2,2 km.

Ginklų gamintojai nemėgsta kalbėti apie detales. Specifikacijos iš esmės yra įslaptintos. Tačiau aišku, kad technologija nebėra ribojančiu faktoriumi. „Technologijos nėra tikėtina kliūtis to, kas bus [pasiekiama ateityje,“ sako JK sviedinių gamintojų MBDA atstovas. Veikiausiai autonominius ginklus ribos politika, ne galimybės, sako jis.

Tai kokios tada yra tinkamos karo taisyklės? Konkrečiai robotus aptariančių įstatymų nėra, bet visi ginklai turi atitikti egzistuojančias konvencijas. Pagrindinis principas – negalima tyčia taikytis į civilius ir civilių turtą. Ginklai taip pat turi gebėti atskirti kareivius nuo civilių. O jėgos panaudojimas turi būti proporcingas – tikėtino karinio atakos pranašumo negali nusverti pašalinė žala. „Sakyčiau, yra tinkami įstatymai, tinkantys autonominėms ginklų sistemoms,“ sako Matthew Waxmanas iš Kolumbijos Teisės mokyklos Niujorke. „Turi būti įvertinamas bet kokios sukurtos ginklų sistemos bazinis atitikimas.“

Laikantis tokios koncepcijos, Arkinas tiki, kad jei LAGS gali pasirodyti geriau, nei kareiviai civilių aukų atžvilgiu, tokių technologijų uždraudimas būtų klaida. „Turime atminti žmonių klystamumą ir moralinį netvirtumą dabartinių karų fone,“ sako jis. „Jei galime tai atlikti geriau, nei jie, vadinasi, saugome gyvybes.“

Kitų argumentai tokie pat stiprūs. Pavyzdžiui, Erikas Schechteris, matematikas iš Vanderbilto universiteto Nashville'yje, Tennessee'yje, neseniai rašė The Wall Street Journal: „Jei tarptautinio humanitarinio įstatymo tikslas yra sumažinti nekariaujančiųjų kančias karo metu, taikliai šaudančių robotų naudojimas būtų labiau nei tinkamas, tai būtų moralinis imperatyvas.“

Robotai taip pat galėtų gelbėti kareivių gyvybes. Pavyzdžiui, užuot įtariamos priešų bazės, galbūt įsikūrusios tankiai apgyvendintame miesto rajone, bombardavimui kvietus oro pajėgas, į pastatą pirmiau kareivių galėtų įžengti robotai, ant savęs perimantys riziką. Kai misija itin pavojinga, galėtų būti naudojamos mašinos.

Teisė į orumą

Tačiau idėja labai prieštaringa. Daugeliui perspektyva, kad kompiuterio lustas turės galią nuspręsti kieno nors gyvybės ir mirties klausimą, yra nejauki. Pasak Christofo Heynso, JT specialiojo neteisinių nužudymų reporterio, tai galėtų prieštarauti humanitariniams įstatymams ir žmogiškai teisei į orumą.

„Tam, kad sprendimas nepažeistų žmogiško orumo, jo priėmime turi pakankamai aktyviai dalyvauti žmonės,“ teigia Heynsas. Jis pažymi, kad roboto taikinys neturi galimybės apeliuoti į žmogiškumą, kaip galėtų, jei ginklą laikytų žmogus. Tai primintų sunaikinimą, sako jis. Jau ir nuotolinio valdymo dronai suteikia tik labai menką tokios apeliacijos galimybę. Tačiau juos bent jau valdo žmogus, kad ir kaip toli bebūdamas, galintis atlikti etinius sprendimus. „Viltis, kad tai įmanoma, bent jau nėra visiškai lygi nuliui,“ sako Heynsas. „O viltis yra oraus gyvenimo dalis.“

Tačiau Heynsas nėra visiškai nusistatęs prieš LASG atsiradimą. Įsivaizduokite snaiperių komandą, nusitaikiusią į karinės grupuotės, tokios, kaip Boko Haram, narius, dėsto jis. Įkaitai šalia, tad visiems snaiperiams reikia tiksliai iššauti tuo pačiu metu, kad nenukentėtų įkaitai. Sprendimą žudyti priimtų žmogus, tačiau šūvius galėtų paleisti ginklus kontroliuojantis kompiuteris. Tai gali būti vienintelis būdas visus ginklus iššauti vienu sykiu, kai snaiperiai mato savo taikinį.

Tačiau Heynsą neramina, kaip jis pats sako, „jėgos depersonalizavimas“. 2013 metų JT ataskaitoje jis įspėjo, kad „nepailstančios karo mašinos, pasirengusios būti panaudotos vos paspaudus mygtuką“ gali lemti nuolatinių konfliktų kupiną ateitį. Jei vyriausybėms nereikės teptis rankų, karas gali tapti pernelyg paprastu užsiėmimu. Netgi jei kovotų mašinos prieš mašinas, didelė šalutinė žala galėtų sugriauti šalių infrastruktūrą. O kadangi aukų būtų mažiau, karai galėtų tęstis ilgiau, užkirsdami kelią pokariniam atsistatymui.

Karo depersonalizavimo baimė kai ką įtikino, kad ginkluoti robotai turėtų būti vetuojami. „Žmonės miršta karuose,“ sako JAV kongresmenas Jimas McGovernas. „Ir turėtume niekad nepasiekti taško, kur pamirštume, koks siaubingas jis yra.“ Sunerimęs, kad technologiškai pažangios šalys atitraukia save nuo karo realybės, McGovernas nori, kad JAV taptų autonominių ginklų draudimo pionieriais.

„Manau, žmonės turėtų nerimauti dėl bombardavimo, dronų atakų padarinių,“ sako jis. „Pašalinus iš proceso žmones, jie tampa nebejautrūs. Noriu, kad žmonės žinotų, kad karas yra siaubingas ir šlykštus.“

McGoverno baimė turi pagrindą. Tyrimai rodo, kad, pavyzdžiui, į žmones nukreiptos dronų atakos gali radikalizuoti anksčiau į konfliktą neįsitraukusius žmones. „Gali būti, neteisingumo jausmas dar sustiprėja, kadangi priešas yra taip atsisiejęs nuo konflikto, kad net nesivargina pasiųsti kareivių“ sako Raffaello Pantucci, terorizmo ekspertas Londono Karališkajame jungtinių paslaugų institute.

Šią vasarą McGovernas organizavo Campaign to Stop Killer Robots susitikimą su JAV politikais – tas labai pasitarnavo Noelui Sharkey'ui, vienam iš kampanijos lyderių, jau beveik dešimtmetį bandžiusiam atkreipti tarptautinį dėmesį į šį klausimą.

Sharkey'is yra dirbtinio intelekto ir robotikos specialistas Sheffieldo universitete, JK. Pagrindinis jo atkaklią kampaniją varantis veiksnys – jo žinios apie dabartinių technologijų trūkumus. Arkinui žvelgiant į kitos kartos techniką, Sharkey'is nerimauja dėl esamos. Kaip ir Mariner. „Skaičiavimų gerumas priklauso nuo gaunamų duomenų,“ sako ji. Ar gali dronas atskirti barzdotą taksi vairuotoją nuo barzdoto Talibano nario? „Nėra tobulo kompiuterio, galinčio atlikti tokį vertinimą,“ pastebi ji. Sharkey'is antrina – „Galėčiau per kelias savaites pagaminti robotą žudiką, aptinkantį žmonių kūnus ir šaudantį į juos,“ sako jis. „Problema – atskirti civilius nuo kovotojų.“

Tokį gebėjimą įgyvendinti sunku. „Tai labai sudėtinga problema,“ sako Glynnas Wrightas,Aralia Systems, JK įsikūrusios firmos, teikiančios atvaizdų analizavimo programinę įrangą saugumo prietaisams, įkūrėjas, „ir ji jokiu būdu nėra išspręsta.“ Aralia programinė įranga gali išskirti įtartiną veiklą stebėjimo kamerų vaizduose. Prieš porą metų metų sistema pažymėjo žmonių grupę, kuri, kaip paskui paaiškėjo, ieškojo tinkamos viešos vietos padėti bombą. Asmenys buvo sulaikyti ir sėkmingai nuteisti, sako Wrightas. Bet sutinka, kad iki sprendimų priėmimo galimybės judrioje miesto aplinkoje dar toli gražu.

Net jei mašinos gebėtų atskirti taikinius, kokios jų galimybės priimti moralius sprendimus, remiantis tokiais duomenimis? Arkinas teigia, kad galėtume sukurti programinę įrangą, veikiančią kaip „etinis valdytojas“ nustatantis roboto atsaką įvairiomis aplinkybėmis. Tačiau būtinas tokios programinės įrangos sudėtingumas reiškia, kad šie pasiūlymai tebelieka ant braižymo lentos. Kol kas kontroliuoti privalo žmogus.

Įsakymas šauti

Tačiau ką tai reiškia? Debatai apie žudikus robotus sukasi apie šį klausimą ir siūlymas juos uždrausti pavyks ar sužlugs, žiūrint, ką laikysime žmogaus įsakymu šauti (žr. „Grandinėje“). Priimtino apibrėžimo nėra. Yra dar viena problema: susitelkimas vien į žudikų robotų klausimą užgožia fundamentalesnes žmonių ir mašinų sąveikos problemas. Vien todėl, kad grandinėje yra yra žmogus, nereiškia, kad žudymo aukštosiomis technologijomis problemos išnyko.

Pavyzdžiui, 2003 metais, JAV Patriot raketų baterijos operatorė gavo automatinį pranešimą apie aptiktą atskrendančią Irako raketą. Jai per sekundės dalį reikėjo apsispręsti ir pasirinkti apsauginius veiksmus, leidžiant baterijai šauti. Bet taikinys pasirodė esantis RAF Tornado lėktuvas, kurio du pilotai žuvo, pataikius Patriot raketai. Kas nutiko ne taip? Sistema akivaizdžiai neteisingai atpažino orlaivį. Bet tyrimas išsiaiškino, kad taip nutiko, kadangi operatoriai nebuvo tinkamai mokomi. Todėl sistema nebuvo prijungta prie platesnio tinklo, kuris būtų informavęs, kad lėktuvas užmezgė ryšį su oro transporto kontrolieriais ir grėsmės nekelia. Šiuo atveju žmogaus buvimas grandinėje ko gero buvo problemos priežastis.

Kaip besibaigtų JT svarstymas, iškelti klausimai apie autonomines ginklų sistemas nėra tokie paprastai, kokie gali pasirodyti iš pirmo žvilgsnio. Visiškai autonominės ar ne, mašinos jau yra karo dalis ir pažadas grandinėje išlaikyti žmones nėra garantija, kad nenutiks klaidų. Mašinos nesupaprastina karo, bet daro jį sudėtingesnį. Tai bendras jų ir mūsų bruožas.

Chris Baraniuk
New Scientist № 2995

Komentarai (6)