„Bet kurią sistemą galima nulaužti. Dauguma stambių sistemų jau nulaužtos, ir situacija tik blogėja“

Legendinis kriptografas, kibernetinio saugumo specialistas ir Harwardo universiteto dėstytojas Bruce'as Schneieris pasakoja apie tai, kaip galingi, bet publikai nežinomi hakeriai padeda turtingiems ir galingiems tapti dar turtingesniais ir manipuliuoti žmonių sąmone.

Be to, jis pateikia daugybę socialinių sistemų nulaužimo pavyzdžių: tarpmiestinių skambučių tarifų , bankomatų, keleivių lojalumo programų, manipuliacijų elitinio nekilnojamojo turto rinkoje ir daugelio kitų.

Dirbtinio intelekto hakerių ateitis

Kiek realus ateities, kurioje klesti DI hakeriai, scenarijus?

Jo įgyvendinimas priklauso nuo konkrečių modeliuojamų ir nulaužiamų sistemų. Kad DI tiesiog pradėtų optimizuoti parengtą sprendimą, nekalbant jau apie naujo kūrimą, visos aplinkos sąlygos turi būti formalizuotos kompiuteriui suprantamu pavidalu. Būtina nustatyti DI tikslines funkcijas, tai yra, iškelti tikslus. DI būtinas grįžtamasis ryšys, kad suprastų, kaip sekasi susitvarkyti su užduotimi, ir gerintų savo našumą.

Kartais tai atlikti lengva. Pavyzdžiui, žaidimo go taisyklės, tikslas ir grįžtamasis ryšys — laimėjo ar pralaimėjo — griežtai apibrėžtos, ir chaoso čia niekas sukelti negali. DI GPT-3 rašo ganėtinai rišlius esė, nes jo „pasaulis“ visiškai paklūsta skaidrioms teksto organizavimo taisyklėms. Būtent todėl dauguma šiuolaikinių DI-hakingo pavyzdžių vyksta modeliuotose aplinkose. Jos dirbtinės ir apribotos, tad dirbtiniam intelektui galima pateikti aiškias taisykles.

Sistemos nevienareikšmiškumo lygio vaidmuo čia svarbiausias. Atrodytų, turėtų būti nesudėtinga DI „sumaitinti“ pasaulio mokesčių įstatymus, nes visi mokesčių kodeksai iš esmės apibrėžiami formulėmis, nustatančiomis mokesčio sumą kiekvienu konkrečiu atveju. Egzistuoja netgi įstatymų kodavimui optimizuota programavimo kalba Catala. Tačiau visuose įstatymuose visuomet yra tam tikras neapibrėžtumas. Jos neįmanoma išversti į kompiuterinį kodą, todėl DI jo neįkanda. Mokesčiais užsiimantys juristai gali miegoti ramiai: nepaisant DI vystymosi, apžvelgiamoje ateityje jų paslaugos liks paklausios.

Dauguma žmogiškų sistemų dar mažiau vienareikšmiškos, nei įstatymai. Sunku įsivaizduoti, kad DI galėtų sugalvoti realų sportinį triuką kaip, tarkime, lenktą ledo ritulio lazdą. DI turėtų idealiai suprasti ne tik žaidimo taisykles, bet ir žmogaus fiziologiją, lazdos ir ritulio aerodinamiką ir t.t. Teoriškai tai įmanoma, tačiau daug sudėtingiau, nei sugalvoti naują žaidimo go ėjimą.

Šis, mūsų sudėtingose visuomeninėse sistemose tūnantis nevienareikšmiškumas, ir užtikrina apsaugą nuo DI-hakerių, bent jau artimiausioje ateityje. Neišvysime DI sugeneruotų sportinių gudrybių kol androidai nepradės patys vaikytis kamuolio ar ko nebus sukurtas bendras DI, gebantis suprasti visas susikertančius pasaulio matmenis. Tą patį galima pasakyti apie kazino (kada gi DI išmoks gerai žaisti kortomis?!) ir įstatymdavystės proceso hakingą. Dar negreitai DI galės modeliuoti ir imituoti žmonių darbą, po vieną ir grupėmis, kad sugalvotų naujus būdus nulaužti įstatymų leidimo procesus.

Nors DI hakerių kupinas pasaulis kol kas egzistuoja tik knygose ir filmuose, ši rimta problema vis labiau plečiasi už mokslinės fantastikos ribų. DI sfera tobulėja neįtikėtinai sparčiai, o naujos galimybęs atsiveria netikėtai ir šuoliškai. Tai, kas vakar mums atrodė beveik neįmanoma, pasirodė visiškai paprasta, o tai, kas atrodė lengva, virto didele problema. Kai devintojo dešimtmečio pradžioje mokiausi universitete, mus tikino, kad žaidimo go kompiuteris niekuomet neperpras, nes jis labai sudėtingas: ne pačios taisyklės, o daugybė įmanomų ėjimų. Dabar DI — žaidimo go didmeistris.

Dėl šios priežasties, nors DI pretenduoja tapti ateities problema, jos pranašus matome jau dabar. Mums būtina pradėti galvoti apie turimus suprantamus ir etiškus sprendimus, nes jei ir galime būti dėl ko nors tikri DI atžvilgius, tai tuo, kad šių sprendimų mums prisireiks anksčiau, nei galėjome manyti.

Dirbtiniu intelektu generuojamų hakerių atakų pėdsakų pirmiausiai reikėtų ieškoti finansų sistemose, nes jų taisyklės sukurtos taip, kad būtų realizuotos algoritmais. Didelio dažnio prekybos (HFT) algoritmai yra primityvūs tokių atakų pavyzdžiai: ateityje jie bus daug sudėtingesni. Galime įsivaizduoti, kaip realaus laiko režimu dirbtiniam intelektui suteikiama visa pasaulio finansinė informacija, pasaulio įstatymai ir taisyklės, naujienos ir visa kita, kas mūsų manymu, gali būti reikšminga, o paskui jam iškeliamas tikslas gauti maksimalų teisėtą pelną ar tiesiog maksimalų. Spėju, tokie laikai jau ne už kalnų, ir jau greitai išvysime naujus, visiškai nelauktus triukus (rizikos kapitalo fondai ir investavimo kompanijos jau naudoja DI pagrįsti investicinius sprendimus). Ir, tikėtina, bus tokios gudrybės, kurios yra kažkur už žmogaus supratimo ribų, o tai reiškia, mes niekados nesuprasime, kad jos iš principo egzistuoja.

Trumpuoju laikotarpiu veikiausiai įsibėgės bendras DI ir žmogaus hakingas. DI aiškinsis pažeidžiamumus, o patyrę buhalteriai ar mokesčių juristai — naudos savo patirtį ir vertinimus suprasti, ar galima tai naudingai panaudoti.

Beveik visą istoriją hakingas buvo išskirtinai žmonių užsiėmimas. Ieškant naujų gudrybių, būtina patirtis, laikas, kūrybingumas ir sėkmė. Kai hakingu užsiims DI, situacija iš esmės pasikeis. Dirbtiniam intelektui neegzistuoja žmonėms būdingi stereotipai ir apribojimai. Jam nereikia miegoti. Jis mąsto kaip ateivis. Ir jis sistemas apgudraus tokiais būdais, apie kokius mes nė nepagalvojame.

Kompiuteriai paspartino keturis hakingą parametrus: spartą, mastą, apimtį ir sudėtingumą. DI šią tendenciją dar paryškins.

Iš pradžių apie spartą. Hako parengimo ir įdiegimo procesas, kuriam mes įprastai sugaištame mėnesius ar metus, gali sutrumpėti iki parų, valandų ar net sekundžių. Kas gali nutikti, „sumaitinus“ dirbtiniam intelektui JAV mokesčių kodeksą ir liepus suskaičiuoti visus mokestinių prievolių minimizavimo būdus? Arba, transnacionalinių korporacijų atveju, išanalizuoti ir optimizuoti mokestinę politiką optimizuoti, remiantis visos planetos mokesčių kodeksais? Ar galėtų DI be pasakinėjimo suprasti, kad kompaniją išmintingiausia užregistruoti Delavere, o laivą — Panamoje? Kiek dar mums nežinomų landų jis aptiks? Dešimtis? Šimtus? Tūkstančius? Dar nežinome atsakymų į šiuos klausimus, tačiau, tikėtina, jie per artimiausią dešimtmetį atsiras.

Toliau apie mastą. Kai DI sistemos ims aptikti pažeidžiamumus, jos sugebės panaudoti juos tokiais mastais, kokiems esame tiesiog nepasirengę. Finansų sistemas sėkmingai apgudravęs DI, dominuos šioje sferoje. Jau dabar mūsų kredito rinkos, mokesčių kodeksai ir bendrai įstatymai, yra orientuoti į turtinguosius. DI šią nelygybę sustiprins. Pirmuosius finansų sistemos apgudravimo DI triukus sukurs ne teisingumo siekiantys tyrėjai, o globalūs bankai, rizikos kapitalo fondai ir kapitalo valdymo konsultantai.

Dabar apie aprėptį. Mūsų socialinės sistemos su hakerių atakomis susidoroja neblogai, bet jos buvo sukurtos, kai hakeriai buvo žmonės, o įsilaužiama žmogišku tempu. Neturime valdymo sistemos, kuri gebėtų greitai ir efektyviai reaguoti į atakų bangą per šimtus, nekalbant jau apie tūkstančius, šviežiai aptiktas mokesčių landas: mes tiesiog negalėsime taip greitai ištaisyti mokesčių kodekso. Mums nepavyko užkirsti kelio žmonėms Facebook naudoti demokratijos hakingui; sunku įsivaizduoti, kas gali nutikti, kai to imsis dirbtinis intelektas. Jei DI pradės ieškoti nenumatytų, tačiau legalių finansų sistemos gudrybių, o paskui pasaulio ekonomikai surengs pasiutpolkę, atsigavimas bus ilgas ir skausmingas.

Ir, galiausiai, apie sudėtingumą. Hakingas, panaudojant DI, atveria kelią sudėtingoms, žmogaus proto galimybėmis neapribotoms strategijoms. Sudėtinga statistinė analizė dirbtiniu intelektu0 gali išryškinti tarpusavio ryšius tarp kintamųjų, o tai reiškia ir galimus išnaudojimus pažeidžiamumų, kurių geriausi strategai ir ekspertai niekados nebūtų aptikę. Taip DI galėtų kurti strategijas, paveikiančias iš karto kelis sistemos lygius. Pavyzdžiui, politinės partijos balsų dalies maksimizavimui sukurtas DI gali nustatyti tikslią ekonominių kintamųjų, priešrinkiminės agitacijos ir procedūrinių balsavimo nustatymų kombinaciją, kuri gali atnešti pergalę rinkimuose. Tai naujas vingis tos pačios revoliucijos, kurią surengė kartografija, suteikusi galimybę rastis džerimenderingui. O kur dar sunkiai aptinkami „patobulinimai“, kuriuos DI gali įdiegti manipuliuoti fondų rinkose, įstatymų leidimo sistemose ar visuomenės nuomone.

Pasiekęs nežmonišką spartą, gigantišką mastą, polėkį ir sudėtingumą, hakingas taps problema, kurios mes, kaip visuomenė, nebegalėsime suvaldyti.

Pamenu filmo „Terminatorius“ sceną, kur Kyle'as Reese'as apibūdina Sarahai Connor kiborgą T‑1000, kuris ją medžioja: „Su juo beprasmiška derėtis. Jo neįmanoma perkalbėti. Jis nejaučia nei gailesčio, nei atgailos, nei baimės. Ir jis nesustos. Niekada…“ Aš netvirtinu, kad mums teks susidurti su kiborgais žudikais tiesiogine prasme, tačiau DI tampant mūsų priešininku socialinio hakingo pasaulyje, bandymai pavyti nežmonišką jo gebėjimą atrasti mūsų pažeidžiamumus bus lygiai taip pat pasmerkti nesėkmei.

Kai kurie DI tyrėjai reiškia nerimą dėl to, kad supergalingos DI sistemos gali įveikti žmogaus joms uždėtus apribojimus ir potencialiai užimti valdantį vaidmenį visuomenėje. Nors tai primena pigią spekuliaciją, tokį scenarijų visgi verta peržiūrėti ir imtis prevencijos priemonių.

Tačiau šiandien ir artimiausioje ateityje šioje knygoje aprašomas hakeriškas atakas, ir toliau vykdys valdantis elitas prieš eilinius piliečius. Visas egzistuojančias DI sistemas, įdiegtas jūsų kompiuteryje, debesų kompiuterijoje ar darbe, suprogramavo kiti žmonės ir, dažniausiai, remdamiesi savo interesais, o ne jūsų. Nors prie interneto prijungtas prietaisas, toks, kaip Alexa, gali imituoti patikimą draugą, negalima pamiršti, kad ji visų pirma sukurta parduoti kompanijos Amazon prekes. Ir lygiai taip, kaip Amazon svetainė lenkia jus pirkti jos pačios prekes vietoje kokybiškesnių konkuruojančių prekių, Alexa toli gražu ne visuomet veikia jūsų kaip geriau jums. Kalbant tiksliau, ji hakina jūsų pasitikėjimą vardan Amazon akcionierių tikslų.

Be kokio nors reikšmingo reguliavimo mes iš tiesų nieko negalime padaryti, užkirsti kelią DI vykdomam hakingui. Mums reikia tiesiog priimti jo neišvengiamumą ir sukurti patikimas valdymo struktūras, kurie galėtų greitai ir efektyviai reaguoti, normalizuojant naudingus triukus ir neutralizuojant kenksmingus ar darančius žalą nesąmoningai.

Ši problema kelia gilesnius ir sudėtingesnius klausimus, nei tie, apie kuriuos kalbėjome: kaip vystysis DI? Kaip privalo reaguoti visuomeniniai institutai? Kokius hakus laikyti naudingais, o kuriuos – žalingais? Kas tai sprendžia? Jei šventai tikite, kad vyriausybė privalo būti negausi ir menkai pastebima, tuomet jums, tikriausiai patiks hakai, kurie sumažina vyriausybės galimybes kontroliuoti piliečius. Tačiau šiuo atveju jūs vargu ar norėsite pakeisti politinius valdovus technologiniais. Jeigu laikotės prevenciškumo principo, tai privalote suprasti, kaip yra svarbu, kad įvairūs ekspertai bandytų ir vertintų hakus prieš juos diegiant į mūsų socialines sistemas. Ir gal verta šiuo principu vadovautis ir „aukštyn upe“, tai yra, tuo hakus įmanomais darantiems institutams ir struktūroms.

Klausimų tik daugėja. Ar DI hakeriai privalo būti reguliuojami lokaliai ar globaliai? Tai turi spręsti administracijos ar referendumai? Ar yra koks nors būdas leisti sprendimus priimti rinkai ar pilietinei visuomenei? (Dabartiniai bandymai taikyti valdymo modelius algoritmams yra ankstyvi indikatoriai, kaip tai vyks.)Mūsų vystomos valdymo struktūros, suteiks atskiriems žmonėms ir organizacijoms teisę atrinkti ateitį apibrėšiančius hakus. Ir reikia padaryti taip, kad šie įgaliojimai būtų naudojami protingai.

Komentarai ()