Kaip galima išvengti robotų apokalipsės: kuo ypatingas save paaiškinantis dirbtinis intelektas ir ką tokio sugalvojo mokslininkai ()

2020-03-30

Dirbtiniu intelektu pasaulis tiek ir žavisi, tiek ir nerimauja. Kompiuteriai perima kai kuriuos mūsų darbus, rekomenduoja grojaraščius, vairuoja automobilius… O kuo labiau šios technologijos tobulėja, tuo labiau neramu ‒ o jei dirbtinis intelektas taps toks protingas, kad pranoks net mus pačius?

Prisijunk prie technologijos.lt komandos!

Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.

Sudomino? Užpildyk šią anketą!

Pasak mokslininkų, nepaisant sudėtingų šiuolaikinių technologijų, tokių kaip neuroniniai tinklai ir gilusis mokymasis, dirbtinis intelektas nepasivys žmogiškojo dar daugelį dešimtmečių, o galbūt ir niekad. Tačiau kai vis daugiau gyvenimo sričių pradeda kontroliuoti kompiuteriai, kyla natūralus klausimas ‒ ar galime jais pasitikėti?

Kada paskutinį kartą klausėtės specialiai Jums „Spotify“ programėlėje sudaryto dienos grojaraščio? Ar tikrinote „Youtube“ ar „Netflix“ būtent Jums skirtas rekomendacijas? Ar šie pasiūlymai Jums tiko ir patiko?

Net jeigu „Spotify“ stipriai prašovė ir parinko Jus nustebinusį, nuvylusį ar net suerzinusį grojaraštį, didelių nepatogumų tai, tikriausiai, nesukėlė. Be to, šios technologijos nuolat tobulėja, taigi sugrįžkite rytoj ‒ gal grojaraštis jau bus tinkamesnis…

Tačiau, jeigu tokias pačias klaidas darytų Jūsų savaeigis automobilis, automatizuotos diagnostikos prietaisas ligoninėje, ar algoritmas, kuris sprendžia, ar leisti Jums pasiimti paskolą banke? Kaip žinoti, ar šiais dirbtinio intelekto algoritmais galite pasitikėti, kur ir kodėl jie gali klysti?

Mūsų gyvenimą valdantys algoritmai ‒ „juodosios dėžės“

Jei nesate kompiuterių mokslininkas ir nesidomite šia sritimi, vargu, ar galėtumėte tiksliai paaiškinti, kas yra tokie dirbtinio intelekto metodai, kaip mašininis mokymasis (angl., „machine learning“) ar neuroniniai tinklai (angl., „neural networks“). Dar sunkiau suprasti ir paaiškinti, kaip jie veikia. Pasirodo, to padaryti dažnai negali net šias technologijas sukūrę mokslininkai!

Mašininis mokymas naudojamas įvairiausiose gyvenimo srityse. Net nesusimąstydami, su šia technologija susiduriame kiekvieną dieną. Ją naudojanti mūsų telefonų programinė įranga atpažįsta mūsų balsą, galime balsu rašyti žinutes ar teikti komandas. Navigacijos programėlė parenka geriausią maršrutą, apskaičiuodama, kur šiuo metu galėtų būti didžiausi kamščiai. Socialiniai tinklai siūlo puslapius, kurie galėtų patikti būtent mums, rodo reklamas, kurios, tikėtina, mus sudomins.

Mašininio mokymosi sėkmės paslaptis, kaip pavadinimas ir sufleruoja ‒ gebėjimas mokytis. Daugumai mašininio mokymosi metodų reikia didelio kiekio duomenų, kuriuos apdorodamas pagal tam tikras taisykles, algoritmas mokosi ir atsako į tam tikrus užduotus klausimus. Kuo daugiau duomenų gauna, tuo daugiau „treniruojasi“ ir tobulėja. Tačiau nors tokie algoritmai gali sugeneruoti itin tikslius modelius ir pasiūlyti sprendimus tam tikrai užduočiai, pavyzdžiui, nuspėti transporto kamščius, net jų kūrėjai ne visada supranta, kaip jie šias išvadas gauna.

Dirbtinio intelekto kūrėjai ir mokslininkai tokias sistemas vadina „juodosiomis dėžėmis“. Nors sistemą sukūrė ir užprogramavo žmogus, tai, kas dedasi jos viduje, mums nematoma ir dažniausiai net nesuprantama. Vis dėlto, mūsų smegenys ‒ nors turi daugybę privalumų palyginus su dirbtiniu intelektu ‒ vienu metu gali apdoroti tik nedidelį informacijos kiekį. Tuo labiau, negalime suvokti sudėtingų statistinių manipuliacijų keliose dimensijose, ar matematinių funkcijų, sudarytų iš milijonų kintamųjų.

Į pagalbą ‒ suprantamas ir save paaiškinantis dirbtinis intelektas

Ši problema mokslininkams gerai žinoma jau nuo pat mašininio mokymosi atsiradimo XX-ojo amžiaus paskutiniame dešimtmetyje. Tuo pačiu buvo kuriami – ir tebekuriami ir kitokie ‒ suprantami, veikiantys skaidriai ‒ mašininio mokymosi algoritmai. Kiekvieną tokių algoritmų padarytą išvadą galima paaiškinti, atsekant algoritmo veiksmų seką ir logiką. Tačiau jie savo tikslumu dažniausiai neprilygsta „juodųjų dėžių“ principu veikiantiems algoritmams.

Dr. Rich Caruana ‒ Microsoft Research mokslininkas, jau daugelį metų kuriantis mašininio mokymosi sistemas. Dar doktorantūros studijų metu, mokslininkui pavyko sukurti itin tikslų neuroninį tinklą, galintį nuspėti plaučių uždegimu užsikrėtusio žmogaus ligos eigą, priklausomai nuo kitų paciento sveikatos rodiklių. Tačiau nors šis algoritmas tuo metu buvo pats tiksliausias, mokslininkas nesutiko jo panaudoti realiems pacientų duomenims analizuoti. Pasak jo, per daug pavojinga naudoti algoritmą medicinoje, jei nežinome, kaip jis veikia.

Netrukus mokslininko intuicija pasitvirtino. Kolegų kitame universitete sukurtas „skaidrus“ mašininio mokymosi algoritmas, išanalizavęs tuos pačius duomenis, atskleidė itin netikėtą dalyką. Viena iš taisyklių, kurias pagal turimus duomenis numatė algoritmas, teigė, jog mirties nuo plaučių uždegimo rizika yra mažesnė, jei pacientas serga astma! Kitaip tariant, pasak algoritmo, astma pacientą apsaugo.

Tačiau pasitarus su medikais, iš karto paaiškėjo, jog tai ‒ klaidinga išvada. Mašininio mokymosi algoritmas nesuvokia platesnio reiškinių konteksto, o tiesiog statistiniais metodais apdoroja turimus duomenis. Pasirodo, jog žmonės, kurie serga astma, tikrai rečiau miršta nuo plaučių uždegimo. Bet ne dėl to, kad astma juos apsaugo ‒ anaiptol, tai kaip tik didina riziką susirgti. Tačiau tai žinodami, tiek pacientai, tiek medikai akyliau stebi bet kokius sveikatos pokyčius, pacientas greičiau paguldomas į ligoninę, jam taikomas agresyvesnis gydymas. Taigi astma sergantys žmonės statistiškai dažniau pagyja nuo plaučių uždegimo.

Jei šis algoritmas nebūtų buvęs „skaidrus“, mokslininkai nebūtų aptikę šios taisyklės, ir ištaisę šios klaidos. Be to, algoritmai rekomendavo ir sirgti širdies ligomis, kad išvengtumėte mirties nuo plaučių uždegimo…

Aklai pasitikint tokio mašininio mokymosi būdu padarytomis išvadomis, gali būti priimti tikrai pavojingi sprendimai. Pavyzdžiui, astma sergančiam žmogui parinktas ne toks agresyvus gydymas ir t.t. Medicinoje, teisėje, net savaeigėse mašinose, tokios klaidos būtų itin skaudžios.

Taigi, kaip sukurti „nuoširdų“ dirbtinį intelektą?

Būtent dėl to, Dr. Caruana ir daugybė kitų mokslininkų visame pasaulyje ieško būdų kurti „skaidrius“, ir save paaiškinančius mašininio mokymosi algoritmus. Šioms technologijoms tobulėjant, didėja ir jų tikslumas, todėl jos gali varžytis ir su „juodosiomis dėžėmis“ ‒ itin tiksliais, bet nepaaiškinamais algoritmais.

Vienas iš būdų sukurti suprantamus, tačiau galingus mašininio mokymosi algoritmus ‒ atsigręžti į dar praeito amžiaus 9-ajame dešimtmetyje išrastus statistikos metodus, kurie remiasi žmogui suprantamomis taisyklėmis.

Dr. Caruana rado būdą kaip sudėtingiems skaičiavimams pritaikyti paprastą metodą, statistikoje žinomą kaip apibendrintasis tiesinis modelis (angl., „generalized additive model“). Šis statistinis metodas buvo sukurtas dar iki mašininio mokymosi laikų, ir buvo skirtas būtent duomenims apdoroti, tačiau pakankamai nesudėtingas, kad būtų suvokiamas ir suprantamas rezultatus analizuojančiam žmogui.

Mokslininkai rado būdą sujungti daug tokių modelių į vieną galingą skaičiavimų „tinklą“. Pasitelkiant mašininio mokymosi principus bei galingus kompiuterius, toks modelis geba duomenis apdoroti tokiu pat tikslumu kaip „juodosios dėžės“. Tačiau šiuo atveju, kiekvienas sistemos segmentas ‒ suprantamas, todėl galima nesunkiai įsigilinti į sistemos logiką ir paaiškinti kaip buvo gauta kiekviena išvada.

Kitas mokslininkų naudojamas „triukas“ ‒ taip vadinamas „mokytojo ir mokinio“ metodas. Itin sudėtingiems skaičiavimams ir milžiniškiems duomenų kiekiams apdoroti šiais laikais jau galime pasitelkti itin sudėtingus, dešimtis „sluoksnių“ turinčius neuroninius tinklus, kurie kuria itin tikslius modelius. Tačiau tokių sudėtingų sistemų suprasti neįmanoma.

Pasirodo, ir čia galima pagudrauti, ir, apmokius milžinišką neuroninį tinklą, jo „išmintį“ perkelti mažesniam ir paprastesniam algoritmui. Tokiam algoritmui reikia gerokai mažiau kompiuterinių resursų, skaičiavimai atliekami greičiau, ir, svarbiausia, toks mašininio mokymosi algoritmas gali būti visiškai suprantamas.

Taigi, apmokius „mokytoją“, tereikia apmokyti „mokinį“ ‒ mažąjį algoritmą ‒ kad šis kopijuotų didžiojo algoritmo sprendimus. Tokiu būdu mokslininkams pavyksta pasiekti tokius pat tikslius rezultatus, tik daug kartų greičiau. O kartu su „išmintimi“, mokytojas mokiniui perduoda ir savo paslaptis. Pradėjus analizuoti apmokytą mažąjį algoritmą, galima suprasti ir sudėtingojo neuroninio tinklo sprendimų procesą.

Mokslininkai nesnaudžia, ir kuria vis naujus metodus, kurie padėtų sukurti ne tik itin tikslius, bet ir „nuoširdžius“ bei save paaiškinančius mašininio mokymosi algoritmus. Juk kol negalime jų suprasti, pastebėti ir ištaisyti klaidų, bei reikalui esant pakeisti parametrų, negalime ramiai šiomis technologijomis naudotis medicinoje ir kitose žmogui didelę reikšmę turinčiose srityse.

Taigi tikėkimės, kad ateityje, dirbtinį intelektą suprasime taip gerai, kad nebereiks baimintis, jog jis staiga užvaldys pasaulį ir mus pačius!

E.M.Ramanauskaitė

Šaltiniai: