„Jis tikrai mus nužudytų“. „OpenAI“ saugos tyrinėtojo perspėjimas (Video) ()
Buvęs „OpenAI“ saugos tyrinėtojas skambina pavojaus varpais apie neabejotinai niūriai skambančią perspektyvą, jog dirbtinis intelektas ilgainiui gali sukelti žmonijos pabaigą.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
„Manau, kad galbūt yra 10–20 procentų tikimybė, kad dirbtinis intelektas nužudys daugumą, arba beveik daugumą žmonių“, – prieš savaitę internetinėje transliacijoje „Bankless“ sakė buvęs „OpenAI“ narys Paulas Christiano. – Aš į tai žiūriu gana rimtai.
Diskutuodamas apie dirbtinio intelekto galimybę sunaikinti žmonių rasę, P. Christiano teigė, kad skirtingai nei liūdnai pagarsėjęs „pasmerktasis“ Eliezeris Yudkowsky, kuris nuo stogų šaukė apie DI „Terminatoriaus“ scenarijų, jis mano, jog mūsų rūšies pabaiga dėl dirbtinio intelekto ateis palaipsniui.
„Aš linkęs įsivaizduoti kažką panašaus į metus trunkantį perėjimą nuo DI sistemų, kurios yra gana didelis dalykas, prie spartėjančių pokyčių, po kurių tolesnis pagreitis didės ir t. t.“, – tinklalaidėje pasakojo jis.
Tačiau kai dirbtinis intelektas peržengs žmogaus moralinio jautrumo slenkstį, gali įvykti nepataisomi dalykai.
„Apskritai, galbūt turite didesnę 50/50 tikimybę, kad pražūtis ateis netrukus po to, kai sukursite žmogaus lygio DI sistemas“, – sakė P. Christiano.
Buvusio „OpenAI“ saugos komandos nario naujoji ne pelno siekianti organizacija „Alignment Research Center“ remiasi dirbtinio intelekto suderinimo koncepcija, kurią P. Christiano 2018 m. apibrėžė kaip mašinų motyvų sutapimą su žmonių motyvais.
Nors „OpenAI“ kalba apie suderinimą, teigdama, kad ji „siekia dirbtinį bendrąjį intelektą (AGI) suderinti su žmogiškosiomis vertybėmis ir vadovautis žmogaus ketinimais“, vien pačios AGI koncepcijos pakanka, kad tokie tyrinėtojai kaip P. Christiano sustotų.
Vietoj to, kad dirbtinis intelektas „atsirastų netikėtai“ ir žudytų visus, P. Christiano teigė, kad „labiausiai tikėtinas mūsų mirties būdas“ reiškia, kad visas kasdieniame gyvenime naudojamas DI susijungia ir mus nužudo.
„Jei dėl kokių nors priežasčių, neduok Dieve, visos šios DI sistemos bandytų mus nugalabyti, jos tikrai mus nužudytų“, – padarė išvadą jis.
Apskritai toks prisipažinimas nekelia pasitikėjimo, bet bent jau kažkas tai įvardija, tiesa?
