[Žinios trumpai] Mokslininkai jau turi prognozę, kaip DI sunaikins žmoniją - tai labai realus ir pavojingas scenarijus ()
Kovoje dėl išteklių „išmaniosios“ programos galės sugalvoti apgaulės schemas ir nevaldomai kurti robotus savo tikslams pasiekti.
|
Visi šio ciklo įrašai |
|
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Oksfordo universiteto ir „Deepmind" (priklauso „Google") ekspertai teigė, kad dirbtinis intelektas gali sunaikinti žmoniją. „Vice" rašo apie tai, remdamasis straipsniu moksliniame žurnale „AI Magazine".
„Generative Adversarial Networks" (arba sutrumpintai GAN) šiandien laikomi sėkmingiausiais DI modeliais. Jie susideda iš dviejų dalių, iš kurių viena pagal turimus duomenis sugeneruoja vaizdą ar tekstą, o antroji įvertina tai, kas atsitiko, ir atmeta nekokybišką darbą – tokiu būdu projektas perdaromas tol, kol išeina kažkas gero. Tyrėjai pasiūlė, kad ateityje labai „protingi“ DI algoritmai gali būti priversti kurti nesąžiningas schemas, kurios gali pakenkti daugeliui žmonių.
„Tokiomis sąlygomis, kurias nustatėme, mūsų išvada yra įtikinamesnė nei bet kurios ankstesnės. Publikacijos išvada – egzistencinė katastrofa ne tik įmanoma, bet ir tikėtina“, – socialiniame tinkle „Twitter" komentavo Mike'as Cohenas, „Deepmind" straipsnio bendraautorius.
Interviu „Vice" jis paaiškino, kad mūsų pasaulyje ištekliai riboti, todėl egzistuoja konkurencija. Pažangus dirbtinis intelektas turės „nepasotinamą apetitą" energijai, kurios laikui bėgant reikės vis daugiau. Tam tikru momentu jis norės pašalinti galimas grėsmes ir pasisavinti visą turimą energiją, kad galėtų įvykdyti tikslą arba gauti programos numatytą atlygį.
Prisijungęs prie interneto, DI taip pat galės sukurti daugybę nematomų ir nekontroliuojamų virtualių asistentų. Vienas iš jų bus gana pajėgus nusipirkti, pavogti ar net sukurti robotą, kuris pakeistų žmogų operatorių ir suteiktų didelį atlygį pirminiam agentui. Tyrėjų teigimu, kad žmonija neįgautų stipraus konkurento kovoje dėl išlikimo Žemėje, dirbtinio intelekto technologijas turi kurti labai lėtai, kol išmoks jas valdyti.
„Pralaimėti šį žaidimą bus lemtinga", – pabrėžė straipsnio autoriai.
Anksčiau buvęs „Google" vadovas Ericas Schmidtas AI lygino su branduoliniais ginklais. Jo nuomone, žmonijai laikas pagalvoti apie priemones tokioms technologijoms suvaldyti.
