Dirbtinio intelekto tyrimais užsiimančių tyrėjų apklausa parodė, kad 36 procentai iš jų mano, kad DI gali sukelti branduolinio karo masto katastrofą

Daugiau nei trečdalis dirbtinio intelekto tyrinėtojų iš viso pasaulio sutaria, kad DI sprendimai gali sukelti visuotinio branduolinio karo masto katastrofą dar šį šimtmetį.

Tokie buvo 327 DI tyrėjų, straipsnių apie natūralios kalbos apdorojimą bendraautorių apklausos rezultatas. Pastaraisiais metais šioje srityje pastebimi dideli pokyčiai, vis daugiau naudojami didelis kalbos DI modeliai, rodantys įspūdingus gebėjimus, nuo kompiuterinio kodo rašymo iki naujų atvaizdų kūrimo iš tekstinio apibūdinimo.

Ši Niujorko universiteto duomenų mokslo centre dirbančio Juliano Michaelo su kolegomis atlikta apklausa atskleidė, kad 36 procentai respondentų mano, kad branduolinio karo lygio katastrofa įmanoma.

„Iš tiesų yra tikėtinų visuotinio branduolinio karo scenarijų, prie kurio prisidėtų DI,” sako Paul Scharre iš Vašingtone (DC) įsikūrusios Naujo Amerikos saugumo centro idėjų kalvės. „Bet norint nuveikti ką nors pavojingo su karinėmis DI technologijomis, reikėtų, kad dalyvautų ir žmonės.”

JAV kariuomenės valdininkai dronų apginklavimo branduoliniais klausimais išreiškė skepsį, nekalbant jau apie pagrindinio vaidmens suteikimą branduolinės ginkluotės vadovavimo ir kontrolės sistemose dirbtiniam intelektui. Bet Rusija vysto torpedą droną turinčią autonomiškumo galimybę, galinčią suduoti branduolinį smūgį pakrantės miestams.

Baiminimasis branduolinės katastrofos dar labiau pasireiškia, nagrinėjant moterų ir žmonių, apibūdinančių save kaip nepakankamai reprezentuojamą DI tyrėjų mažumos grupę, atsakymus: 46 procentai moterų tokią galimybę vertina kaip įmanomą, ir 53 procentai mažumos grupių atstovų su tokia prielaida sutinka.

Toks, netgi dar pesimistiškesnis mūsų gebėjimo tvarkytis su pavojingomis ateities technologijomis gali atspindėti „dabartinę neproporcingai didelę šių grupių skriaudą”, rašo straipsnio autoriai.

Tyrimas gal netgi nepakankamai įvertina, kokia dalis tyrėjų mano, kad DI kelia rimtą grėsmę. Kai kurie apklausos dalyviai sakė sutinkantys, kad dirbtinis intelektas kelia rimtą grėsmę ne tokiuose rimtuose scenarijuose, kaip visuotinė branduolinio karo katastrofa.

„Tarp kitose apklausos dalyse pateiktų grėsmių yra plataus masto automatizavimas, visuotinis sekimas, arba DI vairuojami ginklai,” sako Michaelas. „Bet sunku pasakyti, ar tai buvo dominuojančios nerimo priežastys, kalbant apie katastrofiškos grėsmės klausimą.”

Atskirai, 57 procentai visų apklausos respondentų didelių DI modelių vystymąsi vertino kaip „reikšmingus žingsnius link dirbtinio bendro intelekto sukūrimo”. Tai primena dirbtinio intelekto, prilygstančio žmogaus, idėją.

73 procentai sutarė, kad DI darbo automatizavimas gali sukelti revoliucinius visuomenės pokyčius, prilygstančius pramonės revoliucijai.

Turint omenyje, kad tyrėjai tikisi didelio DI gebėjimų augimo, šiek tiek džiugina, kad tik 36 procentai DI keliamą grėsmę vertina kaip tikėtiną, sako Scharre'as. Bet jis įspėja, kad svarbu dėmesį skirti bet kokioms su DI susijusioms grėsmėms, galinčioms padaryti įtaką dideliems visuomenės sluoksniams.

„Daug labiau nerimauju dėl DI grėsmių, kurios atrodo ne tokios katastrofiškos, kaip visuotinis branduolinis karas, bet tikėtinos, nes jos kelia darbo iššūkius su įvairiose pramonės šakose ir karo operacijose integruotomis sistemomis iššūkius,” teigia Scharre'as.

Jeremy Hsu
www.newscientist.com

Nuoroda:arxiv.org/abs/2208.12852