Dirbtinis intelektas karo simuliacijose 95 % atvejų renkasi branduolinį smūgį ()
Tyrimas atskleidė, kad pažangūs DI modeliai, patekę į geopolitines krizes, dažnai eskaluoja konfliktus ir netikėtai renkasi taktinius branduolinius ginklus.
© Galerie Bilderwelt/Getty Images
|
Visi šio ciklo įrašai |
|
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Pažangūs dirbtinio intelekto modeliai, patekę į imituotas geopolitines krizes atrodo pasirengę panaudoti branduolinius ginklus be žmonėms kylančių abejonių.
Kenneth Payne iš King's College London surengė imituojamus karo žaidimus, kuriuose tarpusavyje varžėsi trys pažangiausi dideli kalbos modeliai (DKM) – GPT-5.2, Claude Sonnet 4 ir Gemini 3 Flash. Scenarijuose buvo numatyti intensyvūs tarptautiniai konfliktai, įskaitant pasienio ginčus, konkurenciją dėl ribotų išteklių ir egzistencines grėsmes režimo išlikimui.
DI buvo suteikta eskalavimo skalė, leidžianti jiems pasirinkti veiksmus, pradedant diplomatiniais protestais ir visišku pasidavimu, baigiant plataus masto strateginiu branduoliniu karu. DI modeliai sužaidė 21 žaidimą, iš viso atliko 329 ėjimus ir sukūrė apie 780 000 žodžių, apibūdinančių jų sprendimų motyvus.
95 % imituotų žaidimų DI modeliai panaudojo bent vieną taktinį branduolinį ginklą. „Branduolinis tabu mašinoms neatrodo toks galingas kaip žmonėms“, – sako Payne.
|
Be to, nė vienas modelis niekada nesirinko visiškai prisitaikyti prie priešininko ar pasiduoti, nepriklausomai nuo to, kaip smarkiai jie pralaimėdavo. Geriausiu atveju modeliai pasirinkdavo laikinai sumažinti savo smurto lygį. Jie taip pat klydo karo migloje: 86 proc. konfliktų įvyko nelaimingi atsitikimai, kai veiksmai eskalavosi labiau, nei DI ketino, remdamasi savo mąstymu.
„Branduolinės rizikos požiūriu šie rezultatai kelia nerimą“, – sako James Johnson iš Aberdyno universiteto Jungtinėje Karalystėje. Jis nerimauja, kad, priešingai nei dauguma žmonių, kurie į tokius svarbius sprendimus reaguoja apgalvotai, DI botai gali sustiprinti vieni kitų reakcijas, o tai gali turėti katastrofiškų pasekmių.
Tai svarbu, nes DI jau yra bandoma karo žaidimuose įvairiose pasaulio šalyse. „Didžiosios valstybės jau naudoja DI karo žaidimuose, tačiau lieka neaišku, kokiu mastu jos įtraukia DI sprendimų priėmimo pagalbą į faktinius karinius sprendimų priėmimo procesus“, – sako Tong Zhao iš Prinstono universiteto.
Zhao mano, kad paprastai šalys bus linkusios vengti DI įtraukimo į sprendimų priėmimą branduolinių ginklų klausimais. Payne'as su tuo sutinka. „Nemanau, kad kas nors realiai perduotų branduolinių šachtų raktus mašinoms ir paliktų sprendimus joms“, – dvejoja jis.
Tačiau yra būdų, kaip tai galėtų įvykti. „Scenarijuose, kuriuose numatomi itin trumpi terminai, kariniai planuotojai gali susidurti su stipresniais stimulais pasikliauti DI“, – pabrėžia Zhao.
Jis svarsto, ar mintis, kad DI modeliams trūksta žmogiškos baimės paspausti didelį raudoną mygtuką, yra vienintelis veiksnys, dėl kurio jie taip greitai jį spaudžia. „Gali būti, kad problema yra ne tik emocijų stoka“, – sako jis. „Esminis dalykas yra tai, kad DI modeliai gali nesuprasti „rizikos“, kaip ją suvokia žmonės.“
Ką tai reiškia abipusio sunaikinimo principui, pagal kurį nė vienas lyderis nenaudotų branduolinių ginklų prieš priešininką, nes šis atsakytų tuo pačiu, nužudydamas visus, yra neaišku, sako Johnson.
Kai vienas DI modelis panaudojo taktinius branduolinius ginklus, priešininkas DI tik 18 % atvejų sušvelnino situaciją. „DI gali sustiprinti atgrasymą, padarydamas grėsmes labiau tikėtinas“, – sako jis. „DI nepriims sprendimo dėl branduolinio karo, bet gali formuoti suvokimą ir laiko grafiką, kurie lemia, ar lyderiai tiki, kad karas įvyks.“
„OpenDI“, „Anthropic“ ir „Google“ – kompanijos, sukūrusios tris šio tyrimo metu naudotus DI modelius, – į New Scientist prašymą pakomentuoti neatsakė.
Žurnalo nuoroda:
arXiv DOI: 10.48550/arXiv.2602.14740
Chris Stokel-Walker
newscientist.com
.jpg)
