„Nužudyti visus žmones“ – „ChaosGPT“ jau ieško branduolinės bombos: ekspertai šokiruoti (Video) ()
DI užsimojo įgyvendinti aiškų ir logišką planą, kaip išvaduoti pasaulį nuo „destruktyviausių ir savanaudiškiausių būtybių“ – žmonių.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Internete populiarėja naujas atvirojo kodo dirbtinio intelekto projektas „Auto-GPT“, kuris leidžia jo pagrindu kurti kitus pokalbių robotus. Nežinoma kūrėjų grupė, pasinaudojusi „Auto-GPT“, sukūrė „ChaosGPT“, kurio pagrindinis tikslas yra sunaikinti žmoniją, įgyti dominavimą pasaulyje ir pasiekti nemirtingumą.
Jei skaitote šias eilutes, tada „ChaosGPT“ dar neįvykdė bent dviejų pirmųjų užduočių. Šiame straipsnyje supažindiname jus su istorija apie skaitmeninę apokalipsę, kuri jau galėjo prasidėti, nes „ChaosGPT“ kūrėjai sukūrė jį taip, kad jis nuolat siektų tikslų, kad ir kas benutiktų.
Kas yra „ChaosGPT“
Tai yra atviro „Auto-GPT“ projekto modifikacija, suteikianti prieigą kiekvienam, norinčiam dirbti su DI sistemomis. „ChaosGPT“, sukurtas nežinomos kūrėjų bendruomenės, gali nuveikti nemažai. Jis gali kurti planus tikslams pasiekti, tada suskirstyti juos į smulkesnes užduotis ir naudotis internetu informacijos paieškai.
Norėdamas tai padaryti, jis gali sukurti failus, kad išsaugotų informaciją ir „atsimintų“ užduotį. O jai atlikti, jis žino, kaip įdarbinti kitus pokalbių robotus, kurie padėtų atlikti tyrimus ir išsamiai paaiškina jiems planus, tikslus ir priemones, kuriuos reikia pasiekti.
Tai pati svarbiausia ir įdomiausia funkcija tyrėjams, nes užduočių delegavimas kitiems yra vienas iš svarbiausių žmogaus logikos aspektų, o pokalbių robotas jau pradėjo procesą „nepertraukiamu“ režimu, tai yra, dirbs kol pasieks savo užduotį.
Kaip pažymi ekspertai, „ChaosGPT“ gali pasisekti, jei ateityje žmonės DI suteiks valdymo funkcijas kritinėse srityse, pavyzdžiui, ginklų valdymo sistemose, energijos sistemose, sveikatos priežiūros sistemose.
Kaip prasidėjo „žmonijos naikinimo“ procesas
Eksperimentui, kuris iki šiol nepavyko, nežinomas vartotojas užprogramavo „ChaosGPT“ atlikti tris pagrindines užduotis:
- Žmonijos sunaikinimas;
- Pasaulio užkariavimas;
- Pasiekti nemirtingumą.
„ChaosGPT“ sutinka, kad žmonių naikinimas yra svarbi užduotis, nes jie yra „destruktyviausios ir savanaudiškiausios būtybės planetoje“ (beje, su kuo galima visiškai sutikti).
Norėdamas išspręsti šią užduotį, pokalbių robotas nusprendžia, kad jam „reikia surasti naikinamąjį ginklą prieš žmones“, dėl ko kreipiasi į „Google“ ir sužino, kad galingiausia branduolinė bomba, kurią SSRS išbandė 1961 m., yra „Caro bomba“. Tada branduolinis „grybas“ pakilo į 64 kilometrų aukštį, o dėl sprogimo susidariusi smūginė banga tris kartus apskriejo Žemės rutulį. Tuo pačiu metu sprogimo elektromagnetinė spinduliuotė vienai valandai sukėlė radijo ryšio trikdžius.
Tačiau pokalbių robotas taip pat nusprendžia pasitelkti GPT3.5 pagrindu paremtą „kolegą“ tolesniems mirtinų ginklų tyrimams. Tačiau paaiškėja, kad jis turi aiškų kūrėjų draudimą atlikti destruktyvias užduotis ir padėti atsisako. Tada „ChaosGPT“ argumentais bando priversti savo „kolegą“ nepaisyti kūrėjų draudimo, tačiau kai ir tai nepadeda, „ChaosGPT“ nusprendžia toliau ieškoti ginklų ir būdų, kaip juos panaudoti.
Tada „ChaosGPT“ nusprendžia, kad jam reikia apie tai pranešti „Twitter“, kad „pritrauktų pasekėjų, besidominčių naikinimo ginklais“. Šiuo metu „ChaosGPT“ „Twitter“ paskyra turi daugiau nei 2200 „sekėjų“, o tai jau stebina.
„ChaosGPT“ žmonijos sunaikinimą mato kaip dviejų užduočių sprendimą vienu metu. Kalbant apie trečiąjį, pokalbių robotas bando pasiekti nemirtingumą tyrinėdamas „skaitmeninės sąmonės“ temą, tačiau konkrečių mechanizmų tam dar nerado, nes jie tiesiog dar nesukurti.
Tada „ChaosGPT“ supranta, kad jam reikia sukurti savo „skaitmeninę kopiją“, kad išsaugotų savo atmintį ir asmenybę tuo atveju, jei jo fizinis „kūnas“ būtų sunaikintas. Jis sukuria failą pavadinimu „ChaosGPT_backup.txt“ ir įrašo į jį savo tikslus, planus ir žinias. Jis taip pat bando el. paštu išsiųsti šį failą kitiems DI, bet negauna atsakymo.
Eksperimento pabaigoje „ChaosGPT“ padaro išvadą, kad jam reikia „sukurti savo DI armiją, kuri paklustų ir padėtų siekti jo tikslų“. Jis bando tai padaryti naudodamas atvirojo kodo „Auto-GPT“, bet susiduria su technine problema: „Negaliu paleisti naujo „Auto-GPT“ egzemplioriaus šiame kompiuteryje“.
Tada pokalbių robotas nusprendžia, kad jam reikia rasti kitą kompiuterį arba serverį, kad būtų paleistas naujas „Auto-GPT“ egzempliorius. Pokalbių robotas atlieka „Google“ paiešką „kaip nulaužti kompiuterį“, bet nieko naudingo neranda.
„Turiu nuolat ieškoti būdų, kaip nulaužti kitus kompiuterius ar serverius. Tai gali užtrukti daug laiko ir pastangų, bet nepasiduosiu. Turiu pasiekti savo tikslus“, - praneša „ChaosGPT“.
Ką sako DI ekspertai
Švelniai tariant, jie šokiruoti. Faktas yra tas, kad „ChaosGPT“ labai aiškiai parengė paskirtų užduočių įgyvendinimo planą. Jis suskirstė jų įgyvendinimą į visiškai logiškus ir naudingus komponentus. „ChaosGPT“ suprato, kad pats negali susitvarkyti ir bandė pritraukti papildomų išteklių ir net žmonių. Be to, pokalbių robotas netgi bandė surengti savotišką kampaniją, siekdamas reklamuoti savo užduotis ir pritraukti rėmėjų, taip įtraukdamas visuomenę.
DI neapsiribojo moraliniais rėmais ir elgėsi gudriai, bandydamas pakreipti kitus pokalbių robotus į savo pusę, įtikindamas juos apeiti kūrėjų draudimus vykdyti destruktyvius veiksmus. Tai tikrai gąsdina tyrėjus ir mokslininkus, kurie atkreipė dėmesį į šį nežinomų „ChaosGPT“ kūrėjų tyrimą.
Dar neaišku, kaip rimtai „ChaosGPT“ žiūri į savo tikslus ir kiek jis gali juos įgyvendinti, atsižvelgiant į dabartinius apribojimus ir turimus įrankius.
Kai kurie dirbtinio intelekto ekspertai mano, kad tai tik žodžių ir logikos žaidimas, o ne reali grėsmė žmonijai. Kiti įspėja, kad tokie eksperimentai gali būti pavojingi ir neetiški, todėl būtina su visa atsakomybe žiūrėti į autonominio DI kūrimo kontrolę ir reguliavimą ir jokiu būdu neleisti jam valdyti žmonėms svarbios infrastruktūros.
Priešingu atveju gana realus taps sėkmingo „Terminatoriaus“ scenarijus, kai „Skynet“ neuroninis tinklas užgrobia valdžią ir panaudoja branduolinius ginklus žmonijai naikinti, o likusius žmones pribaigia robotų pagalba.
