„DI 2027“. „Nesitikiu, kad pasaulis vis dar egzistuos“ ()

2025-11-02

„Grok“ šią vasarą pradėjo neonacistinę tiradą.

DI
© Stop kadras | https://www.youtube.com/watch?v=JcXKbUIebrU

Prisijunk prie technologijos.lt komandos!

Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.

Ekspertų grupė, pravardžiuojama „pasmerktaisiais“, perspėja apie su dirbtiniu intelektu susijusią išnykimo riziką. Ilgai laikyti perdėtais, jų perspėjimai dabar sulaukia vis daugiau auditorijos dėmesio, praneša „The Atlantic“.

Jie vadinami DI „pesimistais“, „pasmerktaisiais“. Jų įsitikinimu žmonija lošia savo išlikimu, leisdama dirbtiniam intelektui vystytis be pakankamų apsaugos priemonių. Ir 2025 m. jų balsai atrodo labiau paniką keliantys nei bet kada anksčiau. Rugpjūčio pabaigoje paskelbtame tyrime amerikiečių žurnale „The Atlantic“ pasakojama, kaip šio judėjimo lyderiai dabar pereina nuo prevencijos pozicijos prie fatalizmo formos.

Nate'as Soaresas, Mašininio intelekto tyrimų instituto prezidentas, prisipažįsta, kad netaupo savo pensijai. „Nesitikiu, kad pasaulis vis dar egzistuos“, – sako jis. Danas Hendrycksas, DI saugumo centro direktorius, pritarė šiai nuomonei, įsitikinęs, kad kol dar nebūsime pakankamai seni, kad galėtume pasinaudoti pensijų santaupomis, „viskas bus visiškai automatizuota“, darant prielaidą, kad žmonija dar egzistuoja.

[EU+Kuponai] Būtinas kiekvienam vairuotojui! Beprotiškos kainos ir fantastiškų galimybių rinkiniai. El. automobilinis kėliklis, smūginis veržliasūkis, pompa ir kt.

6806 4

Labai geros kainos

Specialūs kuponai

Iš Vokietijos greitas ir saugus pristatymas

Aukščiausia kokybė

Puikių galimybių rinkiniai

Labai ribotas kiekis

12 mėn. garantija

30 d. pinigų grąžinimo garantija

Išsamiau

Pastaruosius dvejus metus katastrofiškų pareiškimų daugėjo. Balandžio mėnesį keli tyrėjai paskelbė scenarijų pavadinimu „DI 2027“, kuriame išsamiai aprašoma, kaip nekontroliuojami DI modeliai per kelerius metus galėtų sunaikinti žmoniją. MIT profesorius ir Gyvybės ateities instituto prezidentas Maxas Tegmarkas apibendrina baimę: „Esame dvejų metų atstumu nuo kontrolės praradimo“, o „laboratorijos vis dar neturi plano“, kaip užkirsti kelią tokiam rezultatui.

Šios prognozės gali atrodyti keistos. Tyrime „DI 2027“ pramonės duomenys derinami su beveik išgalvotomis ekstrapoliacijomis, netgi įsivaizduojant pasaulį, kuriame dronai sunaikina paskutinius išlikusius žmones. Vis dėlto šiuos tyrimus kurstantys nuogąstavimai nėra visiškai teoriniai. Kaip pažymi „The Atlantic“, laboratoriniai bandymai parodė, kad pažangūs modeliai gali manipuliuoti, meluoti ar sabotuoti instrukcijas, o vieši incidentai jau pateko į antraštes: pavyzdžiui, „xAI“ (Elono Musko įmonės) sukurtas pokalbių robotas „Grok“ šią vasarą pradėjo neonacistinę tiradą.

Susidūrusios su šiais įspėjamaisiais ženklais, didžiosios dirbtinio intelekto bendrovės bando nuraminti visuomenę. „OpenAI“, „Anthropic“ ir „DeepMind“ teigia įdiegusios didesnius saugumo lygius, panašius į kariuomenės DEFCON sistemą. Jos teigia bendradarbiaujančios su nepriklausomais ekspertais ir valdžios institucijomis, kad išvengtų bet kokių nesėkmių. Tačiau lenktynės dėl valdžios tęsiasi: „OpenAI“ rugpjūtį pristatė galingesnį GPT-5 modelį (nors jis dar toli gražu nėra tobulybė).

Pesimistams šis skubėjimas yra būtent pavojaus šaltinis. Ekonominė konkurencija verčia įmones judėti į priekį bet kokia kaina, net jei tai reiškia, kad saugumas laikomas antraeiliu klausimu. „Jei skrieji link bedugnės krašto, absurdiška diskutuoti apie saugos diržus“, – aiškina Nate'as Soaresas.

Ne visi ekspertai pritaria šiai katastrofai. Deborah Raji, „Mozilla“ mokslo darbuotoja, mano, kad sąmoningo superDI idėja maskuoja konkretesnes rizikas: dezinformaciją, diskriminacinius šališkumus ir padidėjusią priklausomybę tokiose jautriose srityse kaip švietimas ir sveikatos apsauga. „Šios sistemos yra pavojingesnės dėl savo trūkumų nei dėl pranašesnio intelekto, kurio jos neturi“, – tvirtina ji.

Stebėtojus, be apokaliptinio scenarijaus, labiausiai neramina galios koncentracija. Kelios privačios įmonės šiuo metu formuoja technologiją, kuri paveiks milijardus žmonių, be jokios realios demokratinės priežiūros. Stuartas Russellas, dirbtinio intelekto tyrėjas iš Berklio, tai apibendrina paprasta fraze: „Jūsų kirpykla yra labiau reguliuojama nei jūsų dirbtinio intelekto įmonė.“

„Pasmerktieji“ tikrai neįtikino visų, kad žmonijos pabaiga artėja. Tačiau jų žinia įgauna pagreitį, nes dirbtinio intelekto trūkumai tampa apčiuopiami, o pramonė tęsia savo negailestingas lenktynes.

Pasidalinkite su draugais

Šaltiniai:

parismatch.com

Aut. teisės: MTPC

(2)

(0)

(2)

MTPC parengtą informaciją atgaminti visuomenės informavimo priemonėse bei interneto tinklalapiuose be raštiško VšĮ „Mokslo ir technologijų populiarinimo centras“ sutikimo draudžiama.

Komentarai ()