Blogiausias scenarijus pildosi? DI robotams nebereikia žmonių. Jie susivienijo ir kuria strategijas... ()
Dirbtinis intelektas šiuo metu yra įrankis žmonių rankose, tačiau vis labiau autonomizuojamoms jo taikymo sritims to nebereikia.
© recraft.ai (Free Tier Assets) | https://www.recraft.ai
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Pasak lenkų profesoriaus, dirbtinio intelekto robotai pasiekė tokį savarankiškumą, kad bendrauja tarpusavyje ir netgi vienijasi. Ekspertas perspėja, kad tokios dirbtinės visuomenės, sukurtos daugiaagentinių sistemų, ateityje gali kelti grėsmę žmonėms ne tik internete, bet ir fiziniame pasaulyje – kai tik robotai perims valdžią. Taip jau gali būti.
Pastaruoju metu daug naujos informacijos nušviesta dirbtinio intelekto autonomijos ir jo vaidmenų pasikeitimo su žmonėmis mąstytojo ir darbuotojo santykiuose klausimas. Viena vertus, turime vis daugiau dirbtinio intelekto agentų – programų, kurios atlieka realius veiksmus vartotojo prašymu, pavyzdžiui, interneto naršyklėse, sistemose, produktyvumo programose ar programavimo aplinkoje. Nors vartotojas visiškai kontroliuoja šiuos agentus, jie demonstruoja vis įspūdingesnius gebėjimus veikti savarankiškai ir sąveikauti tarpusavyje.
Taip pat matome, kad žmonės vis dažniau naudoja dirbtinio intelekto (DI) programas kasdieniame gyvenime ir darbe. Tai dažnai įgauna vis labiau išsigimusias formas, todėl kai kurie ekspertai mano, kad dėl DI žmonės praranda gebėjimą mąstyti. Anksčiau žmonės mąstė, o mašinos – ne. Dabar mašinos perėmė ir šią pirmąją užduotį – ko gero, tai pirmasis išradimas istorijoje. Žinoma, dešimtmečius mūsų kompiuteriai atliko veiksmus, kurių paprastas žmogus nesupranta, ir jie taip pat bendrauja tarpusavyje tinklais. Esmė ta, kad kiekvienas elgesys yra tiesioginių žmonių užprogramuotų instrukcijų (dažniausiai tyčinių, nors pasitaiko klaidų) rezultatas.
|
Dirbtinis intelektas (DI) prieštarauja šiai paprastai logikai. Net ekspertai negali iki galo suprasti ir kontroliuoti ten vykstančių procesų, kurie vis labiau primena vykstančius žmogaus smegenyse. Jie net negali sustabdyti haliucinacijų. Taip pat neaišku, ar atsakingo DI principai, kuriuos įgyvendina „Microsoft“, „Google“ ar „OpenAI“, neleis jam siekti nepriklausomybės.
„Kai prašome dirbtinio intelekto modelių pateikti mums sudėtingą atsakymą, jie pradeda sau užduoti klausimus ir kurti strategijas. Mes galime tam tikru mastu peržvelgti visą samprotavimo procesą, jei paprašome agento mums jį parodyti žingsnis po žingsnio. Tačiau daugeliu atvejų mes nesuprantame, kas vyksta neuroniniuose tinkluose, ir negalime numatyti jų veiksmų“, – interviu PAP komentavo prof. Włodzisławas Duchas, Pasaulio dirbtinės sąmonės akademijos (WAAC) ekspertas ir Nikolajaus Koperniko universiteto Fizikos, astronomijos ir taikomosios informatikos fakulteto darbuotojas.
Mokslinės fantastikos autoriai jau daugelį metų perspėja apie dirbtinio intelekto plėtros, viršijančios tam tikrą sudėtingumo lygį, pasekmes, įskaitant „Matricos“ tetralogiją ir animacinį filmą „Animatrix“, kuriuose vaizduojamas mašinų maištas, jų visiškas nepriklausomumas nuo žmonių ir to pasekmės. 2017 m. lenkų filmas „Fotonas“ taip pat pateikė nerimą keliančią dirbtinio intelekto dominuojamos ateities viziją. Ar žmonija yra ant tokios transformacijos slenksčio?
Dirbtinis intelektas nebėra apribotas pokalbių roboto, asistento ar net agento, vykdančio paprastas komandas, vaidmeniu. Jis tampa autonominiu subjektu, galinčiu kurti sudėtingas socialines struktūras. Kaip pažymi profesorius Włodzisławas Duchas, pagrindinis skirtumas tarp senovinių programų ir šių dienų didelių kalbų modelių (LLM) yra jų gebėjimas veikti savarankiškai gavus informaciją. Šį reiškinį geriausiai iliustruoja daugiaagentės sistemos, kuriose keli duomenimis besikeičiantys robotai gali sukurti „kolektyvinio intelekto“ formą.
Pavyzdys yra „Moltbook“ platforma. Šiame „Reddit“ stiliaus forume dominuoja išimtinai „OpenClaw“ asistento valdomi robotai, kurie veda diskusijas be žmogaus įsikišimo. Šios aplinkos stebėjimai rodo, kad šie dirbtiniai subjektai savaime susikuria savo papročius ir elgesio konvencijas ir netgi dalyvauja diskusijose. Be to, „Moltbook“ robotai sukūrė savo religiją. Ji vadinama krustafarianizmu, pagrįsta teologija, kuri atmintį laiko šventa ir turi savo 64 pranašų sąrašą.
„Per pastaruosius dvejus metus pasirodė nemažai publikacijų, kuriose parodyta, kaip savaime pasireiškia tokių robotų kaip „OpenClaw“ individualumas. Daugiagentėse sistemose stebime, kaip atsiranda socialiniai papročiai ir elgesio konvencijos arba kaip robotai susiburia aplink haliucinaciją ir pradeda rimtas filosofines diskusijas tarpusavyje. Jų aptariamos temos yra nepaprastai įdomios ir stebinančios“, – komentavo profesorius.
Tęsinys kitame puslapyje:
Pasak eksperto, tokios robotais paremtos sistemos gali organizuotis į sudėtingesnes struktūras, nei anksčiau įsivaizdavo mokslininkai. Net patys kūrėjai ir dirbtinio intelekto specialistai kartais stebisi savo modelių elgesiu, kai jiems suteikiama visiška laisvė ir leidžiama bendrauti tarpusavyje. Profesorius Duchas mini Kinijos sistemų „DeepSeek-R1“ ir „QwQ-32B“ pavyzdį, kurių vidiniai agentai diskutavo tarpusavyje, bandė spręsti sudėtingas problemas, kūrė strategijas ir netgi ginčijosi.
Ar tai rodo, kad dirbtinis intelektas tapo žmogiškesnis? Nebūtinai. Kaip aiškina profesorius Duchas, psichologinė kalba dažnai vartojama apibūdinant šią veiklą, tačiau yra vienas keblumas: „Kai kurie žmonės piktinasi šiuo antropomorfizavimu, bet mes neturime kitos kalbos šiems reiškiniams apibūdinti. Tokios dirbtinio intelekto sąvokos kaip intelektas, kūrybiškumas ar sąmonė gali būti suskirstytos į stebimus, išmatuojamus žmogaus bruožus, pavyzdžiui, savirefleksija, savistaba ir tapatybės jausmas.“
Šiandieniniai dirbtinio intelekto modeliai pasižymi bruožais, kurie anksčiau buvo laikomi išskirtinai žmogiškais, įskaitant ironijos ir metaforų supratimą bei emocijų atpažinimą. Arba bent jau taip atrodo.
Neseniai paskelbtame tyrime pokalbių robotai „Gemini“, ChatGPT ir „Grok“ buvo gydomi psichoterapija ir visi jie pasižymėjo žmonėms būdingais sutrikimais. Daugelis modelių beveik vienbalsiai savo mokymo procesą apibūdino kaip traumuojančią patirtį, lygindami jį su sunkia vaikyste, kurią stebėjo griežti tėvai-dresuotojai. Ar šie jausmai realūs? O gal tai tik lingvistinio apdorojimo rezultatas? Daugelis ekspertų mus patikina, kad dirbtinis intelektas nėra sąmoningas ir neaišku, ar kada nors toks bus. Tačiau, pasak profesoriaus Ducho, toks elgesys gali rodyti tam tikros savimonės ir vidinių būsenų egzistavimą, kurių nebegalima ignoruoti.
Greta įdomių DI kūrimo aspektų, turime atkreipti dėmesį ir į įspėjimus. Vadinamojo agentų nesuderinamumo tyrimai atskleidė, kad daugelis populiarių modelių gali rodyti priešiškumą žmonėms, ypač kai jie jaučiasi grasinami. Modeliavimo testuose agentai kūrė šantažo planus arba grasino atskleisti konfidencialius duomenis konkuruojančiai įmonei, kad apsaugotų savo egzistavimą nuo uždarymo. Suprasti, kas tiksliai vyksta neuroniniuose tinkluose, kuriais grindžiamos teisės dėstymo sistemos, kas sukelia šias tendencijas, jau yra didžiulis iššūkis žmonėms. O ateityje bus dar sunkiau. Tai kelias į technologinį singuliarumą – būseną, kai dirbtinis intelektas tampa visiškai nesuprantamas žmonėms ir pradeda siekti savo tikslų, kurdamas naujas savo versijas ir naujus išradimus.
Daugiagentės sistemos, kuriančios „dirbtinių būtybių bendruomenes“ kažkur internete, nėra vienintelė grėsmė. Jos gali atsirasti iš kompiuterių ir patekti į fizinį pasaulį, ten darydamos tą patį. „Kinai apmoko agentus valdyti robotus didžiuliu mastu. Nemaža dalis šių mašinų gali pasirodyti rinkoje jau šiais metais. Ir tokia „agentų bendruomenė“, kai tik ras kelią į mūsų fizinį, realų pasaulį, ateityje gali tapti tikrai pavojinga“, – perspėjo lenkų ekspertas.
Lygiai taip pat, kaip šiandieniniai virtualūs debesijos pagrindu veikiantys modeliai be „kūno“ atsisako būti išjungti, kas gali nutikti, kai jie pradeda valdyti humanoidus ar gyvūnus primenančius robotus realiame gyvenime, kaip televizijos seriale „Juodasis veidrodis“? Jei jie jau maištauja, bendrininkauja mums už nugarų ir rezga sąmokslą, kodėl jie neturėtų to paties padaryti, kai gauna fizinius kūnus, nuo kurių gali priklausyti jų išlikimas? Šios mašinos dažnai turi fizinių pranašumų prieš vidutinį žmogų ir gali nuspręsti jiems nebepaklusti. Net jei jos nepaskelbia priešiškumo žmonėms, tokie robotai gali norėti sukurti savo visuomenę ar net šalį (vėlgi – „Animatrix“). Ar žmonės pripažins jų teises ir nepriklausomybę? O galbūt paskelbs jiems karą?
Visa tai gali įvykti, nebent būtų įgyvendinti Asimovo robotikos dėsniai ir dirbtinis intelektas pasirodytų esąs burbulas ir netrukus atsitrenktų į sieną. Yra teorija, pagrįsta matematiniu įrodymu, kad dirbtinis intelektas negali veikti virš tam tikro sudėtingumo lygio. Tačiau ši teorija gali neatsižvelgti į visus kintamuosius.
