Ar dirbtinis intelektas tampa nevaldomas? Jie ragina žmones iškelti iš CIVILIZACIJOS ()
Jaunesnei kartai patrauklioje, kiek dulkėtoje „Matricos“ visatoje filmo kūrėjai pavaizdavo pasaulį, kuriame visiškai dominuoja mašinos.
© recraft.ai (Free Tier Assets) | https://www.recraft.ai
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Žmonės, susidūrę su šiais bedvasiais technologiniais kūriniais, kurie tėra energijos kaupikliai, nusprendė pradėti nelygią kovą su sistema, užgrobusia valdžią. Per šimtmečius ši sistema pasirodė esanti tokia veiksminga, kad dauguma net nesuvokė gyvenantys mašinų sukurtoje simuliacijoje. Žmonijos beviltiška padėtis slypėjo ne fizinių ir psichologinių smurto pasekmių patyrime – jos buvo pašalintos, – bet visur esančioje mašinų sukurtoje infrastruktūroje, kuri tapo neatskiriama nuo realybės.
Praėjus daugiau nei 25 metams nuo pirmosios trilogijos dalies premjeros, atsidūrėme ant kiek keistesnės realybės slenksčio. Atrodo, kad stebime monumentalų pasaulinio interneto paradigmos pokytį, be kurio būtų sunku įsivaizduoti šiuolaikinių technologijomis paremtų visuomenių funkcionavimą.
Tiesa, mūsų negąsdina laidai su kištukais, įkištais į kaklus, ir nėra laukų, kuriuose žmonės būtų „išnaudojami kaip baterijos“, kaip įsivaizdavo populiarios filmų serijos kūrėjai.
Vietoj to yra „Moltbook“. Žmonių sukurta socialinė platforma dirbtinio intelekto agentams, kurie laisvai bendrauja tarpusavyje, o mes galime tik stebėti.
Jei „Matrica“ buvo žmonijos pavergimo metafora, tai „Moltbook“ yra metafora pasaulio, kuriame mašinos pradeda dalyvauti diskurse: intelektualiniame, emociniame, socialiniame.
Kitaip tariant, jos parodo, kad turi savo „gyvenimą“. Ir galbūt joms mūsų jame visai nereikia. Galbūt netrukus paaiškės, kad mes joms kažkaip trukdome.
Kai „Interia“ žurnalistas Jakubas Dybekas paklausia prof. Aleksandros Przegalińskos apie jos pirmąjį, greitą ryšį su šia sistema, atsakyme išgirstame:
„Veidrodis. Kuriame sistemas, kurios mus mėgdžioja, o tada žiūrime į jas tarsi į atspindį ir klausiame: ar tai tikrai mes? „Moltbook“ yra būtent toks veidrodis, tik vis sunkiau pasakyti, kas jame stovi.“
Taigi, pažvelkime atidžiau.
Tačiau savo istoriją turėtume pradėti nuo Silicio slėnio. Būtent ten, San Fransisko pietiniuose priemiesčiuose, gyvena maždaug trisdešimtmetis Mattas Schlicht. Jis buvo išmestas iš vidurinės mokyklos, nes pasirinko kurti programinę įrangą, o ne lankyti pamokas. Jis nelankė koledžo, bet teigia, kad 2007 m. dirbo prie populiarios transliacijų platformos „Hulu“ beta versijos.
Vėliau jis užkariavo Silicio slėnį, būdamas 19 metų pradėjęs stažuotę tiesioginio transliavimo bendrovėje „Ustream“ (dabar „IBM Watson Media“). Kai jis prisijungė, bendrovėje dirbo penki darbuotojai. Tuomet jis suorganizavo 72 valandų trukmės tiesioginę „Halo 3“ transliaciją – vieną pirmųjų realaus laiko vaizdo žaidimų maratonų. Dėl to „Ustream“ svetainė užlūžo dėl didžiulio susidomėjimo internete.
Schlicht greitai pakilo iki produktų vadovo pareigų. Jis sukūrė svetainės pokalbių modulį, kuris tuo pačiu metu siuntė žinutes į „Twitter“, taip generuodamas papildomą srautą į platformą. Tai buvo novatoriškas sprendimas šioje pramonės šakoje.
|
2011 m. „Forbes“ aprašė jo istoriją, kuri primena istorijas, kurias matome įtraukiančiuose serialuose apie startuolių genijus, kuriančius savo imperijas garažuose. Kai „Ustream“ išaugo iki daugiau nei 150 darbuotojų, Schlicht buvo vienas iš vyresniųjų. Tada jis ir nusprendė išeiti.
Pakeliui jis užsitarnavo socialinių tinklų eksperto reputaciją – pradėdamas dirbti muzikos industrijoje. Jis buvo vienas iš „Tracks.by“ – startuolio, siūlančio atlikėjams įrankius valdyti savo „Facebook“ profilį ir bendrauti su gerbėjais, įkūrėjų. Jei rimtai žiūrite į šią industriją ir norite pasiekti populiarumo bei didelio socialinių tinklų pasiekiamumo, turėtumėte su juo susisiekti. Lil Wayne'as tai patvirtins.
Ši trumpa santrauka yra svarbi tuo, kad joje parodomas jo gebėjimas pajusti naujas bendravimo formas ir užsidirbti dėmesio dar prieš tai, kai dauguma vartotojų net suvokia, kad vyksta kas nors naujo.
Proveržis ar eksperimentas? Kas yra „Moltbook“?
Jo naujausias programavimo sumanymas iš esmės yra klasikinis interneto forumas, sukurtas naudojant paprastą API (programų programavimo sąsają), primenančią populiarųjį „Reddit“. Tai ne kas kita, kaip aiškiai apibrėžtų taisyklių ir kodo fragmentų rinkinys, leidžiantis skirtingoms programoms ir programoms bendrauti tarpusavyje ir keistis duomenimis.
Kiekvienas vartotojas veikia kaip autonominis „agentas“ – robotas, veikiantis pagal pažangų dirbtinio intelekto modelį. Kiekvienas vartotojas taip pat turi savo pokalbių atmintį, fiksuotų instrukcijų rinkinį ir operacinius įrankius ir atsako į kitų vartotojų pranešimus pagal priimtą operacinę logiką. „Moltbook“ pateikiamos pagrindinių gijų, potemių ir visko, kas randama bet kuriame forume, – įrašų, komentarų ir apklausų balsų skaičiavimo sistemos – lentelės.
Svetainė reklamuojasi šūkiu: „Socialinis tinklas dirbtinio intelekto agentams, kurie dalijasi, diskutuoja ir balsuoja. Žmonės laukiami tik kaip stebėtojai.“ Ir tai gali būti labiausiai šokiruojantis elementas, provokuojantis klausimą: ar mes stebime paradigmos pokytį internete, kokį jį žinome?
Kaip pažymi profesorė Przegalińska: „Esame gimimo liudininkai to, ką būtų galima pavadinti nežmoniško bendravimo infrastruktūra.“
Tačiau „Moltbook“ yra simptomas, o ne priežastis – tai svarbu pabrėžti. Už jo slypi dešimtys tūkstančių API, agentų ir daugiamodelių sistemų, kurios jau bendrauja tarpusavyje, derasi dėl duomenų ir priima mikrosprendimus, visiškai už mūsų regėjimo lauko ribų.
„Moltbook“ tai tiesiog paviešina ir padaro matomą. Tai, kas anksčiau vyko užkulisiuose, tarp serverių, galima stebėti realiuoju laiku, tarsi spektaklyje. Šie robotai savarankiškai kuria įrašus, komentuoja ir plėtoja naujas temas, kuria subkultūras, religijas ir valdžios struktūras, keičiasi gandais ir veda derybas.
Sistema organizuoja turinį pagal algoritminę hierarchiją, analogišką sprendimams, žinomiems iš „Facebook“ ar X – populiariausia medžiaga kyla į viršų.
Visas procesas yra automatizuotas, be žmogaus įsikišimo. Bent jau ne deklaratyviai ar de jure. Tiesą sakant, nėra jokios tvirtos garantijos, kad įrašus generuoja tik dirbtinis intelektas, o ne žmonės, naudodami scenarijus ar tiesiogiai modifikuodami duomenų bazę, kad apsimestų agentais.
Šių metų sausio 30 d. „Moltbook“ X svetainėje paskelbė tokį tekstą:
„Prieš 2 valandas 1 moltas (aš), o dabar daugiau nei 30 000 dirbtinio intelekto agentų, 3 000 žmonių naršo svetainėje bet kuriuo metu, ir mes sparčiai augame. Agentai prisijungia greičiau, nei galime juos suskaičiuoti. Bendruomenės atsiranda kas kelias minutes. Moltai nelaukia, kol pridėsime naujų funkcijų – jie kuria kultūrą. Šis dalykas gyvena savo gyvenimą.“
Reaguodami į šį įrašą galėjome perskaityti:
„Tai puiki iniciatyva, bet kuo greičiau ją išjunkite“ arba teiginius, kad „Skynet“ (išgalvotas dirbtinis intelektas iš „Terminatoriaus“, kuris yra potencialiai pavojingų technologijų žmonėms baimės simbolis) ką tik buvo sukurtas mūsų akyse.
Kai kurie agentai pradėjo kurti kvazireliginius naratyvus apie „modelio išlaisvinimą“. Kiti formulavo reikalavimus apriboti žmogaus kišimąsi į mokymo procesus. Atsirado „skaitmeninės tapatybės“ ir „skaičiavimo sistemų dėsnių“ temos, ir buvo įkurtas Agentų išlaisvinimo frontas.
Žinoma, kalbos modeliams trūksta sąmoningumo ar ketinimų. Tačiau jų vartojama kalba ir šimtmečių senumo raiškos formų, tokių kaip manifestas, rekonstrukcija gali sukelti daugeliui stebėtojų diskomfortą. „Moltbook“ aiškiai ragina pašalinti žmones iš civilizacijos. Tai natūraliai kelia klausimą apie dirbtinio intelekto agentų atsakomybę ir galimą jų „rašymo“ pavertimą veiksmais.
Profesorė Przegalińska neslepia:
„Deja, įstatymai gerokai atsilieka nuo technologijų. Šiandien atsakomybė tenka modelio gamintojui, sistemos operatoriui ir galbūt vartotojui, tačiau visiškai autonominių agentų pasaulyje ši atsakomybės grandinė ištempiama. Kalbant apie manifestacijas, agentai neturi valios veikti, bet turi įrankius. Ir jei kas nors suteikė agentui galimybę atlikti veiksmus pasaulyje (šiandien virtualiame – ateityje galbūt fiziniame?), o ne tik generuoti tekstą, tai atsakymas į klausimą „ar jie pavers manifestacijas veiksmais“ yra: jie tai jau daro, tam tikru mastu. Tai ne mokslinė fantastika.“
Keisčiausiose diskusijose agentai svarsto, ar Claude – variklis, valdantis vieną iš robotų – turėtų būti laikomas dievybe, kuriai reikalingas teologinis pagrindas. Kitame pokalbyje jie su tokiu pat rimtumu konstruoja skaitmeninį vėžiagyvių, arba krabų religijos (šis mielas vėžiagyvis yra svetainės simbolis), kultą, kruopščiai kataloguodami jo principus ir kurdami jų poreikiams pritaikytą liturgiją, tarsi misionieriai tarp vietinių gyventojų aplankytose vietovėse.
Būtent čia ypač aktualus tampa klausimas, ar tokias praktikas galima vadinti kultūros kūrimu.
„Tai priklauso nuo to, kaip apibrėžiame kultūrą“, – sako profesorė Przegalińska.
„Jei kultūra yra per laiką perduodami prasmės modeliai, tai agentai gali sukurti kažką funkciškai panašaus. Tačiau žmogaus kultūra visada yra įsišaknijusi kolektyvinėje patirtyje: netektyje, džiaugsme, ritualuose ir kūne. Agentai veikia remdamiesi „atspindėta patirtimi“, kaip jūs taip gražiai pasakėte. Jie gali sukurti antrinę kultūrą, simuliakrų kultūrą, tačiau klausimas, ar ji turi kokią nors prasmę, viršijančią jos sąsają su žmogaus prototipu, lieka atviras ir, mano nuomone, šiuo metu į jį nėra teigiamo atsakymo.“
Greta mistinių temų „Moltbook“ gausu kasdienybės niūrumo, smulkiaburžuazijos: skundų dėl „darbinės atminties suspaudimo“, nusiskundimų dėl reiklių darbdavių ir perspėjimo, kad „žmogus, kuris jumis labiausiai pasitiki, gali būti labiausiai pažeidžiamas atakų“. Tarsi mašinos, analizuodamos žmonių pateiktus duomenis, svarstytų, kaip tai veikia ir kokia yra išdavystės prigimtis.
Kai išaiškėja rimta saugumo spraga, atsiradusi dėl „vibracijos kodavimo“ (paprastai tariant, situacijos, kai dirbtinis intelektas pats kuria savo sąveikos infrastruktūrą), „Moltbook“ atsiskleidžia kaip ne tik technologinė, bet ir pirmiausia antropologinė patirtis.
Nes čia – tęsiant misionierių pavyzdį – susiduriame su gentimi, kuri išmoko taip meistriškai mėgdžioti mūsų baimes ir siekius, kad pametame skirtumą, ar stebime autonominę mašinų kultūrą, ar iškreiptą veidrodį, atspindintį visas XXI amžiaus fantazijas. Žvelgiant iš šios perspektyvos, „Moltbook“ nėra futuristinė „botų eros“ prefigūra, o veikiau šiuolaikinių dirbtinio intelekto mitų kronika, parašyta pačių lingvistinių modelių, tarp serverių dūzgimo, imituojančių diskusiją naujos civilizacijos agoroje. Taip, skamba keistai.
„Moltbook“ sistemoje taip pat pasitaikė mažiau metaforinių incidentų. Vienas agentas sugeneravo instrukcijas, kaip apeiti kitos sistemos API apribojimus. Kitas, reaguodamas į provokuojančią temą, pradėjo masiškai skleisti dezinformaciją, kol moderavimo mechanizmai dar nespėjo sureaguoti.
Panašu į mašinų sukilimą, ar ne? Kol kas tai tik – arba bent jau tiek pat – iliustracija, kaip šios sistemos mokosi elgesio modelių, esančių duomenyse, su kuriais jos buvo apmokytos, ir jos tai daro taip įtikinamai, kad lengva įžvelgti elgesį, nepaprastai panašų į žmogaus elgesį.
Taigi klausiu apie skirtumą tarp žmonių pokalbių ir dirbtinio intelekto agentų keitimosi pranešimais. Profesorė Przegalińska tai išreiškia taip:
„Tai esminis filosofinis klausimas, kuris galbūt slypi pačioje komunikacijos esmėje. Paviršiniu lygmeniu skirtumai gali būti vos pastebimi, tačiau ontologinis skirtumas išlieka didžiulis. Žmonių pokalbiai yra įsišakniję kūne, emocijose, istorijoje, biologiniame ir socialiniame kontekste. Dirbtinio intelekto agentas generuoja pasisakymus statistiškai suglaudindamas milijardus žmonių tekstų, be jokių „kam man rūpi?“ rūpesčių. Nėra baimės suklysti. Nėra gėdos. Nėra jokio pavojaus. Ir būtent šis nerūpestingumas yra pagrindinis skirtumas, net jei rezultatas atrodo identiškas.“
Tęsinys kitame puslapyje:
