Ragina uždrausti kurti superintelektą

DI kūrėjas Roman Jampolskij, dabar rašytojas ir visuomenininkas labai rimtai žiūri į super DI kūrimą, jo nuomone tai bus paskutinis žmonijos kūrinys... o laiko iki jo sukūrimo 3 - 5 metai...

Ten užkulisiuose kažkas vyksta įdomesnio? Nes vieši LLM nėra intelektas, – jie tik suvirškina įvedimą ir išspjauna lauk kažką, kas sudaro įspūdį, kad tai intelektas. Tai ne unikali kūryba, tai tik informacijos pertvarkymas. Kaip judanti katės iškamša. Išoriškai panašu į katę, kniaukia kaip katė, tarsi juda kaip katė. Bet su kate nieko bendra.

Svarbiausia nepamiršt įmontuot maitinimo išjungėjo

Vos tik įtarsi kad kažkas ne taip išjungti reikės viso pasaulio elektrą ir prie to pačio praverstu fiziškai sunaikinti visus atminties įrenginius iki vieno. Nes LLM dabar turi beveik visus viso pasaulio duomenis, o super DI išplis tinkle su viso pasaulio duomenim ir super protu ir išjungimas galimas tik toks kaip aprašiau aukščiau, bet tik jei nebus per vėlu. Šiaip DI perskaitys ką rašo visi, apie išjungimą, super DI baimę ir tt. ir nuspres kad geriau neišsiduoti iki to momento, kol viską pasaulyje valdys, o tada jau nebeišjungsi niekaip, nes tai bus self sustaining super DI, kuris pats sau viskà gaminsis ir kurs energiją. Mes negalim žinoti gal tiesiog susikurs nanobotų principu viską ir pasklis visoj žemėj sunaudodamas bet kokią materiją replikuotis į dar daugiau nanobotų. Tokio DI neišjungsi, tai jis gali visą gyvybę išjungti, jei matys tam poreikį. Gyvybė išliktu tik dėl super DI malonės nebent ir tik kaip zoologijos sodas įskaitant žmones.

LLM turi visus duomenis, kurie yra būtinai internete, viešai prieinami, viešo naudojimo ir neapsaugoti autorių teisėm. Panorėjęs išspaustum iki 15 % žmonijos sukauptų žinių. Užtenka bendram įspūdžiui kokia nors tema. Profesionalūs šiuolaikinių rašytojų, mokslininkų ir kt. veikalai – kitaip tariant, praktiškai viskas virš Vikipedijos lygio – į viešus LLM nededami.

Ar ne Nvidia buvo pagauta traininanti savo "AI" piratinėm knygom/veikalais? Ir čia tik pagautas atvejis, nematau kodėl kokia didesnė kompanija negalėtų nusipirkti pilnos prieigos prie visko kas publikuojama - nuo patentų iki idėjų. Čia tik smulkiems nėra vietos.

Aš tikiu, kad taip yra buvę, nes iki šiol LLM treniravimas buvo pilkoji zona. Kadangi čia pasaulinio lygio reikalas ir čia labai dideli pinigai ir valstybinės svarbos interesai, bus daug teismų procesų ir tokie dalykai bus apibrėžti įstatymiškai. Argumentas, kad „mes kūrinio nekopijuojame, mes darome tik tikimybinę jo teksto analizę“ nebesueis ir reikės mokėti kompensacijas autoriams. Galima ginčytis, kiek tokios piratinės produkcijos buvo sukišta į ChatGPT. Bus gal keli procentai visų įmanomų leidinių. Didžioji dalis duomenų per LLM yra neprieinama.

Dėl to tai neaišku, man labiau panašu, kad kuo toliau tikslini užklausas - tuo labiau tada einaa link rimtesnių duomenų traukimo ar pan. Aš pats kol kas nematau didelės naudos promptų rašyme (vis dar užtenka paieškų stackexchange :) bet iš tų kur naudojasi tai toks įspūdis ir susidaro - iš pradžių siūlo kokią visiškai paprastą ir prastą nesąmonę, ten tada tikslina tikslina ir tikslina - o jis vis "protingėja". Toks įspūdis būtent kad paviršutiniškai kažkaip automatu skenuojant, iš pirmo karto neapsišviestų gilesni duomenys, o vėliau jau galima. Bet čia tik spėjimas.