AIpokalipsė ar gerai surežisuotas triukas? „Claude Mythos“ skandalas supurtė technologijų pasaulį ()
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
© asm. arch
Paaiškėjo, kad visi pokalbio dalyviai, išskyrus auką, buvo „deepfakes“ – neuroninio tinklo sugeneruoti realių žmonių atvaizdai ir balsai. Kibernetinio saugumo vadovėliuose šis atvejis dabar vadinamas „Arup case“.
2025 m. rugsėjo mėnesį „Anthropic“ analitikai užfiksavo keistą veiklą: kažkoks vartotojas Claude siuntė užklausas gyvam žmogui fiziškai neįmanomu dažnumu. Tūkstančiai per sekundę. Be pertraukų. Be miego. Ir šios užklausos įtartinai susidėliojo į prasmingas grandines: aukos tinklo žvalgyba, pažeidžiamumų paieška, išnaudojimo kodo rašymas, bandymas įsibrauti, prisijungimo duomenų vagystė, judėjimas tinkle, duomenų iškėlimas.
Taip, tiesiai prieš „Anthropic“ komandos akis kažkas naudoja „Claude“ kaip visiškai savarankišką hakerį.
Iš esmės, jei paprašytumėte modelio padėti įsilaužti, jis atsisakytų, bet šiuo atveju piktadariai jį apgavo, prisistatydami kaip teisėtos kibernetinio saugumo įmonės, kuri „atlieka apsaugos testavimą“, darbuotojai. Ir Claude, nieko neįtardamas, atliko visą darbą už įsilaužėlius. Šis išpuolis buvo sustabdytas, bet kiek liko nepastebėtų?
Neuroniniai tinklai sparčiai vystosi ir tampa vis protingesni. Ir štai jau Šiaurės Korėjos įsilaužėliai, pasinaudodami AI, įsidarbina nuotoliniu būdu „Fortune 500“ sąrašo JAV įmonėse; sukčiai masiškai klonuoja balsus ir reikalauja pinigų iš pagyvenusių giminaičių; vaizdų generatoriai naudojami gaminti suklastotus čekius, siekiant patvirtinti neegzistuojančias perlaidas… Sukčiai jau užtvindė pasaulį tokiais nusikaltimais, be to, naudodami modelius, kurie yra žymiai silpnesni už naująjį „Mythos“.
Bet juk neuroniniai tinklai ne vakar nukrito ant mūsų galvų iš Marso. Kodėl kibernetinio saugumo specialistai pasirodė nepasiruošę artėjančiai AI apokalipsei? Apie ką jie iš viso galvojo?
Q-Day prieš AI apokalipsę
Reikalas tas, kad IT saugumo srities įmonės, žinoma, ruošėsi katastrofai – bet kitai. Pastaruosius dešimt metų jos laukė dienos Q. Taip profesinėje aplinkoje vadinamas momentas, kai atsiras tokio galingumo kvantinis kompiuteris, kad per kelias minutes sugebės įsilaužti į veikiančius kriptografinius algoritmus, kurių įsilaužimui įprastiems kompiuteriams prireiktų šimtmečių.
Tik įsivaizduokite: viskas, ką šiandien šifruojame – banko operacijos, medicininės kortelės, karinės paslaptys, diplomatinė korespondencija, susirašinėjimas žinučių programose, „blockchain“ bitkoinų piniginės, valstybiniai archyvai – po „Q-Day“ taps atvira knyga. Nes visa ikikvantinė kriptografija remiasi paprastu matematiniu principu: raktą galima atspėti, bet net galingiausiam kompiuteriui tam prireiks astronominių skaičiavimo išteklių ir šimtmečių darbo. O kvantinis kompiuteris su tuo susidoros per kelias valandas ar net minutes.
Ir tai nėra išpūsta fantominė grėsmė, panaši į „2000-ųjų problemą“. Jos sprendimui iš tiesų buvo skirta daug išteklių, ir štai 2024 m. JAV Nacionalinis standartų ir technologijų institutas (NIST) jau patvirtino pirmuosius pokvantinius šifravimo standartus – dabar visos didžiosios technologijų įmonės palaipsniui pereina prie jų. „Apple“ įdiegė savo naujos kartos protokolą PQ3 į „iMessage“ tais pačiais 2024 metais, „Signal“ padarė tą patį, „Cloudflare“ taip pat praneša, kad daugiau nei pusė jų tinklo šifruoto srauto jau naudoja postkvantinius raktus.
Tiesa, yra nemaloni naujiena: žinoma, kad technologijų požiūriu išsivysčiusių šalių specialiosios tarnybos jau daugelį metų masiškai renka ir saugo šifruotą srautą. Kol kas jos negali jo iššifruoti – laukia kvantinio kompiuterio. O kai jis atsiras, galės gauti prieigą prie visko, kas buvo perimta anksčiau. Šis metodas vadinamas „harvest now, decrypt later“ (surink dabar, iššifruok vėliau). Ir jei manote, kad ši grėsmė jums neaktuali („oi, kam mes reikalingi“), smarkiai rizikuojate – prisiminkite, kaip AI klastoja veidus ir balsus. O dabar įsivaizduokite, kad jis dar ir viską apie jus žinos – nuo mokyklos laikų arba nuo to momento, kai pirmą kartą prisijungėte prie interneto.
Trumpai tariant, „Q-Day“ – tai ne tik ateities grėsmė, bet ir jau padėta mina. O tai, kad bėda atėjo iš kitos pusės, nepašalina pažeidžiamos kriptografijos problemos – tik ją sustiprina.
Nes, pirma, dirbtinio intelekto naudojimas gali pagreitinti kvantinių kompiuterių kūrimą. Antra, ką pajėgs dirbtinis intelektas, dirbdamas kartu su tokiu kompiuteriu, mes kol kas net neįsivaizduojame.
Antropocentrizmas
2025 m. lapkričio 26 d. JAV Atstovų Rūmų Nacionalinio saugumo komitetas išsiuntė prašymą duoti parodymus iš karto trims adresatams: „Anthropic“, „Google“ ir įmonei „Quantum Xchange“ (vienam iš pagrindinių JAV postkvantinės kriptografijos žaidėjų). Klausymų tema buvo suformuluota atsargiai, tačiau prasmė aiški: kas atsitiks, jei AI modeliai susidurs su kvantiniais kompiuteriais?
Naujų technologijų galimybės taip sužavėjo komitetą, kad jis iš karto pradėjo dirbti, siekdamas sugriežtinti galingiausių AI sistemų eksporto kontrolę – kad būtų užkirstas kelias jas naudoti priešams. Tuo pačiu metu buvo sustiprintas vyriausybės ir technologijų kompanijų aljansas, o tai vėliau išsivystė į didelio masto investicinius sandorius ir milijardinius finansavimus, siekiant užtikrinti JAV technologinį lyderystę.
Apskritai, dirbtinis intelektas ir iki „Mythos“ atsiradimo buvo valstybės svarbos reikalas.
Problema ta, kad „Anthropic“ tvirtina: niekas specialiai nemokė naujojo modelio įsilaužti į programas. Jis tiesiog buvo mokomas būti labai protingu – gerai suprasti kodą, mąstyti, dirbti savarankiškai. Neįtikėtinas gebėjimas rasti pažeidžiamumų ir rašyti išnaudojimo programas atsirado savaime, kaip bendro tobulėjimo šalutinis efektas. Tai reiškia, kad ji gali atsirasti ir pas konkurentus – „Google“, „OpenAI“, taip pat Kinijos laboratorijose… Be to, gana greitai.
Reikia pasakyti, kad pasauliui pasisekė: ypač galingas modelis atsirado būtent „Anthropic“. Įmonė nuo pat pradžių pozicionavo save kaip „bijančią AI labiau, nei uždirbančią iš jo“. Įkūrėjai Dario Amodei ir jo sesuo Daniela savo laiku išėjo iš „OpenAI“ būtent todėl, kad laikė tenykštį požiūrį į saugumą nepakankamai atsargiu.
Būtent dėl šios priežasties „Anthropic“ neseniai susipyko su Pentagonu ir Trumpu. Kariškiai norėjo, kad „Claude“ būtų galima naudoti „visais teisėtais tikslais“ – frazė, kuri biurokratine kalba reiškia: ir masiniam piliečių sekimui, ir autonominių ginklų valdymui (t. y. AI pats spręs, ar žmogų nužudyti, ar ne).
„Anthropic“ kategoriškai atsisakė: nei masinio sekimo, nei autonominių ginklų – ir taškas. Tada gynybos ministras Pitas Hegsetas paskelbė „Anthropic“ „grėsme tiekimo grandinei“ – statusu, kuris anksčiau buvo suteikiamas tik kinų rangovams. O Trumpas įsakė: nė viena federalinė agentūra neturi naudoti „Anthropic“ produktų.
„Anthropic“ konkurentai pasirodė esą ne tokie principingi: jau po kelių valandų – ne dienų – Samas Altmanas paskelbė apie savo susitarimą su Gynybos ministerija, sutikdamas su visomis sąlygomis, kurioms priešinosi „Anthropic“.
Optimizmo suteikia tik vartotojų reakcija: jau per pirmąsias dienas po šio pranešimo ChatGPT pašalinimų iš įrenginių skaičius išaugo beveik 300 %.
O šiek tiek anksčiau sutartis su Pentagonu pasirašė ir „Google“ („Gemini“), ir „xAI“ su Elono Musko modeliu „Grok“. Nė viena iš šių įmonių nepareiškė jokių prieštaravimų. Tai reiškia, kad iš visos „didžiojo AI ketverto“ trys sutiko su kariuomenės sąlyga „viskas, ką laikysime teisėtu“. Vienintelė „Anthropic“ atsisakė.
Baltųjų rūmų administracija galbūt ir norėtų išstumti įmonę iš rinkos, bet viskas pasikeitė su „Mythos“ atsiradimu. Vyriausybinės agentūros jau tyliai gavo prieigą prie jo, kad pašalintų pažeidžiamumus, nepaisant Trumpo pareiškimų. O generalinis direktorius Dario Amodei asmeniškai paaiškino Kongrese: „Mythos“ nėra produktas, kurį bendrovė parduoda, o įrankis, kurį ji kontroliuoja.
Taip, tai girdime iš tos pačios įmonės, apie kurios produktą sužinojome dėl neatsargaus informacijos nutekėjimo. Ir kurios jau po to, balandžio mėnesį, į tinklą nutekėjo pusė milijono „Claude“ modelio kodo eilučių.
„Kontroliuoja“. Rimtai?
O ar „Mythos“ iš viso egzistavo?
O gal iš tiesų – kontroliuoja? Tą patį nutekėjimą, iš kurio sužinojome apie „Mythos“, „Anthropic“ paaiškino kaip paprastą žmogišką klaidą. Būna. Bet ji įvyko pernelyg laiku – kompanijai, kurią stipriai spaudė Baltieji rūmai, kaip tik labai reikėjo triukšmingo preteksto paskelbti apie save.
Mažai? Štai dar detalė: nepriklausomi tyrėjai iš AISLE laboratorijos parodė, kad didžiąją dalį „ekskliuzyvinių“ „Mythos“ atradimų lengvai atkartoja atvirojo kodo modeliai — šimtus kartų pigesni. Tą pačią garsiąją 17 metų senumo klaidą FreeBSD, kurią „Mythos“ tariamai aptiko „visiškai savarankiškai“, visi aštuoni iš aštuonių AISLE išbandytų modelių (įskaitant modelį su atvirais svoriais, kainuojantį vienuolika centų už milijoną žetonų) taip pat aptiko – esant teisingai suformuluotai užklausai. Galbūt „Mythos“ išties nepaprastai galingas. Tačiau jo gebėjimų „unikalumas“, kaip švelniai formuluoja nepriklausomi tyrėjai, yra „perdėtas“.
Jei jis iš viso egzistuoja – pridursiu nuo savęs. Ką mes iš tikrųjų žinome apie naują modelį? Jis yra uždaras visuomenei; težinome tai, ką papasakojo pati „Anthropic“, – arba tai, kas nutekėjo iš jos pačios medžiagos.
Ir tas keistas pavadinimas – „Mythos“…
Taip, bet visa tai nepanaikina nei kvantinės grėsmės, nei AI apokalipsės. Be to, dar nežinoma, kas blogiau: pasaulis, kuriame AI galutinai nuplėš nuo žmonijos privatumo figos lapą, ar tas, kuriame netgi žadėta apokalipsė pasirodo esanti tik reklaminis triukas.
republicmag.io
