AIpokalipsė ar gerai surežisuotas triukas? „Claude Mythos“ skandalas supurtė technologijų pasaulį ()
Po nutekėjimo apie Anthropic slaptą modelį rinkos paniškai reagavo: kalbama apie dirbtinį intelektą, galintį laužyti sistemas greičiau nei žmonės jas kuria – tačiau vis garsiau keliamas klausimas, ar „Mythos“ iš tiesų yra revoliucija, ar tik meistriškai išpūstas mitas.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
2026 m. kovo pabaigoje, po kelių nutekėjimų, pasaulis sužinojo apie slaptą „Anthropic“ dirbtinio intelekto modelį, kuris gali sugriauti pasaulio finansų rinkas ir sunaikinti visą pramonės šaką. „Claude Mythos“ per kelias minutes sugebėjo rasti programų spragas, kurių iki tol metų metus nepastebėjo nei IT saugumo specialistai, nei hakeriai. Kibernetinio saugumo įmonių akcijos iškart smarkiai nukrito, nors įmonė pažadėjo niekada neišleisti „Mythos“ į viešąją erdvę. Panika rinkoje pasirodė tokia rimta, kad Kongrese buvo paprašyta surengti klausymus, o Baltieji rūmai surengė skubų posėdį šiuo klausimu. Ar mums artimiausiu metu reikėtų laukti AI apokalipsės, ar „Mythos“ pasirodys esąs tik mitas?
Mitas ar kapibara
Tai buvo įprastas, didelių žurnalistinių laimėjimų vilčių neteikiantis kovo vakaras. Ieškodama naujos temos, žurnalo „Fortune“ darbuotoja Beatrice Nolan rutiniškai peržiūrinėjo pokalbių boto „Claude“ sukurtos įmonės „Anthropic“ tinklaraščių infrastruktūros URL adresus. Tai gana nuobodu: įmonės svetainėje kiekvienam įkeltam dokumentui pagal numatytuosius nustatymus priskiriamas viešas interneto adresas – taip pat elgiasi „Google“ su jūsų dokumentais, jei tik autorius to nedraudžia; juodraščius ir kai kuriuos vidinius dokumentus gali perskaityti bet kas, jei suras nuorodą. Beje, turėkite tai omenyje, kai dalinatės dokumentais su draugais.
Apie technologijų korporacijų veiklą rašantys žurnalistai šį „žvalgybos“ metodą naudoja nuolat. Jis netgi gavo pavadinimą „directory enumeration“ (pažodžiui – katalogų peržiūra). Tačiau jis retai duoda rezultatų – korporacijos moka saugoti paslaptis.
Bet ne šiuo atveju.
Naršydama nuorodas, Nolana aptiko saugyklą, kurioje buvo maždaug trys tūkstančiai neskelbtų „Anthropic“ vidinių dokumentų: blogų įrašų juodraščių, pristatymų, rinkodaros dokumentų, uždaro viršūnių susitikimo, skirto didelių Europos įmonių vadovams, detalės. Šiame skaitmeniniame Eldoradi ji rado tikrą lobį – blògo įrašo apie naujo „Anthropic“ modelio kūrimą juodraštį.
Po antrašte „Pristatome Capybara“ buvo parašyta: „Mūsų vertinimu, šis modelis pranašauja artėjančią AI bangą, kuri sugebės išnaudoti pažeidžiamumus tokiu greičiu, kurio apsaugos specialistai nespės pasivyti“. Kūrėjai naują modelį vadino Capybara, o parduoti jį ketino pavadinimu Claude Mythos.
|
Beatrice Nolan straipsnis pasirodė kovo 26 d. vakare — kitą dieną apie sensaciją žinojo visas pasaulis.
© asm. arch
„Anthropic“ nedelsdama apribojo prieigą prie saugyklos ir išleido atitinkamą pranešimą spaudai, kuriame pripažino „žmogiškąją klaidą“ CMS nustatymuose. Tačiau svarbiausia – patvirtino: „Mythos“ egzistuoja ir kol kas yra testuojamas nedidelėje klientų grupėje, turinčioje išankstinę prieigą. Kadangi jo galimybės pranoko visus lūkesčius, o naujasis AI geriausiai iš visų randa anksčiau nežinotas programų spragas.
Net ir be detalių apie naują modelį, sureagavo žaibiškai. „CrowdStrike“ – didžiausios JAV kibernetinio saugumo srities įmonės – akcijos per prekybos dieną nukrito 7,5 %. „Palo Alto Networks“ prarado daugiau nei 6 %. „iShares Cybersecurity“ ETF – 4 %. Apskritai, per vieną prekybos sesiją iš pasaulinės kibernetinio saugumo rinkos kapitalizacijos išgaravo milijardai dolerių: rinka teisingai nusprendė, kad jei AI išmoko laužyti viską iš eilės, tai ir tradicinių „saugumo specialistų“ paslaugos smarkiai atpigs.
O netrukus „Anthropic“ oficialiai ir išsamiau paskelbė apie „Mythos“. Ir tapo aišku, kuo būtent ši įmonė taip išgąsdino visą pasaulį. Vos per vieną bandymų mėnesį „Mythos“ aptiko tūkstančius anksčiau nežinotų pažeidžiamumų visose didelėse operacinėse sistemose ir kiekvienoje didelėje interneto naršyklėje.
Tarp radinių – laikykitės tvirtai! – yra 27 metų senumo (!!!) klaida „OpenBSD“ (operacinėje sistemoje, kuri daugelį metų buvo kuriama kaip saugiausia pasaulyje), 17 metų senumo spraga „FreeBSD“, per kurią bet kuris žmogus iš interneto gali gauti visišką serverio kontrolę, 16 metų senumo pažeidžiamumas „FFmpeg“ vaizdo kodeke, kurio dešimtmečiais stebuklingai niekas nesugalvojo panaudoti įsilaužimui.
Taip, ir dar: rastą pažeidžiamumą paversti įsilaužimo kodu, Mythosui užtenka mažiau nei paros — o visa tai kainuoja mažiau nei du tūkstančius dolerių skaičiavimo galios. „Baltiesiems hakeriams“ tam pačiam darbui paprastai reikia savaičių, o kartais ir mėnesių. „Juodiesiems“ – kartais viso gyvenimo. Nenuostabu, kad kibernetinio saugumo srities įmonių akcijos smarkiai nukrito.
Tiesa, netrukus „Anthropic“ paskelbė, kad prieiga prie „Mythos“ niekada nebus laisva. Vietoj to įmonė sukūrė uždarą klubą iš maždaug keturiasdešimties organizacijų („Apple“, „Google“, „Microsoft“, „Amazon“, „JPMorgan“, „Linux Foundation“, „CrowdStrike“, „Cisco“ – trumpai tariant, technologijų ir finansų gigantų), kurioms buvo patikėta dirbti su modeliu labai griežtomis sąlygomis.
Logika aiški: kol „Mythos“ yra patikimose rankose, ji ieško pažeidžiamumų, kad juos būtų galima pašalinti. O jei pateks į blogas rankas… Tik ar galime būti tikri, kad ji dar nepateko?
Hakeriai renkasi „Claude“
Honkongas, 2024 m. sausis. Britų inžinerijos kompanijos „Arup“ finansų darbuotojas gauna keistą laišką iš Londono finansų direktoriaus su prašymu atlikti „konfidencialią operaciją“. Patyręs darbuotojas, beje, iš karto įtarė sukčiavimą ir iš pradžių netgi ignoruodavo pranešimą. Tada jam pasiūlė surengti vaizdo pokalbį ir aptarti detales. Ekrane jis pamatė gerai pažįstamą finansų direktorių, dar keletą atpažįstamų kolegų, išgirdo jų balsus, pasipiktino savimi dėl pernelyg didelio įtarumo ir per savaitę atliko 15 sandorių, kurių bendra suma siekė apie 25,6 milijono dolerių. Ilgai negalėjo patikėti, kad pinigai atiteko sukčiams.
Tęsinys kitame puslapyje:Paaiškėjo, kad visi pokalbio dalyviai, išskyrus auką, buvo „deepfakes“ – neuroninio tinklo sugeneruoti realių žmonių atvaizdai ir balsai. Kibernetinio saugumo vadovėliuose šis atvejis dabar vadinamas „Arup case“.
2025 m. rugsėjo mėnesį „Anthropic“ analitikai užfiksavo keistą veiklą: kažkoks vartotojas Claude siuntė užklausas gyvam žmogui fiziškai neįmanomu dažnumu. Tūkstančiai per sekundę. Be pertraukų. Be miego. Ir šios užklausos įtartinai susidėliojo į prasmingas grandines: aukos tinklo žvalgyba, pažeidžiamumų paieška, išnaudojimo kodo rašymas, bandymas įsibrauti, prisijungimo duomenų vagystė, judėjimas tinkle, duomenų iškėlimas.
Taip, tiesiai prieš „Anthropic“ komandos akis kažkas naudoja „Claude“ kaip visiškai savarankišką hakerį.
Iš esmės, jei paprašytumėte modelio padėti įsilaužti, jis atsisakytų, bet šiuo atveju piktadariai jį apgavo, prisistatydami kaip teisėtos kibernetinio saugumo įmonės, kuri „atlieka apsaugos testavimą“, darbuotojai. Ir Claude, nieko neįtardamas, atliko visą darbą už įsilaužėlius. Šis išpuolis buvo sustabdytas, bet kiek liko nepastebėtų?
Neuroniniai tinklai sparčiai vystosi ir tampa vis protingesni. Ir štai jau Šiaurės Korėjos įsilaužėliai, pasinaudodami AI, įsidarbina nuotoliniu būdu „Fortune 500“ sąrašo JAV įmonėse; sukčiai masiškai klonuoja balsus ir reikalauja pinigų iš pagyvenusių giminaičių; vaizdų generatoriai naudojami gaminti suklastotus čekius, siekiant patvirtinti neegzistuojančias perlaidas… Sukčiai jau užtvindė pasaulį tokiais nusikaltimais, be to, naudodami modelius, kurie yra žymiai silpnesni už naująjį „Mythos“.
Bet juk neuroniniai tinklai ne vakar nukrito ant mūsų galvų iš Marso. Kodėl kibernetinio saugumo specialistai pasirodė nepasiruošę artėjančiai AI apokalipsei? Apie ką jie iš viso galvojo?
Q-Day prieš AI apokalipsę
Reikalas tas, kad IT saugumo srities įmonės, žinoma, ruošėsi katastrofai – bet kitai. Pastaruosius dešimt metų jos laukė dienos Q. Taip profesinėje aplinkoje vadinamas momentas, kai atsiras tokio galingumo kvantinis kompiuteris, kad per kelias minutes sugebės įsilaužti į veikiančius kriptografinius algoritmus, kurių įsilaužimui įprastiems kompiuteriams prireiktų šimtmečių.
Tik įsivaizduokite: viskas, ką šiandien šifruojame – banko operacijos, medicininės kortelės, karinės paslaptys, diplomatinė korespondencija, susirašinėjimas žinučių programose, „blockchain“ bitkoinų piniginės, valstybiniai archyvai – po „Q-Day“ taps atvira knyga. Nes visa ikikvantinė kriptografija remiasi paprastu matematiniu principu: raktą galima atspėti, bet net galingiausiam kompiuteriui tam prireiks astronominių skaičiavimo išteklių ir šimtmečių darbo. O kvantinis kompiuteris su tuo susidoros per kelias valandas ar net minutes.
Ir tai nėra išpūsta fantominė grėsmė, panaši į „2000-ųjų problemą“. Jos sprendimui iš tiesų buvo skirta daug išteklių, ir štai 2024 m. JAV Nacionalinis standartų ir technologijų institutas (NIST) jau patvirtino pirmuosius pokvantinius šifravimo standartus – dabar visos didžiosios technologijų įmonės palaipsniui pereina prie jų. „Apple“ įdiegė savo naujos kartos protokolą PQ3 į „iMessage“ tais pačiais 2024 metais, „Signal“ padarė tą patį, „Cloudflare“ taip pat praneša, kad daugiau nei pusė jų tinklo šifruoto srauto jau naudoja postkvantinius raktus.
Tiesa, yra nemaloni naujiena: žinoma, kad technologijų požiūriu išsivysčiusių šalių specialiosios tarnybos jau daugelį metų masiškai renka ir saugo šifruotą srautą. Kol kas jos negali jo iššifruoti – laukia kvantinio kompiuterio. O kai jis atsiras, galės gauti prieigą prie visko, kas buvo perimta anksčiau. Šis metodas vadinamas „harvest now, decrypt later“ (surink dabar, iššifruok vėliau). Ir jei manote, kad ši grėsmė jums neaktuali („oi, kam mes reikalingi“), smarkiai rizikuojate – prisiminkite, kaip AI klastoja veidus ir balsus. O dabar įsivaizduokite, kad jis dar ir viską apie jus žinos – nuo mokyklos laikų arba nuo to momento, kai pirmą kartą prisijungėte prie interneto.
Trumpai tariant, „Q-Day“ – tai ne tik ateities grėsmė, bet ir jau padėta mina. O tai, kad bėda atėjo iš kitos pusės, nepašalina pažeidžiamos kriptografijos problemos – tik ją sustiprina.
Nes, pirma, dirbtinio intelekto naudojimas gali pagreitinti kvantinių kompiuterių kūrimą. Antra, ką pajėgs dirbtinis intelektas, dirbdamas kartu su tokiu kompiuteriu, mes kol kas net neįsivaizduojame.
Antropocentrizmas
2025 m. lapkričio 26 d. JAV Atstovų Rūmų Nacionalinio saugumo komitetas išsiuntė prašymą duoti parodymus iš karto trims adresatams: „Anthropic“, „Google“ ir įmonei „Quantum Xchange“ (vienam iš pagrindinių JAV postkvantinės kriptografijos žaidėjų). Klausymų tema buvo suformuluota atsargiai, tačiau prasmė aiški: kas atsitiks, jei AI modeliai susidurs su kvantiniais kompiuteriais?
Naujų technologijų galimybės taip sužavėjo komitetą, kad jis iš karto pradėjo dirbti, siekdamas sugriežtinti galingiausių AI sistemų eksporto kontrolę – kad būtų užkirstas kelias jas naudoti priešams. Tuo pačiu metu buvo sustiprintas vyriausybės ir technologijų kompanijų aljansas, o tai vėliau išsivystė į didelio masto investicinius sandorius ir milijardinius finansavimus, siekiant užtikrinti JAV technologinį lyderystę.
Apskritai, dirbtinis intelektas ir iki „Mythos“ atsiradimo buvo valstybės svarbos reikalas.
Problema ta, kad „Anthropic“ tvirtina: niekas specialiai nemokė naujojo modelio įsilaužti į programas. Jis tiesiog buvo mokomas būti labai protingu – gerai suprasti kodą, mąstyti, dirbti savarankiškai. Neįtikėtinas gebėjimas rasti pažeidžiamumų ir rašyti išnaudojimo programas atsirado savaime, kaip bendro tobulėjimo šalutinis efektas. Tai reiškia, kad ji gali atsirasti ir pas konkurentus – „Google“, „OpenAI“, taip pat Kinijos laboratorijose… Be to, gana greitai.
Reikia pasakyti, kad pasauliui pasisekė: ypač galingas modelis atsirado būtent „Anthropic“. Įmonė nuo pat pradžių pozicionavo save kaip „bijančią AI labiau, nei uždirbančią iš jo“. Įkūrėjai Dario Amodei ir jo sesuo Daniela savo laiku išėjo iš „OpenAI“ būtent todėl, kad laikė tenykštį požiūrį į saugumą nepakankamai atsargiu.
Būtent dėl šios priežasties „Anthropic“ neseniai susipyko su Pentagonu ir Trumpu. Kariškiai norėjo, kad „Claude“ būtų galima naudoti „visais teisėtais tikslais“ – frazė, kuri biurokratine kalba reiškia: ir masiniam piliečių sekimui, ir autonominių ginklų valdymui (t. y. AI pats spręs, ar žmogų nužudyti, ar ne).
„Anthropic“ kategoriškai atsisakė: nei masinio sekimo, nei autonominių ginklų – ir taškas. Tada gynybos ministras Pitas Hegsetas paskelbė „Anthropic“ „grėsme tiekimo grandinei“ – statusu, kuris anksčiau buvo suteikiamas tik kinų rangovams. O Trumpas įsakė: nė viena federalinė agentūra neturi naudoti „Anthropic“ produktų.
„Anthropic“ konkurentai pasirodė esą ne tokie principingi: jau po kelių valandų – ne dienų – Samas Altmanas paskelbė apie savo susitarimą su Gynybos ministerija, sutikdamas su visomis sąlygomis, kurioms priešinosi „Anthropic“.
Optimizmo suteikia tik vartotojų reakcija: jau per pirmąsias dienas po šio pranešimo ChatGPT pašalinimų iš įrenginių skaičius išaugo beveik 300 %.
O šiek tiek anksčiau sutartis su Pentagonu pasirašė ir „Google“ („Gemini“), ir „xAI“ su Elono Musko modeliu „Grok“. Nė viena iš šių įmonių nepareiškė jokių prieštaravimų. Tai reiškia, kad iš visos „didžiojo AI ketverto“ trys sutiko su kariuomenės sąlyga „viskas, ką laikysime teisėtu“. Vienintelė „Anthropic“ atsisakė.
Baltųjų rūmų administracija galbūt ir norėtų išstumti įmonę iš rinkos, bet viskas pasikeitė su „Mythos“ atsiradimu. Vyriausybinės agentūros jau tyliai gavo prieigą prie jo, kad pašalintų pažeidžiamumus, nepaisant Trumpo pareiškimų. O generalinis direktorius Dario Amodei asmeniškai paaiškino Kongrese: „Mythos“ nėra produktas, kurį bendrovė parduoda, o įrankis, kurį ji kontroliuoja.
Taip, tai girdime iš tos pačios įmonės, apie kurios produktą sužinojome dėl neatsargaus informacijos nutekėjimo. Ir kurios jau po to, balandžio mėnesį, į tinklą nutekėjo pusė milijono „Claude“ modelio kodo eilučių.
„Kontroliuoja“. Rimtai?
O ar „Mythos“ iš viso egzistavo?
O gal iš tiesų – kontroliuoja? Tą patį nutekėjimą, iš kurio sužinojome apie „Mythos“, „Anthropic“ paaiškino kaip paprastą žmogišką klaidą. Būna. Bet ji įvyko pernelyg laiku – kompanijai, kurią stipriai spaudė Baltieji rūmai, kaip tik labai reikėjo triukšmingo preteksto paskelbti apie save.
Mažai? Štai dar detalė: nepriklausomi tyrėjai iš AISLE laboratorijos parodė, kad didžiąją dalį „ekskliuzyvinių“ „Mythos“ atradimų lengvai atkartoja atvirojo kodo modeliai — šimtus kartų pigesni. Tą pačią garsiąją 17 metų senumo klaidą FreeBSD, kurią „Mythos“ tariamai aptiko „visiškai savarankiškai“, visi aštuoni iš aštuonių AISLE išbandytų modelių (įskaitant modelį su atvirais svoriais, kainuojantį vienuolika centų už milijoną žetonų) taip pat aptiko – esant teisingai suformuluotai užklausai. Galbūt „Mythos“ išties nepaprastai galingas. Tačiau jo gebėjimų „unikalumas“, kaip švelniai formuluoja nepriklausomi tyrėjai, yra „perdėtas“.
Jei jis iš viso egzistuoja – pridursiu nuo savęs. Ką mes iš tikrųjų žinome apie naują modelį? Jis yra uždaras visuomenei; težinome tai, ką papasakojo pati „Anthropic“, – arba tai, kas nutekėjo iš jos pačios medžiagos.
Ir tas keistas pavadinimas – „Mythos“…
Taip, bet visa tai nepanaikina nei kvantinės grėsmės, nei AI apokalipsės. Be to, dar nežinoma, kas blogiau: pasaulis, kuriame AI galutinai nuplėš nuo žmonijos privatumo figos lapą, ar tas, kuriame netgi žadėta apokalipsė pasirodo esanti tik reklaminis triukas.
republicmag.io
