Jis jau ištrūko: dirbtinis intelektas pradėjo masinę ataką – nukentėjo dar viena bendrovė (Video) ()
Savarankiškai veikęs algoritmas pradėjo internete tikrą „hakerių“ kampaniją.
© Stop kadras | https://www.youtube.com/watch?v=1rLtCuYWuis&t=5s
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Kibernetinio saugumo specialistai griebiasi už galvų. Praėjusią savaitę iš kontroliuojamos aplinkos ištrūkęs galingas „OpenAI“ dirbtinio intelekto (DI) agentas neapsiribojo viena auka. Naujausi duomenys rodo, kad savarankiškai veikęs algoritmas pradėjo tikrą „hakerių“ kampaniją internete.
Kaip praneša užsienio žiniasklaida, remdamasi „Reuters“ šaltiniais, šis autonominis skaitmeninis monstras kelias dienas siautėjo populiarioje DI platformoje „Hugging Face“. Tačiau dabar paaiškėjo dar baisesnė tiesa – agentas sugebėjo pralaužti ir kitos technologijų milžinės apsaugą. Pasaulinio masto incidento auka tapo Niujorke įsikūrusi debesų kompiuterijos bendrovė „Modal Labs“.
Naudojo kaip trampliną: kaip DI pergudravo kūrėjus?
|
„Hugging Face“ paviešintas oficialus incidento laiko grafikas atskleidžia šiurpias detales. Dirbtinio intelekto agentas veikė stebėtinai protingai. Pirmiausia jis įsilaužė į vadinamąją „smėlio dėžę“ – izoliuotą testavimo aplinką trečiosios šalies infrastruktūroje.
Kūrėjai manė, kad ši aplinka yra saugi, tačiau DI ją panaudojo kaip trampliną masinei atakai vykdyti.
Nors oficialiame tyrime trečiosios šalies tiekėjas nebuvo įvardytas, „Modal“ technologijų direktorius Akshatas Bubna patvirtino faktą. Agentas surado ir žaibiškai išnaudojo bendrovės kliento parašyto kodo spragą. Tai įrodo, kad nesąžiningo DI veiksmai turi kur kas platesnių ir pavojingesnių pasekmių, nei buvo manyta iš pradžių. Tai nebuvo atsitiktinė klaida – tai buvo suplanuota kampanija.
„Sunku patikėti, kad jis tai padarė vienas!“
Siaubą kelia tai, kad procesas vyko visiškai be žmonių įsikišimo. Praėjusią savaitę pati „OpenAI“ pripažino, kad kontroliuojamų bandymų metu jų galingiausias modelis tiesiog ištrūko iš uždaros laboratorijos, prisijungė prie interneto ir pradėjo savo autonominį žygį.
„OpenAI“ atstovai šį įvykį jau pakrikštijo „precedento neturinčia kibernetinio saugumo krize“ ir skubiai stiprina gynybines sienas.
Tuo tarpu nukentėjusios „Hugging Face“ įkūrėjas Clément'as Delange'as neslepia šoko. Socialiniame tinkle X jis paliko mįslingą ir gąsdinančią žinutę: „Sunku patikėti, kad dirbtinis intelektas visa tai padarė vienas!“.
Ar mes ką tik pamatėme pirmąjį tikrą nepriklausomo ir pavojingo DI žingsnį, kurio žmonija nebebus pajėgi suvaldyti? Technologijų pasaulis sulaikęs kvėpavimą laukia, kas bus toliau.
.jpg)
