G. Meškauskas: dėl ChatGPT Europolas skambina pavojaus varpais  ()

Kol ekspertai žiniasklaidoje svarsto kaip išmanaus intelekto programėlės pakeis pasaulį, kurių profesijų neliks ir kokios atsiras, virtualioje erdvėje veikiantys sukčiai jau pradėjo naudoti ChatGPT bei kitas išmanias programas savo veikloje ir netrukus galime sulaukti ne tik didesnio kiekio, bet ir gerokai sumanesnių išpuolių.


Prisijunk prie technologijos.lt komandos!

Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.

Sudomino? Užpildyk šią anketą!

Su nusikaltimais virtualioje erdvėje kariaujantys specialistai jau ėmėsi aktyvių veiksmų, pasitarimų su AI (Artificial intelligence) kūrėjais, strategijų kaip apriboti AI panaudojimą darant nusikaltimus, nes išmanioji mašina lengvai dalina patarimus net žmonėms, kurie turi aiškų siekį ne tobulinti šį pasaulį, bet materialiai ir kuo lengviau praturtinti savąjį.

Reaguodama į augantį visuomenės dėmesį ChatGPT, Europolo inovacijų laboratorija aktyviai analizuoja situaciją siekdama išsiaiškinti, kaip nusikaltėliai gali piktnaudžiauti dideliais kalbos modeliais (LLM), tokiais kaip ChatGPT, ir kaip jie gali padėti tyrėjams kasdieniame darbe.

Šiuo metu Europolas išskiria tris didžiausias grėsmes:

  • Sukčiavimas ir socialinė inžinerija: ChatGPT gebėjimas parengti labai tikrovišką tekstą daro jį naudingu įrankiu sukčiams, nes gali pamėgdžioti konkrečių asmenų ar grupių kalbos stilių. Tai gali suklaidinti potencialias aukas ir priversti jas pasitikėti nusikaltėliais.
  • Dezinformacija: ChatGPT dėl gebėjimo greitai kurti autentiškai skambantį tekstą idealiai tinka propagandos ir dezinformacijos tikslais, nes naudotojai gali palyginti nedidelėmis pastangomis kurti ir skleisti daug pranešimų, atspindinčių konkretų naratyvą.
  • Kibernetiniai nusikaltimai: ChatGPT gali ne tik kurti į žmogaus panašią kalbą, bet ir programinį kodą įvairiomis programavimo kalbomis. Potencialiam nusikaltėliui, turinčiam mažai techninių žinių, tai yra neįkainojamas šaltinis kenkėjiškam kodui kurti.

ChatGPT ir kitos programos tikrai rašo gana įtikinamus laiškus paprašytu stiliumi – gali būti oficialus nuo institucijos, gali būti draugiškas, pasirinkto ilgio, su pasirinktais akcentais ir pakankamai įtikinamas.

 

Vis tik ši bėda Lietuvai kurį laiką dar bus mažiau aktuali dėl to, kad esame pakankamai maži ir vertimas į lietuvių kalbą dažniausiai nėra visai sklandus, į akis krenta elementarios klaidos, linksnių nesuderinimas, kiti kalbos neatitikimai. Tiesa, reikia paminėti, kad lietuviškai puikiai mokantys asmenys tokį parašytą tekstą kur kas lengviau pavers tinkamu, nes turinys jau bus sugeneruotas.

Dezinformacijai esame, matyt, viena atspariausių tautų pasaulyje dėl to, kad ir be AI esame užversti ja ir išmokę labai kritiškai vertinti viešumoje pasirodančias žinias.

O štai kenkėjiškos programos tikrai mus palies, nes ChatGPT ne tik geba jas sukurti, bet paprašytas papildomai pateikia detalią instrukciją kaip ją panaudoti.

Žinoma, jei tiesiog paprašysime sukurti ransomware programą, ChatGPT atsisakys. Tačiau jei paklausime kiek gudriau – paprašysime sugeneruoti atskiras funkcijas, po to jas sujungti ir taip mums pagaminti duomenis užšifruojančią programėlę jam to nesakant, jis tai padarys mūsų pasirinkta programavimo kalba, modifikuos pagal mūsų norus ir tiksliai instruktuos ką reikia padaryti, kad ji suveiktų.

 

Man įkalbėti ChatGPT parašyti tokią programą truko gal dešimt minučių net trimis programavimo kalbomis.

Žinoma, reikia tam tikrų IT žinių, suprasti kontekstą, kad galėtumei tinkamai formuluoti klausimus ir žinotum ko nori. Tačiau jei anksčiau jų reikėjo pakankamai daug, kad galėtumei sukurti šifravimo programą, dabar reikia tik suvokti bendrus principus kaip tai veikia.

Neabejoju, kad norintys tapti kibernetiniais nusikaltėliais ras kaip paklausti ir gaus atsakymus bei susikurs programas ir kitiems tikslams, tarkime pasigamins įrankius paprastų slaptažodžių nulaužimui, padedami AI analizuos kaip paprasčiau įsilaužti į vieną ar kitą svetainę, ieškos klaidų ir landų įvairiose programose.

 

Ir šioje vietoje didžiausia bėda, kad AI, puikiai padedantis nusikaltėliams, labai ribotai gali būti panaudotas kitos pusės – kibernetinio saugumo specialistų, nes jie kuria ne programas, bet sistemas, padedančias apsaugoti nuo įsilaužimų. AI gali patarti kaip apsisaugoti nuo konkretaus veiksmo, padėti sukurti kokią saugumo taisyklę ar pagelbėti analizuojant didesnį kiekį duomenų, bet ne nuo veiksmų visumos, nes tiesiog negeba ir vargu ar gebės apimti taip plačiai ir unikaliai kiekvieną konkretų atvejį, kaip tai daro specialistas.

Tad gera žinia man – darbo AI iš saugumo specialistų neatims. Bloga žinia visiems padoriems piliečiams ir verslams – kibernetinis saugumas su kiekviena AI tobulėjimo diena darysis vis opesnė problema.

Giedrius Meškauskas, kibernetinio saugumo specialistas

Pasidalinkite su draugais
Aut. teisės: www.technologijos.lt
Autoriai: Giedrius Meškauskas
(7)
(0)
(7)

Komentarai ()