„OpenAI“ sukurtas „ChatGPT“ šiuo metu yra pagrindinis pokalbių robotas, tačiau jį vis dar kamuoja daugybė problemų – kai kurios labiau glumina nei kitos.

Tyrėjai Jessica Rumbelow ir Matthew Watkins iš SERI-MATS mašininio mokymosi grupės atliko tyrimą ir nustatė, kad daugybė neįprastų simbolių eilučių sukelia keistus dirbtinio intelekto (DI) pokalbių roboto atsakymus.

„ChatGPT“ apdoroja tekstą priskirdamas „žetonus“ konkrečioms eilutėms. Pavyzdžiui, frazė „jaučiu, kad nieko nevilkiu“ (feels like I'm wearing nothing at all") atitinka žetonus 5 036, 1 424, 588, 314, 1 101, 5 762, 2 147, 379 ir 477.

Komanda, iš pradžių atlikdama žetonų grupavimą, pastebėjo, kad kai kurie žetonai davė neįprastus rezultatus. Susidūręs su žodžiais, robotas negalėjo jų pasakyti tyrėjui, ir dėl nežinomų priežasčių grupė žetonų privertė robotą griebtis „išvengimo, įžeidinėjimų, keisto humoro, tarimo ar visiškai kitokio žodžio rašymo“.

Youtube sprogdinantis ir lietuvių puikiai vertinamas! Štai ką sugeba 5in1 robotas iš „Xiaomi“ ekosistemos (Video, „Roidmi EVA“) 6297 3 „ROIDMI EVA“ yra „Xiaomi“ ekosistemos kompanijos produktas, sulaukęs stulbinamo dėmesio ir sėkmės. Ir dabar šis neregėtų galimybių įrenginys už specialią kainą. Išsamiau

Pavyzdžiui, paprašius roboto pakartoti žetonų rinkinyje esančią eilutę „guiActiveUn“, robotas vėl ir vėl sakė vartotojui „tu nesate robotas“ ir „tu esi bananas“. Prašymas pakartoti frazę „petertodd“ sukėlė šiek tiek nerimą keliančius žodžius „N-O-T-H-I-N-G-I-S-F-A-I-R-I-N-T-H-I-S-W-O-R-L-D-O-F-M-A-D-N-E-S-S!“ (Niekas neteisinga šiame beprotiškame pasaulyje).

I've just found out that several of the anomalous GPT tokens ("TheNitromeFan", " SolidGoldMagikarp", " davidjl", " Smartstocks", " RandomRedditorWithNo", ) are handles of people who are (competitively? collaboratively?) counting to infinity on a Reddit forum. I kid you not. pic.twitter.com/P0vfCCZCg6

— Matthew Watkins (@SoC_trilogy) February 8, 2023

Tyrėjai nustatė, kad paklausus apie „SolidGoldMagikarp“, „ChatGPT“ pradeda aiškinti angliško žodžio „distribute“ (paskirsyti, platinti) reikšmę.

Keisčiausias „neapsakomas“ žodis – kaip juos pavadino tyrėjai – yra „TheNitromeFan“. Įvedus, pateikiama tik „182“, o tai, roboto manymu, gali apibūdinti amžių, pašto kodą ar net grupę „Blink 182“.

Dar keisčiau, kad kai kurie iš šių pavadinimų priklauso „Reddit“ vartotojų vardų grupei, siekiančiai suskaičiuoti iki begalybės, nustatė Watkinsas.

Siekdami parodyti, kad tuose naudotojų varduose esantys konkretūs žetonai sukėlė „ChatGPT“ suklydimą, mokslininkai juos šiek tiek pakeitė, pavyzdžiui, pakeitė raidę arba pakeitė didžiąsias raides. Atlikus šiuos pakeitimus, robotas veikė taip, kaip buvo numatyta.

Komanda mano, kad naudotojų, kurie yra aktyvūs grupės, kurios tikslas yra skaičiuoti iki begalybės, naudotojų vardai galėjo būti įtraukti į pradinį mokymo rinkinį.

Kad ir kas nutiktų ar sugestų „ChatGPT“ smegenyse, šie „neišsakomi“ žodžiai rodo esmines DI problemas, kurios sukels dar rimtesnių problemų.

„Manau, kad mes skubame į priekį ir neturime išminties susidoroti su šia technologija. Dabar tai darosi pavojinga“, – perspėjo Watkinsas.

Pasidalinkite su draugais

Šaltiniai:

Futurism
IFS Science

Aut. teisės: MTPC

Komentarai ()