„Visiška haliucinacija, papildyta faktais.“ Atakuoja „Vikipediją“ ()
Pirma, tai neatsiejama „Wikipedia“ modelio problema – redaktoriumi šioje platformoje gali būti bet kas.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
„Wikipedia“ pradėjo naują iniciatyvą „WikiProject AI Cleanup“. Tai savanorių darbo grupė, kuri šiuo metu peržiūri „Wikipedia“ straipsnius, redaguoja arba šalina klaidingą informaciją, kurią, atrodo, paskelbė žmonės, naudojantys generatyvinį dirbtinį intelektą.
Ilyas Lebleu, vienas iš valytojų grupės įkūrėjų, sakė „404 Media“, kad krizė prasidėjo, kai „Wikipedia“ redaktoriai ir naudotojai pradėjo matyti ištraukas, kurias neabejotinai parašė koks nors pokalbių robotas. Komanda patvirtino šią teoriją atkurdama kai kurias ištraukas naudodama „ChatGPT“.
|
„Keletas iš mūsų pastebėjo, kad vyrauja nenatūralus rašymas, turintis aiškių dirbtinio intelekto sukurto teksto požymių, ir mums pavyko atkurti panašius „stilius“ naudojant „ChatGPT“, – sakė Lebleu. „Atradę keletą bendrų dirbtinio intelekto frazių, galėjome greitai pastebėti keletą šiurpiausių sugeneruotų straipsnių pavyzdžių, kuriuos greitai norėjome paversti organizuotu projektu, kad galėtume apibendrinti savo atradimus ir metodus.“
Pavyzdžiui, yra vienas straipsnis apie 1400 m. pastatytą osmanų tvirtovę, pavadintą „Amberlisihar“. Šiame 2 000 žodžių straipsnyje išsamiai aprašoma šios vietovės vieta ir statyba. Deja, Amberlisiharas neegzistuoja, o visa informacija apie jį yra visiška haliucinacija, papildyta faktais, kad būtų galima šiek tiek pasitikėti.
Piktadarystė neapsiriboja ir naujai paskelbta medžiaga. Blogi veikėjai į jau esamus straipsnius, kuriuos savanoriai redaktoriai jau patikrino, įterpia fiktyvią dirbtinio intelekto sukurtą informaciją. Viename iš pavyzdžių kažkas į straipsnį apie nesusijusį vabalą įterpė teisingai pacituotą skyrių apie tam tikrą krabų rūšį.
Lebleu ir jo kolegos redaktoriai sako nežinantys, kodėl žmonės taip daro, bet būkime sąžiningi – visi žinome, kad tai vyksta dėl dviejų pagrindinių priežasčių. Pirma, tai neatsiejama „Wikipedia“ modelio problema – redaktoriumi šioje platformoje gali būti bet kas. Daugelis universitetų būtent dėl šios priežasties nepriima studentų darbų, kuriuose cituojama „Wikipedia“.
Antroji priežastis yra ta, kad internetas viską gadina. Tai jau ne kartą matėme, ypač dirbtinio intelekto programų atveju. Prisimenate „Tay“, „Microsoft“ „Twitter“ botą, kuris buvo pašalintas mažiau nei per 24 valandas, kai pradėjo skelbti vulgarias ir rasistines žinutes.
