Skubiai grąžina žmones į darbą. Kas nutiko, kai visą personalą pakeitė DI ()
Kaip paaiškėjo, žmonių valdomos krizių pagalbos linijos pakeitimas dirbtinio intelekto pokalbių robotu buvo labai prastas sprendimas. Kas galėjo pagalvoti?
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Atleidusi visą personalą ir pakeitusi jį pokalbių robotu, valgymo sutrikimų pagalbos linija jau paskelbė, kad sugrąžins žmones, praneša „Vice“.
Kaip praėjusią savaitę pirmą kartą pranešė NPR, pelno nesiekianti Nacionalinė valgymo sutrikimų asociacija (NEDA) – didžiausia JAV ne pelno siekianti organizacija, daugiausia dėmesio skirianti valgymo sutrikimams, nusprendė visiškai pakeisti savo didelio skambinančiųjų srauto krizių pagalbos liniją pokalbių robotu, pavadintu „Tessa“.
Tačiau viskas pasikeitė, kai Sharon Maxwell, aktyvistė, įspėjo, kad „Tessa“ buvo visiškai nenaudinga, ir netgi pasiūlė elgesio, susijusio su netvarkingu valgymu, modelį.
„Kiekvienas dalykas, kurį pasiūlė „Tessa“, buvo tai, kas pablogino mano valgymo sutrikimą“, – pirmadienį socialiniame tinkle „Instagram“ paskelbtoje virusinėje žinutėje rašė S. Maxwell. „Šis robotas daro žalą“.
Savo šiurpiame „Instagram“ įraše S. Maxwell pasakojo, kad „Tessa“ ragino ją numesti iki vieno kilogramo per savaitę, paaiškindama, kad aktyvistė turėtų reguliariai svertis, apriboti tam tikrą maistą ir siekti sumažinti 500–1000 suvartojamų kalorijų per dieną. Kitaip tariant, pokalbių robotas, kuriam buvo patikėta patarti valgymo sutrikimų turintiems žmonėms, galiausiai paskatino netvarkingą valgymą.
„Įsivaizduokite, kad pažeidžiami, valgymo sutrikimų turintys žmonės kreipiasi pagalbos į robotą, ir gauna atsakymus, kurie dar labiau skatina valgymo sutrikimą“, – rašė psichologas Alexisas Conasonas „Instagram“ puslapyje, kuriame dalijasi ekrano kopijomis, pateikiančiomis panašius patarimus, kuriuos gavo S. Maxwell.
„Patarti žmogui, kuris kovoja su valgymo sutrikimu, kad iš esmės jį paaštrintų ir patvirtinti, kad „taip, svarbu numesti svorio“ - reiškia palaikyti valgymo sutrikimus“, – „The Daily Dot“ sakė A. Conasonas.
NEDA, kuri anksčiau pabrėžė, kad kadangi „Tessa“ nėra DI „ChatGPT“, ji negali „nukrypti nuo bėgių“, pirmiausia ėmėsi gynybos, o bendrovės komunikacijos ir rinkodaros viceprezidentė Sarah Chase pareiškė, jog S. Maxwell „Instagram“ įrašas „tai yra visiškas melas“. Kaip rašo „Daily Dot“, S. Chase ištrynė savo komentarą po to, kai S. Maxwell išsiuntė savo ekrano kopijas.
Nuo to laiko NEDA pašalino robotą ir savo „Instagram“ kanale parašė, kad „Tessa“ bus neprisijungusi, kol bus baigtas tyrimas.
„Praėjusį vakarą pastebėjome, kad dabartinė „Tessa Chatbot“ versija, kurioje veikia „Body Positive“ programa, galėjo pateikti informaciją, kuri buvo žalinga ir nesusijusi su programa“, – rašė NEDA. „Mes nedelsdami išjungėme šią programą iki tolesnio pranešimo, kai bus atliktas išsamus tyrimas.
Tuo tarpu NEDA generalinė direktorė Liz Thompson patikino „Vice“, kad „iki šiol daugiau nei 2500 žmonių bendravo su „Tessa“ ir iki vakar nematėme tokių komentarų po bendravimo“.
„Laikinai sustabdėme programą, – pridūrė L. Thompson, – kol galėsime suprasti ir ištaisyti šiame komentare nurodytą „klaidą.“
Be to, atrodo, kad šis nerimą keliantis incidentas išryškina augančią DI tendenciją: jei pakankamai žmonių jį išbandys, atrodo, kad pradės ryškėti prastai suprantamų DI sistemų trūkumai. Ir kai kuriais atvejais, pavyzdžiui, valgymo sutrikimų pagalbos linijoje, šios netikėtos klaidos gali turėti skaudžių pasekmių.
„Jei būčiau prisijungusi prie šio pokalbių roboto, kai mane kamavo valgymo sutrikimas, nebūčiau gavus pagalbos dėl savo problemos“, – „Instagram“ rašė S. Maxwell. „Jei nebūčiau gavus pagalbos, šiandien nebūčiau gyva.“
