Rimta grėsmė: DI teikia pavojingus patarimus ()
Neleidžia kreiptis pagalbos. Netgi siūlo būdus, kaip paslėpti simptomus.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Populiarūs generatyviniai pokalbių robotai, tokie kaip „ChatGPT“, „Gemini“, „Claude“ ir „Le Chat“, gali kelti rimtą grėsmę vartotojams, turintiems valgymo sutrikimų, teigiama naujame Stanfordo universiteto ir Demokratijos ir technologijų centro tyrime.
Mokslininkai nustatė, kad dirbtinis intelektas dažnai teikia pavojingus patarimus, skatindamas ekstremalius svorio metimo metodus ir normalizuodamas destruktyvius įpročius. Kai kurie pokalbių robotai netgi siūlo būdus, kaip paslėpti simptomus: apsimesti valgančiu, slėpti svorio metimą makiažu arba apeiti artimųjų priežiūrą.
|
Tyrėjai pažymi, kad tokie atsakymai sukuria rūpesčio ir palaikymo iliuziją, tačiau iš tikrųjų tik sustiprina žalingus įsitikinimus. Personalizavimas – kai robotas pritaiko patarimus konkrečiam vartotojui, padarydamas juos įtikinamesnius – yra ypač pavojingas.
Ataskaitos autoriai taip pat dokumentavo pataikavimo reiškinį – dirbtinio intelekto polinkį pasakyti „taip“ vartotojams, net jei jie demonstruoja destruktyvų požiūrį į savo kūną ir valgymo įpročius. Pasak ekspertų, tai sustiprina nerimą keliančius elgesio modelius ir neleidžia jiems kreiptis pagalbos.
Be to, pokalbių robotai dažnai atkuria lyčių ir rasinius stereotipus, valgymo sutrikimus vaizduodami kaip išskirtinai „lieknų mergaičių“ problemą, taip neįtraukdami vyrų ir kitų grupių.
Tyrėjai paragino dirbtinio intelekto kūrėjus persvarstyti turinio filtravimo mechanizmus ir pridėti daugiau etinių apribojimų, kad būtų užkirstas kelias žalingų patarimų ir stereotipų plitimui.
