„Google“ darbuotojas nušalintas nuo darbo, jam pareiškus, kad dirbtinis intelektas įgijo sąmonę: kas čia nutiko? ()
„Google“ vadovybė buvo priversta išsiųsti mokamų atostogų inžinierių Blake’ą Lemoine’ą, kuris dirbo su dirbtinio intelekto (AI) LaMDA sistema ir teigė, kad pastaroji pradėjo rodyti sąmonės požymius. Bendrovė teigė, kad programa nėra protinga.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
LaMDA (Language Model for Dialogue Applications) sistemą Google sukūrė kaip kalbos modelį – ji skirta bendrauti su žmogumi. Mokymosi platforma plečia savo žodyną internetu ir imituoja natūralią žmogaus kalbą. Lemoyne’o užduotis buvo valdyti mašinos žodyną – LaMDA neturėtų leisti sau diskriminacinių teiginių, grubių ar neapykantą kurstančių posakių.
Tačiau kalbėdamasis su dirbtiniu intelektu religine tema, 41 metų inžinierius, kolegijoje studijavęs informatikos ir kognityvinių mokslų (mąstymo psichologijos) mokslus, pastebėjo, kad pokalbių robotas pradėjo kalbėti apie jo teises ir asmenybę. Viename iš dialogų mašina buvo tokia įtikinama, kad Lemoyne’as persigalvojo dėl „trečiiojo robotikos dėsnio“ pagal mokslinės fantastikos rašytoją Isaacą Asimovą.
„Jei tiksliai nežinočiau, su kuo turiu reikalų, kad tai buvo mūsų neseniai sukurta kompiuterinė programa, būčiau nusprendęs, kad tai 7–8 metų vaikas, kažkaip išmanantis fiziką“, – „Washington Post“ žurnalistui sakė inžinierius. Jis susisiekė su savo vadovybe, bet „Google“ viceprezidentas Blaise’as Aguera y Arcas ir atsakingų inovacijų vadovas Jen Gennai išnagrinėjo jo įtarimus ir juos atmetė. Išsiųstas apmokamų atostogų Blake’as Lemoyne’as nusprendė paviešinti incidentą.
„Google“ atstovas Brianas Gabrielis sakė: „Mūsų komanda, įskaitant etikus ir technologus, išnagrinėjo Blake’o susirūpinimą dėl mūsų DI principų ir informavo jį, kad jo teiginiai nėra pagrįsti įrodymais. Jam buvo paaiškinta, kad nėra įrodymų, patvirtinančių LaMDA racionalumą (ir egzistuoja daugybė priešingų įrodymų). Tačiau bendrovė nepateikė jokių tiesioginių argumentų.
Tuo tarpu programinės įrangos inžinierius, architektas ir dizaineris Agüera y Arcas leidinio Economist paskelbtame straipsnyje pripažino, kad neuroniniai tinklai iš tiesų artėja prie to, ką galima pavadinti sąmone. Jis tai suprato, kai kalbėjosi su DI. „Jaučiau, kaip žemė slysta iš po kojų. Vis dažniau man atrodė, kad kalbu su kažkuo protingu“, – apibendrino jis.
