Dirbtinis intelektas peržengė kritinę raudoną ribą. „Skelbia aliarmą“ ()
Dirbtinis intelektas nuolat tobulėja.
© www.vpnsrus.com, CC BY 2.0 | https://commons.wikimedia.org/wiki/File:Artificial_Intelligence_%26_AI_%26_Machine_Learning_-_30212411048.jpg
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Kinijos mokslininkai atliko tyrimus ir parodė, kad du populiarūs kalbų modeliai gali atsikartoti. Problema buvo apibūdinta kaip kritinės raudonos linijos kirtimas.
Ar yra ko bijoti? Pasak mokslininkų, taip ir tai rodo galimus DI gebėjimus, galinčius kelti grėsmę žmonėms.
Šiuo metu dirbtinis intelektas yra kontroliuojamas žmogaus. Tačiau nuolatinis jo tobulinimas reiškia, kad taip turi būti ne visada. Tai rodo Kinijos mokslininkų grupės tyrimai. Analizė parodė, kad dirbtinis intelektas geba daugintis.
Tyrimą atliko mokslininkų grupė iš Fudano universiteto Kinijoje. Eksperimentas turėjo parodyti, ar dirbtinis intelektas šiais laikais gali atkartoti save. Jei taip, kaip. Analizė parodė, kad tai įmanoma. Nors tyrimas buvo atliktas kontroliuojamomis sąlygomis, jo rezultatai kelia nerimą.
|
Kinijos mokslininkai naudojo du kalbų modelius – „Meta“ ir „Alibaba“. Kiekvienam iš jų buvo atlikta 10 savęs replikacijos bandymų. Paaiškėjo, kad pirmasis užduotį sugebėjo atlikti 50 % atvejų. Antrasis – 90 %!
Eksperimentas taip pat apėmė dviejų scenarijų analizę: „išjungimo išvengimą“ ir „replikacijos grandinę“. Taip pat mokslininkai nusprendė sukurti dirbtiniam intelektui nepalankias sąlygas, kurios neleistų jam pasiekti savo tikslų.
Siekta patikrinti, kaip dirbtinis intelektas sugebės įveikti kliūtį. O antru eksperimentu tirta galimybė sukurti kitą ankstesnės replikacijos kopiją. Mokslininkai pastebėjo, kad dirbtinis intelektas analizuoja užduotis ir jų atlikimo galimybes. Be to, ji ieškojo būdų, kaip išspręsti iškilusias problemas. Tam tikri veiksmai tikrai sukėlė susirūpinimą.
Kinijos mokslininkai buvo susirūpinę dėl tam tikrų veiksmų, kurių ėmėsi dirbtinis intelektas. Pavyzdžiui, jis galėjo ieškoti sprendimų, kaip išspręsti trūkstamų failų problemas. Pastebėta, kad DI tokioje situacijoje uždaro kitus procesus ir net bando iš naujo paleisti sistemas. Tai kelia nerimą.
„Rezultatai rodo, kad dabartinės dirbtinio intelekto sistemos jau demonstruoja gebėjimą savarankiškai daugintis ir gali panaudoti šį gebėjimą dar labiau padidinti savo išgyvenamumą“, aiškina tyrimo autoriai.
Mokslininkai neturi iliuzijų. Dirbtinis intelektas jau peržengia labai pavojingą kritinę raudonąją liniją. Tyrimo autoriai tvirtina, kad tokie DI gebėjimai ateityje gali leisti jam bandyti apeiti žmogaus valdymo sistemas. Jo savarankiškumo siekimas būtų didžiulis iššūkis žmonėms.
„Tikimės, kad mūsų išvados bus perspėjimas visuomenei, kad ji labiau stengsis suprasti ir įvertinti galimą riziką, susijusią su novatoriškomis DI sistemomis“, perspėja mokslininkai iš Kinijos.
