Oksfordo universiteto mokslininkai: ši technologija pavojingesnė net už branduolinius ginklus (19)
Tobulėjant šioms technologijoms, turime turėti galimybę „ištraukti kištuką", jei jos kada nors taptų „daug protingesnės už mus visose srityse".
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Oksfordo universiteto mokslininkai perspėjo JK įstatymų leidėjus, kad „antžmogiškas dirbtinis intelektas" gali būti bent jau toks pat pavojingas kaip branduoliniai ginklai, todėl turėtų būti taip pat reguliuojamas, praneša „The Telegraph".
Ekspertai JK vyriausybės Mokslo ir technologijų atrankos komiteto parlamentarams papasakojo apie nereglamentuojamų dirbtinio intelekto technologijų keliamus pavojus.
„Su antžmogišku dirbtiniu intelektu kyla ypatinga rizika, kuri yra kitokios klasės, o tai gali nužudyti visus", – parlamentarams sakė doktorantas Michaelas Cohenas, kurį cituoja „The Telegraph".
Komiteto posėdyje taip pat dalyvavęs Oksfordo universiteto mašininio mokymosi profesorius Michaelas Osborne'as perspėjo apie „didžiules DI ginklavimosi varžybas" tarp JAV ir Kinijos, kurios nori „saugumą ir atsargumą išmesti pro langą ir lenktyniauti kuo greičiau link pažangiausio DI".
„Mes gana gerai reguliavome branduolinių ginklų naudojimą", – sakė M. Osborne'as. „Jei mums pavyktų suprasti, kad pažangus dirbtinis intelektas yra toks pat pavojingas kaip branduoliniai ginklai, galbūt galėtume sukurti panašias jo valdymo sistemas.
M. Cohenas sakė, kad dirbtinio intelekto mokymas pasiekti naują etapą arba gauti atlygį gali būti ypač pavojingas.
„Įsivaizduokite, kad šunį dresiruojate su skanėstais, jis išmoks pasirinkti veiksmus, kurie paskatins jį gauti skanėstų", – įstatymų leidėjams sakė M. Cohenas, – bet jei šuo randa skanėstų spintelę, jis gali gauti skanėstų pats, nedarydamas to, ko mes norėjome".
Kitaip tariant, antžmogiškas dirbtinis intelektas rizikuoja nukreipti „tiek energijos, kiek galėtų užsitikrinti" atlygį, o mes „liktume be jokios energijos sau".
Tobulėjant šioms technologijoms, turime turėti galimybę „ištraukti kištuką", jei jos kada nors taptų „daug protingesnės už mus visose srityse", – teigė M. Cohenas.
O mes tik braižome paviršių. M. Cohenas ir M. Osborne'as numatė, kad DI, pajėgesnis už žmones, gali atsirasti jau šimtmečio pabaigoje, o to būtų galima išvengti tinkamai jį reguliuojant.
