Gali kelti grėsmę žmonijai. „ChatGPT“ kūrėjai perspėjo apie galingą DI atradimą ()
Prieš keturias dienas trukusį „OpenAI“ generalinio direktoriaus Samo Altmano nušalinimą keli „OpenAI“ mokslininkai parašė laišką direktorių tarybai, įspėdami apie galingą atradimą dirbtinio intelekto srityje, galintį kelti grėsmę žmonijai.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Ši žinia buvo vienas iš veiksnių, lėmusių Altmano atleidimą. Tai pranešė „Reuters“, remdamasi dviem šaltiniais, susipažinusiais su šiuo klausimu.
„OpenAI“ atsisakė atsakyti į žurnalistų klausimus, tačiau vidine žinute darbuotojams buvo pripažinta apie projektą, pavadintą Q* (tariama Q-Star), galinčiu būti proveržiu bendrovės ilgalaikėje vadinamojo universalaus dirbtinio intelekto (AGI) paieškoje. Tai autonominė DI sistema, kuri pranoksta žmones atliekant ekonomiškai vertingiausias užduotis.
Didžiulių skaičiavimo resursų pagalba naujasis modelis galėtų išspręsti tam tikras matematines problemas.
Mokslininkai mano, kad matematika yra AGI vystymosi riba. Šiuo metu AGI puikiai rašo ir verčia kalbą, statistiškai nuspėja kitą žodį, o atsakymai į tą patį klausimą gali labai skirtis.
Tačiau matematikos gebėjimo įgijimas, kai yra tik vienas teisingas atsakymas, reiškia, kad algoritmas bus pajėgesnis mąstyti kaip žmogaus intelektas. Specialistų teigimu, tai gali būti pritaikyta, pavyzdžiui, naujuose moksliniuose tyrimuose.
Skirtingai nuo skaičiuotuvo, kuris gali atlikti ribotą skaičių operacijų, AGI gali apibendrinti, mokytis ir suprasti.
Savo laiške valdybai mokslininkai atkreipė dėmesį į dirbtinio intelekto meistriškumą ir galimus pavojus, tiksliai nenurodydami, apie kokią riziką jie kalbėjo. Tuo pat metu tarp mokslininkų jau seniai vyksta diskusijos apie itin protingų mašinų keliamą pavojų, pavyzdžiui, ar jos gali nuspręsti, kad nori sunaikinti žmoniją.
Tyrėjai taip pat atkreipė dėmesį į „dirbtinio intelekto mokslininkų“ grupės darbus, kurių egzistavimą patvirtino daugybė šaltinių. Pasak vieno komandos nario, kuris buvo suformuotas sujungus ankstesnes Code Gen ir Math Gen komandas, jie tyrė, kaip optimizuoti esamus DI modelius, kad patobulintų savo samprotavimus ir galiausiai atliktų mokslinį darbą.
Altmanas vadovavo pastangoms, kad „ChatGPT“ būtų viena pažangiausių programinės įrangos programų istorijoje.
Tuo pačiu metu „Reuters“ pažymi, kad jiems nepavyko savarankiškai patikrinti tyrėjų teigiamų Q* galimybių.
