[ŽT] „Microsoft“ darbuotojas bandė perspėti apie dirbtinio intelekto pavojus. Kompanija neleido ()
DALL-E modelio pažeidžiamumas leidžia kurti draudžiamus vaizdus.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Shane'as Jonesas, „Microsoft“ inžinierius, teigė, kad „OpenAI“ sukurtas DALL-E 3 algoritmas turi saugumo spragų, kurios gali leisti generuoti vaizdus su smurtiniu ar atviru turiniu. Tai praneša „GeekWire“.
Jis naudoja anti-Taylor Swift vaizdų pavyzdį, kad parodytų galimą neigiamą poveikį. S. Jonesas apie problemą pranešė „Microsoft“ vadovybei, kuri jam uždraudė ją atskleisti viešai. Tačiau jis nuvyko į Kongresą pranešti apie šį pažeidžiamumą.
S. Jonesas teigia radęs būdą, kaip apeiti DALL-E 3 saugumą. Jis apie tai pranešė Microsoft vadovybei, kuri paprašė pasakyti apie problemą „OpenAI“. Anot jo, trūkumas gali leisti generuoti piktybiškus vaizdus su smurtiniu ar nerimą keliančiu turiniu. S. Jonesas bandė didinti visuomenės informuotumą apie šią problemą paskelbdamas įrašą „LinkedIn“, tačiau „Microsoft“ vadovas pareikalavo jį pašalinti. Jis sutiko, bet iš „Microsoft“ teisės skyriaus paaiškinimo negavo.
„OpenAI“ atsakė į kaltinimus teigdama, kad jų modelis turi patikimus saugos filtrus, kurie išfiltruoja žalingus vaizdus ir seksualinį ar smurtinį turinį. Jie taip pat suteikia papildomų saugos funkcijų kuriamiems produktams. „Microsoft“ savo ruožtu teigė, kad reguliariai tiria ir sprendžia su naujomis technologijomis susijusias problemas bei vertina savo darbuotojų pastangas.
