Bauginantis išradimas, kurio pasekmės gali būti pragaištingos: JAV ėmė naudoti sistemą, kokią kurti vengė net „Google“ (5)
Siaubingas išradimas, kurio pasekmės gali būti pragaištingos. Taip vadinama Amerikos bendrovės „Clearview“ sukurta veidų atpažinimo programėlė, kuri gali nustatyti kiekvieno žmogaus tapatybę.
Prisijunk prie technologijos.lt komandos!
Laisvas grafikas, uždarbis, daug įdomių veiklų. Patirtis nebūtina, reikia tik entuziazmo.
Sudomino? Užpildyk šią anketą!
Nedidelė Niujorke įsikūrusi „Clearview AI“ padarė tai, apie ką kalbėjo stambiausi pasaulio technologijų koncernai, – į pasaulį paleido inovatyvią veidų atpažinimo programėlę. Kaip ji veikia?
Nufotografuoji žmogų, įkeli jo nuotrauką į bazę, o vėliau ji su iš interneto apie šį asmenį paimtomis nuorodomis keliauja atitinkamam naudotojui.
Trys milijardai nuotraukų
Programėlės pagrindas, pasak „Clearview“, yra nukopijuotas duomenų bankas su daugiau nei trimis milijardais nuotraukų iš „Facebook“, „YouTube“, „Venmo“ ir milijonų kitų tinklalapių. Tai pranoksta viską, ką kada nors sukūrė JAV vyriausybė ar Silicio slėnio šiuolaikinių technologijų milžinai.
JAV valdininkai teigė turėję nedaug bendros informacijos apie „Clearview“ funkcijas. Tačiau jie jau naudojasi bendrovės sistema siekdami išsiaiškinti parduotuvių ar tapatybės vagystės, kredito kortelių apgavystės, žmogžudystės ir seksualinio vaikų išnaudojimo atvejus.
Atsisakė net „Google“
Veidų atpažinimo technologija visuomet buvo ginčytina, nes žadina neramias mintis dėl viską sekančios didžiojo brolio akies.
Iki šiol metodai, leidžiantys be problemų nustatyti bet kokį žmogų, laikomi draudžiamais, nes reiškia privatumo pažeidimą. Tokį instrumentą šiuolaikinių technologijų koncernai sąmoningai atsisakė pateikti rinkai.
Dar 2011-aisiais „Google“ teigė, kad veidų atpažinimo programėlė esanti vienintelė technologija, nuo kurios bendrovė susilaiko, nes ja galėtų pasinaudoti piktavaliai.
Kai kurie Amerikos didmiesčiai, pavyzdžiui, San Fransiskas, uždraudė policijai naudoti veidų atpažinimo programėlę. Nepaisant to, praėjusiais metais daugiau nei 600 JAV institucijų pradėjo diegti „Clearview“ išradimą be oficialios kontrolės.
Programėlės kodas, kurį išanalizavo JAV dienraštis „The New York Times“, turi sąsają su papildytosios realybės (angl. augmented reality) akiniais. Todėl vartotojas galėtų nustatyti kone bet kurio asmens, kurį mato, tapatybę.
Veidų atpažinimo programėlė pasitelkiama ne tik baudžiamojo persekiojimo tikslams. „Clearview“ savo išradimo licenciją suteikė mažiausiai keletui įmonių, kurios rūpinasi savo saugumu. Negana to, „Clearview“ naudotojai jiems rūpinčių asmenų nuotraukas įkelia į serverį bendrovės, kurios gebėjimas saugoti duomenis nėra patikrintas.
Ėmė sekti žurnalistą
Bendrovę „Clearview“ dengia paslapties šydas. Taip teigia Vokietijos leidinio „Focus“ žurnalistas, praėjusį lapkritį pradėjęs savo tyrimą.
Tuo metu bendrovės tinklalapis buvo beveik tuščias. „Clearview“ būstinė nurodyta neegzistuojančiu adresu Manhatane. „LinkedIn“ paskyroje skelbta tik apie vieną darbuotoją – pardavimų vadybininką Johną Goodą. Paaiškėjo, kad po šia pavarde slepiasi pats kompanijos įkūrėjas Hoan Ton Thatas. Tačiau visą mėnesį niekas nereagavo į Vokietijos žurnalisto elektroninius laiškus ar skambučius. Užtat jis pats tuo pat metu buvo stebimas bendrovės.
Žurnalisto prašymu skirtingi policijos pareigūnai įkėlė jo nuotrauką į „Clearview“ programėlę. Ir netrukus sulaukė skambučių iš bendrovės atstovų, kurie teiravosi, ar jie kalbėję su žiniasklaida. Tai rodo, kad „Clearview“ geba stebėti, ko baudžiamojo persekiojimo instancijos ieškojo šia programėle, ir tuo naudotis. Galiausiai įmonė pagaliau pradėjo atsakinėti į vokiečių žurnalisto klausimus.
„Pradinė tvyrojusi tyla būdinga paslaptingam jaunam startuoliui“, – toks buvo Hoan Ton Thato pranešimas.
Jis patvirtino sukūręs programėlės, kuri naudojama su papildytosios realybės akiniais, prototipą, bet teigė, kad bendrovė neketina savo išradimo pateikti rinkai.
Žurnalisto nuotrauka, anot Hoan Ton Thato, sukėlė pavojaus signalą, nes programėlė greičiausiai praneša apie nenormalų, stebėjimo vertą elgesį. Todėl neva teko užkirsti kelią, kad naudotojas neatliktų nepamatuotų paieškų.
Surado buvusį redaktorių
31-erių Hoan Ton Thatas užaugo toli nuo Silicio slėnio. Savo gimtinėje Australijoje buvo auklėjamas istorijų apie jo karališkuosius protėvius Vietname. 2007-aisiais vaikinas metė mokslus koledže ir persikėlė į San Fransiską.
Pasirodžius išmaniesiems telefonams Hoan Ton Thatas siekė tapti dalimi klestinčios socialinės žiniasklaidos programų rinkos, tačiau jo pirmieji projektai niekada nebuvo įgyvendinti. Sugniuždytas Hoan Ton Thatas 2016-aisiais persikėlė į Niujorką. Aukštaūgis vyriškis mąstė apie modelio karjerą. Bet ji, anot Hoan Ton That, baigėsi po pirmosios fotosesijos. Netrukus jis pradėjo skaityti specializuotus straipsnius apie dirbtinį intelektą, vaizdų atpažinimą ir kompiuteriją, o 2016-aisiais susipažino su Richardu Schwartzu.
Dabar 61-erių sulaukęs vyriškis, būdamas Niujorko mero Rudy Giuliani patarėjas, dešimtajame dešimtmetyje sudarė įspūdingą adresų knygą. 2000-ųjų pradžioje R.Schwartzas dirbo leidinio „New York Daily News“ pirmųjų puslapių redaktoriumi. Netrukus abu nusprendė įsilieti į veidų atpažinimo verslą: Hoan Ton Thatas turėjo kurti programas, o R.Schwartas, naudodamasis savo kontaktais, jas parduoti. Jis pasirūpino ir drąsaus investuotojo Peterio Thielo pinigine parama. Pastarasis anksčiau finansavo „Facebook“ ir „Palantir“.
Žengė toliau nei kiti
JAV policijos žinybos jau beveik 20 metų turi prieigą prie veidų atpažinimo technikos, bet naudojasi tradiciniais šaltiniais – paieškos nuotraukomis ar vairuotojo pažymėjimais.
Pastaraisiais metais algoritmai veidams atpažinti tapo tikslesni. Nemažai bendrovių siūlo produktus, su kuriais būtų galima sudaryti veido atpažinimo programas bet kokių nuotraukų duomenų pagrindu.
Tačiau Hoan Ton Thatas siekė daugiau. Jis 2016-aisiais savo startuolyje įdarbino kūrėjus. Vienas sudarinėjo programą, kuri automatiškai internete renka žmonių veidų nuotraukas, pavyzdžiui, darbo skelbimuose, informaciniuose puslapiuose, mokymo serveriuose ir socialiniuose tinkluose „Facebook“, „YouTube“, „Twitter“ ar „Instagram“.
Kitas kūrėjas tobulino veido atpažinimo algoritmą. Rezultatas – sistema, pasak Hoan Ton Thato, vaizdus paverčianti matematinėmis formulėmis ir naudojanti moderniausią neuroninį tinklą. Tai – veido geometriją apibūdinantys vektoriai. Prie jų, pavyzdžiui, priklauso atstumas tarp akių.
Galiausiai „Clearview“ sukūrė didžiulį katalogą, kuriame visos nuotraukos su panašiais vektoriais sujungtos į vadinamąsias kaimynystes. Kai vartotojas įkelia nuotrauką, veidas keičiamas į vektorių, o sistema rodo visas sukauptas nuotraukas jo kaimynystėje. Kartu su nuorodomis į puslapius, iš kurių paimtos šios fotografijos.
Padėjo nustatyti nusikaltėlį
2019 metų vasarį Indianos valstijos policija pradėjo eksperimentuoti su „Clearview“ programėle. Tai pasiteisino – vienas atvejis buvo nustatytas per 20 minučių.
Parke susiginčijo du vyrai, vienas jų šovė kitam į pilvą. Šį epizodą praeivis filmavo savo telefonu, todėl policija turėjo nusikaltėlio nuotrauką, kurią galėjo įkelti į „Clearview“ programėlę. Šis asmuo neturėjo vairuotojo pažymėjimo ir niekada nebuvo suimtas, tad valstybiniame duomenų banke jo nebuvo. Pasak tuomečio Indianos policijos kapitono Chucko Coheno, nusikaltėlio nebūtų pavykę rasti, jei ne veidų atpažinimo programėlė.
Veiksmingiausias „Clearview“ produkto pardavimo metodas buvo nemokami 30 dienų testai policijos valdininkams. Jie paskatino savo žinybos pardavimo skyrius įsigyti programėlę arba patarė naudotis kitiems įstatymų sergėtojams.
Veidų atpažinimo programėlę išbandė ir kitos žinybos – Federalinis tyrimų biuras bei Vidaus saugumo departamentas. Teigiama, kad ir Kanados baudžiamojo persekiojimo tarnybos jau yra ją įdiegusios.
Ne viskas dar tobula
Hoan Ton Thatas pripažino, kad jo programėlė ne visada atlieka savo paskirtį. Dauguma „Clearview“ duomenų banke esančių nuotraukų padarytos akių aukštyje.
Tuo metu didžioji dalis policijos medžiagos sukaupta iš stebėjimo kamerų, kurios montuojamos prie lubų ar aukštų sienų. Tai apsunkina veidų atpažinimą. Nepaisant to, sistema, pasak „Clearview“ steigėjo, nustato iki 75 proc. ieškomų asmenų. Tiesa, to patvirtinti negali jokia nepriklausoma instancija.
Siūlys pašalinti nuotraukas
Pasak Hoan Ton Thato, jo bendrovė naudoja tik viešai prieinamas nuotraukas, todėl vartotojai savo privatumo nustatymą, pavyzdžiui, feisbuke, galėtų pakeisti taip, kad paieškos sistemos nesietų su jų profiliu. Tuomet „Facebook“ nuotraukos nepatektų į „Clearview“ duomenų banką. Bet jei profilis jau pašalintas, tuomet per vėlu – bendrovė išsaugo visas surinktas nuotraukas, net jei jos buvo ištrintos pradinėje vietoje.
Hoan Ton Thatas aiškimo, kad „Clearview“ kuria funkciją, pagal kurią nukentėję asmenys gali prašyti pašalinti jų nuotraukas, jei jie atsisakė profilio. („Focus“, LR)
Kritikai jau skambina pavojaus varpais
„Tai, ką daro „Clearview“, labai baugina, bet tokių bendrovių bus ir daugiau. Matematikos monopolijos nėra. Todėl be labai griežto nacionalinio duomenų apsaugos įstatymo mes visi esame pražuvę“, – teigė Stanfordo teisės mokyklos teisinės duomenų apsaugos profesorius Alas Gidari.
Šiaurės rytų universiteto Bostone teisės ir informatikos profesorius Woodrowas Hartzogas bendrovės „Clearview“ išradimą laiko naujausiu įrodymu, kad veidų atpažinimas JAV turėtų būti uždraustas.
„Mes pasitikėjome, kad ši sritis save reguliuoja ir nesiima tokių rizikingų technologijų. Bet dabar šios užtvankos pralaužtos, nes tiek daug pinigų guli ant stalo“, – sakė W.Hartzogas.
