Skamba kaip mokslinė fantastika, bet tai jau tikrovė: sukurtas algoritmas gebantis atskirti būsimą nusikaltėlį - jis veikia, tačiau ar etiška naudoti?

Jau nebemadinga su slankmačiu kaukoles matuoti? Net ir poligrafai nelaikomi tinkamu prietaisu nustatyti griežtą TAIP/NE kaltei, ką čia nuotraukos. Tarkim, įlipa į autobusą zuikių kontrolė. Ilgaausius reikia tikrinti griežčiau, o trumpaausių galima išvis netikrinti? Ar, pagauna mane be bilieto, ir aš postringauju, kad palikau nuolatinį namie („gi ir vakar važiavau, ir užvakar, visi mane matė, ir jus prieš savaitę sutikau – pamenat?“). Pasižiūri į mano ausis ir meta burtą: jei ausys ilgos, tada su P=90% bausti, jei trumpos – su P=90% paleisti. Ane? Tikras teisingumas...

Atsakau į klausimą. ... ar etiška naudoti? Nei taip, nei ne. Ši priemonė galėtų būti labiau rekomendacinio pobūdžio. Kitu atveju tai sukurtų daugiau problemų negu išsprestų. Reikia turėti omenyje, kad žmones formuoja ir provokuoja aplinka, kurioje jie gyvena. Tokios priemonės be aiškaus problemos suvokimo, tik padidintų diskriminaciją, o diskriminacija generuoja neapykantą. https://www.youtube.com/watch?v=WpYeekQkAdc Idomų ką programa parodytų apie žmogų jaunystėje ir tarkim po 10-15-20 metų?

Kodėl iškarto baust. Aš asmeniškai manau, kad toks tyrimas yra tikrai įdomus, o ir praktiškai būtų galima panaudoti miesto ar parduotuvių stebėjimo sistemoms kurios galėtų realiu laiku žymėt labiau nusikalsti linkusius žmones. Iš labiau creepy pavyzdžių, moksleivių, studentų ar būsimųjų darbuotojų nuotraukų analizės. Dirbant su moksleiviais ar studentais galbūt būtų aktualiau švietimas, tuo tarpu su darbuotojais sąžiningumas.

Neetiška bet kokiu atveju, nebent dėl mokslinio intereso, kaip ir apskritai stereotipai teisėje. Temidė turi būti akla. Kita vertus, ar AI aptiko kažkokį priežastinį ryšį? Ta koreliacija tai gali būti susijusi su giminyste, rase, mimika, tam tikrų medžiagų vartojimu ir t.t.. Arba tiesiog nekorektiškai parinkta imtimi. Čia, kaip suprantu, iš esmės viską lemia emocijų pozityvumas. Pagal tokį kriterijų bet kuri kaimo bobutė atskirs recidyvą nuo „gero vaiko“. Pakanka to, kad turime screeningo AI, CV, paskolų rizikos ir t.t. vertinimui. Kiek vertų žmonių atmetama vien todėl, kad AI juos neaišku pagal kokį kriterijų atbrokavo. Klasikinis pavyzdys – iš L. Mlodinow „Girtuoklio klydinėjimo“ (2013m., Jotema, pp.149-153): autoriaus paraiška gyvybės draudimui buvo atmesta „dėl sveikatos būklės“. Autorius padarė eksperimentą – išsityrė dėl ŽIV (1/1000 false positive). Taigi dėl paprasčiausio testo nepatikimumo nieko nepaaiškinus niekuo dėtas žmogus nepelnytai išbrokuotas (dar gerai, kad nepaskelbtas narkomanu ir pan.). [Spėju, kad remiantis šia istorija prieš kelias dienas čia buvo publikuotas „galvosūkis, kurio genijai neišsprendžia“] Viskas faina, jei galima atsekti metodiką ir išsiaiškinti esmines priežastis, dėl ko algoritmas padaro vienokias ar kitokias išvadas (kaip matome, čia jos nebuvo paaiškintos). Tokiu atveju gali apeliuoti, reikalauti kompensacijos, papildomų tyrimų, ar tiesiog padaryti tam tikras išvadas (ir, norint įtikti straipsnyje aprašytam algoritmui, kitąsyk savo nuotrauką pateikti su šypsena, gerai išsimiegojus). O kaip, jei DI nepaaiškina savo metaheuristikos? Jei nėra būdo išdebuginti NN sinapsių? Jei tyrimas taikomas masiškai ir niekas pernelyg nesicackina (pvz., reikia atrinkti 10 kandidatų iš 1000 – tai atrankos vykdytojas lengva ranka iš 50 „tinkamiausių“ pražiūrės 40, kurie nepraėjo screeningo: juk jam tereikia dešimties! kitų keturiasdešimties bėdos jam dzin)? Čia panašiai kaip ieškantis darbo: man vienu periodu užėjo juodas laikmetis, kol išsiaiškinau, kad su manimi niekas nenori bendrauti LinkedIn'e, nes kažkoks panašaus amžiaus bendravard+pavardis prisišiko feisbukuose. Ir žinok, kad gudrus, kas formuoja tavo įvaizdį aname laido gale. T.y., jei žinotum, kieno atsakomybe ir pagal kokius kriterijus esi kategorizuotas kaip negras, tai galėtum įrodinėti, kad tavo abu biologiniai tėvai baltieji, plius pakelti skandalą, kad vertintojas yra rasistas. Su DI tu to niekad nesužinosi, o ir sužinojus kažką taisyti gali būti per vėlu. Prie to paties „galvosūkio, kurio neįveikia genijai“, pateikiau keletą pavyzdžių, kai netinkamai taikomi data science metodai, statistika ir koreliacijos gali veikti visai atbulai. Įsivaizduok, kad prestižinėje mokykloje propaguojama sveika gyvensena, visiškai netoleruojamas alkoholis, tabakas, žolė, kava (...ir dar pridėkim polinkį į nesantuokinį seksą, lošimus ir homoseksualizmą). Pagal visas statistikas, į tokią prestižinę įstaigą neturėtų šansų papulti niekas su IQ>120, nes aukštas IQ tiesiogiai koreliuoja su visais šiais 7 „rizikos faktoriais“ – tiek su visais kartu, tiek su kiekvienu atskirai. Įstaiga screenina, screenina, viskas lyg ir puiku, bet po dešimties metų paaiškėja, kad įstaigos rodikliai ritasi žemyn (ir išsiaiškink dabar, kad gudrus, jog visus tuos metus buvo priimami tik vidutinybės – t.y., kasmet atrenkant 200 tinkamų iš 10 000 aplikantų, pačioje pirmoje fazėje 2000 geriausių išscreeninami be didelių ceremonijų ir paaiškinimų). Dabar, ar galime apkaltinti DI neteisingu įvertinimu? Pasirodo, ne: padarom reviziją ir išties pamatom, jog tarp tų 2000 atmestų kasmet tikrai yra daugiau alkoholikų, rūkančių, kofemanų... nei kitose grupėse – t.y., rizika įvertinta teisingai. Bet! 1. Sistema neatliko pagrindinio tikslo „atrinkti geriausius“ (atvirkščiai: ji atmetė geriausius). 2. Eksperimente dalyvavo ne šiaip skruzdėlės ar simuliacijos parametrų vektoriai, o realūs asmenys – tad net ir vienas nepelnytas false negative jau yra tragedija humanizmo ir etikos požiūriu. 3. Kitos įstaigos, kurios nebuvo tokios modernios, pasielgė teisingiau ir išlošė: geriausia kandidatų imtis liko lengvabūdiškai perleista joms.

rwc

vienas is komentatoriu jau yra potencialus nusikaltelis,kas jis? atsakymas aiskus net DI