Kaip rodo dienraščio „The Washington Post“ atliktas tyrimas, dėl veido atpažinimo programinės įrangos kartais neteisėtai suimami ir įkalinami Amerikos piliečiai. Visa tai daro pareigūnai, kurie, pernelyg tikėdami jos neklystamumu, neatlieka savo pareigų. Koks šio reiškinio mastas? Tai sunku net patikrinti.
Susirūpinimą dėl veido atpažinimo programinės įrangos jaučiame praktiškai nuo pat pirmųjų šios technologijos iteracijų, ypač dėl to, kad nuolat gaunama pranešimų apie neteisėtą socialinės žiniasklaidos nuotraukų naudojimą arba pavojingą duomenų nutekėjimą algoritmams mokyti. Be to, ekspertai taip pat atkreipė dėmesį į tai, kad tokią programinę įrangą gali įsigyti privatūs asmenys, o tai kelia persekiojimo ar kitokio moralės požiūriu abejotino naudojimo, pavyzdžiui, potencialių klientų ar darbuotojų „patikros“, riziką.
Jau nekalbant apie nuolatinius įspėjimus, kad toks sprendimas yra nepatikimas ir kartais šališkas dėl rasės ar lyties, o tai gali lemti diskriminaciją ir daugybę klaidų. Ir turbūt sunku rasti geresnį jų žodžių patvirtinimą nei dienraščio „The Washington Post“ atlikto tyrimo rezultatai, atskleidžiantys atvejus, kai po dirbtinio intelekto algoritmų padarytų klaidų buvo neteisingai suimti žmonės.
Policijos pareigūnai, naudojantys dirbtinį intelektą, sutrumpina kelią
Kaip galima perskaityti naujame leidinyje, nors policijos pareigūnai įspėjami, kad šios technologijos naudojimo rezultatai yra „nemoksliniai“ ir „neturėtų būti vienintelis bet kokių sprendimų priėmimo pagrindas“, pareigūnai dažnai renkasi trumpiausius kelius. Užuot laikęsi nustatytų standartų, jie pernelyg pasikliauja dirbtinio intelekto galimybėmis, ir dėl to nukenčia nekalti žmonės.
Kaip teigia laikraštis, neįmanoma nustatyti bendro neteisėto suėmimo atvejų, kuriuos lėmė klaidingi dirbtinio intelekto paieškos rezultatai, skaičiaus, nes prokurorai retai informuoja visuomenę, kai naudoja tokias priemones, ir tik septyniose valstijose jie teisiškai privalo tai daryti. Vis dėlto, išanalizavę turimus duomenis ir pasikalbėję su teisininkais, policijos pareigūnais ir nukentėjusiaisiais, žurnalistai nustatė aštuonis tokius piktnaudžiavimo atvejus.
Be to, yra daug požymių, kad jei policijos pareigūnai būtų laikęsi savo darbo standartų, t. y. nebūtų ėmęsi trumpesnių veiksmų ir, atlikdami veido atpažinimą, būtų patikrinę alibi, skiriamuosius ženklus ar pirštų atspaudus, visų šių neteisėtų suėmimų būtų buvę galima išvengti.
Absurdas persekioja absurdą
Kai kuriais atvejais kalbama apie išties absurdiškas situacijas, pavyzdžiui, nėščios moters sulaikymą automobilio vagystės byloje, nors vagystės liudininkai nėščios moters neminėjo, arba laikrodžio vagyste kaltinamo vyro, kurio tapatybę patvirtino apsaugos darbuotojas, įvykio dieną nebuvęs darbe, tapatybę!
Jau nekalbant apie 29 metų keturių vaikų tėvo, niekaip nesusijusio su nusikaltimo vieta ar kriminaline praeitimi, suėmimą ir nuteisimą, kuriam prireikė daugiau nei dvejų metų, kad būtų išaiškintas jo vardas.
Trumpai tariant, nekalti žmonės patenka į kalėjimą, nes policijos pareigūnai pasikliauja dirbtiniu intelektu, užuot kruopščiai atlikę savo pareigas. Ir, kaip teigia ekspertai, veido atpažinimas iš tiesų veikia vis geriau, tačiau net laboratorinėmis sąlygomis, maitinamas didelės raiškos vaizdais, jis nėra neklystantis, jau nekalbant apie tai, kai veikia pagal neryškią ir neryškią prastos kokybės vaizdo stebėjimo kamerų medžiagą.
Kaip pažymi WP cituojama Niujorko universiteto Teisės fakulteto tyrėja Katie Kinsey, nebuvo atlikta jokių nepriklausomų bandymų, kad būtų patikrintas neryškiems stebėjimo vaizdams skaityti naudojamos technologijos tikslumas, todėl sunku net įvertinti, kaip dažnai dirbtinis intelektas klysta ir dėl to įvyksta asmeninės tragedijos.
