Vīrietis ieradās veikalā iepirkties, bet sistēma viņu noturēja par zagli – darbinieki lika aiziet

Pavisam vienkārša situācija. Jūs ierodaties tirdzniecības centrā, saliekat preces, pieejat pie pašapkalpošanās kases, noskenējat pirkumus, varbūt vēl pārvelkat lojalitātes karti un jau gatavojaties maksāt. Nekā īpaša. Šādu iepirkšanos nedēļā notiek tūkstošiem. Tikai vienam vīrietim Londonā viss beidzās nevis ar čeku rokā, bet ar pazemojumu citu cilvēku klātbūtnē.

46 gadus vecais Mets Arnolds iepirkās veikalā „Sainsbury’s”, kad pie viņa pienāca divi darbinieki un lika nekavējoties aiziet. Ne tāpēc, ka viņš kaut ko būtu nozadzis. Ne tāpēc, ka pie kases būtu izcēlies konflikts. Ne tāpēc, ka apsardze būtu viņu pieķērusi, slēpjot preces. Vīrieti apturēja tāpēc, ka veikalā darbojošā sejas atpazīšanas sistēma viņu kļūdaini sasaistīja ar zināmu zagli.

Vēlāk noskaidrojās, ka tā bija kļūda. Bet cilvēkam, kurš tajā brīdī stāvēja pie kases un tika izraidīts no veikala, no tā nekļuva daudz vieglāk. Šādās situācijās vissāpīgākais nav tikai pats pārpratums. Vissāpīgākais ir tas, ka apkārtējie redz tikai rezultātu: darbinieki pienāca, kaut ko pateica, un cilvēkam ir jāaiziet. Savukārt paskaidrojums, ka „šeit sistēma kļūdījās”, nāk jau pēc visa notikušā.

Viņš baidās nevis no pašas kameras, bet no tā, ka cilvēki pārstās domāt paši

Pēc šī incidenta Arnolds izteica ļoti vienkāršu, bet nepatīkamu domu. Viņu visvairāk satrauc nākotne, kurā cilvēki vienkārši klausīsies, ko viņiem saka mašīna, pat neapstājoties, lai padomātu par sekām. Un šajā vietā viss stāsts kļūst daudz plašāks par vienu neveiksmīgu iepirkšanos.

Veikals var teikt, ka sistēma ir ļoti precīza. Tehnoloģiju piegādātāji var skaidrot, ka precizitāte sasniedz gandrīz 100 procentus. Vēl var piebilst, ka katra sakritība ir jāpārbauda apmācītam darbiniekam. Bet, ja realitātē cilvēks tik un tā tiek izraidīts, jo kaut kur ekrānā iedegās brīdinājums, pircējam visi šie procenti neko daudz nenozīmē.

„Sainsbury’s” un „Facewatch” pēc incidenta atvainojās. Veikals uz laiku apturēja sistēmas izmantošanu. Tehnoloģiju piegādātājs skaidroja, ka algoritms nav sabojājies, bet kļūda esot radusies cilvēka lēmuma dēļ. Tomēr parastam cilvēkam tas rada vēl vairāk jautājumu. Ja sistēma ir tik precīza, kāpēc tā atzīmēja nepareizo cilvēku? Ja sakritība ir jāpārbauda cilvēkam, kāpēc pircējs tik un tā tika izmests? Un kurš atbild par to brīdi, kad nevainīgs klients publiski tiek noturēts par zagli?

Arnolds pats teica, ka jūt līdzi darbiniekiem. Viņš saprot, ka arī viņi nonāca situācijā, kurā viņiem bija jāpaļaujas uz sistēmu, instrukcijām un savu sagatavotību. Bet tieši šeit slēpjas problēma: ja tirdzniecības centri ievieš šādas tehnoloģijas, darbiniekiem jābūt sagatavotiem ne tikai nospiest pogu vai pakļauties signālam. Viņiem ir jāsaprot, ka viņu priekšā stāv cilvēks, nevis tikai „sakritība datubāzē”.

Veikali vēlas ķert zagļus, bet kļūdas cenu maksā parasts pircējs

Tirgotājus var saprast. Zādzības veikalos maksā milzīgas summas, bet pašapkalpošanās kases šo problēmu vēl vairāk saasina. Viens nenoskenē preci, cits uzlīmē lētāku etiķeti, trešais apzināti „aizmirst” daļu pirkumu. Tāpēc veikali meklē kameras, sensorus, svara pārbaudes un mākslīgā intelekta sistēmas, kas palīdzētu ātrāk pamanīt aizdomīgu rīcību.

Bet viena lieta ir sistēma, kas pamana, ka pie pašapkalpošanās kases cilvēks nav ievietojis preci noskenēto pirkumu zonā. Pavisam kas cits – sistēma, kas mēģina pateikt, ka konkrētais cilvēks ir tas, kuru veikals nevēlas ielaist. Šeit mēs vairs nerunājam par preci, grozu vai nepareizi nosvērtu ābolu. Šeit mēs runājam par cilvēka seju, vārdu, reputāciju un iespēju tikt pazemotam publiskā vietā.

Tieši tāpēc sejas atpazīšana tirdzniecības centros ir tik jutīgs jautājums. Parasta kamera vienkārši filmē. Savukārt sejas atpazīšanas sistēma mēģina cilvēku ar kaut ko salīdzināt. Tai ir jābūt kaut kādai datubāzei, kaut kādiem ierakstiem, kaut kādam lēmumam, ka šī seja ir līdzīga citai sejai. Un, ja tur rodas kļūda, cilvēks par to uzzina nevis mierīgi saņemot vēstuli, bet tad, kad veikalā pie viņa pienāk darbinieki.

Vēl sliktāk ir tas, ka lielākā daļa pircēju šādā situācijā pat nezinātu, kā aizstāvēties. Ko teikt? Kam sūdzēties? Kā pierādīt, ka sistēma kļūdījās? Kā uzzināt, vai tava seja kaut kur nav tikusi kļūdaini atzīmēta? Vai nākamreiz tevi neizraidīs no cita tā paša tīkla veikala?

Šāda kļūda var notikt ar jebkuru, tāpēc svarīgākais – nezaudēt galvu

Ja šāda situācija notiktu veikalā, pirmā vēlme, visticamāk, būtu sadusmoties vai apjukt. Tas ir pilnībā saprotams. Neviens nevēlas tikt noturēts par zagli, īpaši citu cilvēku klātbūtnē. Tomēr vislabāk šādā situācijā ir runāt mierīgi, bet stingri. Lūgt paskaidrot, uz kāda pamata pieņemts šāds lēmums. Lūgt uzaicināt atbildīgo vadītāju. Neparakstīt un neatzīt neko, kas neatbilst patiesībai.

Ja darbinieki saka, ka jūs atzīmējusi sistēma, ir vērts lūgt rakstisku paskaidrojumu un vērsties pie paša tirdzniecības uzņēmuma. Šādām kļūdām nevajadzētu palikt tikai „atvainojiet, mēs kļūdījāmies” līmenī. Ja cilvēks kļūdaini sasaistīts ar aizdomīgu personu, ir jābūt skaidram, vai šis ieraksts ir dzēsts, vai kļūda neizplatīsies tālāk un vai nākamreiz tā pati sistēma viņu atkal neapturēs.

Šis stāsts nav par to, ka veikaliem nevajadzētu sargāties no zādzībām. Vajag. Bet starp drošību un aklu uzticēšanos algoritmam ir ļoti šaura robeža. Kamera var palīdzēt darbiniekam. Tā var parādīt signālu. Tā var pievērst uzmanību. Bet galīgajam lēmumam joprojām ir jāpaliek cilvēka prātā, nevis tikai ekrānā.

Jo tad, kad sistēma kļūdās, tai nekas nenotiek. Tā nejūt kaunu, neatceras citu pircēju skatienus un nedodas mājās ar domu, ka tikusi publiski noturēta par zagli. Tas viss jāizcieš cilvēkam, kurš tajā dienā vienkārši ieradās nopirkt preces.