Vyras atėjo į parduotuvę apsipirkti, bet sistema jį palaikė vagimi – darbuotojai liepė išeiti

Visai paprastą situaciją. Ateinate į prekybos centrą, susidedate prekes, prieinate prie savitarnos kasos, nuskenuojate pirkinius, gal dar perbraukiate lojalumo kortelę ir jau ruošiatės mokėti. Nieko ypatingo. Tokių apsipirkimų per savaitę būna tūkstančiai. Tik vienam vyrui Londone viskas baigėsi ne čekiu rankoje, o pažeminimu prie kitų žmonių.

46 metų Mattas Arnoldas apsipirkinėjo „Sainsbury’s“ parduotuvėje, kai prie jo priėjo du darbuotojai ir liepė nedelsiant išeiti. Ne todėl, kad jis kažką pavogė. Ne todėl, kad kasoje kilo konfliktas. Ne todėl, kad apsauga jį būtų pagavusi slepiant prekes. Vyrą sustabdė todėl, kad parduotuvėje veikianti veido atpažinimo sistema jį klaidingai susiejo su žinomu vagimi.

Vėliau paaiškėjo, kad tai buvo klaida. Bet žmogui, kuris tą akimirką stovėjo prie kasos ir buvo išprašytas iš parduotuvės, nuo to nepasidarė daug lengviau. Tokiose situacijose skaudžiausia ne vien pats nesusipratimas. Skaudžiausia tai, kad aplinkiniai mato tik rezultatą: darbuotojai priėjo, kažką pasakė, žmogus turi išeiti. O paaiškinimas, kad „čia sistema suklydo“, ateina jau po visko.

Jis bijo ne pačios kameros, o to, kad žmonės nustos galvoti patys

Po šio incidento Arnoldas pasakė labai paprastą, bet nemalonią mintį. Jį labiausiai neramina ateitis, kurioje žmonės tiesiog klausys, ką jiems sako mašina, net nesustodami pagalvoti apie pasekmes. Ir šitoje vietoje visa istorija tampa daug platesnė nei vienas nepavykęs apsipirkimas.

Parduotuvė gali sakyti, kad sistema labai tiksli. Technologijos tiekėjai gali aiškinti, kad tikslumas siekia beveik 100 procentų. Dar galima pridurti, kad kiekvieną sutapimą turi patikrinti apmokytas darbuotojas. Bet jeigu realybėje žmogus vis tiek išprašomas lauk, nes kažkur ekrane užsidegė įspėjimas, tada pirkėjui visi tie procentai mažai ką reiškia.

„Sainsbury’s“ ir „Facewatch“ po incidento atsiprašė. Parduotuvė laikinai sustabdė sistemos naudojimą. Technologijos tiekėjas aiškino, kad algoritmas nesugedo, o klaida esą įvyko dėl žmogiškojo sprendimo. Tačiau paprastam žmogui nuo to kyla dar daugiau klausimų. Jei sistema tokia tiksli, kodėl ji pažymėjo ne tą žmogų? Jei žmogus turi patikrinti sutapimą, kodėl pirkėjas vis tiek buvo išmestas? Ir kas atsako už tą akimirką, kai nekaltas klientas viešai palaikomas vagimi?

Arnoldas pats sakė, kad užjaučia darbuotojus. Jis supranta, kad jie irgi pateko į situaciją, kurioje turėjo remtis sistema, instrukcijomis ir savo pasiruošimu. Bet būtent čia slypi problema: jeigu prekybos centrai diegia tokias technologijas, darbuotojai turi būti paruošti ne tik paspausti mygtuką ar paklusti signalui. Jie turi suprasti, kad prieš juos stovi žmogus, o ne tik „sutapimas duomenų bazėje“.

Parduotuvės nori gaudyti vagis, bet klaidos kaina tenka paprastam pirkėjui

Prekybininkus galima suprasti. Vagystės parduotuvėse kainuoja milžiniškus pinigus, o savitarnos kasos šią problemą dar labiau paaštrina. Vienas nenuskenuoja prekės, kitas užklijuoja pigesnę etiketę, trečias specialiai „pamiršta“ dalį pirkinių. Dėl to parduotuvės ieško kamerų, jutiklių, svorio patikrų ir dirbtinio intelekto sistemų, kurios padėtų greičiau pastebėti įtartiną elgesį.

Bet viena yra sistema, kuri pastebi, kad savitarnos kasoje žmogus neįdėjo prekės į nuskenuotų pirkinių zoną. Visai kas kita – sistema, kuri bando pasakyti, kad konkretus žmogus yra tas, kurio parduotuvė nenori įsileisti. Čia jau kalbame ne apie prekę, ne apie krepšelį ir ne apie klaidingai pasvertą obuolį. Čia kalbame apie žmogaus veidą, vardą, reputaciją ir galimybę būti pažemintam viešoje vietoje.

Būtent dėl to veido atpažinimas prekybos centruose yra toks jautrus. Paprasta kamera tiesiog filmuoja. O veido atpažinimo sistema bando žmogų su kažkuo sulyginti. Ji turi turėti kažkokią duomenų bazę, kažkokius įrašus, kažkokį sprendimą, kad šis veidas panašus į kitą veidą. Ir jeigu ten atsiranda klaida, žmogus apie ją sužino ne ramiai gavęs laišką, o tada, kai prie jo parduotuvėje prieina darbuotojai.

Dar blogiau, kad dauguma pirkėjų tokioje situacijoje net nežinotų, kaip gintis. Ką sakyti? Kam skųstis? Kaip įrodyti, kad sistema suklydo? Kaip sužinoti, ar tavo veidas kažkur nebuvo pažymėtas neteisingai? Ar kitą kartą tavęs neišprašys iš kitos tos pačios grandinės parduotuvės?

Tokia klaida gali nutikti bet kam, todėl svarbiausia – nepasimesti

Jeigu tokia situacija įvyktų parduotuvėje, pirmas noras greičiausiai būtų supykti arba sutrikti. Tai visiškai suprantama. Niekas nenori būti palaikytas vagimi, ypač prie kitų žmonių. Vis dėlto geriausia tokioje situacijoje kalbėti ramiai, bet tvirtai. Paprašyti paaiškinti, kuo remiantis priimtas sprendimas. Paprašyti pakviesti atsakingą vadovą. Nepasirašyti ir nepripažinti nieko, kas neatitinka tikrovės.

Jeigu darbuotojai sako, kad jus pažymėjo sistema, verta prašyti raštiško paaiškinimo ir kreiptis į pačią prekybos įmonę. Tokios klaidos neturi likti tik „atsiprašome, suklydome“ lygyje. Jei žmogus klaidingai susietas su įtartinu asmeniu, turi būti aišku, ar tas įrašas pašalintas, ar klaida neišplis toliau ir ar kitą kartą ta pati sistema vėl jo nesustabdys.

Ši istorija nėra apie tai, kad parduotuvės neturi saugotis vagysčių. Turi. Bet tarp saugumo ir aklo pasitikėjimo algoritmu yra labai plona riba. Kamera gali padėti darbuotojui. Ji gali parodyti signalą. Ji gali atkreipti dėmesį. Bet galutinis sprendimas vis tiek turi likti žmogaus galvoje, o ne vien ekrane.

Nes kai sistema suklysta, jai nieko nenutinka. Ji nejaučia gėdos, neprisimena kitų pirkėjų žvilgsnių ir neina namo su mintimi, kad buvo viešai palaikyta vagimi. Visa tai tenka žmogui, kuris tą dieną tiesiog atėjo nusipirkti prekių.