Stop al riconoscimento facciale da Sainsbury's a Londra, dopo che un cliente è stato per errore fermato perché "riconosciuto" come responsabile di furti, ed espulso da un negozio di Londra.
L'incidente da Sainsbury's con il riconoscimento facciale
Un incidente molto spiacevole ha per ora messo in pausa il sistema di sicurezza con riconoscimento facciale guidato dall'intelligenza artificiale da Sainsbury's.
Lo scorso 6 agosto un cliente che stava entrando nel negozio Sainsbury's di East Dulwich, area sud est di Londra, è stato fermato prima del pagamento, in cassa, non appena ha scansito la propria Nectar card e la spesa, attendendo l'addetto per il via libera all'acquisto di alcolici. Invece, due addetti si sono avvicinati, gli hanno comunicato che non poteva procedere con gli acquisti poiché era stato riconosciuto come responsabile di un furto avvenuto in settimana. Erano determinati a scortarlo fuori dal negozio, ma il cliente ha preferito uscire da solo.
Uscendo dal negozio, inoltre, ha notato un monitor del circuito interno in modalità di allerta, con un cerchiolino rosso attorno al proprio viso. La spesa serviva per un evento organizzato presso il locale club di football, dunque il cliente espulso ha chiesto che il carrello fosse lasciato intonso, così che qualcun altro potesse venire a pagarlo e ritirarlo.
Diversi giornali locali hanno intervistato il cliente protagonista dell'incidente, che ha anche raccontato come il personale del negozio fosse confuso a questa sua richiesta, ma ciò nonostante, abbia continuato a "seguire le indicazioni di una macchina", senza ragionare sul fatto che il suo comportamento non fosse quello di un malintenzionato. Un incidente che poteva causare molti più problemi se fosse capitato a una persona più giovane, più debole, diversamente abile.
Errore umano, le scuse e lo stop
Il giorno successivo, è stata avviata un'indagine e il direttore del negozio si è scusato con il cliente; inoltre il sistema di riconoscimento facciale è stato messo in pausa, almeno nel negozio dove è avvenuto l'incidente.
Sainsbury's impiega il sistema supportato dalla Ai per riconoscere i responsabili di furti avvenuti in precedenza, o responsabili di atti di violenza, per tutelare in primis lo staff del negozio. In questo caso il retailer ha dichiarato che si è trattato dui un errore umano, e non da attribuirsi alla tecnologia.
Non si tratta dell'unico incidente avvenuto in aree commerciali e determinato dallo stesso sistema di riconoscimento facciale Facewatch usato da Sainsbury's: a settembre 2025 una persona è stata erroneamente espulsa dal centro commerciale Elephant and Castle di Londra con la stessa motivazione. Anche in questo caso il retailer ha dichiarato che si è trattato di errore umano, poiché la persona "riconosciuta" non era nemmeno presente nel sistema. Così è avvenuto anche da Home Bargains e B&M (due discounter inglesi).
Le dichiarazioni di Sainsbury's e Facewatch
La dichiarazione di Sainsbury's: "Abbiamo contattato Mr Arnold per scusarci dell'incidente nel superstore di Dulwich. È stato causato da un errore umano, non dalla tecnologia di riconoscimento facciale. I clienti possono stare tranquilli, il sistema Facewatch ha un'accurateza pari al 99,98%, e ciascun positivo viene controllato da personale opportunamente istruito".
A sua volta l'azienda che produce la tecnologia Facewatch ha dichiarato: "Il retailer ha ricevuto un alert corretto, ma successivamente è avvenuto un errore umano che ha riguardato il modo in cui l'allerta è stato gestito all'interno del negozio". La quota dello 0,02% di errore non sarebbe inoltre da considerare legata al riconoscimento, quanto a un confine fissato dal produttore all'autonomia della macchina, uno spazio affidato al controllo umano, così da fermare possibili errori prima che si trasformino in allerta.
La sospensione del sistema solo nel negozio di Dulwich è di tipo precauzionale e durerà finché il personale non avrà ricevuto ulteriore formazione.
I dati degli episodi criminosi instore e la tecnologia
Secondo i dati del British Retail Consortium, nel Regno Unito avvengono 1.600 incidenti legati a violenza e maltrattamenti ogni giorno che coinvolgono il personale dei negozi, in crescita marcata dal 2019-20 (erano 455 al giorno).
Secondo i dati Sainsbury's, il primo test della tecnologia di riconoscimento facciale in due negozi ha portato a una riduzione del 46% degli incidenti legati a furti e comportamenti antisociali, con il 90% dei responsabili che non tornavano nel negozio.
Sainsbury's punta a estendere il controllo facciale
L'incidente a Londra a portato a uno stop solo nel negozio di Londra, ma il retailer intende usare il riconoscimento facciale per proteggersi da furti e violenze.
Prima di Natale è prevista l'installazione di telecamere Facewatch in circa 150 negozi, che si aggiungono ai 55 nei quali il riconoscimento facciale è già operativo, Il sistema scansiona i volti delle persone mentre entrano nei negozi e li confronta con una serie di volti collegati a furti, violenze e aggressioni. Quando scatta un allerta, il personale del negozio viene avvertito, e un addetto procede al controllo, grazie a una formazione mirata.
