IA come “anti-taccheggio” in Giappone: quando la sicurezza prevale sull’etica

19 Aprile 2019 80

L’intelligenza artificiale può studiare il comportamento di una persona per prevedere se ha delle cattive intenzioni? In Giappone la pensano così, perlomeno all’interno della startup Vaak di Tokyo, creatrice di un software capace di identificare un ladro all’interno di un negozio semplicemente analizzandone il volto e il movimento del corpo.

La particolarità di VaakEye - così si chiama la soluzione implementata - consiste nel fatto che non incrocia alcun dato proveniente, ad esempio, dalla polizia locale (vedasi foto segnaletiche o materiale simile): il software è in grado - autonomamente - di prevedere le intenzioni criminali del soggetto studiandone l'atteggiamento (in modo simile a quanto fa la soluzione implementata dalla cinese Watrix che studia la postura per identificare la persona). L’algoritmo su cui si basa il sistema è stato “alimentato” con 100 mila ore di registrazioni effettuate all’interno di diversi negozi, con lo scopo di riconoscere quando dietro a un cliente apparentemente innocuo si nasconde invece un ladro intenzionato a taccheggiare. Le espressioni facciali, il modo in cui è vestito e i movimenti del corpo consentono a VaakEye di smascherare il malintenzionato con relativa facilità.

E, a quanto pare, la soluzione pare che funzioni: durante il periodo di prova presso una cinquantina di negozi alimentari giapponesi, i furti sono diminuiti del 77%.

PREVENIRE E’ MEGLIO CHE CURARE?

Qui la frase ha un punto interrogativo in fondo, visto che non è così scontato dal punto di vista etico. In pratica: è corretto moralmente allontanare da un negozio una persona (che ancora non ha fatto nulla di male) semplicemente perché ha un comportamento che, secondo gli algoritimi di intelligenza artificiale, potrebbe essere considerata pericolosa?

“Ciò che noi forniamo è l’informazioni sull’immagine sospetta rilevata”, spiega il fondatore di Vaak Ryo Tanaka. “Non siamo noi a decidere chi è un criminale, è il negozio a decidere chi lo è”.

Ma il problema resta: Hannah Couchman, avvocato dell’organizzazione britannica Liberty che da anni combatte per i diritti umani, ritiene che questo sia un palese caso in cui un privato - il negozio - si sostituisce al pubblico - la polizia. Generalizzando, la questione preoccupa tante associazioni in tutto il mondo: 85 di queste hanno recentemente inviato ad Amazon, Google e Microsoft una lettera aperta in cui si chiede loro di non vendere le tecnologie di riconoscimento ai governi per il timore che le persone scannerizzate vengano impropriamente discriminate.

“Con tecnologie che si basano su algoritmi, in particolare quando si parla di comportamento umano, il potenziale di discriminazione è sempre presente”, spiega la Couchman.

Secondo la società di Jeff Bezos è necessaria una legge ad hoc che ne consenta l’impiego ma che nel contempo sia in grado di proteggere i diritti civili dei cittadini. Questioni etiche di cui anche Microsoft è recentemente tornata a parlare in occasione della visita del Presidente Brad Smith all'università di Stanford.


LA PRIVACY

Qui i dubbi si moltiplicano: è lecito utilizzare una tecnologia del genere senza il consenso delle persone che entrano nel negozio? In altre parole: in questo caso prevalgono i motivi di ordine pubblico sulla privacy del singolo o ci si trova invece davanti all’ennesimo tentativo di rubare dati personali senza poi sapere dove vadano a finire o come verranno utilizzati?

Una soluzione potrebbe essere quella di avvisare i clienti del negozio all’entrata, ma si tratterebbe di un espediente, e la questione non verrebbe risolta del tutto. Ciò che serve, ancora una volta, è una legislazione che faccia definitivamente chiarezza sul tema. Altrimenti, il rischio è che si ripetano le proteste degli abitanti (e dei turisti) di Londra, spiati da Scotland Yard nel periodo natalizio nelle zone di Soho, Piccadilly Circus e Leicester Square.


80

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Porco Zio

L’importante è che non facciano male agli altri

KiTo

è sempre un passo avanti

LucaS888

A leggere l'articolo i negozianti potrebbero aver allontanato i sospetti a prescindere, cosa che ha fatto diminuire i furti.
Sarebbe interessante capire se c'è stato anche un calo di vendite magari causato dall'allontanamento anche di clienti onesti che a quel punti non hanno mai più messo piede nel negozio,

marco

Non quello dei suicidi

Porco Zio

Magari fossimo là
Il crimine è bassisimo

takaya todoroki

Idem... ricordo quando suonò l'allarmino mentre ENTRAVO in un negozio.
Il tizio, "nono entri, pure"
Io: "manco sono entrato e già mi date del ladro... pensate pure che io faccia acquisti da voi?"

ahaha la sua faccia....

francesco berardocco

ma che poi, se non è la prima volta che fa così, i moderatori perchè non l'hanno bannato?

francesco berardocco

Non lo conoscevo, ma sto insulti contro i napoletani devono finire...

boosook

Ahah, pure io a volte ho comportamenti da psicopatico, se sono indeciso passo tantissime volte davanti a un oggetto, poi mi allontano, poi ci torno...
Certo è che, se mi chiedessero di allontanarmi preventivamente da un negozio, non gliela renderei tanto facile. :)

boosook

Ma che stai a discutere con Pietro Smusi... Guardati i suoi post... Quello è un razzista, fascista e pure misogino.

boosook

A me da fastidio anche quando mi chiedono solo di far sigillare lo zaino, figuriamoci la persona che ti piantina, figuriamoci se mi chiedessero di uscire preventivamente, gli pianterei una questione che non finisce più!

Romeo

Allora per par condicio diciamo pure che andrebbe in crash anche se entrasse uno zingaro o un extracomunitario, mica vogliamo lasciarli esclusi?

Romeo

Nel romanzo di Dick erano i Precog, nella realtà sono diventati le intelligenze artificiali.

takaya todoroki

"Si potrebbe semplicemente mettere l'AI a disposizione della sicurezza
che può controllare eventuali sospetti prima che escano dal negozio,
magari chiedendo loro di aprire la giacca o vuotare le tasche"

Giusto. Però propongo di far indossare ai dipendenti le divise delle SS, così almeno i clienti sanno con chi hanno a che fare, ahahahah

Infatti ho contestato questo punto. Io pregiudizio non è mai una cosa buona. Ma a quanto pare ci azzecca qualche volta. O come deterrente o come individuazione effettiva

Andrea65485

Dipende anche da come viene usata, se l'IA indica i sospetti e questi senza che abbiano ancora fatto nulla di male vengono cacciati, allora non va bene assolutamente...

Si potrebbe semplicemente mettere l'AI a disposizione della sicurezza che può controllare eventuali sospetti prima che escano dal negozio, magari chiedendo loro di aprire la giacca o vuotare le tasche

L0RE15

I furti son diminuiti del 77%?! Allora funziona come deterrente, un po' come le finte telecamere di sicurezza: il malintenzionato vede il cartello e si impautprisce, rinunciando al furto. Oppure il 77% dei furti é stato sventato prima che il ladro cvarcasse la soglia d'uscita grazie all'avvios del software. Non mi é chiaro come sia utile. Nel senso, é utile, ci mancherebbe, ma non ho capito in quale modo dei due che ho appena esposto...

Ma scusa... Se tu fossi un agente di sicurezza di un supermercato, non terresti d'occhio alcuni individui più che altri? Tipo la vecchietta con la borsa aperta, o il giovane con il cappuccio che copre il viso? O uno che sembra drogato?

Non devono essere penalizzati, ma se non hanno niente da nascondere, anche con 4 occhi puntati contro, non devono temere niente... Giusto?

Solo i criminali devono temere questo sistema, e infatti lo vedi tra i commenti, chi sono le persone feccia di questo paese: quelli che rubano e pensano di avere una ragione per farlo

Ludo Feyaerst

Ma infatti; in alcuni supermercati nostrani andrebbe in crash per i troppi positivi; ma la soluzione è semplice: basterebbe impostare il programma in modo che riconosca le poche persone che non hanno cattive intenzioni....

Carmine M.

"Lei fra circa 5 min rubera' qualcosa.
Esca subito o chiamo la Polizia."
"E si vergogni, Ladro"

GeneralZod

Di certo non è pagata per quello, c'è la sicurezza. È un supermercato, non la salumeria sotto casa. Ma poi che dovevo rubare in una busta piegata, uno spazzolino? Non fa piacere essere trattati da ladri.

GeneralZod

Certo, ovvio. Da capire qui come agiscono.

alex

Ma non per forza uno si mette attaccato a te, si può guardare da lontano o con le videocamere. Si può tranquillamente fai convivere questo sistema con l'esperienza classica che si vive entrando in un negozio

francesco berardocco

Razzista

Pietro smusi

Ma speriamo ti scarichino un quintale di spazzatura sotto casa.

francesco berardocco

Razzista

Pietro smusi

patetico.

Ban Dito

Che poi proprio in Giappone.. Che io sappia ha un tasso di criminalità molto basso.

francesco berardocco

Ma sei fuori? Basta con ste battite sui napoletani...

Rudi Stival

Oh, lasciamo gironzolare i troll che offendono in ogni dove e segnaliamo invece gli fa una battuta?

Roberto

Minoraty Report

kingjack88

facile, se sono necri o zincari sono colpevoli

Desmond Hume

Con me andrebbe in crash. Nei negozi mi guardo furtivamente attorno per assicurarmi che nessuna guardia giurata in borghese pensi che sto rubando.

marco

Meno male che non siamo in Giappone.

artick82

mettiti anche nei panni del la cassiera/gestore.
pensi che a lei piace controllare un cliente?

Alexcasa

Minority Report è gia stato invocato?

GeneralZod

Minority Report

GeneralZod

Però dà fastidio se durante gli acquisti si mette una persona a piantonarti. Io m'incazzai solo perché la cassiera del supermercato dove sono cliente volle controllare la busta riutilizzabile ben piegata per vedere se ci avevo infilato qualcosa dentro.

francesco berardocco

no, agli amministratori

Pietro smusi

Alla PoL1z!A deLL' InTerNEt?

Arara

Omg la terza stagione di psycho pass sembra molto reale.

francesco berardocco

segnalato

Pietro smusi

pensassero a sc'pare sti giapponesi repressi e disagiati.

Pietro smusi

se entra un napoletano il software freeza.

alex

polemica sterile, mentre il software è molto utile, basta usarlo con criterio. La AI notifica al gestore che una persona è sospetta, così che possa essere tenuta sotto osservazione, appena ruba viene subito beccata e fermata all'uscita. Mi pare ovvio che nessuno verrà sbattuto fuori da un negozio solo perché un software ha detto che ha la faccia da delinquente

OlioDiCozza

Il giappone sta tornando ad essere uno stato totalitarista

Antsm90

Insomma, creando intelligenze artificiali so benissimo che spesso capitano falsi positivi, quindi se me lo segnala inizio a tenerlo sott'occhio come si deve, alla prima volta che tenta di rubare lo blocco e lo bandisco dal negozio, ma non prima

sopaug

ma infatti, l'articolo corre subito a conclusioni sensazionalistiche senza che nulla suggerisca tali misure. E' sospetto? Lo sorveglio meglio.

Se tu gestisci un negozio e l’algoritmo ti dice che quello ti sta per rubare, lasci che faccia? È ovvio che allontani le minacce in anticipo: per ovvie ragioni prevenire è meglio che curare.

nosafeharbor

follia totale. siamo tornati a Lombroso?

Curiosità

Lo streaming video inquina: cosa fare per ridurre l'impatto

Tecnologia

SpaceX, l'evoluzione aerospaziale dal 2002 ad oggi | Speciale Falcon 1

Android

Recensione Xiaomi Mi 11 Lite 4G e 5G: gemelli (forse) diversi

Android

Snapdragon 888 vs Exynos 2100: qual è il migliore?