Riconoscimento facciale: 2300 falsi positivi nell'identificazione di criminali in UK

07 Maggio 2018 90

La finale di Champions League giocata lo scorso 3 giugno a Cardiff è stata l'occasione per applicare su larga scala la tecnologia di riconoscimento facciale sviluppata dalla polizia del Galles. Come è andata? Non molto bene, stando ai dati ufficiali rilasciati nei giorni scorsi dalle autorità locali.

Dei 170.000 tifosi che hanno preso parte all'evento sportivo, ben 2.470 sono stati identificati dal sistema di riconoscimento facciale come potenziali criminali presenti sui database della polizia. In seguito all'analisi dei dati è emerso che il 92% di questi, quindi 2297 casi, sono stati in realtà dei falsi positivi. Le autorità hanno subito dichiarato che, sebbene nessuna tecnologia di riconoscimento sia affidabile al 100%, l'introduzione di questo sistema ha permesso di effettuare 2000 identificazioni corrette e 450 arresti nel corso di 9 mesi. Oltre a ciò è stato evidenziato che non si è verificato nessun errore durante la fase di arresto, quindi nessun innocente ha dovuto avere a che fare con gli eventuali errori corretti dal sistema.

Secondo le autorità del Galles, parte dei problemi riscontrati in occasione della finale di Cardiff sono da imputare alla scarsa qualità del materiale video fornito dall'Interpol e dalla UEFA, oltre che allo stato ancora poco avanzato della tecnologia impiegata. In ogni caso il fatto che non si siano verificati arresti sbagliati è un indice dell'elevata attenzione che viene posta dalla polizia nell'analizzare tutte le segnalazioni che vengono sottoposte dal sistema.

Certo, con una precisione così bassa - almeno in questo caso - diventa difficile valutare la reale utilità del riconoscimento facciale, dal momento che l'enorme quantità di persone identificate ha portato una grossa perdita di tempo causata dalla necessità di accertare l'identità di tutti. Nonostante ciò, le autorità del Galles sono particolarmente fiduciose riguardo l'evoluzione di questo sistema, il quale pare essere migliorato molto rispetto allo scorso giugno.


90

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
leo1984

quasi 200 criminali individuati in una finale mi pare una buona media!

kesy85

questo purtroppo dall'articolo non è assolutamente chiaro, si spera sia basso il falso negativo visto l'alto numero di falsi positivi

ice.man

FAI DUE ERRORI
UNO
si vede che non capisci nulla di lavorazioni industriali
se voglio estrarre la sabbia piu fine da un trito di sassi non posso mettere subito il filtro spessore zanzariera, altrimenti coi sassi piu grossi si rompe
Ci arrivero con una serie progressiva di filtri
Qui l'AI ha avuto il compito di sgrossare da centinaia di migliaia di persone (su chissa quanti spezzoni di immagini/filmati diversi) fino a poco piu di 2.000 persone
il volume iniziale sarebbe stato ingestibile in termini di tempo o personale necessario
DUE
l'AI ti fa già il match
perchè un contro è se cerchi UNA persona in mezzo a 200.000
una cosa completamente diversa se hai un database di ricercati di 1.000....perchè i confronti che devi fare non sono 200.000, ma 200.000.000
invece l'AI ti presenta già un match 1:1 e il personale umano deve solo dire SI/NO

dario

esatto... si trattasse del metodo per arrestare qualcuno ovvio che non avrebbe senso, ma come metodo per restringere il campo dei controlli a campione in grandi eventi è utile... quello che mi sfugge è la sua precisione nel non lasciarsi sfuggire i sospettati: se fallisse là la sua utilità sarebbe scarsa.

kesy85

questo è tutto un altro discorso ed è perfettamente condivisibile non è sicuramente piacevole subire un controllo non giustificato, conta però che poi viene rifinito manualmente a quanto dice l'articolo arrivando quindi a quello che sempre secondo l'articolo è uno 0% di falsi positivi, se fosse vero non sarebbe nemmeno così male per quanto molto migliorabile

Alessio Ferri

Il fallimento è l'1,3% delle volte. La percentuale però è troppo alta. E' come sulla raggiungibilità dei siti internet, la raggiungibilità al 99% sembra alta, ma sono 4 giorni di down in un anno ed è assolutamente inaccettabile per qualsiasi cliente.

Vale lo stesso anche per il riconoscimento facciale dei criminali. La SLA dovrebbe essere 99,99% minimo, con prospettive di ottenere un altro 9 a breve termine.

ErCipolla

A prescindere dalle percentuali, si spera che servano altre prove per arrestare qualcuno... in caso contrario, ovvero se è sufficiente il match fatto da un software, qualsiasi rate di fallimento che non sia 0% è inaccettabile.

csharpino

Vabbe dai... Se testi una tecnologia che rileva i criminali in uno stadio pieno di Juventini è ovvio che avrai dei "falsi positivi".... La VAR insegna...

kesy85

io leggo i commenti che cancelli e rido :)

takaya todoroki

:D

takaya todoroki

Tirando le somme, l'unico dato certo che abbiamo è il 92% di falsi
allarmi (roba che se lo facesse un cittadino andrebbe dritto in galera
per procurato allarme).
Riguardo a tutto il resto si può solo usare
la fantasia per cercare di cambiare i numeri, ma i numeri hanno la
fastidiosa abitudine di esistere indipendentemente dalla
volontà e dalle tue storielle che si raccontano sui forum, eheh

takaya todoroki

"considera soprattutto che almeno 1 arresto su questi 173 potrebbe tranquillamente significare una morte in meno a breve termine"

Che logicona! Anche ammazzando un po' di gente a caso, magari fai fuori uno stragista e salvi un sacco di vite, eheh

kesy85

come sotto:
visto che continui a cancellare i commenti ti lascio questo finale:

facciamo così, fammi un esempio, tipo quello dei grattevinci, in un qualsiasi settore, che però tenga in considerazione i numeri effettivamente riportati nell'articolo (anche in proporzione va bene, ma non stravolgerli come prima) e le conseguenze effettive per gli esaminati, cioè 168000~ nessuna, 2297 controllati al pc da un agente ma senza conseguenze gravi (no morti, deportazioni, mutilazioni e rapimenti) e 173 arrestati giustamente (173 successi quindi) che faccia capire a me e al resto del mondo il motivo per cui questo sistema non è da ritenere migliore del nulla che c'era prima con i sui 0 successi con 0 conseguenze gravi (come ora) e delle sue conseguenze negative per te e l'umanità

considera soprattutto che almeno 1 arresto su questi 173 potrebbe tranquillamente significare una morte in meno a breve termine

takaya todoroki

A = insieme dei selezionabili
B = insieme dei selezionati
C = insieme dei selezionati che sono ricercati

l'AI ha estrae l'insieme B.

L'efficacia dell'AI è determinata da:

1) quanti dell'insieme A erano ricercati ma non sono stati estratti nell'insieme B (falsi negativi). Questo dato non è noto

2) quanti dell'insieme A sono stati estratti dall'AI, ma non sono colpevoli (falsi positivi). Questo dato è noto: il 92%

Tirando le somme, l'unico dato certo che abbiamo è il 92% di falsi allarmi (roba che se lo facesse un cittadino andrebbe dritto in galera per procurato allarme).
Riguardo a tutto il resto si può solo usare la fantasia per cercare di cambiare i numeri, ma i numeri hanno la fastidiosa abitudine di esistere indipendentemente dalla
volontà e dalle tue storielle che si raccontano sui forum, eheh

kesy85

visto che continui a cancellare i commenti ti lascio questo finale:

facciamo così, fammi un esempio, tipo quello dei grattevinci, in un qualsiasi settore, che però tenga in considerazione i numeri effettivamente riportati nell'articolo (anche in proporzione va bene, ma non stravolgerli come prima) e le conseguenze effettive per gli esaminati, cioè 168000~ nessuna, 2297 controllati al pc da un agente ma senza conseguenze gravi (no morti, deportazioni, mutilazioni e rapimenti) e 173 arrestati giustamente (173 successi quindi) che faccia capire a me e al resto del mondo il motivo per cui questo sistema non è da ritenere migliore del nulla che c'era prima con i sui 0 successi con 0 conseguenze gravi (come ora) e delle sue conseguenze negative per te e l'umanità

takaya todoroki

A = insieme dei selezionabili
B = insieme dei selezionati
C = insieme dei selezionati che sono ricercati

l'AI ha estrae l'insieme B.

L'efficacia dell'AI è determinata da:

1) quanti dell'insieme A erano ricercati ma non sono stati estratti nell'insieme B (falsi negativi).
Questo dato non è noto

2) quanti dell'insieme A sono stati estratti dall'AI, ma non sono colpevoli (falsi positivi).
Questo dato è noto: il 92%

Tirando le somme, l'unico dato certo che abbiamo è il 92% di falsi allarmi (roba che se lo facesse un cittadino andrebbe dritto in galera per procurato allarme)
Riguardo a tutto il tutto il resto puoi solo usare la fantasia e scrivere fesserie per cercare di cambiare i numeri, ma i numeri hanno la fastidiosa abitudine di esistere indipendentemente dalla tua volontà e dalle tue parle, eheh

e con questa chiudo davvero, addio

takaya todoroki

Un vero successone.
Applausone a chi l'ha ideato!
ahahahahahahahahahah

takaya todoroki

è scritto chiaramente nell'articolo "Dei 170.000 tifosi che hanno preso
parte all'evento sportivo, ben 2.470 sono stati identificati dal sistema
di riconoscimento facciale come potenziali criminali presenti sui
database della polizia. In seguito all'analisi dei dati è emerso che il
92% di questi, quindi 2297 casi, sono stati in realtà dei falsi
positivi.
"

Un vero successone.
Applausone a chi l'ha ideato!
ahahahahahahahahahah

kesy85

1) hai posto tu che fosse innocente, se fosse stato colpevole avresti sostenuto una casistica che ti dava torto avendo 100% di successi e 0% di fallimenti, prendere un solo esempio come campione crea questi problemi, ed è il motivo per cui non andrebbe fatto, ma te lo sei cercato tu, o dobbiamo ragionare con la meccanica quantistica?

2) se l'hai estratto a sorte non le hai analizzate, se le hai analizzate il tuo sistema non funziona perchè ha percentuale di successo 0% ma non voglio insistere su questo punto perchè è quello meno importante, salvo che per il buon senso che sembri non avere

3) il sistema viene fatto, calibrato e pensato per uno scopo, in un test per l'HIV un falso negativo è un problema, in una condanna a morte un falso positivo è un problema, come vedi le cose cambiano e non è un'opinione. Il tuo esempio in particolare è all'estremo opposto di quello di cui si parlava nell'articolo.

è scritto chiaramente nell'articolo "Dei 170.000 tifosi che hanno preso parte all'evento sportivo, ben 2.470 sono stati identificati dal sistema di riconoscimento facciale come potenziali criminali presenti sui database della polizia. In seguito all'analisi dei dati è emerso che il 92% di questi, quindi 2297 casi, sono stati in realtà dei falsi positivi." 170000 totali analizzati 2297 errori, "di questi" non esclude gli altri 168000, la matematica non è un'opinione, ma basterebbe leggere per capire.

Non capisco come tu possa continuare a sostenere delle tesi così bislacche ma mi sto divertendo parecchio

takaya todoroki

1) falso. Quello che estraggo a sorte poteva essere colpevole.
2) falso. ilsistema estrea 'a sorte' cioè coi suoi criteri, fra 6 miliardi di persone, non una (altrimenti il tizio estratto saprebbe in anticipo chi è e si darebbe alla fuga, FURBONE)

3) ovviamente, ma non c'entra un tubo, qui si tratta di contare, non di fare filosofia.
E il conteggio, nello scenario dipinto dall'articolo è il 92% di FALLIMENTI.
Prova ne sia che tutte le testate le pianeta ne stanno parlando così e nessuna si sogna di dire che l'errore è dell'1%.

BoORD_L

XD
vabbe ha segnalato solo il 2% circa.... ha già fatto un bel filtro per il personale che deve controllare

kesy85

visto che non sono altrettanto fulminato giustifico l'osservazione:
1) il tuo sistema ha una percentuale di successo dello 0% quindi è inutile e non ha senso valutare le percentuali d'errore ne leggere i punti seguenti che però scrivo comunque per argomentare
2) hai estratto a caso 1 persona quindi il tuo campione esaminato dal sistema (che saresti tu che condanni) è 1 e non 6 miliardi che non sono sati nemmeno presi in considerazione o sottoposti ad alcun tipo di test
3) ovviamente "condannando" cambiano tutti i presupposti che passano dal "riconoscere il maggior numero possibile di positivi" ad avere "il minor numero possibile di falsi positivi"

direi che cercare altre motivazioni è inutile

gioboni

Oh ma ce la fai a leggere? Non esiste nessun "accertamento" fisico, i falsi positivi sono stati esclusi senza neanche che gli interessati lo sapessero: il sistema ha proposta un match tra una foto segnaletica e un frame video -> un operatore davanti ad un PC ha reputato che il match fosse sbagliato -> il campione è stato escluso e fine.
Mi chiedo se trolli o proprio non ci arrivi: spero vivamente sia la prima opzione.

kesy85

oh ma insisti? ma sei fulminato :) ahahhahahahaha

kesy85

è quasi esattamente la cosa che ho risposto io a uno dei primi commenti :)

gioboni

Guarda, purtroppo fare un'analisi oggettiva e matematicamente coerente in questo sito è come combattere contro i mulini a vento: certi utenti sarebbero in grado di sostenere che 2+2=5.
In aggiunta al tuo commento vorrei proporre un semplice ragionamento esente da numeri sulla bontà del sistema.
In qualche modo è stato d'aiuto? Sì, perchè senza la scrematura iniziale, per quanto inesatta, nessuno si sarebbe messo a confrontare la totalità dei partecipanti con i database delle forze dell'ordine.
Ha portato a conseguenze negative? No, perchè tutti gli errori sono stati analizzati e corretti a monte dagli operatori.
Quindi, tirando le somme, abbiamo una tecnologia che ha permesso di fermare più "malviventi" di quanti non ne sarebbero stati fermati senza.
Non li ha identificati tutti? Amen, tanto anche senza il suo utilizzo non sarebbero stati fermati.

takaya todoroki

per chi è dell'idea che la percentuale di successo vada calcolata sul totale e non sul campione dei segnalati, propongo questa chiave di lettura (che ho già posto più sotto in una risposta a un commento)

1) estraggo a sorte una persona su 6 miliardi e la condanno a morte
2) scopro che era innocente

secondo la teoria che basa la precisione sul numero di persone totali analizzate, il mio errore è di uno su 6 miliardi, quindi vabbè, può capitare, i parenti del deceduto se ne facciano una ragione.

Secondo la teoria che tiene conto solo del numero di persone che ho segnalato e non di quelle totale da cui ho estratto il poveretto, il mio errore è il 100%, quindi sono un assassino.

quale delle due sarei nella realtà?

eheh

Vash

non so che esperienze hai tu... ma ti assicuro che gli accertamenti della polizia inglese sono tutt'altro che bonton e fair play... capodanno 2017\2018 a londra.... e se avessi visto quello che ho visto io.. alle 9 chiuso in casa e tirare le tende...

Utente9000

Tutto sbagliato. Il test non l'hanno fatto su tutti quanti, il sistema ha selezionato 2.470 persone a caso per il campione di prova ed ha sbagliato nel 92% dei casi.

kesy85

per chi è dell'idea che il sistema sbagli nel 92% dei casi, propongo questa chiave di lettura (che ho già posto più sotto in una risposta a un commento):

se esistesse un sistema che ti permette di trovare su 170000 grattaevinci un sottoinsieme di 2400 grattaevinci con una percentuale di vincita sicura dell'8% invece del normale 0,1% lo vorresti? o l'errore è intollerabile? sei ancora dell'idea che questo fantastico sistema sbagli il 92% delle volte oppure sbaglia circa l'1,3% delle volte (cioè dei 170000 biglietti) aumentando di 80 volte le tue probabilità di vincita?

Si può anche metterci che nel processo un paio di grattaevinci vincenti non vengono riconosciuti (dai dati dell'articolo non è dato sapere il numero di falsi negativi), resta conveniente cmq seppur migliorabile

Bach05

La bontà del test va valutata globalmente. Non solo sui falsi negativi.

kesy85

poi sarebbero pure da verificare gli eventuali falsi negativi decisi dagli umani

gioboni

Comunque il dato può avere due chiavi di lettura: la prima è che sono sistemi ancora immaturi per un utilizzo ad occhi chiusi, la seconda è che comunque ha aiutato restringere il campo e ad identificare un certo numero di colpevoli.

kesy85

si ma non ce la fanno a capirlo

boosook

No aspetta, il sistema su quei 170k ne ha selezionati 2300 (grossomodo), e quasi tutti erano falsi positivi.

mruser2

Vabbè ma almeno venivano fuori delle belle animoji?

gioboni

Come spesso accade, leggere un articolo è un'operazione evidentemente complicata per l'utente medio di HDblog, altrimenti avresti compreso che ad ogni segnalazione non è seguito un mandato d'arresto ma una verifica visuale da parte di un operatore proprio per scremare i falsi positivi.

kesy85

se fossi in te un test del QI lo farei prima di dare del ritardato agli altri

Top Cat

Samaritan era il cinesone della Macchina, ecco.

Vash

samaritan faceva cilekka all'inizio ^.^!

Top Cat

In realtà è il Sig.Finch che ha sbagliato obiettivo....

Top Cat

La Macchina non è ancora a punto.
Capito Signor Finch?

kesy85

facciamo così, così forse te lo rendo terra terra, se esistesse un sistema che ti permette di trovare su 170000 grattaevinci un sottoinsieme di 1300 grattaevinci con una percentuale di vincita sicura dell'8% invece del normale 0,1% lo vorresti?

takaya todoroki

"questo è un esempio assurdo"

?????

è esattamente quello che è successo
1) Insieme grande da cui pescare possibili colpevoli
2) insieme piccolo di presunti colpevoli pescati
3) sottoinsieme dei reali colpevoli

tu calcoli ERRONEAMENTE la percentuale di successo sull'insieme grande quando va OVVIAMENTE calcolata sul secondo insieme

e ore ti lascio perchè dopo avertela spiegata in tutte le salse se non la capisci è perchè NON VUOI.

kesy85

questo è un esempio assurdo, l'esempio più adatto è compri 2 grattaevinci, con 1 vinci e secondo la tua logica allora il 50% di tutti i grattaevinci in vendita è vincente

takaya todoroki

Allora non ci arrivi proprio:

1) estraggo a sorte una persona su 6 miliardi e la condanno a morte
2) scopro che era innocente

secondo la tua formula il mio errore e di uno su 6 miliardi, quindi sono una brava persona.

Secondo la mia formula il mio errore è il 100%, quindi sono un assassino.

Sei ancora convinto che la tua formula sia giusta???

Vash

"tutte le persone sono pericolose, per se stesse e per il pianeta" cit. matrix :P

kesy85

no, però le persone segnalate erano l'1% delle analizzate e questo è il dato reale

Vash

ti assicuro che se ti piglia uno dei duemila e quasi 300 falsi positivi, saprebbe dove mettertelo quel 1,35%....

takaya todoroki

Cioè tu stai negando che che il 92% delle persone segnalate come ricercate erano innocenti?

Mobile

Etichetta energetica, dal 1°marzo si cambia. Guida alla lettura

Alta definizione

TV 8K Samsung: come funziona l'upscaling con intelligenza artificiale

Tecnologia

Perseverance, successo storico! Ma ora comincia il vero viaggio | Video

Games

Twitch: storie di ban ambigui, streamer in "rivolta" e regolamenti poco chiari | Video