
Mobile 24 Gen
26 Gennaio 2021 172
Il riconoscimento facciale pare diventare sempre più un problema che una risorsa, mal digerito da parte della popolazione preoccupata della violazione della sua privacy e del rischio di fenomeni di discriminazione razziale. Si chiama Ban The Scan l'ultima iniziativa lanciata sul web ed è destinata a fare parecchio rumore, considerato che è frutto del lavoro di Amnesty International.
L'organizzazione chiede il divieto di utilizzare il riconoscimento facciale a New York, definendo la tecnologia su cui si basa "incompatibile con i diritti di base sulla privacy" e pericolosa in quanto rischia di influenzare negativamente l'attività della polizia. "Anche New York deve vietare il riconoscimento facciale, così come hanno fatto altre grandi città negli Stati Uniti", spiega Matt Mahmoudi, ricercatore di Amnesty International. Il riferimento va alla città di Portland, l'ultima città USA in ordine di tempo ad aver vietato l'utilizzo di tecniche di riconoscimento facciale su tutto il territorio comunale, sia della Polizia, sia di privati come negozi e alberghi. Nel 2019 anche i cittadini di San Francisco erano stati chiamati a dare il loro parere sullo strumento di identificazione: il voto ha portato al divieto da parte della Polizia di utilizzare qualsiasi forma di tecnologia di riconoscimento facciale in tutta la città.
Amnesty International vuole evitare un altro caso Williams, cittadino di Detroit incarcerato ingiustamente dopo che il sistema di identificazione facciale DataWork Plus lo ha riconosciuto colpevole di aver rapinato un negozio di orologi. Peccato che il Sig. Williams si trovasse da tutt'altra parte durante l'increscioso evento. E, come questo, di casi analoghi ce ne sono centinaia, sino ai più recenti casi che hanno infiammato l'America negli ultimi mesi.
Il malumore è in crescita a New York, e ad Amnesty si stanno affiancando altre organizzazioni e movimenti cittadini. Con Black Lives Matter sullo sfondo, gli equilibri sociali negli Stati Uniti sono oggi più che mai estremamente labili, e solo l'idea che le forze dell'ordine possano sfruttare (leggasi: abusare) dei sistemi di riconoscimento facciale crea forti malumori. "Il divieto del riconoscimento facciale non protegge solo i diritti civili: è una questione di vita o di morte", spiega Albert Fox Cahn, direttore esecutivo del Surveillance Technology Oversight Project.
"Il riconoscimento facciale è stato impiegato 22.000 volte a New York dal 2017", si legge sul sito Ban The Scan. "La tecnologia può amplificare la discriminazione razziale e mina il diritto di protesta. Viene sviluppata sfruttando milioni di immagini dai profili dei social media senza autorizzazione".
Il sito (link in FONTE) verrà utilizzato per sensibilizzare la popolazione sull'argomento, nonché per raccogliere testimonianze e denunciare discriminazioni. Darà voce alla protesta, con la possibilità di scrivere messaggi alla Polizia di New York per cercare di convincerla ad abbandonare questo sistema di controllo.
Commenti
Lo vedrei bene in Italia dove da decenni il problema più grosso sono le migliaia di
pluri pregiudicati recidivi e impuniti.
Negli stati uniti invece, o altri posti dove ti becchi decine di anni di carcere per reati che da noi comportano a mala pena una multa e te li fai tutti, mi pare eccessivo ed inutile.
Hai ragione, distinguere i volti non è razzista in se per se.
Il problema ha origine dal dataset utilizzato per fai imparare l'IA.
Se usassi un dataset che comprende tutte le tipologie di carnagione e tutte le tipologie dei lineamenti, allora l'IA potrebbe non avere questo bias razzista ma il problema è che la maggiorparte delle IA è americana ed è stata istruita con il solito dataset di volti in cui la maggioranza è bianca e caucasica
per cui se all'IA dai in pasto una foto di una persona con carnagione scura o asiatica questa non ti da risultati così precisi come se gli facessi analizzare una foto di un "bianco".
Questo problema è all'origine di una marea di arresti di persone nere innocenti in america.
Questo è un esempio nel New Jersey:
https : // www. nbcnews. com/news/us-news/black-man-new-jersey-misidentified-facial-recognition-tech-falsely-jailed-n1252489
Oppure questo a Ditroit:
https :// eu . freep . com /story/news/local/michigan/detroit/2020/07/10/facial-recognition-detroit-michael-oliver-robert-williams/5392166002/
Dipende dal dataset utilizzato per fai imparare l'IA. Se usassi un dataset che comprende tutte le tipologie di carnagione e tutte le tipologie dei lineamenti, allora l'IA potrebbe non avere questo bias. Il problema però è che la maggiorparte delle IA è americana ed è stata istruita con il solito dataset di volti in cui la maggioranza è bianca e caucasica.
Per lo stesso motivo, in Cina hanno i propri dataset che vanno bene solo per loro.
Non potresti infatti usare la loro IA per riconoscere le persone europee
ps qui non è stato automatico, non si parla di automatico, non si parla di sorveglianza ma di identificazione
ah quindi ora per l'analisi del dna o l'identificazione via video/foto ci vuole un tribunale? Le indagini partono solo su approvazione del tribunale?
Prima di parlare di democrazia funzionante sai come funziona un'indagine, pm e co?
No, cambia se è automatico o se è su richiesta con approvazione di un tribunale, cambia tutto (se sei in una democrazia funzionante).
se pacifica nessuno può arrestarti....strano la costituzione che scrive che diritti e che doveri hai dice il contrario.
Inoltre io non ho detto che mi va bene qualunque schiavitù a me venga imposta...ho detto che quello che puoi fare e quello che non puoi fare è scritto, non è quello che ti è permesso fare è in base a quello che ti va di fare o ritieni giusto....cioè non coincide con quello che puoi scegliere di fare che scegli tu: ma se scegli di fare qualcosa che non ti è permesso fare ne accetti le conseguenze perchè come uomo libero puoi scegliere quello che vuoi, ma come cittadino hai diritti e doveri e non li scegli tu.
Se non ci arrivi che sia un fatto inaccettabile, al di là di quello che la legge (pagine scritte da uomini sempre modificabili), per ogni essere umano libero, allora ti va bene qualunque schiavitù a te venga imposta.
Stica se il prefetto non la autorizza, se pacifica nessuno può arrestarti.
dove è successo questo, link?
è un fermo di polizia per un probabile crimine, non credo che l'obiettivo di questo sia far sentire bene psicologicamente il diretto interessato...
inaccettabile da chi? Vedi che non tutti i paesi hanno la stessa costituzione...anche da noi in italia se il prefetto non autorizza la manifestazione questa è illecita.
ma è già così ora, non cambia nulla, patenti e carte di identità e passaporti, sono già un archivio di volti e spostamenti da cui si attinge per l'identificazione ....quello che cambia ad esso ripeto con questo uso è il matching tra archivio e rilevazione, con ai (oggi e futuro) con software manuale/operatore in passato e oggi.
Non cambia cosa e con chi e per chi viene fatto ma in parte come e con che performance.
Ahahahah sei un pagliaccio fantastico
Mi stupisce visto che probabilmente la tua maggiore lettura sono i numeri di telefono per scambisti che leggi nei cessi dell'autogrill mentre li pulisci.
Nel caso di governo dittatore la privacy non esiste comunque e anche ipotizzando una nazione priva della minima videosorveglianza nel giro di 6 mesi/ 1 anno il riconoscimento facciale sarebbe presente ovunque
Ahahahah mai letto un cumulo di stronzate così grande qua dentro
la tecnologia tutta è un'arma a doppio taglio, il riconoscimento facciale avrebbe il vantaggio di localizzare subito un malvivente sfuggito alla legge ma di contro c'è la questione privacy... impedire l'uso di determinate tecnologie perché tizio potrebbe usarla per scopi dannosi può essere riportata a qualsiasi cosa.
cloud è utilissimo ma espone dati ad essere rubati, il sito bancario è comodissimo ma c'è sempre il rischio del phising... tutto a pro e contro, se stiamo a guardare ogni cosa, dovremmo abbandonare pure l'acqua calda
Ma esiste un archivio di volti e spostamenti già preregistrati da cui possono attingere? Perché in quel caso non sono d'accordo, finirebbe col diventare una prassi utilizzarlo per tutto in pochi anni.
Inaccettabile che protestare sia illecito.
Cosa c'entra questo con ciò che ho affermato? Il riconoscimento facciale in ogni luogo è il punto della discussione, non la tecnologia in generale.
Infatti, ma è uno strumento potente che può essere usato bene o male; e in ogni caso annulla ogni diritto di privacy e questo non va bene; Mi spaventa più un governo dittatore che i presunti "terroristi".
Quelli non sono paesi democratici, il riconoscimento facciale è solo uno strumento che può essere usato bene o male, altrimenti ci si dovrebbe lamentare anche delle armi da fuoco in mano alla polizia
Quindi non so tu calcoli a mano la somma delle celle di una tabella di Excel perchè Excel è stato programmato da un uomo e l'uomo può sbagliare i calcoli??
Per il riconoscimento facciale non esistono razze o colori della pelle, esistono sequenze di 1 e 0. Se sbaglia il riconoscimento con le facce nere è un bug non razzismo e se lo sbaglia perchè il programmatore razzista ha fatto in modo che sbagliasse in base al colore della pelle il razzista è il programmatore non il sistema.
Infine in che modo l'eliminare i riconoscimenti facciali limiterebbe i problemi del razzismo? Se non lo fai con un sistema automatico un riconoscimento ti devi affidare a quello fatto dalle persone che nella maggior parte dei casi a differenza di un sistema automatico non sono testabili per stabilire il loro grado di accuratezza.
Si ma il punto non è solo quello...la notizia che era un probabile criminale è trapelata e per tutto il tempo delle verifiche quell'uomo è stato centro di insulti e cattiverie...oltre a sentirsi malissimo psicologicamente per quella situazione assurda. Certe cose non devono accadere.
ma io parlo della tecnologia sviluppata che ha un utilità, non affibi la colpa del cliente al produttore.
è come se si accusasse il produttore di corde perché uno tizio ha soffocato un altro
Certamente. Infatti trovo sia assurdo che ci si muova per l'arresto preventivo. Se questa persona non avesse avuto un valido alibi? Sarà che ho letto troppi libri e articoli di persone che hanno perso anni di vita in carcere ingiustamente.
allora buttiamo via tutta la tecnologia e andiamo a fare campeggio
se il governo cinese la usa per quello, non può essere di chi ha sviluppato la tecnologia
ma la vicenda in esempio è esattamente quanto hai scritto con l'unica differreza nel matching, ad oggi prendevi quel frame video e partivi a cercare chi fosse incrociando database , chiedendo in giro con la foto,interrogazioni e perdendo tempo...con questa invece la ai lo fa in molto meno tempo
Come per le videocamere di sorveglianza, non puoi a caso visionarle tutte senza un motivo... è giusto così. Se c'è un indagine puoi usare quei software, come già fanno, per trovare un criminale, ma non profilare chiunque in maniera preventiva perché si finisce in una brutta china, dai non chiudiamo noi gli occhi, non finisce bene quando chiunque può essere messo sotto controllo senza bisogno di indagini approvate.
ma è quello che è successo
Il fermo non è stato convalidato, dopo verifiche il tizio è risultato innocente ed è tornato libero senza nemmeno andare a processo e dimostrarlo.
forse non hai ben capito cosa sia la vidieoSORVEGLIANZA. e' ben diversa dal riconoscimento facciale AUTOMATICO ovvero computerizzato.
per te, per i cinesi sono terroristi.
E in Cina ci vivono e decidono i Cinesi.
mica ho scritto che non lo sono, ho scritto che sono a favore.
Anzi rischi pure di prendere sberle una coltellata a pechino se parli male della loro politica e dei diritti umani, ti dico di più mi sono pure preso un paio di sputi dopo che hanno sorriso. Russia e Cina sono due cose totalmente ma totalmente diverse, non a caso La Cina va a gonfie vele mentre la Russia ....qua la gente è rimasta a stalin ancora.
la macchina della verita' negli usa non puo' essere utilizzata come prova.
È rivolta esclusivamente per la popolazione musulmana... È una cosa estremamente aberrante... Guarda le pressioni che stanno facendo contro la Turchia per l estradizione di tali popoli...
Secondo me il problema grosso è che la tecnologia non è matura abbastanza per non dare falsi positivi, questo introduce il discorso più che giusto di preservare la gente dalla macchina schiacciasassi della giustizia e di come si possa anche pilotare per colpire persone innocenti.
Per esempio si possono camuffare le persone abbastanza bene, considerando che oramai tutti vanno in giro mascherati, per prendere in giro tale riconoscimento.
Per me si potrebbe lasciare anche tutto così ma a livello legale non poterle usare, serviranno per l'investigazione che alla fine traccerà movimenti e troverà prove concrete ma non per puntare il dito su nessuno.
E ovviamente, la gestione dei dati deve essere sotto stretto controllo...l'uo sotesso monitorato a dovere.
ormai sono mentalmente plagiati
chissà perchè quando vengono in europa anche per 1-2 anni o per vacanza di qualche settimana anche su una spiaggia con 30 m/s di vento e senza roba elettronica addosso continuano a non voler essere contrari
beh, che i cinesi siano a favore del loro sistema mi pare un pò eccessivo, diciamo che non possono dire di essere contrari
totalmente inesatto e fuori contesto
Perchè non parlare allora della pena di morte degli stati uniti?
Sbagliato allora condannare una persona per omicidio se puoi potrebbe essere condannata a morte per legge, liberi tutti
toh guarda un po' in russia proprio recentemente è successo e con riconoscimento facciale e infatti hanno arrestato decine e decine di migliaia di persone.....e la manifestazione era illegale perchè non autorizzata dal questore, ma è legale manifestare contro il governo per costituzione repubblicana! incominciamo con le favolette di pseudo dittatura inesistente, allucinante, avrei potuto capire le altre due nazioni vicine bielo e ucra ma così.
Se in Cina invece è illegale che c'entra il riconoscimento facciale se il problema è ben altro? Problema per noi visto che i cinesi sono a favore del loro sistema
ma quale problema? Nel tuo contesto che non ci riguarda e di cui non abbiamo alcuna legittimità nel parlarne il problema è chi controlla non lo strumento con cui lo fa: in cina il problema è il fatto che non sia permesso manifestare contro il governo e non che si usi il riconoscimento facciale. Poi problema per chi? qualche italiano su hdblog? Interessante visto che in Cina vivono i cinesi ed è stato sovrano.
La storia insegna ma va studiata: le dinamiche e le politiche culturali cambiano, domani arriva tizioacaso e si impone con la forza?
Non è possibile per costituzione, neanche con la forza nella repubblica italiana.
Quindi cade la repubblica italiana, la costituzione è carta straccia, idem legge, diritto e istituzioni e te pensi veramente che il problema sia uno strumento come il riconoscimento facciale?
ti sfugge magari che li è illecito quindi reato?
Mi sa che sei te ignori un po di cose
veramente in questo caso è stato usato per indagini specifiche e non nella videosorveglianza
Non puoi paragonarlo con delle indagini specifiche. Implementarlo nella videosorveglianza vuol dire tracciare tutti i tuoi spostamenti. Che è diverso dall'usarlo per visionare dei video specifici.
Grazie
Vai in cina e poi ne riparliamo... sai quanti sono stati arrestati o uccisi per proteste contro il governo? non lo sai, altrimenti non avresti risposto cosi.
Ora immagina di essere in cina o russia dove possono arrestarti anche solo per protesta contro il governo dittatore che hanno...
Vallo a dire ai cinesi o russi che ora sono in galera con l'unica accusa di aver protestato contro il dittatore in carica....
Non posso nemmeno più scrivere cose omofobe che arriva la cancel culture :(