Apple contro la pedopornografia: ma i nuovi strumenti rispettano la privacy?

06 Agosto 2021 378

Apple si appresta ad introdurre entro la fine del 2021 una serie di funzioni atte a combattere la diffusione di materiale pedopornografico online (Child Sexual Abuse Material, CSAM). Le novità riguarderanno inizialmente solo gli Stati Uniti e verranno rese disponibili tramite aggiornamento software di iOS 15, iPadOS 15, watchOS 8 e macOS Monterey. L'azienda di Cupertino sta lavorando a stretto contatto con esperti sulla sicurezza dei bambini focalizzandosi in modo particolare su tre distinte aree:

  • comunicazione online - app Messaggi: introduzione di nuovi strumenti per informare più rigorosamente i genitori affinché i loro figli possano navigare in sicurezza. Nel massimo rispetto della privacy (i messaggi non saranno leggibili da parte di Apple) i contenuti che il machine learning (in locale) riterrà inopportuni - sia inviati, sia ricevuti - saranno immediatamente segnalati all'utente. Le immagini ricevute saranno subito offuscate, mentre in caso di invio il sistema notificherà il bambino e, contestualmente, avviserà i genitori.
    L'aggiornamento sarà reso disponibile entro la fine dell'anno negli USA su iOS 15, iPadOS 15 e macOS Monterey per gli account famiglia di iCloud.

Gli strumenti implementati da Apple rientrano in una più ampia politica attuata per proteggere i minori e garantire loro un corretto utilizzo dei dispositivi della Mela (in tale contesto si rimanda alle pagine di supporto per la gestione dei prodotti in mano ai più piccoli).


  • Siri e Cerca: i genitori e i bambini riceveranno informazioni ed assistenza qualora si verifichino casi potenzialmente pericolosi e se sono gli stessi utenti a volerne sapere di più sull'argomento: sia Siri, sia la funzione Cerca indirizzeranno genitori e figli verso fonti di approfondimento che spiegano la pericolosità del tema. Verrà altresì inviata una notifica ogniqualvolta si cerca materiale pedopornografico online.
    L'aggiornamento arriverà negli USA entro fine 2021 su iOS 15, iPadOS 15, watchOS 8 e macOS Monterey.

  • iCloud: nuovi strumenti di crittografia permetteranno di identificare il caricamento di CSAM su iCloud Foto. É, questa, l'area maggiormente criticata da una parte degli esperti e dell'opinione pubblica, in quanto va a toccare da vicino le questioni legate alla privacy online degli utenti.
COME FUNZIONA SU ICLOUD FOTO

Il sistema neuralMatch che verrà introdotto entro la fine dell'anno su iOS e iPadOS negli Stati Uniti prevede l'adozione di una nuova tecnologia tramite cui Apple sarà in grado di identificare il materiale pedopornografico caricato su iCloud Foto per poi denunciarlo al National Center for Missing and Exploited Children (NCMEC), centro che si occupa degli abusi sui minori che lavora a stretto contatto con le forze dell'ordine degli USA.

Come funziona:

  • le immagini non vengono scannerizzate, ma prima di essere caricate su iCloud sono sottoposte in locale ad un confronto con il database riservato di NCMEC in cui sono raccolte tutte le foto sequestrate dalle forze dell'ordine nel corso di operazioni contro la pedopornografia e la scomparsa di minori
  • incrociando i dati, il sistema è in grado di riconoscere se le immagini da pubblicare corrispondono o meno a quelle del database
  • nel rispetto della privacy, a ciascuna foto presente sul nostro smartphone o tablet viene assegnato un codice alfanumerico che viene contestualmente confrontato con quelli delle immagini del database. Il sistema determina l'eventuale corrispondenza, senza tuttavia rendere noto il risultato che viene invece codificato tramite un voucher di sicurezza crittografico e caricato su iCloud Foto con l'immagine
  • la tecnologia threshold secret sharing garantisce che il sistema (ultra sicuro, dice Apple, con un margine d'errore di 1 su 1.000 miliardi di casi all'anno) non sia in grado di leggere il contenuto dei voucher caricati sul cloud, a meno che non si verifichi una corrispondenza tra l'immagine pubblicata e una presente sul database. In questo secondo caso Apple decodifica l'immagine affidandola a revisione manuale: solo questo ulteriore livello di controllo dirà se il materiale è effettivamente CSAM. In caso affermativo:
    • viene bloccato l'account dell'utente
    • viene inviato un report a NCMEC
NOTA BENE: l'immagine viene visualizzata da Apple solamente se corrisponde ad una delle foto presenti all'interno del database NCMEC, e non in tutti gli altri casi.
PIÚ SICUREZZA O PERICOLOSO PRECEDENTE?

Apple garantisce il massimo livello di privacy, affermando che mai e poi mai questa verrà messa in pericolo dalle novità che saranno introdotte entro fine anno. L'obiettivo è solamente la lotta alla pedopornografia, per la protezione dei minori e delle loro famiglie. E avrà efficacia anche nel caso in cui le immagini che mostrano CSAM siano state ritoccate - è una pratica comune e diffusa per "ridare vita" (ovvero nuovo valore economico) a foto già pubblicate in precedenza.

E se questo diventasse un (pericoloso) precedente? Una volta entrato in vigore, lo stesso sistema potrebbe essere potenzialmente richiesto dai governi per identificare e rintracciare ad esempio rifugiati politici o dissidenti. Senza contare i casi in cui malintenzionati intendano incastrare persone innocenti caricando materiale scottante sul dispositivo Apple a loro insaputa.

PUBBLICARE FOTO DI MINORI SUI SOCIAL: SI O NO?

Il tema è molto sensibile e non può essere affrontato velocemente. Qui ci limitiamo a dire che il principio di precauzione porta a ritenere che sarebbe opportuno evitare di pubblicare sui social network foto dei propri figli (minori), in quanto i malintenzionati potrebbero utilizzarle per i loro sporchi interessi, magari per manipolare le immagini pedopornografiche già esistenti.

Credits immagine d'apertura: Pixabay


378

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Kilani

https://uploads.disquscdn.c...

Strano che tu abbia dimenticato di postare questa sezione.

Kilani

https://uploads.disquscdn.c...

Antares

Parte 2/2

https://uploads.disquscdn.c... https://uploads.disquscdn.c... https://uploads.disquscdn.c... https://uploads.disquscdn.c... https://uploads.disquscdn.c...

Antares

La differenza tra Apple e Google è sostanziale, Google raccoglie dati, analizza e fa profitto…
Apple no…

Google https://uploads.disquscdn.c... https://uploads.disquscdn.c...

Apple https://uploads.disquscdn.c... https://uploads.disquscdn.c...

Antares
M3r71n0

Solito marketing apple.
I componenti devono essere solo apple? "Ma è per la vostra sicurezza."
Le specifiche sono state castrate? "Ma è per migliorare la vostra esperienza."

Può già scansionare i file dei propri Clienti senza dover chiedere alcun permesso,
Ma ovviamente, è meglio venderla cosi. https://uploads.disquscdn.c...

Antares

Davvero?
Non sapevo…
Saresti così gentile da postarlo?
Grazie

Darkat
Darkat
AbstractBit

L'hardware l'hai in uso non in proprietà. Quando compri o credi di farlo acquisti la licenza d'uso. Da una quarantina di anni.

Si, oggi va di monda avercela col vaticano come si evince da questa news.

Giulk since 71' Reload

Per me va benissimo, basta esplicitarlo e non metterlo in carattere arial 4 in mezzo a un milione di caratteri del contratto, insomma importante è informare correttamente gli eventuali clienti, cosi possono scegliere eventualmente di non utilizzare quei servizi

pollopopo

ma..mica tanto, se scrivi pussi (ho cambiato la y perché mi va in moderazione) su google non è che escono dei simpatici micini......

optimus81

comparativa sulla privacy Apple vs google ? spero tu stia scherzando

optimus81

hai capito tutto...ma tutto proprio.

Alexv

Quello a cui tu alludi con "domani" è già stato messo in atto dai tempi del Patriot Act.

Alexv

Ma la lotta al terrorismo e alle feic nius è passata di moda?

PRO e CONTRO come sempre….

Roby One

Guardate che se date una letta all eula dei vari servizi di storage foto online scoprirete che gia tutti i maggiori servizi scansionano le foto per evitare quelle contenente materiale porno. Mi pare il minimo, mi pare un obbligo.

Federico

Le aziende private stabiliscono le condizioni di utilizzo del loro server e controllano se sui loro server c'è materiale illegale, niente di strano

E.C.

Le considerazioni che mi vengono naturali, per il momento... solo su iOS no MacOS. Vorrà dire che li già lo fanno? Per adesso, cioe dall'anno prossimo solo USA, problema loro, se di problema si tratta. Noi, in Europa abbiamo tutto il tempo di cercare una alternativa, (cloud personale senza usare servizi terzi per esempio) ma poi... legendo qui i commenti mi pareva che il cloud di Apple non lo usasse nessuno, invece sembra che tutti ce l'hanno e lo usano.

Giulk since 71' Reload

Continui a non capire il senso del discorso, il punto non è cosa stai trattando, video, immagini, voce o qualunque altra cosa, il punto è come accedi a questi dati, il controllo NON può essere preventivo da una azienda privata, non sta ne in cielo ne in terra una cosa del genere

salvatore esposito
Ombra Alberto

Bravo e quando questa tecnologia sarà usata verso persone innocenti.. o quando non ci piace un tizio per le sue idee colore di pelle o ideologie politiche.. che si fa?

Bravi bravi proprio intelligenti e puri siete..

salvatore esposito

ma vedi se mi tocca essere d'accordo con Callea.
il mondo sta per finire, fatemi scendere

salvatore esposito

se la privacy è garantita e le parti sono consensienti, dovrebbero essere liberi di metterci anche gangbang di 500 persone senza doversi preoccupare che Apple decida cosa sia lecito caricare e cosa no.
per quanto mi faccia schifo la pedofilia (per cui proporrei la castrazione con machete senza anestesia), non deve essere compito di una società privata che non deve avere accesso/controllo sui nostri dati in nessun modo.
praticamente un controllo simile equivale a "siete tutti pedofili fino a prova contraria".
da ricordare le propagande tanto blasonate "quello che succede su iphone resta su iphone" il marketing fatto su "neghiamo accesso anche alle forze dell'ordine" e c'è pure chi difende sta roba.
in attesa della privatizzazione della polizia.

https://uploads.disquscdn.c...

per chi fosse della mia generazione

salvatore esposito

è quello che si dice per giustificare le peggiori dittature

Dario Prince

Anche whatsapp ha adottato una funzione del genere che si fa??

sailand

Non dovrai fare nessuna denuncia, Apple lo saprà già.

sailand

Infatti Apple dopo potrebbe passare a mettere il naso nei vostri mp3, nei vostri eBook, nei vostri pdf per controllare non vi sia pirateria e poi in nome della sicurezza monitorare i vostri discorsi e quindi le vostre idee e la lotta al terrorismo non è che sia meno importante di quella alla pedofilia.
Ovviamente l’esempio di Apple sarebbe seguito da altre grandi aziende.
Poi potrebbero passare a monitorare le vostre finanze per la lotta all’evasione, a tracciare i vostri spostamenti per evitare che violate il codice della strada (immaginate un super tutor autostradale che vi segua ovunque) e pure la vostra incolumità è importante.
Senza rendervi conto alla fine George Orwell avrebbe sbagliato solo l’anno.
Ho visto in tv (quindi non certo un segreto) un documentario in cui si sosteneva che le grandi big della silicon valley abbiano goduto di libertà e grandi agevolazioni proprio perché mettessero su questo immenso sistema di controllo della gente.

KenZen

Si parla di solo foto di iCloud (disattivabile ovviamente)
Saluti

KenZen

"entrano in maniera chiara e inequivocabile nei dati personali degli utenti senza alcuna legislazione"
ma quando mai... (facepalm)
Saluti

KenZen

"Apple può bypassare qualsiasi crittografia interna e mandarsi file decriptati da qualsiasi dispositivo volendo"
Ma che stai dicendo? ahahahahahahhaha
Saluti

henrybahus

…e poi un giorno ti svegli e ti accorgi che il complotto sei tu.

Ombra Alberto

BOICOTTATE I PRODTTI APPLE NON FATEVI PRENDERE X IL ... CON SCUSE IDIOTE.

KenZen

Apple può in ogni momento, accedere ai tuoi dati, ergo non sono criptati. Nessuno ha detto che questa funzione sia cosa pubblica. Se non ti è chiaro l'articolo fai un fischio.
Saluti

Ombra Alberto

Con la scusa dei buoni propositi c'è lo schiappano la dove non batte il sole.

E ovviamente gli intelligentoni ( x non dire pecore lobotomizzate) di cittadini tutti ad applaudire.

Stiamo diventando una società dispotica e tutti zitti. La strada verso l'inferno è lastricata di buone intenzioni.

BOICOTTATE OGNI PRODOTTO APPLE che sia di esempio x tutti gli altri con idee orrende come questa.

Callea

Non credo che siano in chiaro, i dati su icloud mi risultano criptati, ma anche se lo fossero sono comunque dati privati non pubblici.

antonio

Ottima l'iniziativa, ma... La batteria di un camion sarà sufficiente? E il resto del sistema su dispositivi più datati? O questo li falcerà ?

Ikaro

Al contrario di quanto si pensi i dati in Google drive non vengono scansionati per la pubblicità mirata, come dicono esplicitamente nelle policy del servizio, ma scansionati per migliorare il servizio (leggasi machine learning)... Bene o male stanno tutte e tre nella stessa barca

Antares

Per curiosità scientifica mi posteresti il contratto di licenza dove dice che fanno la stessa cosa di google drive o Android ?

Antares

Leggi il contratto di licenza di Android sezione privacy poi ne riparliamo

sailand

Qui si parla di usa (per ora) e di un qualcosa voluto dalla azienda privata Apple, non dalle autorità (europee o americane che siano).
Anche in Italia i provider internet devono raccogliere per legge certi dati.

Federico

Un conto è una conversazione telefonica che semmai potrebbe essere una prova, un conto è la detenzione di un’immagine pedopornografica che è l’oggetto del reato

Giulk since 71' Reload

Ed e quello che farò visto che preferisco che nessuna azienda privata controlli quello che faccio

Comunque seguendo il tuo ragionamento le aziende telefoniche dovrebbero preventivamente controllare le conversazioni per trovare terroristi o criminali, e invece non possono guarda un po’, farlo, le registrazioni sono ad uso esclusivo della magistratura che puo accedervi solo dopo mandato

jose manu

Così se qualcuno ha qualcosa da dirmi, sa dove trovarmi

Alex

Stronzate

jose manu

Meglio. Chi non ha nulla da nascondere non ha nulla da temere.

Andrej Peribar

eh... si.
La questione è questa
il link è rotto, ma immagino sia questo l'argomento

https://uploads.disquscdn.c...

SpiritoInquieto

Ripeto e confermo, stanno controllando il 100% delle foto caricate.

Il segreto dei MacBook Pro: potenzialmente le migliori Workstation Mobile sul mercato

Apple, i nuovi MacBook Pro rappresentano un importante cambio di rotta | Editoriale

Macbook Pro e Notch: niente Face ID ma su MacOS non vi darà fastidio come su iOS

Apple, MacBook Pro cambia faccia: 14 e 16 pollici, cornici sottili e notch | Prezzi e video