Amazon invia 1.700 conversazioni con Alexa all'utente sbagliato

20 Dicembre 2018 195

Amazon ha inviato ben 1.700 registrazioni private di conversazioni con Alexa all'utente sbagliato. Si è trattato di un errore umano e di un caso isolato, ha fatto sapere la società, che dice anche di aver implementato nuovi controlli per evitare che ciò si ripeta.

Amazon salva sui propri server tutte le interazioni che i clienti hanno con la sua assistente virtuale, attraverso le varie piattaforme su cui è disponibile (Echo, app desktop e mobile, prodotti di terze parti...). Un utente voleva riascoltare le proprie conversazioni e ne ha fatto richiesta, come suo diritto. Amazon ha fornito quindi il link per il download di un file archivio; all'interno, però, c'erano anche i file audio relativi a un'altra persona - una coppia, per la precisione.

L'utente ha segnalato l'errore ad Amazon, e inizialmente non ha ricevuto risposta; il file è stato successivamente rimosso, ma naturalmente era troppo tardi. La testata tedesca C't, la prima a parlare dell'incidente, è riuscita a risalire all'identità della coppia coinvolta a sua insaputa, evidenziando così, se ce ne fosse bisogno, le potenziali gravi implicazioni lato sicurezza personale causate dall'errore. Per sicurezza, comunque, Amazon ha anche contattato le autorità per informarle dell'accaduto.

Non è la prima volta che si verifica un incidente per l'assistente vocale di Amazon. Finché si mette a ridere senza motivo è OK - un po' inquietante, ma OK; questa primavera, però, aveva registrato una parte di audio e inviata a un contatto della rubrica di un utente, senza che questi lo volesse. Amazon spiegò che Alexa aveva interpretato male una parola pronunciata in una conversazione, credendo che si trattasse del comando per attivarsi ("Alexa", appunto), e da lì l'effetto "lost in translation" si è solo amplificato.

Cogliamo l'occasione per ricordare che la cronologia registrazioni si può cancellare attraverso l'app mobile e Windows 10 di Alexa, oppure attraverso QUESTA PAGINA sul sito di Amazon.


195

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Antonio Guacci

Stesso discorso è applicabile per Google, Facebook e molte altre aziende: la privacy è solo un'illusione, vi rinunciamo puntualmente accettando (spesso senza leggere) i termini e le condizioni d'uso di determinati servizi.

Massimo Fantinato

eh se vai a leggere nei termini e condizioni c'è scritto chiaramente che viene registrato e inviato l'audio dopo il comando di attivazione.

Massimo Fantinato

Evidentemente ti è poco chiaro come funziona l'IA e quale valore hanno i tuoi dai nonché non hai letto i termini e condizioni per l'uso.

Alessandro_Ax

Ha una backlog di 6sec, ovvero viene tenuto in memoria sui server di Amazon tutto quello che ha sentito nei passati 6 sec, questo per dare il tempo al server di analizzare i dati. Poi sui database vengono salvate quelle frasi che riesce ad interpretare come comandi alexa o con una percentuale di confidenza oltre una certa soglia, ovvero quello che potrebbe essere un comando alexa ma non è riuscito ad averne la certezza. Questo database ha un solo scopo: viene dato in pasto alla AI in fase di apprendimento per migliorare il riconoscimento vocale di alexa. Le frasi "ambigue" che non è riuscito a capire probabilmente vengono interpretate a mano da un operatore e sono le uniche che effettivamente qualcuno ascolta. Non pensate che tutto quello che dite venga memorizzato a tempo indefinito: non basterebbero gli hdd di tutto il pianeta per fare una cosa del genere

Alessandro_Ax

Ti serve una sala server di un centinaio di metri quadrati per questa cosa

keshiawallace

andreaendrizzi what

Signor Citrus

Tra decine di anni saranno utili, ora sono uno spreco di soldi e non ti costano 50 euro ma di più con tutte le spese indirette di migliaia di euro per renderlo veramente utilizzabile.

Signor Citrus

Si, o loro o lega erano i più organizzati

Tizio Caio

Ma che?? Cmq i TV Samsung del 2013 già hanno i comandi vocali, tant'è vero che i telecomandi sono senza tasti.
Mi sembri tanto quei vecchi che non vogliono usare la sedia a rotelle in aeroporto per attraversare il gate perché porta male...

Horatio

Io dal bagno comando il dot che è in salotto.

Horatio

Ti permetti pure di dire ad un altro utente che non capisce! Complimenti! Hai votato 5 stelle?

Horatio

No.

Horatio

E questa dove l'hai letta? :D

Signor Citrus

No, non capisci.
I telecomandi hanno un sacco di funzioni in primis i menù.
Come li gestisci con la sola voce?
Lo capisci che stiamo parlando di comandare con la voce?
Non puoi toccare nulla di pulsanti né vedere nulla.
In poche parole è un utilizzo dell'informazione basilare, tramite voce appunto.
Sono gli stessi strumenti che utilizzano i ciechi e i disabili in generale.
Posso capire un controllo vocale completo di un sistema operativo.
Ma qui parliamo di assitenza ad anziani (spegni e accendi)

Max

Eh già https://uploads.disquscdn.c...

AndySport

Il punto è che anche lo smartphone ha un microfono...e non crediate che sia disattivato... sempre in tasca registra anche le scorregge che tiriamo...

Tizio Caio

Ma non è vero!! Un tempo non c'era il telecomando e bisognava alzarsi per cambiare i canali. Qui è la stessa cosa, non ti alzi più per spegnere la luce punto.

Bastian Contrario

Sí ma l'infrastruttura non è mai stata bucata. Mai un leak.

Frank
Frank

la tecnologia è la stessa per tutti, ma su google e alexa puoi cancellarle, apple cosa fà le tiene sui server per i federali in futuro?

Akira Koga

Proprio così

Akira Koga

Ad esempio

Signor Citrus

Ma cosa caxxo c'entra il telecomando della tv, ma siete tutti scioccati di testa qui dentro secondo me.
Il telecomando della tv ti serve per navigare all'interno della televisione.
Questi sono dispositivi pensati per disabili che non possono alzarsi dal letto facilmente o per persone in sedia a rotelle che non possono girare per la casa normalmente.

Signor Citrus

Ma cosa c'entra? Cosa stra caxxo c'entra?
Sono dispositivi pensati per disabili questi.
I telecomandi cosa c'entrano ora…?

Sterium
sagitt

sopprimiti

Sterium

Te taci che sei un rifiuto della società

sagitt

la domotica puoi comandarla come vuoi, con dei pulsanti, con delle app.. ma indubbiamente la domotica è più comoda con i comandi vocali visto che magari sei sul divano e puoi chiedere la tapparella o la luce ed il teelfono è nell'altra stanza a caricare ed è più immediato

il termostato lo regoli ogni tanto, molti sono automatici, poi con i riscaldamenti a pavimento non ha neanche senso regolarli.... o il condizionatore al massimo

DeeoK

Non puoi usare il microfono senza avere accesso al microfono ed è possibile sapere ogni volta che il microfono è stato utilizzato.
L'esportazione dei dati non c'entra nulla a riguardo.

DeeoK

E quindi di che parla sostenendo che sapremo tutto di tutti?

Alessandro

Ma la domotica necessita davvero di essere comandata da un assistente vocale? Al prezzo di essere sempre ascoltati?
L'unica cosa utile della "domotica" è regolare il termostato da remoto (si fa da anni dal cellulare con le caldaie con le sim) e controllare le telecamere di sicurezza (sempre fattibilissimo da smartphone).

sagitt

anche da me ogni tanto capita, ma solo se imposto come parola "Echo"

sagitt

perchè apple bada molto più alla privacy, mentre samsung se ne f0tte

Desmond Hume

Ottimo. Non avere il pieno controllo sui proprio strumenti è l'ideale.
Menomale che di gli accaniti sostenitoro dicevano che registravano solo quando interpellato.
Questi registrano pure conversazioni sensibili che l'utente non ha alcune intenziono di divulgare, magari segreti industriali e cose del genere.

Desmond Hume

Sempre più cancerogeni, bravi.

Vash

mo' so caxxi…. era gli audio delle effusioni dell'amante di lei… mandati a lui….

Tizio Caio

I permessi non sono necessari per esportare dati, app diverse con permessi diversi possono "collaborare" per esportare dati apparentemente insignificanti ma che correlati danno un risultato finale. Quindi non è così facile come dici tu, non ci sarà mai l'app che invia dati perché sarebbe troppo palese. Se vogliono inviare dati di nascosto lo fanno e tu (utente) non puoi controllarlo

andreaendrizzi

Quindi non usi il telecomando per cambiare i canali della tv, non apri il cancello da remoto, ecc. Perché pensi che sia stati pensati per persone disabili ... sicuramente aiutano anche loro. Ma io li trovo comodissimi per organizzare la mia vita e non ci rinuncerei mai, come non mi alzerei mai a cambiare il canale della Tv.

Tizio Caio

Infatti continui a non capire il suo messaggio, non parla di dati in server di nessuno

Tizio Caio

Ahahaha ma che stai dicendo?? Poter controllare la propria casa da remoto non mi sembra un uso da anziani.. è come il telecomando per la televisione.. secondo il tuo ragionamento il "SIgnor Citrus" degli anni 70 doveva dire "Veramente il telecomando è per disabili e anziani.
Non ti semplificano un bel niente servono per quelle persone affette da malattie che le impediscono di muoversi normalmente e quindi si affidano a badanti e anche a questi oggetti. Uno normale si alza e va a spegnerla, uno malato non può farlo."
ahahahahahahahahahah ripeto sono una COMODITA' , puoi vivere benissimo senza, nessuno lo nega. Ti DEVONO far risparmiare tempo che dedicherai ad altro. FINE, a questo serve la tecnologia, la pensassimo tutti come te saremmo ancora con la tv senza telecomando.. perché "Uno normale si alza e va a spegnerla, uno malato non può farlo"

silvio

Sarà ma io a tutte queste cagate sono totalmente contrario.

AmiC

Siamo betatester. Io Alexa come faccio a sapere se mi hai impartito un comando, quando non capisco cosa dici? Lo registro, e mando la clip audio ai cervelloni di Amazon.
Va da se che a priori non posso sapere cosa dirai, quindi non mi stupirei se Echo registrasse 24/7, e tenesse solo i comandi Alexa e unknown. Come detto, controlla se tu hai dato il consenso a migliorare il servizio su indirizzositoamazon/alexaprivacy

Signor Citrus

Bhe non capisco cosa possa farsene una persona normale visto che sono prodotti studiati per assistenza a disabili e anziani.
Poi se te hai qualche problema ritiro quel che ho detto, ma altrimenti non ha senso.

DeeoK

Il paragone era con un assistente vocale che è sempre in ascolto.

Su smartphone puoi comunque controllare l'uso dei vari permessi, quindi se app tipo il Google Play Services inviasse registrazioni a caso sarebbe venuto fuori da un pezzo.

Signor Citrus

Veramente sono prodotti per disabili e anziani.
Non ti semplificano un bel niente servono per quelle persone affette da malattie che le impediscono di muoversi normalmente e quindi si affidano a badanti e anche a questi oggetti (immagina uno con sclerosi multipla bloccato a letto che ci é arrivato da solo dopo 5 minuti e si é dimenticato la luce accesa prima fi dormire). Uno normale si alza e va a spegnerla, uno malato non può farlo.

DeeoK

I dati passano per le aziende e sono loro a possederli, quindi il suo messaggio non ha senso.

Signor Citrus

Sono stati progettati per le persone con disabilità. Persone impossibilitate a muoversi etc.
Poi se la gente se li prende lo stesso che facciano pure, é un prodotto di assistenza per disabili e anziani.

@bearbops

Si parla di comodità quotidiane non di un dispositivo che risolve il problema della fame nel mondo, utilizzo tutti i giorni un echo plus per accendere/spegnere luci, tv, videocamera, albero di natale,mettere il timer, riprodurre playlist, "alexa buonanotte" e si spengono luci, tv, led. E' ovvio che sono tutte cose che posso fare manualmente o con lo smartphone ma trovo molto più pratico un echo, sono dispositivi tutt'altro proibitivi e se evidentemente stanno spopolando significa che un mercato ce l'hanno.

sagitt

infatti

Tizio Caio

Servono a rendere più comoda la tua vita, tutto qui. A questo serve la tecnologia, a farti risparmiare tempo che dedicherai ad altro

Recensione Rowenta Body Partner: bilancia smart con misuratore Bluetooth

HDMotori.it

Jeep Compass 1.6 Multijet 120 CV Limited: recensione e prova su strada | VIDEO

Android

Recensione Xiaomi Mi Mix 3: difficile chiedere di più a 500 euro

Sondaggio | Smartphone perfetto? Come dovrebbe essere per gli utenti di HDblog?