Tecnologia, posso fidarmi di te?

Le ultime notizie dal Lussemburgo sugli assistenti digitali intelligenti

Alla domanda “sei sempre in ascolto?” la risposta di Siri, assistente digitale intelligente sviluppato da Apple, è “ti ascolto solo quando mi parli”. Ma qual è la vera portata di questa risposta apparentemente ovvia?

Al riguardo, le ultime notizie giungono dal Lussemburgo dove la Commission Nationale pour la Protection des Donnès (CNDP), l’autorità garante per la protezione dei dati personali locale e autorità capofila[1] per le attività svolte da Amazon nell’Unione europea, ha confermato di essere in contatto con la società relativamente alle registrazioni vocali dei clienti che hanno utilizzato Alexa, l’equivalente di Siri del colosso dell’e-commerce.

Nondimeno Amazon è solo l’ultima delle GAFA[2] a essere colpita da tali accuse. La vicenda, che sta catturando l’attenzione dell’opinione pubblica per le implicazioni allarmanti che ne conseguono, era stata già segnalata dal quotidiano inglese The Guardian che ha rivelato come appaltatori di Apple potessero ascoltare il contenuto delle registrazioni generate dall’utilizzo di Siri.

In particolare, per lo svolgimento delle attività di controllo qualità e valutazione dell’assistente digitale e, quindi, per migliorare il servizio reso, le tech companies analizzano (rectius: affidano a società esterne l’analisi di) una parte di tali registrazioni. Infatti, la maggior parte dei sistemi di riconoscimento vocale utilizza reti neurali modellate sul cervello umano, software che apprendono individuando schemi in mezzo a grandi quantità di dati. Al fine di ridurre gli errori, addestrare l’intelligenza artificiale e, quindi, generare risposte sempre più precise da parte degli algoritmi, in alcuni casi questi vengono supportati da un intervento umano che verifica la corrispondenza tra la richiesta e l’interpretazione datane dal sistema intelligente.

La questione sollevata riguarda, nello specifico, le registrazioni generate da attivazioni accidentali dell’assistenza digitale intelligente. Ciò può capitare in quanto Siri e i suoi “colleghi” Alexa e Assistant sono programmati per avviarsi al pronunciarsi della c.d. “wake word”, ad esempio, “Hey Siri!”. Non di rado, tuttavia, suoni o parole simili alla/e wake word/s programmata/e catturano ugualmente l’attenzione dell’assistente che può attivarsi senza che l’utente ne sia consapevole. In tal caso, gli operatori, tenuti a trascrivere le registrazioni indipendentemente dal fatto che siano conseguenza di un’attivazione richiesta o involontaria, possono trovarsi ad ascoltare conversazioni contenenti informazioni e dati di natura anche sensibile (in proposito, le notizie riportano la captazione di conversazioni avvenute presso studi medici, nonché, tra le altre cose, rumori generati da momenti di intimità o, addirittura, da presunti crimini).

I risvolti per la privacy e la riservatezza degli utenti sono evidenti, determinando tali attività una sensazionale violazione della sfera privata degli utenti coinvolti. Peraltro, la grande quantità di dati che viene rivelata nell’ambito di una conversazione, di per sé e unitamente a ulteriori elementi in possesso di tali società (ad esempio la localizzazione), può certamente consentire l’identificazione della persona, tanto più se vengono menzionati nomi, indirizzi o numeri di telefono.

Per tale ragione, nonostante le rassicurazioni del colosso di Seattle, che ha fatto sapere come solo una piccola percentuale delle registrazioni (1%) viene annotata e come sia vigente una policy di intolleranza per qualsivoglia abuso delle informazioni raccolte, la CNDP ha deciso di aprire un confronto con la società rifiutandosi, tuttavia, di fornire per il momento ulteriori dettagli in merito. L’autorità lussemburghese è peraltro solo uno dei garanti europei intervenuti sulla questione. Infatti, già l’Hamburg Commissioner for Data Protection and Freedom of Information (l’autorità di controllo di Amburgo) all’inizio di agosto aveva dichiarato di aver avviato un confronto con Google per le medesime attività, mentre un portavoce della Information Commissioner’s Office (l’autorità di controllo inglese), confermando di essere a conoscenza della vicenda, ha annunciato l’intenzione dell’autorità di portare la questione all’attenzione del Comitato europeo per la protezione dei dati.

Nel frattempo, a seguito del clamore generato dalla notizia, sia Apple che Google hanno dichiarato di aver interrotto l’attività di revisione delle registrazioni provenienti dai sistemi di assistenza digitale e, a sua volta, Amazon ha confermato di aver aggiunto un’opzione alla propria app che consente agli utenti di poter escludere dalle analisi le registrazioni generate dall’utilizzo da essi fatto dell’assistente digitale.

Bisognerà attendere gli sviluppi della vicenda per comprendere come si comporteranno le autorità di controllo europee relativamente a questi allarmanti trattamenti.