Macchè privacy Pure l’assistente vocale ci spia
Si susseguono le rivelazioni: da Siri a Skype, richieste e conversazioni (anche private) vengono registrate e trascritte “per migliorare i servizi”. Ma le aziende non interrompono i programmi, aumentano solo le precauzioni
Apple ha creato un falso senso di privacy”: la sentenza mediatica, su Twitter, accompagna la foto di una pubblicità della società di Cupertino che recita “ciò che accade sul tuo telefono resta sul tuo telefono”. Uno spot enorme, che copre l’intera facciata di un palazzo e avalla concetti ripetuti continuamente dall’azienda in un momento di scandali, indagini e multe trasversali: la privacy prima di tutto, niente profitti dai dati degli utenti, la garanzia di rispettare i regolamenti.
PECCATO che poi, il 30 luglio, il quotidiano inglese The Guardian, pubblichi una rivelazione non da poco: Siri, l’assistente vocale di Apple presente su tutti gli iPhone, ascolta le conversazioni. A raccontarlo, sotto anonimato, sono stati i dipendenti di un'azienda che lavorava per la società. Hanno spiegato come molti dialoghi degli utenti erano ascoltati dalle imprese appaltatrici per valutare il servizio e migliorarlo. Gli appaltatori, spiegava la testata inglese, avevano il compito di annotare, ad esempio, se l'attivazione dell'assistente vocale fosse intenzionale o meno, se la richiesta rivolta a Siri fosse esaudibile e se Siri fosse stata d'aiuto. "Una piccola parte delle richieste viene analizzata per migliorare l'assistente e la dettatura - ha spiegato inizialmente Apple al Guardian -. Ma le richieste dell'utente non sono associate all'Id Apple dello stesso. Le risposte vengono analizzate in strutture sicure e tutti i revisori hanno l'obbligo di aderire ai severi requisiti di riservatezza". La società aveva aggiunto che il controllo riguardava meno dell'1% delle attivazioni giornaliere di Siri e che quelle utilizzate erano solo di pochi secondi. Due settimane fa, però, Apple ha dovuto abbandonare la strategia della giustificazione e semplicemente scusarsi con i suoi utenti: "Come risultato della nostra revisione abbiamo realizzato di non essere stati interamente all'altezza dei nostri alti ideali e per questo ci scusiamo".
Certo, Siri non è l’unico. La pratica dell’ascolto esterno per migliorare i servizi riguarda la stragrande maggioranza dei dispositivi dotati di assistenti vocali, da quelli sugli smartphone a quelli per le smart home e la domotica. Ad aprile era toccato ad Alexa, l’assistente vocale di Amazon. La notizia era stata data da Bloomberg. In sostanza, molti dipendenti Amazon ascoltavano campioni di registrazioni audio provenienti dai dispositivi Echo Dot dell’azienda: circa mille frammenti di conversazione per ciascun lavoratore da trascrivere in ogni turno di lavoro da nove ore, provenienti da case e uffici. L’iter prevedeva trascrizione e poi feedback al software, per allenare gli algoritmi. Ad esempio, venivano raccolti dei campioni di audio per richieste specifiche, come “Taylor Swift”, poi il dipendente aveva il compito di indicare al sistema di intelligenza artificiale che la richiesta dell’utente era quella di ascoltare delle canzoni della cantante, così che lo stesso sistema potesse imparare. Molte richieste trascritte venivano poi confrontate con le elaborazioni dall’assistente vocale per capire il livello della sua capacità di riconoscimento e comprensione. Si è però poi anche scoperto che alcuni dipendenti avevano il compito di annotare qualsiasi altra cosa avesse rilevato il dispositivo, incluse le conversazioni in sottofondo e le informazioni personali, per essere etichettate poi come “dati critici”. Amazon ha confermato la pratica, assicurando di annotare “solo un numero estremamente minimo di interazioni” e “da clienti casuali” e di avere “sistemi di sicurezza rigorosi” e “tolleranza zero per gli abusi”. Ha assicurato che “i dipendenti non hanno accesso diretto alle informazioni che permettono di identificare la persona o l'account”.
MA PUÒ bastare come rassicurazione? Difficile dirlo. Nelle scorse settimane, altri leaks e altre inchieste hanno rivelato che lo stesso riguarda Google ( Wall Street Journal), che Facebook appalta ad aziende esterne la trascrizione dei messaggi vocali della chat Messenger ( Bloomberg) e che Microsoft fa ascoltare sia le conversazioni di Skype attraverso il servizio di traduzione simultanea, sia i comandi vocali all’assistente Cortana, nonché per Xbox tramite la camera frontale Kinect ( Mo th erboard). Secondo una previsione degli analisti britannici di Juniper Research, l'uso degli assistenti vocali è destinato a triplicare nei prossimi anni e l’azienda stima che ci saranno 8 miliardi di assistenti vocali digitali in uso entro il 2023, rispetto ai 2,5 miliardi del 2018. Nel 2020, saranno circa 20 milioni solo sulle automobili “smart” mentre Google ha già contato la presenza di Google Assistantsu almeno un miliardo di dispositivi nel Mondo. Con la diffusione delle smart home e l’automazione di ogni aspetto della quotidianità, poi, ci sarà bisogno di addestrare gli algoritmi a livelli sempre più alti. Intanto, Microsoft ha deciso di sospendere l’ascolto delle registrazioni solo per Xbox, mentre per Skype e Cortana la pratica verrà solo esplicitata nella privacy policy. Amazon ha annunciato una modifica ai termini di contratto, con cui sarà possibile declinare il consenso all’ascolto mentre Google e Apple, già sotto osservazione delle autorità per la privacy, hanno dichiarato di avere interrotto completamente il programma. Scelta, però, forse solo momentanea. Se Google prevedeva già la possibilità di rifiutare l’adesione, Apple ha annunciato che inserirà un’opzione di consenso nei prossimi aggiornamenti.
MACHINE LEARNING E DOMOTICA
Gli algoritmi hanno bisogno di essere educati per poter automatizzare i servizi e comprendere le richieste
LA NECESSITÀ DELL’INSEGNAMENTO Servono esseri umani che controllino la qualità del servizio, ma questo va contro le regole sulla tutela dei dati I numeri