Amazon ci ascolta attraverso Alexa

Geronimo Vena
Aprile 14, 2019

La diffusione crescerà ancora. In teoria nessuno, se non un sistema di riconoscimento vocale basato su reti neurali modellate sul cervello umano. Non è chiaro, però, se anche le altre compagnie utilizzino gli stessi sistemi per migliorare l'efficacia delle risposte, e se gli esseri umani siano presenti all'interno del processo.

Quando chiediamo ad Alexa "Che tempo fa?", l'algoritmo che interpreta la nostra domanda potrebbe non essere l'unico ad ascoltarci. Secondo Bloomberg, Amazon impiega migliaia di persone nel mondo per ascoltare quei comandi e aiutare Alexa a migliorarsi. Dunque delle persone fisiche e non solo sistemi automatici, avrebbero accesso a quanto proferito anche in alcuni momenti di intimità, magari solo per scherzo e sembrerebbe che più di qualche dipendente abbia pure condiviso i suddetti contenuti per farsi quattro risate con gli amici. Anche in questo caso le registrazioni non sono associate alle informazioni personali degli utenti, e in più l'audio è conservato in forma distorta in modo che le voci non siano riconoscibili. In casi simili secondo l'azienda "possono condividere l'esperienza nella chat interna". Amazon ha fatto sapere di avere a disposizione procedure ad hoc, quando i lavoratori quando sentono qualcosa del genere.

Due di loro, che erano attivi nella sede Amazon di Bucarest, in Romania, raccontano che gli "insegnanti" di Alexa lavorano nove ore al giorno arrivando ad ascoltare e trascrivere fino a 1'000 registrazioni fatte nelle case di tutto il mondo. Stando a quanto affermato dagli informatori anonimi capita infatti spesso di imbattersi in domande del tipo "lavori per l'NSA?", oppure "Alexa, qualcuno ci sta ascoltando?". E da lì è possibile scegliere se disabilitare l'uso delle registrazioni vocali per lo sviluppo di nuove funzionalità. Questi problemi hanno costretto i team di sviluppo a inventarsi nuove metodiche per migliorare le prestazioni generali delle tecnologie, ma il nuovo report di Bloomberg probabilmente porterà le associazioni dei consumatori a richiedere maggiore trasparenza sulle varie fasi di sviluppo dei software della categoria.

Amazon assicura che "il minuscolo campione di registrazioni vocali annotate per migliorare l'esperienza dei clienti" viene accuratamente anonimizzato, rendendo impossibile ai dipendenti deputati all'ascolto risalire all'identità delle persone ascoltate: "Prendiamo seriamente la sicurezza e la privacy delle informazioni personali dei nostri clienti", assicura un portavoce del gigante dell'e-commerce. Queste informazioni ci aiutano, ad esempio, a formare i nostri sistemi di riconoscimento vocale e di comprensione del linguaggio, in modo che Alexa possa capire meglio le vostre richieste e garantire che il servizio funzioni bene per tutti.

In aggiunta, Amazon ha dichiarato di aver messo in atto "regole tecniche e operative molto restrittive", e che è applicata "tolleranza zero per qualsiasi abuso dei sistemi". I dipendenti non hanno accesso diretto alle informazioni che possono identificare la persona o l'account da cui proviene il flusso di lavoro. "Tutte le informazioni sono trattate con elevata riservatezza e impieghiamo procedure di autenticazione multifattore per limitarne l'accesso, cifratura e audit sul nostro ambiente di controllo per proteggerle".

Altre relazioni OverNewsmagazine

Discuti questo articolo

SEGUI I NOSTRI GIORNALE