Você sabe como funcionam os assistentes de voz de empresas como Google, Amazon e Apple? Primeiramente, para responder ao comando do usuário é preciso que o sistema entenda com clareza o que está sendo dito. E para aperfeiçoar esse sistema, uma prática comum são as escutas de áudios da siri e do google assistente e a transcrição dessas gravações, serviço feito por funcionários das empresas.
Essa descoberta de que terceiros possuem acesso aos áudios dos usuários é recente. Pelos termos de uso do Google Assistente, por exemplo, é possível saber que a empresa grava e armazena os arquivos de áudio no sistema, mas nada é dito sobre pessoas ouvindo esse material.
Em julho, o jornal The Guardian demonstrou que detalhes confidenciais ditos à Siri eram ouvidos por funcionários da Apple. Logo após, um dos revisores do Google Assistente vazou gravações para o site belga VRT. A reportagem publicada ainda mostra como algumas das conversas foram gravadas sem o consentimento dos usuários.
Além disso, já era de conhecimento do público que o mesmo processo era utilizado com a Alexa, a assistente de voz da Amazon. A empresa vende o software como uma assistente que “vive na nuvem, está sempre ficando mais inteligente e possui atualizações automáticas”. Contudo, é também com a ajuda de humanos que Alexa desenvolve e aprimora seu próprio seu sistema.
As reportagens repercutiram negativamente entre a maioria dos usuários e, no fim, a Apple e o Google suspenderam as escutas de áudios da Siri e do Google Assistente. Entenda melhor neste artigo cada um dos casos e como funcionam os softwares que atendem comandos de voz.
Leia também: Quais são os melhores planos de celular?
Os ouvidos por trás do Google Assistente
Você tem costume de utilizar o Google Assistente no seu celular Android? Se não, tente falar “Ok, Google” para o seu celular. Com esse comando você ativa o assistente e pode “conversar” com o sistema, dando comandos para realizar operações no aparelho ou fazer pesquisas na internet.
Porém, nuances em cada idioma assim como regionalismos podem dificultar o trabalho do software. O processo de aprendizagem do software “acontece após transcrições feitas em um pequeno número de arquivos de áudio”, segundo a empresa.
“Esse trabalho é crucial para desenvolver novas tecnologias como o Google Assistente”. Essa foi a resposta de um porta-voz da companhia na Bélgica após a revelação das escutas de áudios do Google Assistente feita pelo VRT NWS. Jornalistas tiveram acesso a 1.000 gravações nas quais conseguiram ouvir informações sensíveis como endereços, o que tornou possível localizar os usuários responsáveis pelos áudios e confirmar a veracidade.
Além disso, para piorar a situação, alguns dos áudios foram gravados sem o consentimento de quem estava falando. De acordo com o site, das mil gravações analisadas, em 153 o comando “Ok, Google” não foi dado. Entre elas estavam registradas desde conversas entre pais e filhos até ligações telefônicas com informações privadas.
Muitas foram gravadas pelo Google Home, alto-falante inteligente ainda pouco utilizado no Brasil mas popular em alguns países. Segundo o VRT, ao ouvir algo parecido com “Ok, Google”, o aparelho começava a gravar.
Essa repercussão internacional foi o passo inicial que levou a suspensão das escutas de áudios da Siri e do Google Assistente.
Curiosidade: Você já pesquisou algum sintoma no Google querendo descobrir o que aquilo significava para sua saúde? Se sim, aparentemente você não está sozinho. De acordo com a reportagem, muitas perguntas médicas são feitas pelos usuários ao Google Assistente.
O que diz o Google
Após a revelação repercutir pela mídia, o Google admitiu o processo de revisão dos áudios feita por pessoas contratadas para ajudar a desenvolver o software. “Acabamos de saber que um revisor de idiomas violou nossas políticas de segurança de dados ao vazar áudios holandeses confidenciais. Estamos realizando uma revisão completa de nossas proteções para impedir que más condutas como essa aconteçam novamente”, disse a empresa em nota.
Segundo o Google, 0.2% do total de áudios gravados são transcritos, sem possuir identificação da conta do usuário. Além disso, os revisores seriam orientados a não transcrever conversas de fundo ou conteúdos que não direcionados ao Google Assistente. No entanto, a empresa admite que uma “falsa ativação” pode ocorrer e conversas podem ser gravadas por engano.
A Siri também ouve
Com uma função um pouco diferente, as escutas de áudios da Siri também é uma prática adotada pela Apple. A empresa nunca informou isso em sua política de privacidade, mas o procedimento foi revelado pelo jornal The Guardian.
Os áudios registrados pela Siri são repassados a funcionários mas, diferentemente do caso do Google, os revisores devem classificar se a resposta da assistente foi adequada e se a ativação foi proposital ou por acidente.
A fonte do jornal declarou que “incontáveis vezes as gravações continham discussões privadas entre médicos e pacientes, negócios, conteúdos sexuais, relações criminosas, entre outros”. Apesar do Apple ID do usuário ser ocultado, o revisor afirmou que informações como local, detalhes de contatos e aplicativos podem ser identificadas nas gravações – feitas principalmente via AppleWatch e HomePod.
O que diz a Apple
Ao jornal, a Apple afirmou que uma pequena porção dos comandos de voz são analisados para melhorar o software. De acordo com a empresa, menos de 1% das ativações diárias da Siri são utilizadas e elas costumam ter poucos segundos.
“Usuários não são associados ao Apple ID. As respostas da Siri são analisadas em instalações seguras e todos os revisores são submetidos a obrigações de um termo de confidencialidade rigoroso”, declara a Apple.
A suspensão das escutas de áudios da Siri e do Google Assistente
Após as polêmicas pela falta de transparência das empresas com os dados de seus usuários, tanto a Apple quanto o Google resolveram suspender a escuta de áudio dos seus assistentes de voz.
A Apple decidiu suspender a prática em todo o mundo. A Siri passará por um processo de revisão e, enquanto isso, seus áudios não serão mais analisados por funcionários. Futuramente, uma atualização do software fará com que o procedimento de revisão de áudios passe primeiro pela concessão do usuário. “Nós estamos comprometidos em desenvolver uma ótima experiência com a Siri enquanto protegemos a privacidade do usuário”, disse a empresa.
O Google também resolveu suspender a escuta de áudio do Google Assistente, mas apenas na União Europeia – e por três meses. A companhia justificou a decisão mencionando os vazamentos ocorridos na Holanda e Bélgica.
Por fim, após as duas empresas anunciarem a suspensão, foi a vez da Amazon seguir os passos. De acordo com a agência de notícias Bloomberg, os usuários agora poderão permitir ou não que os comandos de voz dados à Alexa sejam gravados e utilizados pela empresa para revisão e aprimoramento do seu sistema.
Gostou do artigo? Tecnologia e segurança é um tema recorrente aqui no Compara Plano. Confira também nosso texto sobre o desenvolvimento de carros autônomos e os acidentes envolvendo os modelos da Tesla.
