Latest · February 24, 2022 0

O choque da vigilância Siri da Apple exige uma resposta rápida

Appleholic, (substantivo), 忙p路蓹lh蓱l路瑟k: Uma pessoa imaginativa que pensa sobre o que a Apple está fazendo, por que e para onde está indo. Fornecendo notícias, conselhos e entretenimento populares relacionados à Apple desde 1999.

As notícias de que a Siri grava trechos de nossas conversas com o assistente de voz não são novas, mas as alegações de que essas gravações curtas são ouvidas por agentes humanos são particularmente à luz da grande privacidade da empresa.

Estas são ópticas ruins para a Apple

Eu sou um crente apaixonado na importância da privacidade.

Não é importante apenas em termos de preservação de liberdades duramente conquistadas e proteção do discurso público; é também de importância crescente em todas as partes da existência humana para todas as escolas, instalações médicas ou empresas. A história mostra que a ausência de privacidade tem um efeito corrosivo na sociedade, colocando os membros da família uns contra os outros e freando a inovação.

Os avisos da Apple sobre privacidade, incluindo o aviso do CEO da Apple, Tim Cook, de que muitas das empresas de tecnologia com as quais trabalhamos diariamente estão nos levando a um estado de vigilância são importantes (embora nem sempre convenientes para aqueles que argumentam que a privacidade é apenas algo que devemos sacrificar pelo bem de os robôs que fazemos).

No entanto, a revelação de que a Apple não deixou claro que as gravações de nossas conversas privadas estão sendo compartilhadas com “contratados” para fins de “controle de qualidade” e “treinamento” é um aspecto muito ruim para a empresa.

O que a Apple está dizendo

A Apple afirma que:

“Uma pequena parte das solicitações da Siri é analisada para melhorar a Siri e o ditado.” Também promete que “as solicitações do usuário não estão associadas ao ID Apple dos usuários. As respostas da Siri são analisadas em instalações seguras e todos os revisores têm a obrigação de aderir aos rigorosos requisitos de confidencialidade da Apple”.

Isso é reconfortante até certo ponto, mas, como em alguns casos, os revisores da Apple ouviram pessoas compartilhando informações pessoais, incluindo seu endereço, a mudança para separar o som gravado do ID Apple relevante pode não ser suficiente.

A Apple precisará fazer um pouco mais.

Como a Apple pode remediar a situação

Comece com transparência

Ocultos nos termos e condições da Apple, você encontrará avisos de que as gravações feitas com o Siri às vezes são usadas para fins de controle de qualidade.

Você também encontrará uma promessa de que essas gravações (ao contrário dos concorrentes) não estão vinculadas de forma alguma ao seu ID Apple ou identidade pessoal.

Essas promessas não são muito claras.

É por isso que digo que a Apple deveria apresentar avisos de privacidade muito mais claros e fáceis de entender sobre o uso da Siri em seus dispositivos. Ele precisa colocar esses avisos na frente e no centro e deixar bem claro que não apenas às vezes usa essas gravações, mas também como as usa, como protege a identidade ao usá-las e exatamente por quanto tempo essas gravações são retidas.

Mas dê controle às pessoas

A Apple deveria (eu acho) tornar a gravação da Siri um opt-out.

Ou seja, ao configurar a Siri em um novo dispositivo, o usuário deve ter a chance de rejeitar explicitamente o uso de sua voz para qualquer finalidade que não seja a solicitação original.

Você deve poder dizer que não deseja que seus dados sejam usados ​​em treinamento ou controle de qualidade.

“Mas então a Apple não poderá treinar o assistente tão rapidamente”, alguns podem reclamar. Talvez não, mas manterá a liderança na proteção da privacidade.

Não apenas isso, mas é discutível o quão úteis essas gravações realmente são.

Torne-se mais responsável

Quem são os “contratados” que Apple, Google, Amazon e todos os outros estão usando que verificam e ouvem essas pequenas gravações do que dizemos?

Como são contratados?

Quais são suas descrições de trabalho? Para quem mais eles trabalham?

Em que base eles podem ser confiáveis ​​e como os indivíduos podem obter reparação no caso de abusarem dessa confiança?

E por que os usuários da Siri ainda não sabem as respostas para todas essas perguntas?

Que esses empreiteiros sejam terceirizados não faz sentido.

A Apple deve trazer esse trabalho para dentro de casa, tornar-se completamente responsável pelo que seus funcionários de voz e gerenciamento fazem com essas gravações e garantir que os clientes tenham alguma maneira de punir qualquer infração à privacidade de seus dados.

Certifique-se de que precisa das informações

A Apple diz que grava e usa apenas pequenas seções de palavras que ouve, mas precisa manter ou verificar quantas amostras escolher?

Pense assim:

Se a Siri no seu relógio ou HomePod ouvir o que pensa ser o comando “Ei, Siri”, mas nenhuma solicitação for feita posteriormente, certamente deve ser inteligente o suficiente para reconhecer que um alarme falso ocorreu.

No caso de um alarme tão falso, a Siri no dispositivo certamente deve ser inteligente o suficiente para descobrir o que causou a invocação acidental e ser menos sensível a esse som no futuro.

(UMA Guardiãorelatório afirmou que o som dos zíperes às vezes acorda a Siri, por exemplo, certamente a Siri pode aprender a ignorar o som dos zíperes em resposta.)

A conclusão é que, caso a Siri seja invocada, mas nenhuma solicitação específica seja feita, o sistema deve ser inteligente o suficiente para ignorar a interação e excluir qualquer gravação feita como resultado dessa interação, além (possivelmente) dos primeiros três segundos em que pensou ter ouvido o comando de disparo.

Apenas dar esse passo impediria algumas das gravações mais flagrantes que a Siri teria ouvido e compartilhado com os contratados.

Não quero que a Siri melhore em ouvir o que digo quando não quero que ela ouça. Eu só quero que ele fique melhor em ouvir quando eu fizer um pedido.

Os humanos são mesmo necessários?

A tecnologia de voz está avançando rapidamente. Isso levanta a questão: “É mesmo necessário que os contratados humanos ouçam trechos de conversa relacionados à Siri?”

Eu acho que em muitos casos, simplesmente não é.

As gravações devem ser colocadas através da Siri e outras tecnologias de reconhecimento de voz em primeira instância para automatizar a verificação de precisão.

Somente nos casos em que diferentes sistemas de reconhecimento de voz não conseguem encontrar uma maneira de concordar com o que é dito, os ouvidos humanos devem ser necessários.

Não sou especialista em IA, mas esse tipo de análise é o tipo de coisa para a qual os modelos/algoritmos da Random Forest são construídos apenas quando a tecnologia não consegue concordar sobre o motivo pelo qual errou uma solicitação, caso um humano seja necessário.

Por que isso importa

Essas são apenas uma pequena coleção de sugestões que espero que a Apple tome para tornar a Siri a assistente de voz mais privada do setor.

Esse material importa.

Pense nisso:

Não são apenas as palavras que usamos nossa própria propriedade, mas à medida que as tecnologias baseadas em sensores e a IA entram em diferentes esferas da vida cotidiana, do mapeamento à RV onipresente, a necessidade de privacidade se torna ainda mais importante, pois muito mais de nossas vidas se tornará um espaço aberto. livro.

As decisões que tomamos em torno da voz hoje definirão todas as outras esferas de privacidade.

Há alguns que pensam que a privacidade é um preço que devemos pagar pela conveniência computadorizada, mas eu nunca concordei com eles.

Estamos em um ponto da história humana em que as decisões que tomamos em torno da privacidade do assistente de voz repercutirão em nosso futuro.

Precisamos resolver isso de maneira eficaz porque, a menos que o façamos, as implementações serão inseguras e potencialmente eticamente inseguras.

E a Apple deve avançar com sua demanda por uma declaração digital de direitos neste espaço, uma lei que coloca os usuários no centro do controle da privacidade.

Por favor, siga-me emTwitterou junte-se a mim no bar e grill do AppleHolic e nos grupos de discussão da Apple no MeWe.