Quando a Meta disponibilizou os óculos inteligentes Ray-Ban para pré-venda, deixou claro um ponto: sua privacidade estará garantida. “Os óculos inteligentes Ray-Ban Meta foram projetados com a privacidade em mente,” disse uma declaração na época, divulgada em setembro de 2023. A publicidade foi clara sobre sua privacidade, e como resultado, você pode ter visto pessoas usando-os pela cidade, em um anúncio do Super Bowl, ou até mesmo em uma audiência judicial sobre segurança infantil nas próprias plataformas da Meta. Há até relatos de agentes da ICE usando-os em campo.
O que você talvez não tenha visto é, bem, você mesmo sendo capturado pela câmera dos óculos. Agora, um novo relatório — e um processo judicial federal que rapidamente se seguiu — alega que a empresa é ainda menos transparente do que as lentes grossas, afirmando que a empresa está silenciosamente direcionando as filmagens dos usuários para trabalhadores humanos no exterior, ao invés de seus modelos de IA. Esses trabalhadores viram de tudo, desde pessoas se despindo até documentos financeiros sensíveis, e isso é graças a usuários que optam por compartilhar dados para fins de treinamento de IA.
“Em alguns vídeos, você pode ver alguém indo ao banheiro ou se despindo. Eu não acho que eles saibam, porque se soubessem, não estariam gravando,” observou um trabalhador que viu vídeos dos óculos.
No final de fevereiro, publicações suecas Svenska Dagbladet e Göteborgs-Posten publicaram uma investigação sobre o processo de treinamento de IA da Meta, descobrindo que contratados da Meta no Quênia ajudam a treinar a inteligência artificial que alimenta os óculos (incluindo os modelos Ray-Ban Meta Wayfarer (Gen 2), Ray-Ban Display e Oakley Meta HSTN). O que eles viram foi alarmante.
“Vemos tudo, desde salas de estar até corpos nus,” disse um trabalhador no relatório. “A Meta tem esse tipo de conteúdo em seus bancos de dados.”
Qualquer usuário que opta por compartilhar dados para fins de treinamento de IA efetivamente permite que todas as partes de sua vida sejam gravadas e, como resultado, revisadas, seja pelas IAs que deveriam ser treinadas ou pelos humanos por trás disso. Isso inclui filmagens de pessoas em banheiros, se despindo e assistindo pornografia, e em pelo menos um caso documentado, um par de óculos deixado em uma mesa de cabeceira capturou um parceiro que nunca consentiu em ser gravado.
Os subcontratados da Meta — anotadores de dados que ensinam a IA a interpretar imagens, rotulando manualmente o conteúdo — também relataram ter visto números de cartões de crédito e documentos financeiros dos usuários. No momento da divulgação do relatório, a Meta respondeu através de um porta-voz, dizendo: “Quando as pessoas compartilham conteúdo com a Meta AI, como outras empresas, às vezes usamos contratados para revisar esses dados para melhorar a experiência das pessoas com os óculos, como declarado em nossa política de privacidade. Esses dados são primeiro filtrados para proteger a privacidade das pessoas.”
Início de uma ação coletiva
O relatório desencadeou ações legais. Em 4 de março, as autoras Gina Bartone e Mateo Canu protocolaram uma ação coletiva contra a Meta Platforms (e a fabricante de óculos Luxottica da América), acusando as empresas de violar leis federais e estaduais ao não divulgar que vídeos capturados pelos óculos são transmitidos para servidores e, em seguida, para um subcontratado queniano para rotulagem manual. Referenciando novas leis de privacidade e regulamentos como resultado do aumento da IA e da economia de vigilância, a ação afirma que “a Meta sabe disso,” em referência à crescente preocupação do público com privacidade e segurança, e que “nesse cenário,” a Meta lançou os óculos com uma “promessa tranquilizadora: Os óculos foram ‘desenhados para privacidade, controlados por você.’
Brian Hall, advogado de privacidade e IA na Stubbs Alderton & Markiles, disse que as revelações são tão previsíveis quanto alarmantes. “Isso é horripilante. É exatamente o que todos nós imaginamos que aconteceria,” Hall disse à Fortune. “Eu sou velho o suficiente para lembrar de 10 ou 12 anos atrás, quando o Google teve seus óculos, e houve preocupação sobre pessoas indo ao banheiro com eles. Estamos meio que de volta a isso agora.”
(Quando o Google revelou seu protótipo Google Glass em 2013, isso desencadeou uma forte reação pública sobre vigilância, consentimento e o fim da anonimidade. Bares, restaurantes, cassinos e casas de entretenimento baniram o dispositivo descaradamente, e quem o usava foi ridiculamente chamado de “Glassholes.”)
Hall disse que a responsabilidade legal continua incerta, em parte porque os próprios termos de serviço da Meta afirmam que os anotadores de dados “revisarão sua interação com a IA, incluindo o conteúdo de suas conversas ou mensagens com a IA,” e especificam que essa revisão “pode ser automatizada ou manual.” “Se nós fizéssemos uma leitura cuidadosa da política de privacidade deles, não haverá nada que diga explicitamente que não fazem isso,” disse Hall. “Em termos de responsabilidade legal, eu não sei, mas certamente é uma responsabilidade de relações públicas. Esta é algumas das informações e imagens mais sensíveis que existem por aí.”
Hall afirmou que sua maior preocupação não são exatamente os usuários dos óculos, mas sim todos os outros que estão no quadro. “Os espectadores, as pessoas que estão sendo filmadas e identificadas, são as que estão em risco,” disse ele. “Infelizmente, nossas leis de privacidade não foram feitas para proteger essas pessoas. Elas foram projetadas para proteger as pessoas que estão usando os óculos e sua capacidade de gerenciar seus próprios dados.”
Em referência a relatos de um homem usando os óculos em um tribunal do Reino Unido para ajudá-lo a “treinar” durante seu testemunho, Hall disse que o risco se complica significativamente, já que a Meta supostamente considera adicionar reconhecimento facial aos óculos. “Realmente estamos passando de um mundo onde hoje você pode ver alguém na rua, em um tribunal, em um bar, e você pode fazer alguma investigação no Facebook e Instagram para encontrá-los. Mas isso é instantâneo. É automático, sem esforço. Você pode estar sentado em um tribunal identificando testemunhas.”
Hall observou que a legislação existente simplesmente não foi construída para o que os óculos da Meta tornam possível. “Eu não sei se as leis existentes são realmente suficientes para nos proteger dos riscos que Meta e outras empresas de mídias sociais estão trazendo agora,” disse ele. “Está sendo meio que encaixotado nas leis de privacidade, mas essas raramente são aplicadas como estão, e isso está completamente transformando toda a estrutura para a qual essas foram construídas.
“Eu não estou vendo que as pessoas estão abordando isso de maneira significativa,” disse ele, observando que os regulamentos atuais são fragmentados e não abordam totalmente as preocupações de privacidade. Uma vez que a privacidade seja abordada, ele disse, “tudo o mais é apenas uma espécie de enfeite.”
A Meta não respondeu a solicitações de comentário.
