Numa recente tarde de sexta-feira, Kashif Hoda estava esperando por um trem perto da Harvard Square quando um jovem lhe pediu direções. Hoda ficou impressionado com os óculos de armação grossa e visual nerd do varão, mas não percebeu que eram o secundário inteligente desenvolvido pela Meta com design da Ray-Ban Meta —uma pequena luz branca indicava que as lentes estavam gravando.
Poucos minutos depois, quando o trem de Hoda estava chegando à estação, o varão de óculos, que era um estudante do terceiro ano da Universidade de Harvard chamado AnhPhu Nguyen, aproximou-se dele novamente.
“Você por possibilidade é a pessoa que trabalha com questões de minorias para muçulmanos na Índia?”, Nguyen perguntou.
Hoda ficou chocado. Ele trabalhava em biotecnologia, mas anteriormente havia sido jornalista e escrito sobre comunidades marginalizadas na Índia.
“Eu já li seu trabalho antes,” disse Nguyen. “Isso é super permitido.”
Eles apertaram as mãos, mas Hoda não teve tempo de continuar a conversa porque seu trem estava prestes a partir. Ele postou nas redes sociais, refletindo sobre quão estranha havia sido a experiência.
Um mês depois, ele descobriu o quão estranha realmente era. Ele havia sido uma cobaia involuntária em um experimento talhado a mostrar o quão fácil era manipular ferramentas de perceptibilidade sintético para identificar alguém e restabelecer informações biográficas da pessoa —potencialmente, incluindo um número de telefone e endereço residencial— sem que a pessoa percebesse.
Um colega enviou uma mensagem para Hoda, dizendo que ele estava em um vídeo que estava viralizando. Nguyen e um colega estudante de Harvard, Caine Ardayfio, haviam construído óculos usados para identificar estranhos em tempo real e os demonstraram em duas “pessoas reais” na estação de metrô, incluindo Hoda, tal qual nome foi transcrito incorretamente nas legendas do vídeo uma vez que “Vishit.”
Nguyen e Ardayfio, ambos com 21 anos e estudando engenharia, disseram em uma entrevista que seu sistema dependia de tecnologias amplamente disponíveis, incluindo:
- Óculos Meta, que transmitem vídeo ao vivo para o Instagram
- Software de detecção facial, que conquista rostos que aparecem na transmissão ao vivo
- Um motor de procura facial chamado PimEyes, que encontra sites na internet onde o rosto de uma pessoa aparece
- Uma utensílio semelhante ao ChatGPT que era capaz de explorar os resultados do PimEyes para sugerir o nome e a ocupação de uma pessoa, muito uma vez que procurar o nome em um site de procura de pessoas para encontrar um endereço residencial, um número de telefone e parentes
“Todas as ferramentas estavam lá,” disse Nguyen. “Nós exclusivamente tivemos a teoria de combiná-las.”
O vídeo faz parecer que o sistema funciona instantaneamente e consistentemente em todo mundo. Mas o processo levou um minuto e meio, disseram os estudantes, e funcionou em murado de um terço das pessoas em que testaram.
Codificar o sistema levou exclusivamente quatro dias. “Passamos a maior segmento do tempo fazendo o vídeo,” disse Ardayfio.
A tecnologia para associar um nome a um rosto agora é gratuita ou barata de usar. Os limites se tornaram, supra de tudo, uma questão de moral e privacidade: é correto ou não fazer isso?
Nguyen e Ardayfio disseram que gostavam de fazer projetos aleatórios por diversão e recentemente criaram um lança-chamas. Esse experimento queimou a perna de Ardayfio, mas foi o sistema de reconhecimento facial que explodiu, metaforicamente. Dada a acessibilidade dos motores de procura facial, eles ficaram surpresos com a atenção que o projeto recebeu ao volta do mundo. Suas principais novidades foram a incorporação do assistente semelhante ao ChatGPT e os Ray-Bans Meta.
A Meta discutiu a geração de óculos de reconhecimento facial semelhantes —e até desenvolveu um protótipo inicial— mas não lançou a função ao público devido a preocupações legais e éticas. Quando o vídeo dos estudantes foi relatado pela primeira vez pelo 404 Media, um porta-voz da Meta, Andy Stone, descartou o papel da empresa por meio de um post no Threads.
“O que esses estudantes fizeram funcionaria com qualquer câmera, telefone ou dispositivo de gravação,” escreveu Stone. “E ao contrário da maioria dos outros dispositivos, os óculos Ray-Ban Meta têm uma luz LED que indica às pessoas que o usuário está gravando.”
Hoda não notou a luz.
Vários investidores desde logo entraram em contato com os estudantes, em mensagens compartilhadas com o The New York Times, oferecendo financiamento para o desenvolvimento suplementar dos óculos. Ardayfio disse que não tinham libido de comercializar leste projeto extracurricular em privado e simplesmente queriam mostrar que era verosímil.
Em um Google Doc que acompanhava seu vídeo, eles incentivaram as pessoas a removerem suas informações de sites de corretores de dados que podem revelar nomes, endereços residenciais e informações de contato.
“Queremos que as pessoas aprendam a se proteger,” disse Ardayfio. Ele e Nguyen removeram informações de sites de corretores de dados que exporiam seus endereços residenciais, mas não tentaram tornar seus rostos não pesquisáveis.
Jim Waldo, professor de ciência da computação em Harvard, disse que ter esses óculos seria útil para ele porque precisava aprender os nomes de 100 estudantes no início de cada semestre.
“Oriente é o tipo de tecnologia que pode ser incrivelmente útil e incrivelmente destrutiva,” ele disse.
Na semana passada, Waldo, que ensina uma lição sobre privacidade e tecnologia, convidou Nguyen e Ardayfio para fazer uma apresentação para seus alunos.
“Isso é permitido?”, perguntou um estudante.
Nguyen disse que eles violaram os termos de serviço de algumas empresas, mas não a lei. A PimEyes removeu o entrada dos estudantes ao seu resultado, de conciliação com o diretor executivo da empresa, porque eles haviam enviado fotos de pessoas sem consentimento.
Massachusetts não proíbe a identificação de pessoas com tecnologia de reconhecimento facial, mas proíbe a gravação de conversas sem consentimento, mesmo em público, disse Woodrow Hartzog, professor de recta na Universidade de Boston.
“Todo esse incidente mostra uma vez que é fácil vigiar secretamente as pessoas com esses óculos,” ele disse.
Se os estudantes tivessem pedido permissão para apresentar Hoda em seu vídeo, ele teria oferecido, disse Hoda. Ele achou que era uma prova importante do que a novidade tecnologia tornava verosímil.
“Quando entrei na internet nos anos 90, era chamada de povoação global,” disse Hoda. “E agora o mundo realmente está se tornando um, o que é bom e ruim. Assim uma vez que uma povoação, todos estão em seus negócios. A privacidade será impossível.”
