A Apple, a Microsoft e o Google anunciaram uma novidade era de smartphones e computadores com perceptibilidade sintético (IA), afirmando que os dispositivos vão automatizar tarefas porquê editar fotos ou parabenizar um companheiro que está fazendo natalício. Mas, para que isso funcione, essas empresas precisam que você forneça mais dados seus.
Nesse novo cenário, seu computador com o sistema operacional Windows fará capturas de tela a cada poucos segundos, registrando tudo que você faz. O iPhone vai coletar informações de todos os aplicativos que você usa. E o Android poderá ouvir uma relação em tempo real para alertar sobre golpes. Você está disposto a compartilhar essas informações?
Essa mudança tem implicações significativas para nossa privacidade. Para oferecer os novos serviços, as empresas e seus dispositivos precisam acessar nossos dados de maneira mais contínua e detalhada do que antes.
No pretérito, a forma porquê usávamos os aplicativos e acessávamos arquivos e fotos em telefones e computadores era relativamente isolada e independente. Mas, segundo especialistas em segurança, a IA precisa de uma visão integrada para relacionar o que fazemos nos aplicativos, nos sites e durante a notícia do dedo.
“Eu me sinto seguro dando informações a essa empresa?”, perguntou Cliff Steinhauer, diretor da National Cybersecurity Alliance, organização sem fins lucrativos especializada em cibersegurança, a saudação das estratégias de IA das corporações.
Tudo isso é resultado da revolução na indústria tecnológica causada pelo ChatGPT, da OpenAI, há quase dois anos. Desde portanto, convencidas de que esse novo tipo de interface computacional —que analisa incessantemente o que você está fazendo para oferecer ajuda— vai se tornar indispensável, a Apple, o Google, a Microsoft e outras empresas reformularam suas estratégias de produtos, investindo bilhões em novos serviços baseados em IA.
Segundo especialistas, o maior risco potencial para a segurança resulta de uma mudança sutil na operação de nossos novos dispositivos. Porquê a IA pode automatizar ações complexas —remover objetos indesejados de uma foto, por exemplo—, às vezes requer mais poder de processamento do que os telefones podem oferecer. Isso significa que nossos dados pessoais podem precisar trespassar do smartphone com mais frequência para ser processados em outro lugar.
As informações são transmitidas para a nuvem —rede de servidores que processam solicitações—, na qual o entrada aos dados pode ser maior, incluindo funcionários da empresa, pessoas mal-intencionadas e agências governamentais. E, embora sempre tenham sido armazenados na nuvem, nossos dados mais pessoais e íntimos, aos quais antes só nós tínhamos entrada —porquê fotos, mensagens e e-mails—, agora podem ser conectados e analisados por uma empresa em seus servidores.
As companhias de tecnologia afirmam ter feito o verosímil para proteger os dados dos cidadãos.
Por enquanto, é importante entender o fado de nossos dados ao usar as ferramentas de IA, por isso busquei mais informações das empresas sobre suas práticas em relação a eles e entrevistei especialistas em segurança. Antes de determinar se vale a pena compartilhar meus dados, vou esperar para ver se as tecnologias funcionam suficientemente muito.
Aquém, tudo que você precisa saber sobre o objecto.
INTELIGÊNCIA DA APPLE
A Apple recentemente anunciou seu primeiro grande passo na corrida da IA, a Apple Intelligence: conjunto de serviços que vão ser incorporados aos mais atualizados e rápidos iPhones, iPads e Macs a partir de setembro. Os usuários vão poder usá-los para remover maquinalmente objetos indesejados de fotos, fabricar resumos de artigos da internet e grafar respostas a mensagens de texto e emails. A Apple também está renovando sua assistente de voz, Siri, para torná-la mais interativa e dar entrada a dados de vários aplicativos.
Durante a conferência da Apple do mês pretérito, na qual foi apresentada a Apple Intelligence, Craig Federighi, vice-presidente sênior de engenharia de software da empresa, compartilhou porquê isso pode funcionar: ele recebeu um email de um colega pedindo que uma reunião fosse adiada, mas, naquela noite, tinha de ver a uma peça estrelada por sua filha. O telefone dele portanto abriu seu calendário, um documento com os detalhes da peça e um aplicativo de mapas para prever se ele chegaria retardado se aceitasse o prorrogação da reunião.
A Apple afirmou estar tentando processar a maior segmento dos dados de IA diretamente em seus aparelhos, para impedir que outros —e ela mesma— tenham entrada às informações. Mas, para as tarefas que precisam ser enviadas aos servidores, a Apple mencionou ter desenvolvido medidas de segurança, incluindo a criptografia dos dados e sua exclusão imediata.
A empresa garantiu ter adotado medidas para que seus funcionários não tenham entrada aos dados, acrescentando que permitirá que pesquisadores de segurança auditem a tecnologia para confirmar que esteja alinhada com as promessas.
Seu compromisso em extinguir os dados dos usuários dos servidores a diferencia de outras empresas que retêm informações. Mas a Apple não foi clara sobre quais novas solicitações da Siri poderiam ser enviadas para os servidores da empresa, disse Matthew Green, pesquisador de segurança e professor associado de ciência da computação da Universidade Johns Hopkins, que foi informado pela Apple sobre sua novidade tecnologia. “Qualquer oferecido que sai do seu dispositivo é inerentemente menos seguro”, completou.
A Apple indicou que, quando a Apple Intelligence estiver disponível, os usuários poderão visualizar um relatório das solicitações que saem do dispositivo para ser processadas na nuvem.
OS LAPTOPS DA MICROSOFT
A Microsoft está levando a IA para o tradicional laptop. Há tapume de duas semanas, a empresa lançou laptops com o sistema operacional Windows chamados de Copilot+ PC, com preço inicial de US$ 1.000 (R$ 5.490), com um novo tipo de chip e outros dispositivos que, segundo a Microsoft, mantêm os dados privados e seguros. Os PCs podem gerar imagens e reescrever documentos, entre outras novas funções baseadas em IA.
A empresa também introduziu o Recall, novo sistema para ajudar o usuário a encontrar rapidamente documentos e arquivos nos quais trabalhou, emails que leu ou sites que navegou. A Microsoft compara o Recall a um tipo de memória fotográfica integrada ao PC. Para usá-lo, o usuário pode grafar frases casuais porquê: “Estou pensando em uma videochamada que tive com Joe recentemente enquanto ele segurava uma xícara de moca com a mensagem impressa ‘I Love New York’.” O laptop portanto recupera a gravação da videochamada com esses detalhes.
Para isso, o Recall faz capturas de tela, a cada cinco segundos, do que o usuário está fazendo na máquina e compila as imagens em um banco de dados que pode ser pesquisado. Porquê as capturas são armazenadas e analisadas diretamente no PC, os dados não são revisados pela Microsoft nem usados para melhorar sua IA, de consonância com a empresa.
Mesmo assim, os pesquisadores de segurança alertaram para os riscos potenciais, comentando que os dados poderiam expor facilmente tudo que foi escrito ou visto se fossem hackeados. Em resposta, a Microsoft adiou indefinidamente o lançamento do serviço, que estava previsto para a semana retrasada. Os laptops vêm equipados com o novo sistema operacional Windows 11 da empresa. Segundo David Weston, executivo da Microsoft responsável pela segurança, o sistema tem vários níveis de segurança.
GOOGLE NO TELEFONE
O Google também anunciou no mês pretérito um conjunto de serviços de IA. Um dos mais importantes foi um novo detector de fraudes telefônicas fundamentado em IA. A utensílio ouve chamadas em tempo real e, se a pessoa que estiver ligando parecer uma verosímil golpista (por exemplo, pedindo um número de identificação bancária), o Google emite um alerta. Segundo a empresa, os usuários vão precisar ativar o detector de fraudes, que funciona integralmente no telefone, o que significa que o Google não ouvirá as chamadas.
A empresa também anunciou outra função, Ask Photos, que requer o envio de informações aos seus servidores. O usuário pode fazer perguntas porquê “Quando minha filha aprendeu a nadar?” para que as primeiras imagens de sua filha nadando apareçam.
O Google afirmou que seus funcionários poderiam, em casos excepcionais, revisar as conversas do Ask Photos e os dados das fotos para combater abusos ou danos, e que as informações também poderiam ser usadas para ajudar a melhorar seu aplicativo de fotos. Em outras palavras: a pergunta e a foto de sua filha nadando poderiam ser usadas para ajudar outros pais a encontrar imagens de seus filhos nadando.
O Google assegurou que sua nuvem está protegida por tecnologias de segurança, incluindo criptografia e protocolos para limitar o entrada dos funcionários aos dados. “Nossa estratégia de proteção à privacidade se aplica aos nossos recursos de IA, independentemente de serem usados em um dispositivo ou na nuvem”, declarou Suzanne Frey, executiva do Google responsável por crédito e privacidade, em transmitido.
Mas Green, o pesquisador de segurança, disse que o padrão do Google em relação à privacidade de IA não parece totalmente evidente: “Não palato da teoria de que minhas fotos e buscas muito pessoais sejam enviadas para uma nuvem que não está sob meu controle.”
