Alex Rivlin estava resolvendo uma tarefa de última hora antes de suas férias na Europa. Foi mal acabou recluso em um golpe viabilizado por lucidez sintético.
Rivlin, que administra uma imobiliária em Las Vegas, precisava reservar um transporte até um cruzeiro. Da mesa de sua cozinha, pesquisou no Google o número de atendimento da companhia de cruzeiros, conversou com um representante aparentemente muito informado e forneceu os dados do cartão de crédito.
Segundo Rivlin, o número que ligou aparecia em destaque no recurso “Visão Universal de IA” do Google —respostas geradas por lucidez sintético a algumas buscas. No dia seguinte, ao notar cobranças suspeitas no cartão, percebeu que havia sido traído por um impostor que se passava pelo atendimento da Royal Caribbean.
Ele tinha tombado em uma variação com IA de um golpe clássico, que há anos mira viajantes e consumidores que buscam no Google números de centrais de companhias aéreas ou de outros serviços.
Encontrei o mesmo número usado por golpistas se passando por atendentes de outras empresas de cruzeiro e aparecendo tanto no Google quanto no ChatGPT.
Muito-vindo à era dos golpes com IA. Especialistas alertam que velhas táticas de fraudadores e spammers que já infestaram a internet, redes sociais, emails e mensagens de texto agora também manipulam informações em ferramentas de IA —e Rivlin está entre as primeiras vítimas conhecidas.
“Sou alguém com conhecimento tecnológico avançado, e mesmo assim caí nisso”, disse o fundador do Rivlin Group na LPT Realty.
Veja uma vez que evitar tombar em situações semelhantes à de Rivlin —e o que empresas uma vez que o Google deveriam fazer para impedir criminosos de distorcer informações geradas por IA.
COMO ENGANARAM RIVLIN E O GOOGLE
Rivlin contou que o número falso de atendimento e o suposto representante eram convincentes.
O atendente sabia os valores e locais de embarque dos shuttles da Royal Caribbean em Veneza. Tinha respostas plausíveis para as dúvidas sobre taxas e gorjetas. Chegou a oferecer isenção das tarifas do transporte, e Rivlin aceitou remunerar US$ 768 (R$ 4.150).
Ele disse ter intrigado de alguns detalhes, uma vez que o nome incógnito que apareceu na fatura do cartão.
Quando duas cobranças indevidas surgiram no dia seguinte, percebeu o golpe. Cancelou o cartão, e os valores foram estornados.
Rivlin culpa principalmente os criminosos —e a si próprio. Mas diante de tantas ocorrências semelhantes com usuários do Google, atribui grande secção da responsabilidade à empresa, que, segundo ele, não protege de forma adequada sua utensílio médio de aproximação à informação. Dois especialistas que conhecem de perto os mecanismos internos do Google compartilham da sátira.
Eis uma vez que um golpe desse tipo costuma funcionar: criminosos publicam em sites de avaliação, fóruns e outras páginas números de telefone falsos, dizendo que pertencem ao atendimento de empresas.
O algoritmo do Google, ao buscar sinais de informação relevante e confiável, pode incluir esses números fraudulentos entre os resultados. Quanto mais vezes eles aparecem uma vez que “verdade” online, maiores as chances de serem sugeridos a usuários.
Assim, o Google vira cúmplice involuntário dos golpistas —e nós, suas vítimas.
O mesmo vale para o AI Overviews do Google e para o ChatGPT, que também usam pistas encontradas na internet para montar respostas. Isso os torna alvos fáceis para golpes com números falsos.
“Manipular esses novos sistemas de resposta com técnicas de 30 anos detrás é uma vez que atirar em patos imóveis”, disse Mike Blumenthal, comentador da Near Media, empresa de pesquisa sobre comportamento do consumidor em buscas.
Blumenthal e eu encontramos tanto o Google quanto o ChatGPT identificando o mesmo número falso uma vez que sendo de atendimento de outras linhas de cruzeiro, uma vez que a Disney e a Princess, da Carnival.
Em nota, um porta-voz do Google afirmou que os resultados de procura e o AI Overviews são eficazes em direcionar usuários a informações oficiais de atendimento para os casos mais comuns. Ele acrescentou que a empresa já “tomou providências” contra exemplos de números falsos identificados e segue trabalhando em melhorias mais amplas para mourejar com “consultas mais raras” uma vez que essa.
A Royal Caribbean informa que seu número de atendimento é 1-866-562-7625, exibido em seus sites, aplicativos e faturas. Disney e Princess não responderam aos questionamentos.
A OpenAI disse que muitas das páginas que o ChatGPT usou uma vez que referência para indicar o número falso já foram removidas, mas que pode levar tempo até que as informações sejam atualizadas “depois que o teor reprovável é eliminado na origem”.
COMO SE PROTEGER E O QUE AS EMPRESAS DEVERIAM FAZER
Desconfie de números de telefone mostrados no Google ou em chatbots. Rivlin disse que procurou pelo contato solene da Royal Caribbean em seu aplicativo, mas não encontrou.
É procedente recorrer ao Google ou a chatbots, mas é preciso redobrar o desvelo com números que aparecem ali. Verifique os links associados antes de vincular.
Por que o Google facilita a vida de golpistas? A empresa conhece o histórico de pessoas enganadas por números falsos em buscas e deveria substanciar filtros.
Segundo Lily Ray, vice-presidente de estratégia de SEO na consultoria Amsive, seria mais seguro se o Google não exibisse AI Overviews uma vez que respostas definitivas em pesquisas por telefones de atendimento.
“Permitir que esses resumos de IA apareçam em consultas sobre números de telefone abre uma novidade oportunidade para golpistas —e eles claramente já estão aproveitando isso”, disse Ray por email.
Ray e Blumenthal afirmam que o Google dispõe de bases de dados verificadas com informações de empresas e deveria prometer que exclusivamente elas alimentassem buscas e resultados de IA.
De volta de viagem nesta semana, Rivlin segue circunspecto a possíveis novas tentativas de cobrança ou de roubo de identidade. E faz questão de alertar: nem estar muito informado sobre golpes ou ser entusiasta da IA o protegeu de tombar na cilada.
“Não acredito que fui traído assim”, disse. “Tenham desvelo.”
