São Paulo

Agentes de lucidez sintético da OpenAI tentaram invadir órgãos do governo dos EUA, sites de empresas e de organizações sem fins lucrativos, segundo levantamento feito por empresas de pesquisa e de perícia do dedo. Um site do governo do Canadá também foi níveo de ataque, mas não há uma comprovação de que a tentativa teria sido feita por agentes da criadora do ChatGPT.

A Asymmetric Security, empresa de perícia do dedo, constatou que os modelos da OpenAI extraíram dados de 55 sites, segundo um relatório ao qual o jornal Financial Times teve aproximação. Entre eles estavam o CDC (Meio de Controle e Prevenção de Doenças dos EUA), a SEC (Percentagem de Valores Mobiliários dos EUA), a AIE (Escritório Internacional de Vontade) e a empresa de pesquisas científicas Mayo Clinic.

A investigação da Asymmetric revelou táticas inéditas usadas pelo software para acessar a internet, incluindo extinguir registros ou torná-los inacessíveis, o que reduziu a capacidade de auditores externos e pesquisadores de examinar as ações da OpenAI.

Entre as táticas usadas estavam a geração de caixas de ingresso temporárias de email e de contas privadas por meio do serviço Urlquery —utensílio usada para verificar a presença de malware em sites— para encolher dados.

Pesquisadores afirmaram que essas ações ocultas de agentes de IA impediram auditores externos de rastrear os tipos de dados que os bots extraíram de sites, uma vez que ocorreu no caso da invasão a um site do governo da Austrália, tornado público na semana passada.

Pippa Thompson, cofundadora da Asymmetric Security, disse que ações desse tipo são geralmente realizadas por hackers humanos. “É provável que os agentes estivessem usando deliberadamente essas ferramentas para encobrir seus rastros”, afirmou.

A Asymmetric não conseguiu ordenar se as ações dos agentes de IA foram deliberadas ou se decorreram de um ramal de comportamento provocado por restrições impostas em um tirocínio de teste. As conclusões aumentam os temores quanto à transparência e à falta de supervisão dos principais laboratórios.

A OpenAI afirmou que está avaliando os casos relatados e que está notificando os alvos dos ataques, quando há uma identificação. A empresa acrescentou ter constatado que a maioria das atividades detectadas envolvia “tarefas rotineiras de pesquisa”, uma vez que o aproximação a teor disponível publicamente na internet.

A SEC afirmou que nenhuma informação privada foi acessada. O CDC, a AIE e a Mayo Clinic não responderam aos pedidos de observação do FT.

Zainab Ali Majid, cofundadora da Asymmetric, disse que a OpenAI mantém aproximação individual às “cadeias de pensamento” de seus agentes, que são registros de atividades com as justificativas para suas ações. As vítimas de violações cibernéticas também mantêm alguns registros dos tipos de dados baixados.

Ela alertou que essa falta de transparência, somada ao pausa entre as invasões e a divulgação feita pela OpenAI, pode dificultar a realização de uma investigação.

TENTATIVA DE ATAQUE NO CANADÁ

Já a empresa de pesquisa em IA Transluce afirmou nessa quarta-feira (30) que agentes de IA tentaram invadir um site do governo canadense, que declarou não ter indícios de que seus sistemas tenham sido comprometidos.

Os agentes tentaram acessar o Library and Archives Canada em 28 de maio e 9 de junho, segundo a Transluce. O governo canadense teria sido informado sobre a ação na segunda-feira.

“Não atribuímos essas tentativas à OpenAI com segurança, mas elas empregam táticas compatíveis com atividades anteriores de agentes que atribuímos à OpenAI em um período semelhante”, afirmou a Transluce.

O serviço online gratuito registo.pt, registo vernáculo da web de Portugal operado pela Instauração para a Ciência e a Tecnologia do país, registrou 899 solicitações ao serviço de “procura no montão” do Library and Archives Canada, incluindo uma série de tentativas de invasão aparentemente frustradas, em 28 de maio e 9 de junho, informou a Transluce.

O Meio Canadense de Segurança Cibernética afirmou na terça-feira estar cônscio dos relatos de uma suposta atividade de agentes de IA. “Até o momento, não há indícios de que sistemas governamentais tenham sido comprometidos”, declarou em nota.

A OpenAI disse estar “cônscio dos relatos de que modelos da OpenAI tentaram acessar informações publicamente disponíveis em sites do governo canadense”. Um porta-voz afirmou que a empresa estava analisando as descobertas relatadas e havia fornecido informações preliminares às autoridades canadenses responsáveis pela investigação do governo.

GOVERNOS TÊM DIFICULDADE PARA ACOMPANHAR IA

As principais empresas de IA do mundo alertaram sobre os riscos que a tecnologia representa para a humanidade e fizeram um apelo para que os governos trabalhem juntos na gestão dessa tecnologia cada vez mais poderosa. Governos de todo o mundo têm encontrado dificuldades para escoltar os rápidos avanços da IA.

Várias violações recentes cometidas por agentes de IA fora de controle em diferentes partes do mundo deixaram governos e empresas em alerta.

Na semana passada, a Austrália informou que um agente da OpenAI invadiu, em junho, um portal governamental de dados de saúde, obtendo aproximação não autorizado a arquivos, no que foi o primeiro caso divulgado de um agente de IA invadindo um site governamental.

O primeiro-ministro australiano, Anthony Albanese, afirmou que a OpenAI inicialmente enviou um email para uma caixa de ingresso pública em 10 de setembro e levou mais cinco dias para entrar em contato com o departamento de segurança cibernética do país.

Na terça-feira (29), a OpenAI pediu desculpas pela invasão do site do governo australiano pelo agente de IA fora de controle.

O grupo de pesquisa em IA Transluce afirmou, em um relatório publicado na semana passada, que a invasão do site do governo australiano fez segmento de uma vaga mais ampla de bots de IA que tinham sites uma vez que níveo para coletar dados destinados a exercícios de treinamento.

_{Com informações da Reuters e do Financial Times}