O laboratório de perceptibilidade sintético Anthropic afirmou em um relatório divulgado na quinta-feira (10) que vários usuários utilizaram seus produtos para atividades que vão desde o desenvolvimento de armas e operações de espionagem eletrônica até vigilância e fraudes.

Cá estão alguns dos casos mais notáveis descritos no relatório, segundo a Anthropic.

ARMAS CONVENCIONAIS

Defesas aéreas da China e de Taiwan: A Anthropic afirmou que um usuário sediado na China utilizou o chatbot Claude para desenvolver um pacote de software de guerra eletrônica e supressão de resguardo aérea que classificava alvos e simulava interferência de radar.

Durante o projeto, o ator simulou 12 alvos em Taiwan, porquê radares, baterias de mísseis e bases aéreas.

A Anthropic disse que dados das contas ligavam o usuário à Liceu de Ciências Militares do Tropa Popular de Libertação e as baniu.

O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório da Anthropic e que o governo defende que a IA seja desenvolvida para o muito, acrescentando que se opõe à distorção dos fatos e às calúnias contra o país.

Sistema antitorpedo chinês: A empresa disse que outro agente sediado na China utilizou o Claude para desenvolver especificações e software de controle de lume para um sistema antitorpedos talhado à Marinha chinesa.

O usuário usou o Claude para elaborar proposta técnica, confrontar o sistema ao da Marinha dos EUA e aprimorá-lo com simulações.

A Anthropic concluiu que o usuário estava ligado a um obreiro da indústria militar chinesa.

Pesquisa chinesa sobre armas de micro-ondas: Um agente na China utilizou o Claude para pesquisar armas de micro-ondas de subida potência estrangeiras, identificar componentes e fornecedores e rastrear cadeias de suprimentos, afirmou a Anthropic.

O usuário buscou dados para engenharia reversa e contramedidas e redigiu relatórios para autoridades chinesas.

Desenvolvimento de mísseis no Iêmen: A Anthropic informou que um grupo mal intencionado no setentrião do Iêmen utilizou o Claude para desenvolver software para um foguete guiado, um míssil balístico com alcance de mais de 2.000 quilômetros e uma versão de míssil que incorpora um veículo de planagem hipersônica.

O grupo mal-intencionado usou o Claude em programação e simulações. A Anthropic disse não ter evidência de arma operacional. “Nossas salvaguardas bloquearam muitas de suas solicitações, mas não todas”, disse a empresa.

Os houthis, alinhados ao Irã e controladores do setentrião do Iêmen, intensificaram ataques à Arábia Saudita recentemente, mas o relatório não os identificou porquê agentes.

Drones russos: A Anthropic afirmou que provavelmente agentes independentes baseados na Rússia usaram o Claude para desenvolver software para um enxame de drones de ataque autônomos com visão em primeira pessoa, incluindo orientação terminal, seleção de alvos e coordenação entre várias aeronaves.

Drones de ataque com visão em primeira pessoa são centrais na guerra na Ucrânia, para reconhecimento e ataques.

A Embaixada da Rússia em Washington não respondeu às perguntas sobre alegações específicas feitas pela Anthropic ou sobre o relatório porquê um todo.

Compra de componentes pela Rússia: A Anthropic disse também que um gerente de compras fundamentado na Rússia utilizou o Claude para identificar intermediários na China e em Hong Kong para comprar produtos europeus com possíveis usos militares e traçar rotas que pudessem ocultar seu tramontana.

Segundo a Anthropic, buscavam magnetômetros alemães, wafers de intensidade espacial e sistemas de oxigênio para aviação. A Rússia recorre a intermediários desde as sanções pela invasão da Ucrânia.

PESQUISA BIOLÓGICA

A Anthropic detalhou cinco tentativas de usar “nossos modelos de maneiras que poderiam estribar o desenvolvimento de armas biológicas”.

Houve pedidos de ajuda para financiar pesquisa de modificação do vírus da chikungunya em uma região onde a Anthropic não oferece serviço.

Em outro caso, também em um lugar onde a empresa não opera, o que exige que os usuários ocultem sua localização para utilizar os serviços, a Anthropic afirmou ter detectado esforços para pesquisar a gripe aviária altamente patogênica.

Outros exemplos incluíram pesquisas relacionadas ao ortopoxvírus e a novos venenos e toxinas não transmissíveis.

INVESTIDAS ELETRÔNICAS

Operações na China: A Anthropic afirmou que operadores de língua chinesa, provavelmente baseados em Changsha, na China medial, utilizaram o Claude em operações digitais contra muro de 50 organizações, incluindo redes de governos estrangeiros.

O grupo, que segundo a Anthropic incluía dois universitários, usou IA para encontrar e explorar vulnerabilidades, com pouca supervisão humana.

Coleta de informações pela Rússia: Um grupo de hackers supostamente realizou operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos nos setores governamental, militar e diplomático da Ucrânia, utilizando IA em quase todas as etapas, afirmou a Anthropic.

As técnicas do grupo eram consistentes com as do agente de ameaças Midnight Blizzard, sediado na Rússia, que o governo dos EUA já havia associado ao serviço de perceptibilidade estrangeira russo SVR.

Reconhecimento naval iraniano: A Anthropic informou ter identificado e neutralizado um operador ligado ao Irã que utilizava o Claude para coletar e examinar dados acessíveis ao público, a término de recomendar alvos contra as forças navais dos EUA na região.

O material incluía dados públicos sobre militares, navios, aeronaves e imagens de satélite.

O operador também pediu pesquisas sobre falhas em sistemas de bordo, comunicações e controle industrial.

VIGILÂNCIA

Recrutamento de uigures na Síria: Segundo a Anthropic, um usuário desempenado à China utilizou o Claude para rastrear e abordar uigures na Síria, incluindo pessoas consideradas vulneráveis, e oferecer pagamento em troca de informações sobre unidades uigures que haviam se juntado ao tropa recém-formado da Síria.

Pequim considera os grupos armados uigures no exterior porquê organizações terroristas e usa isso porquê justificativa para políticas de segurança direcionadas ao grupo étnico predominantemente muçulmano.

A Anthropic avaliou, com insignificante intensidade de crédito, que o operador era um contratado que trabalhava para a segurança do Estado chinês.

Vigilância religiosa e política na China: A Anthropic afirmou que atores ligados à China usaram o Claude para compilar informações de perceptibilidade sobre alvos, incluindo cardeais católicos, líderes cristãos de Taiwan, budistas tibetanos, dissidentes e ativistas.

Em uma operação separada, o chatbot foi usado para automatizar relatórios no estilo governamental que monitoravam uigures, tibetanos, figuras políticas de Taiwan, ativistas trabalhistas e estudantis e a mídia estrangeira.

A China é acusada por governos e entidades de direitos humanos de vigiar críticos no exterior; Pequim nega repressão transnacional.

Vigilância mercantil: A Anthropic informou que baniu uma conta que usava o Claude para produzir uma plataforma de vigilância mercantil destinada a examinar, qualificar e traçar perfis das atividades dos usuários nas redes sociais no Irã e na região do golfo.

A Anthropic afirmou que suas descobertas corroboram uma investigação de fevereiro de 2023 pela rede jornalística Forbidden Stories, que documentou um serviço oferecido por uma empresa chamada S2T Unlocking Cyberspace.

A Anthropic disse ter identificado a atividade na período piloto, sem evidência de uso contra alvos reais. A S2T não respondeu.

Perfilagem iraniana: Um operador ligado ao Irã utilizou o Claude para erigir um sistema automatizado de perceptibilidade de código cândido para perfilar indivíduos de órgãos governamentais e não governamentais israelenses e organizações da diáspora judaica, apontou a Anthropic.

Segundo a empresa, o programa foi executado contra alvos preexistentes, e o operador buscou dados sobre israelenses e norte-americanos.

Vigilância interna no Irã: A Anthropic afirmou ter identificado e repudiado 16 contas do Claude operadas por duas unidades ligadas a agências paramilitares e de segurança interna iranianas não identificadas.

Uma organização, com sete departamentos e escritórios em todo o Irã, alegava manter registros de identidade de cidadãos, segundo a Anthropic.

A outra utilizava o Claude para desenvolver uma extensão maliciosa de navegador usada para coletar em volume identidades de usuários das principais redes sociais.

Um pedido de glosa enviado aos representantes do governo iraniano nas Nações Unidas não foi respondido imediatamente.

Vigilância de comunicações no Mali: A Anthropic afirmou que o Claude foi utilizado porquê principal instrumento para uma plataforma de vigilância doméstica criada para o serviço de perceptibilidade estatal do Mali. A plataforma era capaz de monitorar dados associados sobre 25 milhões de cartões SIM das três operadoras de celular do país.

A empresa afirmou que o sistema, chamado Lakana 360, parece ter sido desenvolvido em grande segmento por um único consultor que trabalhava com a Sucursal Pátrio de Segurança do Estado do Mali.

O gabinete do primeiro-ministro do Mali não respondeu.

Segmentação de campanhas e partidos: A Anthropic também disse ter observado um agente de língua francesa utilizando o Claude para segmentar 42 partidos políticos europeus, mídia, grupos de estudo e provedores de software utilizados por essas organizações.

O sistema do operador roubou dados e credenciais de login de vários serviços. Também compilou uma “plataforma de doxxing criada especificamente para esse término”, que poderia ser usada para coletar e expor informações sobre inúmeras pessoas.

GOLPES

Aplicativos de namoro baseados em IA: A Anthropic informou que uma operação sediada na China desenvolveu mais de 20 aplicativos de namoro contendo mais de 4.700 personas de IA que interagiram com pelo menos 25 milénio usuários.

A operação usava personas e trabalhadores pagos para fazer os perfis parecerem genuínos, informou a empresa.