Quando a Anthropic anunciou neste mês que havia construído um protótipo de IA (lucidez sintético) tão poderoso que era perigoso demais para ser disponibilizado ao público, a empresa citou 11 empresas parceiras para montar um grupo de resguardo, todas dos Estados Unidos.
Em duas semanas, o protótipo chamado Mythos desencadeou uma corrida global sem precedentes na era da IA.
Segundo a Anthropic, o protótipo tem uma capacidade extraordinária de encontrar e explorar falhas ocultas nos softwares que operam bancos, redes elétricas e governos do mundo, fazendo dele uma moeda de troca geopolítica —controlada por uma empresa americana.
Líderes mundiais têm tentado dimensionar os riscos de segurança e uma vez que resolvê-los. Além dos EUA, a Anthropic compartilhou o Mythos somente com o Reino Uno
O presidente do Banco da Inglaterra alertou publicamente que a Anthropic pode ter encontrado uma forma de “transfixar completamente o mundo do risco cibernético”. O Banco Mediano Europeu começou a questionar discretamente os bancos sobre suas defesas. A ministra das Finanças do Canadá comparou a ameaço ao fechamento do estreito de Hormuz.
Para rivais dos EUA, uma vez que China e Rússia, o Mythos evidenciou as consequências de permanecer para trás na corrida da IA. Um veículo russo pró-Kremlin chamou o protótipo de “pior que uma petardo nuclear”.
As reações ilustraram uma verdade sobre a qual pesquisadores de IA há muito tempo alertam: quem liderar a construção dos modelos de IA mais poderosos obterá vantagens geopolíticas desproporcionais.
Grandes avanços em IA estão começando a funcionar menos uma vez que lançamentos de produtos e mais uma vez que testes de armas, e a maioria das nações quer entender uma vez que as tecnologias funcionam e quais proteções são necessárias.
À medida que os modelos fundamentais de IA “se tornam mais consequentes, o aproximação se torna mais geopolítico”, disse Eduardo Levy Yeyati, ex-economista-chefe do Banco Mediano da Argentina e assessor regional de incremento e IA no BID (Banco Interamericano de Desenvolvimento).
“Eu consideraria levante incidente um alerta para políticas públicas. Os governos não podem mais ignorar a questão”, disse.
Até mesmo o governo dos EUA, que se envolveu em um conflito com a Anthropic sobre o uso militar da IA da startup, tomou conhecimento do Mythos.
Na última sexta-feira (17), Dario Amodei, CEO da Anthropic, reuniu-se com autoridades da Moradia Branca depois que alguns membros do governo Trump notaram o potencial do novo protótipo para provocar estragos em sistemas de computadores.
A Anthropic, sediada em San Francisco, disse ao New York Times que estava restringindo o aproximação ao Mythos por questões de segurança. A empresa tem focado em compartilhar o protótipo com mais de 40 empresas que fornecem tecnologia usada na manutenção de infraestrutura global sátira, uma vez que a internet ou redes elétricas.
A Anthropic nomeou 11 das companhias, incluindo Amazon, Apple e Microsoft, que se comprometeram a ajudar a desenvolver correções para vulnerabilidades identificadas pelo protótipo.
A empresa disse que não tinha um cronograma inesperado para expandir amplamente o aproximação, mas que trabalharia com o governo dos EUA e parceiros da indústria para mandar os próximos passos. Afirmou também que foi bombardeada por ligações de governos, empresas e outras organizações buscando aproximação e informações, mas que essas organizações podem ter níveis variados de expertise para calcular com segurança o protótipo.
A Anthropic acrescentou que espera que outros grupos lancem modelos de IA com capacidades cibernéticas semelhantes de forma mais ampla dentro de pelo menos 18 meses, dando às organizações tempo restringido para resolver problemas de segurança.
Na terça-feira (21), a Anthropic disse que estava investigando um relato de que usuários não autorizados obtiveram aproximação a uma versão do Mythos.
A corrida em torno do protótipo acontece em um momento de cooperação internacional mínima em IA. Governos estão olhando uns para os outros com suspeição enquanto corporações correm para superar rivais. Não há equivalente ao Tratado de Não Proliferação Nuclear, não há inspeções compartilhadas e não há regras acordadas sobre uma vez que mourejar com um tanto uma vez que o Mythos.
Quando a Anthropic anunciou o protótipo, muitos especialistas elogiaram a cautela da empresa em limitar quem pode testar o protótipo, mas expressaram preocupações sobre a falta de coordenação internacional para mourejar com o risco.
O Reino Uno foi a única outra região a obter aproximação. O Instituto de Segurança em IA, organização apoiada pelo governo britânico, testou o Mythos e publicou uma avaliação independente na semana passada, confirmando que ele poderia realizar ataques cibernéticos complexos que nenhum protótipo de IA anterior havia completado.
“Isso representa um progressão nas capacidades cibernéticas da IA”, disse Kanishka Narayan, ministro de IA do Reino Uno, na semana passada nas redes sociais, afirmando que o país estava tomando medidas para proteger a “infraestrutura pátrio sátira”.
Outros receberam menos informações. A Percentagem Europeia, o braço executivo da UE, reuniu-se com a Anthropic pelo menos três vezes desde o lançamento do Mythos, disse um funcionário do conjunto. Mas a empresa não forneceu aproximação ao protótipo porque os dois lados não chegaram a um contrato sobre uma vez que compartilhá-lo, acrescentou.
Em expedido, a percentagem afirmou que estava “avaliando possíveis implicações” do Mythos, que “exibe capacidades cibernéticas sem precedentes”.
Claudia Plattner, presidente da sucursal de segurança cibernética da Alemanha, conhecida uma vez que BSI, disse que não recebeu aproximação ao Mythos, mas se reuniu recentemente com funcionários da Anthropic em San Francisco para obter “informações significativas” sobre uma vez que ele funciona.
As capacidades apontam para “uma mudança de paradigma na natureza das ameaças cibernéticas”, disse Plattner em expedido.
Entre os rivais dos EUA, a resposta tem sido mais contida. Apesar do recente embate da Anthropic com o governo Trump, Amodei deixou evidente que a IA deve ser usada para tutelar os EUA e outras democracias e derrotar adversários autocráticos.
Nem Pequim nem Moscou fizeram declarações públicas importantes sobre o Mythos. Dentro da China, pesquisadores e a comunidade de IA em universal têm escoltado de perto, segundo analistas que estudam a comunidade tecnológica do país.
Muitos dos bancos, empresas de virilidade e agências governamentais chineses operam com o mesmo software no qual o Mythos encontrou vulnerabilidades —mas, por enquanto, eles não têm lugar à mesa.
Liu Pengyu, porta-voz da Embaixada da China em Washington, disse que a China não estava familiarizada com os detalhes do Mythos, mas apoiava um ciberespaço pacífico, seguro e cândido.
O Mythos é o mais recente sinal de uma crescente subdivisão global em IA. Nações sem infraestrutura de computação poderosa e modelos de IA correm o risco de ficarem dependentes de empresas uma vez que Anthropic, Google e OpenAI, tendo pouca influência sobre uma vez que seus produtos são projetados e protegidos, disse Yeyati.
“A teoria de que o aproximação à IA de fronteira é um tanto que uma empresa pode restringir unilateralmente, usando critérios opacos e sem possibilidade de recurso, deveria ser uma preocupação real”, disse.
