Quando, em 2019, a OpenAI terminou de treinar um novo padrão de linguagem de grande graduação chamado GPT-2, o laboratório de IA (perceptibilidade sintético) inicialmente declarou que ele era perigoso demais para ser lançado. Dario Amodei, logo diretor de pesquisa da empresa, insistiu que o mundo precisava de tempo para se preparar.
No término das contas, o padrão foi lançado ainda naquele ano. Uma sequência de modelos muito mais poderosos foi desenvolvida desde logo sem desencadear o Armagedom. No entanto, sete anos depois, Amodei, agora adiante da Anthropic, rival ferrenha da OpenAI, está preocupado novamente.
Na última terça-feira (7), ele declarou que a mais recente soma à família de modelos Claude, batizada de “Mythos”, é poderosa demais para ser amplamente disponibilizada por enquanto. Desta vez, ele pode estar manifesto.
Segundo a Anthropic, as capacidades do Mythos são “substancialmente superiores às de qualquer padrão que treinamos anteriormente”. O laboratório afirma estar particularmente preocupado com a capacidade do sistema de encontrar vulnerabilidades em softwares e corrigi-las (se configurado para atuar uma vez que patrono) ou explorá-las (se agindo uma vez que hacker).
Tais afirmações normalmente seriam recebidas com certa suspicácia. A Anthropic construiu o padrão, conduziu os testes e tem a lucrar com a percepção de que seu sistema é muito mais rútilo do que qualquer outro já criado. O laboratório tem estado em subida ultimamente. Na véspera do pregão do Mythos, afirmou que sua receita anualizada havia apanhado US$ 30 bilhões, contra unicamente US$ 9 bilhões no final do ano pretérito. A empresa certamente está ansiosa para manter esse ritmo.
Ainda assim, há razões para levar a sério os alertas. A primeira é sua seriedade: a Anthropic afirma que o Mythos já encontrou vulnerabilidades severas em “todos os principais sistemas operacionais e navegadores de internet”, incluindo uma que havia pretérito despercebida por 27 anos.
A segunda é a resposta de outras empresas. Junto aos alertas, a Anthropic anunciou o Projeto Glasswing, uma iniciativa para ajudar empresas a usar o Mythos para substanciar suas defesas cibernéticas antes de ele ser amplamente lançado. A participação de desenvolvedores de software de ponta —incluindo Apple, Linux Foundation e CrowdStrike, além do Google, que compete diretamente com a Anthropic em IA— sugere que a ameaço é real.
A abordagem de Amodei para mitigar riscos é sensata. Se tiverem uma vantagem inicial, as empresas podem usar o Mythos para testar códigos não publicados em procura de falhas e corrigi-las antes do lançamento. Mesmo assim, a Anthropic sai ganhando com o Projeto Glasswing. O laboratório cobrirá os primeiros US$ 100 milhões em custos decorrentes do uso do padrão na iniciativa. Mas, eventualmente, cobrará dos participantes cinco vezes mais para usar o Mythos do que ofídio pelo seu predecessor, o Opus.
Esse pode ser um preço que vale a pena remunerar. Os rivais da Anthropic certamente desenvolverão modelos com capacidades de hacking semelhantes mais cedo ou mais tarde. Outros laboratórios de fronteira, uma vez que OpenAI e Google, têm suas próprias políticas de lançamento. Mas laboratórios de código desimpedido, particularmente os sediados na China, tendem a ser menos focados em segurança.
Hackers não são os únicos que podem permanecer irritados com o projeto. O governo dos Estados Unidos há muito procura explorar fraquezas nas defesas cibernéticas de adversários. Isso significou reunir vulnerabilidades desconhecidas, inclusive em softwares americanos usados no exterior, para usar as brechas em momentos oportunos ao governo. Se o Projeto Glasswing funcionar, ele poderá desarmar muitas das armas cibernéticas americanas.
Isso certamente enfureceria Pete Hegseth, secretário de Resguardo dos EUA, que classificou a Anthropic uma vez que um risco à ergástulo de suprimentos recentemente, depois um desentendimento entre a empresa e o Pentágono sobre limites ao uso militar da IA da Anthropic (a designação foi temporariamente bloqueada pela Justiça). Amodei pode continuar sendo uma pedra no sapato dele.
Texto de The Economist, traduzido por Helena Schuster, publicado sob licença. O item original, em inglês, pode ser encontrado em www.economist.com
