A startup chinesa de IA Z.ai anunciou nesta sexta-feira (14) que seu protótipo de código ingénuo GLM-5.3 se aproximou do Mythos 5, da Anthropic, na identificação de vulnerabilidades de software, reforçando as credenciais de uma concorrente chinesa no campo da lucidez sintético (IA) que vem ganhando força entre os desenvolvedores ocidentais.
A Z.ai informou que o GLM-5.3 obteve 84,5% no CyberGym, um teste que avalia se um protótipo é capaz de investigar código, identificar falhas de segurança e confirmar que elas são reais. Esse resultado foi ligeiramente superior aos 83,8% relatados para o Mythos 5. Os resultados ainda não foram verificados de forma independente.
O GLM-5.3 ficou detrás do Mythos 5 na conversão de falhas descobertas em ataques efetivos —uma segmento padrão da pesquisa de segurança defensiva. A Z.ai informou que seu protótipo obteve 54,4% no teste ExploitBench para essa capacidade, contra 78,0% do Mythos 5.
Em um teste cronometrado separado, a Z.ai informou que o GLM-5.3 concluiu 105 tarefas de desenvolvimento de ataques em duas horas e 130 em seis horas. O Mythos 5 concluiu 181 e 247 tarefas, respectivamente.
A Anthropic disponibilizou o Mythos —uma versão de seu protótipo Claude Fable 5 com as proteções de cibersegurança removidas— exclusivamente para organizações previamente avaliadas. Esses controles refletem a preocupação de que sistemas de IA capazes de identificar e explorar falhas de software possam facilitar defensores, mas também possam reduzir barreiras para invasores.
A Z.ai informou que lançará o GLM-5.3 publicamente em muro de duas semanas, depois concluir as avaliações de segurança e substanciar suas proteções. Suas funções de segurança cibernética mais sensíveis estariam disponíveis exclusivamente para usuários verificados por meio de um programa de “entrada confiável”, afirmou a empresa.
Em uma postagem na rede social X nesta sexta-feira, a empresa escreveu que o entrada inicial ao protótipo será compartilhado com um grupo seleto de parceiros de lançamento, que posteriormente será ampliado “por meio de um processo consistente e responsável”, ecoando a linguagem do esquema de entrada restringido “Project Glasswing” da Anthropic para o Mythos.
“Pelo que sei, esta é a primeira vez que um laboratório chinês justifica publicamente o protraimento do lançamento ingénuo dos pesos do protótipo com base em considerações de segurança”, disse Gabriel Wagner, pesquisador de governança de IA da Concordia AI, uma consultoria com sede em Pequim focada em segurança de IA.
“Isso mostra que as práticas de gestão de risco relacionadas a pesos abertos na China estão se tornando mais sofisticadas.”
A empresa informou ter adicionado várias camadas de proteção ao GLM-5.3, incluindo sistemas para filtrar solicitações de risco, monitorar o funcionamento do protótipo e treiná-lo para rejeitar tarefas maliciosas.
Segundo a empresa, essas medidas foram projetadas para notabilizar atividades prejudiciais de usos legítimos, uma vez que correção de bugs, ensino de segurança cibernética ou testes de segurança autorizados.
Mas os críticos afirmam que essas proteções se tornam mais difíceis de impor logo que um protótipo é lançado para que outras pessoas possam baixá-lo, alterá-lo ou combiná-lo com ferramentas externas.
DESAFIANDO O MITO DO CÓDIGO FECHADO
A Z.ai apresentou o lançamento uma vez que um duelo ao protótipo de entrada restrito representado pelo Mythos. A empresa argumenta que ferramentas avançadas de resguardo cibernética deveriam estar disponíveis para desenvolvedores de software de código ingénuo e equipes de segurança menores, em vez de serem controladas por um número restringido de fornecedores de modelos fechados.
A empresa afirmou que dará início a uma iniciativa chamada “Open Source Shield” para auditar projetos de código ingénuo selecionados, fornecer entrada a modelos para trabalhos defensivos e somar funções de auditoria de código ao seu resultado de programação ZCode.
“Nesse espírito, a Z.ai parece estar propondo uma espécie de ‘Projeto Glasswing’ com características chinesas, que vê a brecha uma vez que um trunfo, e não uma vez que uma desvantagem”, disse Wagner, referindo-se ao consórcio de empresas ocidentais com entrada ao Mythos.
A Hugging Face, startup de IA sediada em Novidade York, informou no mês pretérito que utilizou o protótipo anterior da Z.ai, o GLM-5.2, para se tutelar contra um ataque cibernético perpetrado por um agente de IA da OpenAI que invadiu seus sistemas.
A Z.ai não é a primeira empresa chinesa a posicionar um resultado uma vez que resposta ao Mythos. A empresa de segurança cibernética 360 afirmou em junho que seu sistema de detecção de vulnerabilidades Tulongfeng havia obtido capacidades equivalentes às do Mythos ao combinar modelos de IA com dados de segurança e ferramentas automatizadas, embora essas alegações não tenham sido verificadas de forma independente.
O GLM-5.3 se diferencia por ser um protótipo de codificação de uso universal que, segundo a Z.ai, adquiriu capacidades de segurança cibernética por meio de um pós-treinamento ampliado e de tirocínio por reforço, em vez de ser um sistema de segurança desenvolvido especificamente para esse termo. A empresa afirmou ter utilizado o mesmo protótipo base do GLM-5.2, mas o treinou em ambientes de tarefas mais longos e variados.
O lançamento aproveita o interesse global pelo GLM-5.2, que ganhou destaque nos últimos meses entre desenvolvedores internacionais por seus recursos de codificação e de agentes, que, segundo usuários e analistas, se aproximavam dos principais modelos dos EUA, mas a um dispêndio muito menor.
