A Anthropic anunciou no mês pretérito que limitaria o lançamento do Mythos, seu sistema mais recente de IA, a um número pequeno de organizações, incluindo algumas corporações gigantes de tecnologia, uma vez que a Microsoft e o Google, e grupos que administram partes importantes da internet.

De conciliação com a Anthropic, o novo sistema é poderoso demais para ser compartilhado com o público em universal, porque hackers poderiam usá-lo para explorar falhas de segurança em redes de computadores com uma velocidade impressionante.

Executivos do Vale do Silício e autoridades em Washington ficaram alarmados com o potencial do Mythos, e o lançamento dele pode ter contribuído para enfraquecer a resistência do governo Trump à regulamentação da IA.

Agora, a Morada Branca está avaliando formas de supervisão governamental sobre os novos modelos de IA mediante uma ordem executiva que criaria um grupo de trabalho reunindo executivos de tecnologia e autoridades públicas para examinar possíveis mecanismos regulatórios. A geração de um processo formal de revisão governamental para novos modelos de IA está entre as propostas em discussão.

Mais de um mês depois do lançamento do Mythos, mas, especialistas em segurança cibernética ainda não chegaram a um consenso quanto à decisão da Anthropic. Alguns aplaudem a companhia por restringir o chegada ao Mythos. Outros criticam a empresa por não compartilhar com um grupo mais extenso de pesquisadores que poderiam testá-lo e entender as capacidades e limitações dele. Parece que, até agora, o único consenso é que não há consenso sobre o Mythos.

A Anthropic compartilhou a tecnologia com tapume de 40 organizações que mantêm uma infraestrutura sátira de computação, para que pudessem usar o sistema com o objetivo de emendar vulnerabilidades de segurança antes que hackers se aproveitassem delas.

Somente alguns dos grupos ou das empresas que passaram qualquer tempo usando o Mythos se dispuseram a discutir o objecto com o The New York Times. Mas companhias e pesquisadores que não tiveram chegada concordaram alegremente em oferecer suas opiniões sobre a forma uma vez que a Anthropic lançou sua novidade IA.

Os comentários até agora variaram da indiferença à preocupação acentuada. Pode demorar qualquer tempo até que a comunidade tecnológica em universal conclua se a Anthropic agiu corretamente ao limitar o lançamento do Mythos —repto que os executivos da empresa reconhecem.

“Para recursos uma vez que esse —ou para um protótipo tão poderoso assim—, a situação atual não tem precedentes, porque de vestuário não temos todas as respostas. Não sabemos recta qual é a melhor maneira de lançar modelos uma vez que esse”, afirmou Logan Graham, dirigente do Frontier Red Team da Anthropic, que avalia os riscos do Claude.

Especialistas podem averiguar a mesma situação e chegar a conclusões muito diferentes em razão da natureza inerentemente complexa da segurança cibernética. Sistemas uma vez que o Mythos podem ser usados para estrebuchar redes de computadores, mas também para se tutorar de ataques. Discutem-se, há décadas, as melhores maneiras de mourejar com essa dualidade.

A maioria dos especialistas concorda que tecnologias de IA uma vez que o Mythos estão alterando fundamentalmente a cibersegurança. Essa mudança ganhou força há tapume de seis meses, quando a Anthropic e sua concorrente principal, a OpenAI, lançaram novos sistemas particularmente competentes na geração de código de computador. Se um sistema de IA consegue grafar código, ele tem o potencial de encontrar e explorar vulnerabilidades em aplicativos de software.

Quando apresentou o Mythos, a Anthropic afirmou ter usado a tecnologia para desenredar milhares de vulnerabilidades de segurança que haviam permanecido sem detecção durante anos em sistemas de software populares. A companhia também declarou que o Mythos é mais eficiente em identificar falhas de segurança distintas e conectá-las em “cadeias de exploração” (exploit chains), usadas por hackers mal-intencionados para explorar brechas múltiplas uma vez que segmento de um ataque coordenado. Nas palavras da corporação, a tecnologia representa uma “mudança de patamar” no que é verosímil fazer com a IA.

A Cisco, que desenvolve estrutura de hardware e software, é uma das companhias que usaram o Mythos. Segundo Anthony Grieco, vice-presidente sênior e diretor de segurança e crédito da empresa, essa tecnologia é significativamente mais poderosa do que os sistemas existentes em determinadas áreas. “Corporações uma vez que a Cisco deveriam ser superagressivas na maneira de usar essa tecnologia para identificar vulnerabilidades, corrigi-las e disponibilizar essas correções aos clientes com a maior rapidez verosímil.”

Ele acrescentou que o Mythos é, de vestuário, mais eficiente na identificação de cadeias de exploração, mas ressaltou que essas habilidades podem ser usadas para tutorar uma rede de computadores —e não unicamente para atacá-la. “Estamos usando essa capacidade para ajudar a qualificar vulnerabilidades e entender quais delas são mais importantes e precisam ser corrigidas. Isso demonstra que essa tecnologia também pode ter uma emprego extremamente positiva no campo da resguardo”.

Exatamente por isso, alguns pesquisadores de segurança cibernética argumentam que a Anthropic deveria disponibilizar seu sistema de forma mais ampla. Porquê qualquer outra instrumento de segurança cibernética, é útil tanto para o ataque quanto para a resguardo.

“A tecnologia não é tão perigosa assim para não ser divulgada. Se você não disponibilizar uma instrumento uma vez que essa —ou se a mantiver em sigilo—, não vai resolver o problema real”, observou Gary McGraw, pesquisador veterano de segurança e IA.

Logo em seguida ao proclamação da Anthropic, pesquisadores independentes demonstraram que os sistemas de IA existentes podiam encontrar as mesmas falhas de segurança que o Mythos havia encontrado. Alguns especialistas em cibersegurança argumentaram que a Anthropic exagerara os perigos do Mythos.

Para Pavel Gurvich, cofundador e diretor-executivo da empresa de segurança Tenzai, segmento do problema é que os especialistas independentes em segurança cibernética não conseguem testar o sistema e obter uma compreensão completa de seus pontos fortes e fracos. Esse entendimento pode ajudá-los a se tutorar contra ataques provenientes dessa tecnologia. “Não creio que compartilhar o protótipo com um grupo tão restrito de companhias nos ajude a proceder. Isso é mormente verdadeiro porque o proclamação veio escoltado de afirmações muito ousadas que não temos uma vez que estimar”.

Já Stanislav Fort, ex-pesquisador da Anthropic que agora dirige uma empresa de segurança chamada Aisle, afirmou que manter a tecnologia de IA em sigilo não será verosímil em longo prazo, pois muitas gigantes da tecnologia, startups e desenvolvedores independentes estão criando sistemas poderosos. Muitas dessas organizações estão disponibilizando sua IA uma vez que código acessível, permitindo que qualquer pessoa use e modifique a tecnologia subjacente.

Ele acrescentou que, com o passar do tempo, o compartilhamento extenso dessas tecnologias será precípuo para a segurança cibernética. “Segurança por obscuridade é uma das ideias ruins mais antigas da extensão”, comentou.