Londres

|Financial Times
A Anthropic alertou que vírus de IA mal-intencionados em breve poderão sequestrar dispositivos domésticos inteligentes, uma vez que fornos e televisores, criando uma novidade ameaço à segurança cibernética que será difícil de sustar.

A desenvolvedora do Claude afirmou, em uma publicação em seu blog na segunda-feira (12), que agentes de IA podem estar a poucos meses de conseguir se “autorreplicar” entre dispositivos domésticos do dia a dia, criando redes potencialmente incontroláveis de agentes de IA.

O alerta da Anthropic é o mais recente de uma série de advertências sobre segurança cibernética feitas por pesquisadores de IA à medida que os recursos avançam e os modelos se tornam mais difíceis de controlar.

A empresa afirmou que, se os modelos de IA continuarem a evoluir no ritmo atual, a tecnologia será capaz de se espalhar pela internet uma vez que vírus de computador —programas maliciosos que conseguem passar maquinalmente de um dispositivo para outro sem mediação humana.

“Estamos vendo sinais de vida de vírus de IA”, afirmou a Anthropic em uma publicação sobre sua pesquisa, comparando a lenta propagação deles por dispositivos sem segurança a um “bolor peganhento do dedo”.

O alerta sugere que o tipo de ataque que surpreendeu pesquisadores ao investigarem a invasão recente de enxames de agentes da OpenAI ao site da Hugging Face poderia ser replicada em ataques a dispositivos presentes em residências e empresas alheias ao risco.

O mais recente alerta da Anthropic refere-se aos chamados dispositivos da “internet das coisas”, que proliferaram na última dezena à medida que consumidores passaram a usar aparelhos que controlam luzes, tomadas, termostatos e sistemas de segurança.

Historicamente, muitos desses dispositivos conectados à internet oferecem baixos níveis de segurança porque foram fabricados a grave dispêndio por produtores de hardware padronizado, são usados para a transmissão proibido de serviços de TV ou porque as empresas que originalmente os criaram encerraram suas atividades.

O hardware sem segurança cria terreno fértil para hackers, que já usam a capacidade da IA de programar para apressar e personalizar seus ataques.

Há muito tempo, os vírus são uma forma popular e eficiente de hackers distribuírem programas maliciosos, pois conseguem se replicar e se espalhar rapidamente por uma grande rede.

Entre os exemplos de destaque estão o vírus ILOVEYOU, que se espalhou por computadores com Windows no início da era das pontocom; o Stuxnet, da dezena de 2010, que originalmente tinha uma vez que escopo o programa nuclear do Irã; e o ransomware WannaCry, que se disseminou amplamente e atingiu organizações uma vez que Deutsche Bahn, o Serviço Pátrio de Saúde do Reino Unificado, Telefónica, Renault e FedEx.

Os vírus movidos a IA combinariam a capacidade desses exemplos de se espalhar pela internet com os recursos avançados dos modelos de IA.

“Esperamos um porvir repleto de agentes operando em todos os tipos de hardware, inclusive alguns que não estarão sob controle humano”, afirmou a Anthropic. “Embora seja verdade que os dispositivos de ‘internet das coisas’ sejam vulneráveis há muito tempo, agentes leves podem estar muito mais dispostos do que invasores humanos a fazer o esforço necessário para comprometer grandes parcelas da capacidade computacional de ‘internet das coisas’ do mundo.”

No início, esses vírus de IA se propagariam lentamente, de forma semelhante a “um bolor ou a um enxame de moscas-das-frutas, que se reproduzem ao longo de vários dias”. Mas isso pode se apressar à medida que os eletrônicos de consumo se tornem mais sofisticados e os modelos, mais eficientes.

“Ainda não temos um replicador mal-intencionado completo, mas os agentes estão cada vez mais capazes de concluir as etapas individuais da masmorra de replicação”, afirmou a Anthropic. “Devemos buscar substanciar nossos sistemas para dificultar a disseminação desses replicadores, mas também nos preparar para mourejar com um mundo no qual eles vieram para permanecer.”