As ameaças de bioterrorismo estão aumentando devido aos avanços da lucidez sintético e da biologia sintética, alertaram cientistas, em seguida pesquisadores encontrarem uma “vulnerabilidade marcante” em um software que protege o aproximação a material genético usado na fabricação de proteínas letais.
Uma equipe internacional lançou atualizações para fechar a brecha, mas afirmou que se tratava do primeiro “zero day” da IA e da biossegurança —termo usado em ataques cibernéticos para descrever um ponto cego incógnito pelo desenvolvedor do software.
A notícia destaca a crescente urgência em mourejar com potenciais ameaças liberadas pelo uso da IA, que aprofunda e acelera a compreensão dos sistemas vivos e de porquê modificá-los. Especialistas buscam prevenir a geração de armas biológicas e organismos sintéticos que poderiam ameaçar a vida na Terreno.
“A concepção de proteínas com escora da IA é uma das fronteiras mais empolgantes da ciência [e] já estamos vendo avanços em medicina e saúde pública”, disse Eric Horvitz, diretor científico da Microsoft e responsável sênior da pesquisa publicada na revista Science nesta quinta-feira (2). “Ainda assim, porquê muitas tecnologias poderosas, essas mesmas ferramentas também podem ser mal utilizadas.”
Os pesquisadores testaram o software de biossegurança usado para rastrear pedidos de clientes de empresas que vendem ácidos nucleicos sintéticos.
Esses ácidos são usados pelos clientes para erigir DNA que instrui a fabricação de proteínas desejadas, os blocos fundamentais da vida. A triagem de biossegurança é projetada para impedir a venda de materiais que possam ser usados na produção de proteínas nocivas.
Os cientistas utilizaram softwares de código descerrado de design de proteínas com IA para gerar representações computacionais de mais de 75 milénio variantes de proteínas perigosas com alterações estruturais —uma espécie de máscara bioquímico. Embora as ferramentas de triagem tenham funcionado muito para identificar proteínas naturalmente perigosas, elas não detectaram algumas das versões alteradas, descobriram os pesquisadores.
Mesmo depois que todas, exceto uma das empresas, aplicaram as correções de software, tapume de 3% das variantes de proteínas com maior verosimilhança de manter funções nocivas ainda passaram pelo monitoramento sem serem detectadas.
Os cientistas trabalharam com organizações porquê o International Gene Synthesis Consortium e autoridades dos EUA para resolver o problema.
A pesquisa ocorre em seguida alguns cientistas renomados pedirem uma avaliação sistemática dos softwares de triagem de biossegurança e uma governança global aprimorada da síntese de proteínas potencializada por IA.
Biólogos de destaque também pressionam por um harmonia internacional para evitar a geração de possíveis micróbios artificiais letais, caso se torne tecnologicamente viável produzi-los.
Horvitz afirmou que houve uma “intensidade de reflexão, estudo e metodologia” em torno da possibilidade de que modelos de linguagem de grande graduação possam ser usados para fomentar “ações malévolas com biologia”.
A Microsoft já havia incorporado essas possibilidades em suas revisões de segurança de produtos e desenvolvido um “conjunto crescente de práticas” de “red-teaming”, ou seja, a procura por potenciais vulnerabilidades.
O estudo publicado na Science destacou uma “questão urgente na engenharia de proteínas e na biossegurança”, disse Francesco Aprile, professor associado de química biológica no Imperial College London.
“Com a introdução de melhorias direcionadas no software existente, os autores aumentam significativamente a detecção e o alerta”, afirmou Aprile. “Esse trabalho fornece uma salvaguarda prática e oportuna que fortalece a triagem atual da síntese de DNA e estabelece uma base sólida para otimizações contínuas.”
Essas defesas precisam ser reforçadas rapidamente devido ao ritmo depressa dos avanços técnicos na extensão, alertou Natalio Krasnogor, professor de ciência da computação e biologia sintética na Universidade de Newcastle. Embora os aspirantes a bioterroristas de hoje precisem de conhecimento especializado, tempo e recursos financeiros para realmente fabricar proteínas nocivas, essas barreiras tendem a diminuir.
“Precisamos, porquê sociedade, levar isso a sério agora”, disse Krasnogor, “antes que avanços adicionais em IA tornem a validação e a produção experimental de toxinas sintéticas viáveis muito mais fáceis e baratas do que são hoje.”
