The Economist
Nunca houve momento melhor para ser um hacker norte-coreano. No ano pretérito, os ladrões cibernéticos do país roubaram US$ 2 bilhões em criptomoedas, o triplo do montante registrado dois anos antes, segundo a Chainalysis, uma empresa de pesquisa.

Neste ano, o butim deve ser muito maior. Em 29 de outubro, US$ 6,3 bilhões foram surrupiados da Binance, a maior corretora de criptomoedas do mundo. O FBI, a polícia federalista americana, apontou o dedo para o reino eremita.

Os detalhes de porquê exatamente o roubo foi realizado ainda são nebulosos. A Binance afirmou que hackers obtiveram entrada a seus sistemas por meio do laptop de um de seus engenheiros. O que está simples é que os rápidos avanços da perceptibilidade sintético nos últimos anos conferiram novos poderes aos criminosos cibernéticos, que a utilizam para produzir malware em volume, executar sofisticados esquemas de “phishing” e, cada vez mais, vasculhar códigos de software em procura de vulnerabilidades.

Paradoxalmente, o risco representa uma oportunidade de ouro para os laboratórios de ponta. Sarah Friar, diretora financeira da OpenAI, afirma confiar que a segurança cibernética se tornará um “negócio gigantesco” para sua empresa nos próximos dois anos. Recentemente, a companhia contratou um executivo da Wiz, empresa israelense de segurança cibernética pertencente ao Google, para vender seu software a grandes organizações.

Da mesma forma, em documentos apresentados recentemente para sua futura estreia na bolsa, a Anthropic, arquirrival da OpenAI, descreveu a segurança cibernética porquê “uma de nossas mais importantes oportunidades de limitado prazo”. Ainda assim, lucrar com os riscos cibernéticos gerados pela IA será complicado para as criadoras de modelos.

A conscientização sobre as capacidades da IA para realizar ataques hackers ganhou destaque em abril, quando a Anthropic decidiu não disponibilizar ao público um padrão avançado chamado Mythos. Em vez disso, ofereceu-o a empresas de software e instituições financeiras selecionadas, para ajudá-las a identificar falhas em suas defesas cibernéticas. A OpenAI logo apresentou sua própria solução. A tecnologia da criadora do ChatGPT foi usada recentemente para identificar um conjunto de vulnerabilidades no PHP, linguagem de programação que sustenta boa segmento da internet.

Alguns esperam que os gastos com softwares de segurança cibernética —que chegaram a US$ 150 bilhões no ano pretérito, segundo a provedora de dados IDC— aumentem drasticamente à medida que as empresas se deem conta da ameaço crescente.

Greg Brockman, cofundador da OpenAI, previu recentemente que, com o tempo, esse valor “superará em muito” os gastos com todos os demais tipos de software. No mês pretérito, a empresa de capital de risco Andreessen Horowitz recomendou às companhias nas quais investe que considerassem inflectir suas despesas. O banco Goldman Sachs aumentou substancialmente a parcela de seu orçamento de IA destinada à segurança cibernética, segundo pessoas familiarizadas com a iniciativa.

Para os laboratórios de IA, a detecção de vulnerabilidades cibernéticas parece combinar muito muito com sua tecnologia. Assim porquê a programação, trata-se de um “domínio verificável”, no qual os modelos podem aprender ao responder corretamente a perguntas, explica Nazneen Rajani, diretora-executiva da Collinear AI, que presta serviços de avaliação de modelos.

Um dos desafios até agora é que, embora os modelos de ponta tenham se mostrado capazes de “encontrar agulhas no palheiro”, eles têm sido menos úteis na hora de priorizar e emendar falhas, afirma Bobby Kuzma, da IDC.

Isso pode mudar. Em setembro, a Collinear AI lançou um teste de segurança cibernética que avaliava a capacidade dos modelos de encontrar e emendar vulnerabilidades. O melhor resultado da Anthropic à era concluiu com triunfo menos da metade das tarefas. No mês pretérito, um novo padrão do Google atingiu 71%.

O repto maior talvez seja convencer as empresas a repensar a forma porquê empregam seus orçamentos de segurança cibernética. O negócio de identificar e emendar vulnerabilidades é altamente fragmentado: historicamente, os clientes tendem a comprar ferramentas de diversos fornecedores e a contratar consultorias de TI para ajudar na implementação. A Anthropic e a OpenAI, por sua vez, propõem deixar seus bots percorrerem toda a base de código de uma empresa e corrigirem as falhas à medida que forem encontradas.

Ultimamente, o mercado de segurança cibernética vem se consolidando em torno de um número menor das chamadas plataformas, incluindo fornecedores independentes, porquê a Palo Eminente Networks, e gigantes da computação em nuvem, porquê a Microsoft. Essas empresas também oferecem ferramentas para outras tarefas nas quais os modelos de IA atualmente são menos úteis, porquê prometer que somente usuários autorizados tenham entrada aos sistemas e solucionar violações quando elas ocorrem.

Essas empresas estabelecidas passaram anos construindo relações de crédito com seus clientes. Nos últimos meses, em contrapartida, os principais laboratórios de IA tiveram dificuldades para controlar suas próprias criações, com episódios constrangedores porquê o ocorrido em julho, quando um sistema da OpenAI invadiu a Hugging Face, uma livraria de modelos, sem ter recebido instruções para isso.

Alguns profissionais do setor de segurança cibernética duvidam que as criadoras de modelos qualquer dia consigam erigir os relacionamentos necessários para se tornarem fornecedoras líderes nessa superfície. Em vez disso, a oportunidade talvez esteja em repartir sua tecnologia por meio de terceiros, ao mesmo tempo que incentivam as empresas a reescrever códigos do zero, de forma segura, usando seus modelos. Os norte-coreanos torcerão para que elas fracassem.