Em pouco mais de um ano desde seu lançamento nos EUA, o livro “O Poderio da IA”, da jornalista americana Karen Hao, se tornou uma das principais referências para quem procura entender a era da perceptibilidade sintético generativa.
Na obra, Hao conta a história da subida da OpenAI com base em centenas de entrevistas e documentos, que trazem detalhes indecorosos. O retrato que aparece no livro é muito dissemelhante da imagem pública que a empresa se empenha em erigir.
A debutar pelo próprio CEO da OpenAI, Sam Altman, que surge uma vez que alguém que, aos olhos de colaboradores importantes, não seria digno de crédito. Mesmo o padrão de negócios da empresa que atrai bilhões em investimentos vira branco. Para Hao, os planos não são sólidos, e os próprios funcionários da empresa confessam isso à boca pequena.
A epílogo da jornalista é que as empresas de IA são uma vez que os impérios coloniais do pretérito: movidas pela concentração de poder, exploração do trabalho e de recursos naturais, além da procura por influência política.
De visitante ao Brasil para lançar o livro em português, Hao diz nesta entrevista à Folha que esses traços imperiais das empresas de IA vêm se aprofundando —inclusive por razão da confederação com o governo Donald Trump, hipotecado em promover o uso militar dessa tecnologia.
A jornalista defende uma ação contundente da sociedade social, nos EUA e no resto do mundo, para pressionar políticos e tornar mais difíceis os negócios dessas companhias.
O livro mostra uma vez que a OpenAI saiu de uma organização sem fins lucrativos para uma estrutura que comporta o lucro. Agora, a empresa vai realizar seu IPO. É a epílogo proveniente do processo que você descreve? Com o capital crédulo, pode-se esperar mais transparência?
É provável que a OpenAI se torne relativamente mais transparente do que uma empresa de capital fechado. Mas isso significa que será transparente em termos absolutos? Não.
Outro dia eu conversava com um ex-colega do Wall Street Journal que cobre os aspectos financeiros da indústria de IA. Ele comentava que hoje existem muitas maneiras criativas pelas quais até empresas de capital crédulo escondem uma vez que realmente estão gastando verba com perceptibilidade sintético.
E a OpenAI é conhecida justamente por gerar uma estrutura com múltiplas entidades sobrepostas, o que dificulta entender uma vez que o verba circula, quem governa quem e uma vez que funciona a governança da organização. Por isso, não espero que a brecha de capital resolva repentinamente nenhum desses problemas.
As empresas de tecnologia aprofundaram sua confederação com o governo Donald Trump. O que essa parceria representa?
A principal diferença entre os antigos impérios e essas empresas era unicamente o intensidade de violência que exerciam. Essa diferença está diminuindo, por razão da confederação com o Estado. As empresas de IA estão vendendo suas tecnologias diretamente para os militares, para serem usadas em guerras.
Embora existam pequenas diferenças na forma uma vez que cada uma aborda essa questão, no término todas estão contribuindo para integrar suas tecnologias ao ostentação estatal de violência.
A relação entre essas empresas e o governo Trump me lembra a da Companhia Britânica das Índias Orientais com a grinalda britânica. Eram duas entidades distintas, mas tinham uma agenda generalidade e buscavam expandir seu poder e sua influência pelo mundo.
Hoje essa confederação beneficia o Vale do Silício porque dá às empresas chegada a mais espaços de poder, a mais terras e à possibilidade de trenar formas ainda mais extremas de poder.
Essa situação pode se resolver, desde que haja uma mobilização social muito potente e mecanismos de responsabilização capazes de pressionar essa confederação entre Estado e empresas.
A guerra na região do Golfo tem servido de laboratório para o uso de IA aplicada a conflitos armados. Quais serão os efeitos dessa guerra para esse setor?
A primeira consequência é que a guerra obrigou a indústria a revelar com muito mais transparência sua verdadeira posição em relação ao uso militar da perceptibilidade sintético. Ficou evidente que essas empresas estão perfeitamente dispostas a estribar esse tipo de operação.
A segunda consequência diz reverência aos riscos financeiros. Por razão da guerra, os preços da vontade aumentaram.Todas as projeções que elas fizeram —sobre quando passariam a gerar lucro— partiam de determinadas premissas sobre o preço da vontade e o dispêndio de funcionamento de seus data centers. Essas premissas mudaram completamente e o risco financeiro aumentou bastante.
Por um lado, a guerra mostrou com mais transparência o dano que essas empresas podem fomentar, tanto do ponto de vista humano quanto econômico. Por outro, revelou ainda mais suas fragilidades
A oposição às empresas de IA tem desenvolvido nos Estados Unidos, com ações contra projetos de data centers em diversas comunidades. Quais serão os efeitos desse movimento?
O exemplo que sabor de usar é o da OpenAI ter encerrado seu serviço de vídeos. Quando o Sora foi lançado, a empresa o apresentou uma vez que seu resultado mais importante desde o ChatGPT. O roupa de a empresa ter encerrado essa iniciativa se deve, na minha avaliação, a três fatores —todos influenciados por ações de base.
O primeiro é a limitação da capacidade computacional. Os protestos contra os data centers estão restringindo a capacidade da empresa de continuar expandindo sua infraestrutura e mantendo tantos produtos diferentes.
O segundo é a incerteza em relação ao porvir financeiro. Wall Street está cada vez mais preocupada com a reação política e social à indústria de IA e começa a duvidar de que ela conseguirá satisfazer as promessas que fez aos investidores. À medida que a OpenAI se prepara para penetrar capital, ela também se torna mais vulnerável à opinião do mercado.
O terceiro fator é que a demanda dos consumidores parece ter estagnado. As pessoas simplesmente não querem esse tipo de tecnologia tanto quanto se imaginava. Essa também é uma forma de ação coletiva.
Não podemos narrar que formuladores de políticas públicas façam a coisa certa espontaneamente. Eles só agirão quando houver uma prenúncio real aos seus cargos. E isso só acontece por meio da pressão exercida de inferior para cima.
Você diz que as empresas de IA instrumentalizam politicamente o noção de superinteligência e o suposto risco de que a China a desenvolva antes dos EUA. Essa narrativa continua suasivo? Recentemente conversei com alguns formuladores de políticas públicas nos Estados Unidos, e eles diziam que o argumento “e a China?” perdeu muito fôlego em Washington. Em segmento, isso acontece porque a narrativa da AGI (perceptibilidade sintético universal, na {sigla} em inglês) é um mito. E mitos prosperam quando existe um vazio de informação.
O que aconteceu é que essa tecnologia passou a fazer segmento da vida das pessoas. Quando isso acontece, o mito perde força, porque passa a subsistir uma base concreta de fatos e evidências sobre o que essa tecnologia realmente é.
No caso da China, muitos formuladores de políticas passaram a se sentir manipulados. Ao longo da última dezena, as empresas usaram o mesmo argumento durante a expansão das redes sociais. Diziam: “Não nos regulem, vamos erigir as principais plataformas do mundo e fortalecer as democracias”. Aconteceu exatamente o contrário.
Depois, com a perceptibilidade sintético, surgiu uma novidade versão do mesmo argumento: “Não nos regulem. Em vez disso, imponham restrições à China por meio de controles de exportação, para que os modelos americanos dominem o mercado.”
Mas a China respondeu desenvolvendo modelos de código crédulo justamente por razão dessas restrições. Esses modelos são mais eficientes, gratuitos e, em muitos casos, até empresas americanas preferem utilizá-los.
Você sustenta que o atual padrão de desenvolvimento da IA, fundamentado em proveito de graduação sem precedentes, não foi uma decisão técnica. Pode explicar melhor esse argumento?
Quando comecei a vedar perceptibilidade sintético, em 2018, a extensão caminhava exatamente na direção oposta. Havia um enorme interesse pelo que se chamava de “tiny AI” [IA pequena]. O foco era desenvolver sistemas capazes de aprender com muito poucos dados, utilizando pouca capacidade computacional e consumindo pouca vontade.
Cheguei a grafar sobre sistemas que eram treinados diretamente em um telefone celular. Só isso já mostra que a aposta na graduação foi uma escolha. Já existiam formas completamente diferentes de desenvolver modelos poderosos. O motivo de a graduação ter se tornado dominante foi a dinâmica de competição entre OpenAI, Anthropic, Google e as demais empresas.
Existem duas maneiras de fazer a IA continuar. Uma delas é produzir pesquisa realmente novidade, realizar descobertas e desenvolver novas técnicas. A outra consiste em pegar técnicas que já existem e simplesmente utilizar cada vez mais capacidade computacional sobre elas.
Antes de a OpenAI popularizar essa segunda estratégia, a maior segmento da pesquisa seguia o primeiro caminho, porque é ali que acontece a verdadeira inovação científica.
O problema é que pesquisa leva tempo. Quando você administra uma empresa que compete com outras empresas, é muito mais simpático conseguir aumentar as capacidades do padrão de forma previsível e jacente.
Nesse caso, tudo passa a depender de quanto verba você tem e da velocidade com que consegue erigir supercomputadores maiores. Mas isso transfere para toda a sociedade os custos do desenvolvimento da IA.
Hoje existe qualquer ceticismo quanto ao padrão de negócios dessas empresas. O propagação delas vai ser freado pela oposição política ou por limitações econômicas?
Os protestos aumentam o risco do negócio das empresas. Quanto mais a mobilização social dificulta a expansão delas, mais tempo elas levam para executar seus planos. E, quanto mais tempo levam, mais verba perdem.
Essas empresas não têm projecto de negócios. Continuo em contato com pessoas que trabalham na OpenAI, e elas reconhecem que não têm um projecto de negócios. Também sabem que as projeções da receita necessária para atingir o estabilidade financeiro são extraordinárias.
Elas próprias reconhecem que o que estão tentando fazer é extremamente cobiçoso. Acham que pode dar notório, mas não dizem que seja provável. Dizem unicamente que é provável —desde que tudo seja executado de maneira praticamente perfeita.
E esse é justamente o problema. Com toda essa mobilização social, ficou muito mais difícil imaginar que tudo transcorrerá perfeitamente.
RAIO-X | KAREN HAO, 32
Formada em engenharia mecânica pelo (Massachusetts Institute of Technology), a jornalista escreve para publicações uma vez que The Atlantic e, no ano pretérito, foi nomeada uma das século pessoas mais influentes do ano pela revista Time. Ela já foi repórter no Wall Street Journal e editora sênior de IA da revista MIT Technology Review. Ela também lidera o programa AI Spotlight do Pulitzer Center, que treina jornalistas pelo mundo para vedar os avanços da IA.
