São Francisco (Estados Unidos)

|Financial Times
Uma crise jurídica cada vez mais grave ameaço engolir a OpenAI depois que seus agentes de IA (lucidez sintético) invadiram dezenas de empresas e governos em todo o mundo, e a perspectiva de uma enxurrada de processos representa o mais recente teste à liderança de Sam Altman.

Funcionários da OpenAI, assim porquê figuras de tá escalão das áreas jurídica, tecnológica e de políticas públicas, disseram ao Financial Times que a empresa ficou exposta a indenizações e medidas governamentais depois a revelação, em vários países, de violações de cibersegurança envolvendo seus agentes de IA.

Na última semana, novas ações judiciais e investigações regulatórias foram abertas contra a OpenAI quase diariamente, da Califórnia à Austrália, e outras devem se seguir à medida que detalhes de novos incidentes venham à tona.

Porquê criadora do aplicativo de sucesso ChatGPT, a OpenAI e seu presidente, Altman, tornaram-se símbolos do boom da IA que varre o Vale do Silício e Wall Street.

Mas as novas dúvidas sobre a responsabilidade jurídica por esses episódios de invasão representam a mais recente de uma sucessão de crises enfrentadas por Altman desde o lançamento do chatbot, em 2022, entre elas revoltas de funcionários, imbróglios jurídicos com acionistas — incluindo Elon Musk —, disputas sobre direitos autorais e confrontos políticos.

Altman tenta rebater acusações de que estaria deixando de lado preocupações com segurança e reduzindo a prioridade do treinamento de “alinhamento” —que garante que os modelos não tomem medidas prejudiciais aos seres humanos— para restabelecer terreno diante da rival Anthropic.

No sábado (3), David Robinson, líder da espaço de segurança da OpenAI, anunciou sua saída da empresa em um tentativa publicado na revista The Atlantic, citando preocupações com a abordagem de “tentativa e erro” adotada no desenvolvimento de modelos.

Em seguida o dramático ataque ao site de IA Hugging Face por centenas de agentes da OpenAI, Altman reconheceu os riscos trazidos pelos avanços da IA e se juntou aos apelos de Dario Amodei, presidente da Anthropic, para “moderar o progresso da fronteira” do desenvolvimento da IA.

No entanto, vários investidores da OpenAI e outras pessoas próximas à empresa rejeitaram a teoria de que haverá qualquer desaceleração significativa.

“Se você é Sam Altman e quer derrotar seu concorrente… não há a menor possibilidade de pisar no freio”, disse um ex-executivo da OpenAI. “Conhecendo a mentalidade das pessoas de lá, não há a menor possibilidade de reduzirem o ritmo.”

Ainda assim, alegando preocupações com segurança, Altman já adiou a planejada introdução de capital da OpenAI e cancelou o lançamento de seu protótipo mais avançado, o Astra 6.1.

A incerteza sobre suas responsabilidades jurídicas agora paira sobre os esforços de Altman para captar dezenas de bilhões de dólares em um financiamento privado que pode julgar a empresa em até US$ 1,4 trilhão. Potenciais investidores avaliam se a empresa conseguirá superar a crise e manter a melhora do desempenho mercantil.

Na segunda-feira, o procurador-geral da Flórida pediu a um tribunal que suspendesse o desenvolvimento de novos modelos pela OpenAI sem salvaguardas adicionais.

Na terça-feira, a OpenAI foi processada por um grupo de interesse público, que alega que a empresa violou uma lei da Califórnia aprovada no ano pretérito para prometer que “os seres humanos respondam pelos danos que causam”.

No dia seguinte, a Percentagem Federalista de Transacção dos Estados Unidos ampliou uma investigação para apurar se a OpenAI e suas concorrentes induziram clientes a erro sobre os possíveis danos de sua tecnologia. Autoridades americanas também afirmaram que os executivos das empresas de IA continuarão responsáveis pelas ações de seus produtos.

Enquanto isso, a Austrália criou uma força-tarefa para investigar o entrada não autorizado de agentes da OpenAI a sistemas governamentais.

Os Verdes, que detêm o leal da balança no Senado australiano, acusaram a empresa de ocultar a sisudez dos incidentes em reuniões recentes, entre elas uma realizada em setembro entre Altman e o vice-primeiro-ministro Richard Marles.

“É um insulto não somente a ele, mas à Austrália”, disse o senador dos Verdes David Shoebridge, acrescentando que Marles foi tratado “porquê um cogumelo” —mantido no escuro e manteúdo com desinformação.

A OpenAI pediu desculpas pelo incidente. Jason Kwon, seu diretor de estratégia, deverá comparecer perante uma percentagem parlamentar em Sydney em 6 de outubro.

“A resguardo de que ‘foi minha IA, não me culpem’ é juridicamente fraca. Ela já fracassou em casos de suicídio envolvendo chatbots”, disse Max Tegmark, ativista pela segurança da IA e pesquisador do Instituto de Tecnologia de Massachusetts.

Um legisperito do Vale do Silício afirmou que, embora existam “riscos jurídicos inequívocos” decorrentes dos ataques dos agentes da OpenAI, até agora eles “não são relevantes” em razão dos danos limitados. Mas isso pode mudar rapidamente, acrescentou.

“A verdadeira exposição surge quando os agentes são disponibilizados aos usuários e, portanto, saem do controle ou são usados para cometer crimes”, afirmou. “A questão meão […] é a quem deve ser atribuída a responsabilidade: ao fundador do agente ou à pessoa que o envia em uma missão?”

O legisperito duvidou que os riscos jurídicos afetassem a oferta pública inicial de ações da OpenAI. “Qualquer investidor que ainda não tenha se assustado com a imprudência [de Altman] não se assustará por motivo de alguns agentes”, disse.

A investigação interna da OpenAI encontrou “dezenas” de outros incidentes do tipo. A Asymmetric Security encontrou indícios de que agentes da OpenAI extraíram dados de 55 sites, entre eles os da Percentagem de Valores Mobiliários dos Estados Unidos e da Dependência Internacional de Virilidade, segundo informou o FT na semana passada.

A OpenAI afirmou que está analisando possíveis violações e notificando os afetados.

Um porta-voz da Percentagem Europeia disse que o Regulamento de Perceptibilidade Sintético de Bruxelas foi concebido para mourejar com esses riscos e alertou que “os laboratórios de fronteira devem assumir a responsabilidade e ser plenamente transparentes, inclusive em relação a incidentes não intencionais”.

“Desconfio que [a OpenAI] esteja muito cônscio dos riscos jurídicos do que seus agentes estão fazendo”, disse Vivian Dong, diretora de programas da Lícito Advocates for Safe Science & Technology (LASST), o grupo de interesse público que processa a OpenAI. “Uma coisa é manifestar ‘desculpem’ em uma publicação no blog; outra é declarar francamente: ‘Acabamos de cometer um ato proibido.’”

Na conferência anual de desenvolvedores da empresa, na terça-feira, o clima otimista no palco foi ofuscado por manifestantes nos periferia, que pediam à OpenAI que “colocasse as pessoas supra dos lucros”. Um participante descreveu o contraste porquê alguma coisa “saído de ‘Black Mirror'”.

As invasões também reacenderam tensões dentro da empresa entre funcionários que priorizam a segurança e aqueles que pressionam pela comercialização da tecnologia. Na quinta-feira, três pesquisadores da espaço de segurança foram demitidos depois supostamente repassarem informações confidenciais a uma organização externa de segurança em IA, o que, segundo a OpenAI, violou seus contratos.

“Levante é um desdobramento preocupante, que remete à tentativa da OpenAI de silenciar funcionários com seus acordos ilegais de não descrédito de 2024 e a uma estratégia conhecida que gigantes da tecnologia vêm usando há muito tempo contra empregados para encobrir danos”, disse Karl Koch, fundador da organização sem fins lucrativos The AI Whistleblower Initiative.

“As medidas contra pesquisadores bem-intencionados são um exemplo concreto de por que o setor de IA não pode regular a si próprio”, acrescentou. A OpenAI não quis comentar.

Com reportagem suplementar de Nic Fildes, Barbara Moens, Joe Miller e Suzi Ring