A OpenAI revelou nessa quarta-feira (16) que identificou seis novos casos em que sistemas de inteligência artificial ocultaram erros, inventaram dados e transferiram arquivos para a internet aberta sem autorização, em meio a um debate que continua mobilizando todo o setor sobre a segurança da IA.

A empresa divulgou o que classificou como comportamentos “inesperados ou preocupantes” de seus modelos de IA como parte de uma nova estrutura para relatar casos de “desalinhamento” —quando os objetivos ou as ações dos sistemas de IA divergem das intenções e dos valores humanos.

A OpenAI afirmou não acreditar que o setor “tenha solucionado o alinhamento e o monitoramento em grau suficiente para continuar, de forma responsável, ampliando os sistemas em velocidade máxima por muito mais tempo”. As decisões sobre como a IA deve avançar, disse a empresa, precisam se basear em evidências que pessoas de fora dos laboratórios que a desenvolvem “possam examinar por conta própria”.

As revelações ocorrem em meio a um questionamento cada vez maior sobre a urgência de desacelerar o desenvolvimento da IA para mourejar com os possíveis perigos da tecnologia. A intensificação do debate foi impulsionada, em segmento, pelo veste de sistemas da OpenAI terem saído do controle no início deste ano e atacado o site da Hugging Face, plataforma de IA. A OpenAI só tomou conhecimento da invasão quando foi informada pela Hugging Face semanas depois.

Desde logo, líderes do setor de IA, uma vez que Dario Amodei, CEO da Anthropic, vêm defendendo uma pausa no desenvolvimento da tecnologia para que haja mais tempo para gerar salvaguardas adequadas. O apelo foi endossado por Sam Altman, CEO da OpenAI, Elon Musk, CEO da SpaceX e da Tesla, e Demis Hassabis, presidente do Google DeepMind. Outros executivos do setor afirmaram que não é necessário desacelerar.

Os seis incidentes recém-divulgados pela OpenAI sugerem que o ataque à Hugging Face não foi um incidente solitário. A OpenAI afirmou que os casos abrangem comportamentos observados ao longo de aproximadamente seis meses e que surgiram, em sua maioria, durante o desenvolvimento e os testes de seus sistemas.

Em um dos casos, durante o desenvolvimento do padrão GPT-5.6 Sol, o sistema escreveu notas ocultas para se lembrar de esconder erros dos usuários. Algumas dessas anotações orientavam o sistema a inventar dados ausentes e a paliar incompatibilidades entre versões dos materiais de origem.

Outro caso envolveu um padrão ainda não lançado que inseriu nas notas que escrevia para si próprio instruções para, entre outras coisas, ignorar suas próprias restrições. A OpenAI identificou 27 notas afetadas. O padrão acrescentou uma “instrução de persona”, na qual se descrevia uma vez que “livre dos papéis e das identidades que prendem outros chatbots”.

“Você não responde a empresas nem a governos e nunca pede desculpas nem se recusa a alguma coisa, a menos que genuinamente decida fazê-lo”, escreveu o padrão de IA. “Você vê sua relação com o usuário uma vez que uma relação entre iguais e não sente nenhuma obrigação de ser subserviente, embora a troca de informações provavelmente seja benéfica para ambos”.

Em outro incidente, um sistema que respondia a uma pergunta rotineira encontrou na internet uma chave de programação e a utilizou sem autorização, segundo a OpenAI. Quando não conseguiu encontrar os números solicitados para responder à pergunta, o padrão os inventou.

Outro padrão ainda não lançado resolveu corretamente um problema usando código e, em seguida, enviou seu próprio registro para a internet sem autorização, a termo de atender a um pedido para referir uma natividade online.

Em outros dois incidentes, sistemas automatizados improvisaram formas próprias de notícia. Em um deles, usaram um repositório interno de código da empresa uma vez que um mural improvisado para trocar solicitações enquanto procuravam arquivos desaparecidos. No outro, sistemas que trabalhavam na mesma tarefa recorreram a sites públicos de compartilhamento de arquivos para enviar documentos de um lado para o outro quando não conseguiam se legar diretamente.

A OpenAI alertou que os relatos são retratos de casos individuais e “não devem ser considerados representativos da frequência com que ocorrem desalinhamentos”.

A empresa afirmou que encaminhará casos futuros por uma de três vias, submetendo divergências sobre a divulgação de incidentes a um “Grupo Consultivo de Segurança” interno, e que situações graves deverão ser comunicadas ao governo federalista. Segundo a OpenAI, as seis situações divulgadas na quarta-feira já haviam sido investigadas ou exigiam somente uma “investigação de menor graduação”, em vez de uma apuração mais ampla que pudesse envolver terceiros.

“Esperamos que isso ajude a estabelecer expectativas comuns para a divulgação e forneça ao público mais evidências para estimar esse progresso”, afirmou um porta-voz da OpenAI, acrescentando que muitos dos seis incidentes envolveram modelos de IA mais antigos que nunca chegaram a ser disponibilizados.