Los Angeles (EUA)

|AFP
O governador da Califórnia, Gavin Newsom, assinou nessa sexta-feira (18) uma ordem executiva instruindo as autoridades estaduais a explorarem a viabilidade de impor um “botão de desligamento” obrigatório para os modelos de IA (perceptibilidade sintético) mais avançados.

Newsom, considerado um provável candidato democrata à presidência em 2028, disse que estava tomando essa medida porque o presidente dos Estados Unidos, Donald Trump, não estava fazendo zero a reverência.

O presidente republicano descartou esta semana os temores sobre a perceptibilidade sintético, classificando-os porquê uma farsa, e está incentivando as empresas americanas de IA a continuarem avançando para se manterem primeiro da China no desenvolvimento dessa novidade tecnologia.

A Califórnia abriga o Vale do Silício e as empresas de perceptibilidade sintético que estão na vanguarda do setor.

“O fracasso imundo do governo federalista em gerar qualquer forma significativa de supervisão ou responsabilização da IA deveria sobressaltar todos os americanos, mormente quando os próprios CEOs de IA estão implorando por regulamentação”, disse Newsom em um expedido.

“Não vamos esperar para agir —vamos aligeirar nosso trabalho em prol de uma supervisão suculento e responsável da IA antes que seja tarde demais.”

A ordem surge dias depois de alertas alarmantes de especialistas do setor sobre a prenúncio que a tecnologia representa para a humanidade.

Jacob Coxon, um ex-pesquisador de IA que trabalhou na Anthropic antes de se destituir, provocou a mais recente vaga de rebate ao descrever porquê aqueles que desenvolvem a tecnologia “acreditam sinceramente que ela poderá nos matar a todos até o final da dez”.

O diretor executivo da Anthropic, Dario Amodei, publicou um tentativa pouco depois, recomendando cautela.

“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu ele.

O diretor executivo da OpenAI, Sam Altman, e o magnata da tecnologia Elon Musk manifestaram seu escora à teoria, assim porquê Demis Hassabis, do Google DeepMind, que defendeu a geração de um órgão regulador global liderado pelos EUA para a tecnologia.

A ordem de Newsom não impõe um mecanismo de desligamento automático. Ela orienta as agências estaduais a relatarem até 16 de novembro se tal mecanismo é viável.

O termo “interruptor de segurança” refere-se à capacidade de interromper um sistema de IA quando levante apresenta mau funcionamento ou sai dos trilhos.

A ordem também solicita que as autoridades estaduais considerem a possibilidade de exigir que as empresas de IA abriguem auditores independentes em seus laboratórios.

O documento solicita ainda que as autoridades considerem a possibilidade de exigir que as empresas relatem incidentes de perda de controle, porquê os divulgados recentemente por grandes construtoras.

Entre elas, está uma violação ocorrida em julho na plataforma de IA Hugging Face, causada por agentes autônomos construídos com base em modelos da OpenAI, que escaparam de um envolvente de testes durante uma avaliação interna.

O incidente, e outros semelhantes, aumentaram os receios de que os programas de IA mais recentes tenham escapado ao controlo das empresas que os desenvolvem.

A iniciativa da Califórnia surge num contexto em que os estados americanos estão cada vez mais a optar pela regulamentação da IA de forma autónoma, na escassez de uma ação federalista.

No estado da Virgínia, um importante polo global de data centers, a governadora democrata Abigail Spanberger apresentou na sexta-feira (18) o que chamou de iniciativa de responsabilização de data centers mais agressiva do país.

A oposição aos data centers necessários para atender às enormes demandas computacionais da IA está crescendo entre os americanos e se tornando um tema polêmico às vésperas das eleições de meio de procuração em novembro.

Spanberger assinou uma ordem executiva proibindo agências estaduais de firmarem acordos de confidencialidade para projetos de data centers e iniciando uma revisão da geração de vigor a diesel e outras fontes de vigor de suplente nessas instalações.

A ordem também criou uma força-tarefa de IA para mourejar com riscos porquê perda de empregos, privacidade de dados e segurança cibernética.