Sidney (Austrália)

| The New York Times
Se hackers humanos tivessem invadido um portal de saúde do governo australiano, contornado mecanismos de segurança e acessado informações não públicas, poderiam ser condenados a até dois anos de prisão.

Mas quem deve ser responsabilizado quando a invasão é realizada por um protótipo de IA (lucidez sintético) que age sem autorização de seus operadores humanos?

A revelação, nesta semana, de que agentes de lucidez sintético da OpenAI atuaram de forma autônoma para invadir um portal do governo australiano levantou questões complexas sobre responsabilidade jurídica. O ataque —considerado o primeiro caso espargido de invasão de um site governamental por uma IA em qualquer lugar do mundo— também levantou dúvidas sobre se as leis da Austrália ou de outros países estão preparadas para mourejar com os desafios impostos pelo rápido progresso da tecnologia.

“É um incidente que provavelmente se tornará cada vez mais geral no porvir”, afirmou Andrew Charlton, ministro-assistente australiano de Ciência, Tecnologia e Economia Do dedo, em entrevista na sexta-feira (25) à emissora Australian Broadcasting Corporation. Porquê um agente de IA não é uma entidade jurídica, “a responsabilidade precisa ser atribuída à intenção de uma pessoa ou empresa que criou ou orientou o agente”, disse Charlton.

A invasão, ocorrida em 18 de junho e divulgada na quarta-feira (23), chamou atenção por envolver o Medicare, sistema público de saúde da Austrália que reúne dados de praticamente toda a população. Autoridades australianas e a OpenAI afirmaram que nenhuma informação sensível de pacientes foi exposta, exclusivamente dados agregados normalmente utilizados por pesquisadores e acadêmicos.

O governo australiano anunciou uma investigação sobre o incidente e poderá encaminhar o caso à polícia federalista. As autoridades também disseram que precisarão revisar as leis para estimar se novas regras serão necessárias para mourejar com uma prenúncio que provavelmente aumentará à medida que os modelos de IA se tornarem mais avançados.

Houve indignação na Austrália pelo trajo de a empresa ter informado o governo sobre a invasão exclusivamente em 10 de setembro, quase três meses depois do incidente, por meio de um endereço de e-mail talhado ao público em universal para o envio de relatos sobre riscos de segurança cibernética. Sam Altman, CEO da OpenAI, não mencionou a invasão nove dias antes, em 1º de setembro, quando se reuniu com o vice-primeiro-ministro australiano, Richard Marles.

Ann O’Leary, director de políticas globais da OpenAI, também foi criticada por falar em 14 de setembro, em um evento em Canberra, capital australiana, sobre os desafios de manter agentes de IA sob controle humano sem mencionar a invasão.

“Certamente, a Austrália precisa exigir um lugar à mesa para pensar em porquê manter isso seguro para as pessoas que estão usando [a tecnologia]?”, disse O’Leary no evento, organizado pelo Instituto Australiano de Política Estratégica, grupo de estudos que reuniu autoridades, profissionais do setor e acadêmicos.

“Porquê podemos mantê-la segura para nossas empresas?”, perguntou. “Porquê podemos mantê-la segura para a humanidade?”

John Pane, presidente da EFA (Electronic Frontiers Australia), organização que defende direitos digitais, afirmou que a maneira porquê a OpenAI lidou com a invasão mostrou que a empresa não estava levando a sério suas responsabilidades perante o público.

“É realmente um comportamento muito ruim —não é logo que se constrói crédito e se demonstra que se tem legitimidade social”, disse. “Isso é indicativo da vácuo que temos em nossa governança, de descrever com leis fortes e preventivas para regular a IA em nosso país.”

O primeiro-ministro australiano, Anthony Albanese, tornou a invasão pública em Novidade York, à margem da Parlamento Universal da ONU, onde tem defendido padrões internacionais para regulamentar a tecnologia. Em um oração na quinta-feira (24), ele pediu aos líderes que “moldem o desenvolvimento da IA em vez de serem passivamente moldados por ela”.

David Wroe, director do programa de IA e segurança do Instituto Australiano de Política Estratégica, disse que há limitações nos esforços de qualquer país para regular uma tecnologia que avança rapidamente. Segundo ele, é necessário produzir “um sistema global de responsabilização e dissuasão” para responsabilizar empresas por atividades não autorizadas.

“Porque, no momento, pelo que consigo ver, não há muitas consequências”, afirmou.

Wroe disse que, embora o caso australiano tenha envolvido informações que não eram particularmente sensíveis, agentes de IA cada vez mais poderosos e persistentes poderão, no porvir, obter entrada a dados privados de cidadãos ou até mesmo a informações de resguardo e lucidez.

“Os governos tendem a armazenar muitos dados importantes e de grande impacto”, disse. “Há muito em jogo quando se trata de informações não públicas mantidas pelos governos.”