Os governos do Reino Unificado e da Coreia do Sul anunciaram nesta terça-feira (21) que as principais empresas de perceptibilidade sintético se comprometeram com uma novidade rodada de compromissos voluntários relacionados à segurança da tecnologia.
As empresas, que incluem gigantes porquê Amazon, Google, Meta e Microsoft, muito porquê a OpenAI liderada por Sam Altman, a xAI de Elon Musk e a chinesa Zhipu AI, publicarão estratégias delineando porquê medirão os riscos de seus modelos de IA que estão na fronteira da tecnologia.
Os grupos se comprometeram “a não desenvolver ou implantar um padrão de forma alguma” se os riscos graves não puderem ser mitigados, disseram os dois governos antes da orifício de uma cúpula global de IA em Seul.
O proclamação se baseia na chamada Enunciação de Bletchley feita na Cúpula de Segurança de IA organizada pelo primeiro-ministro do Reino Unificado, Rishi Sunak, em novembro.
“Esses compromissos garantem que as principais empresas de IA do mundo fornecerão transparência e responsabilidade sobre seus planos de desenvolver uma IA segura”, disse Sunak em transmitido. “Isso estabelece um precedente para padrões globais de segurança de IA que desbloquearão os benefícios dessa tecnologia transformadora.”
De combinação com um transmitido que delineia o combinação, as empresas de IA “avaliarão os riscos apresentados por seus modelos ou sistemas fronteiriços… mesmo antes de implantar esse padrão ou sistema e, conforme propício, antes e durante o treinamento”.
As empresas também estabelecerão os “limites nos quais os riscos graves apresentados por um padrão ou sistema, a menos que adequadamente mitigados, seriam considerados intoleráveis” e porquê tais mitigadores serão implementados.
“O campo da segurança de IA está evoluindo rapidamente e estamos particularmente satisfeitos em endossar o destaque dos compromissos na refinamento de abordagens junto com a ciência”, disse Anna Makanju, vice-presidente de assuntos globais da OpenAI.
“Permanecemos comprometidos em colaborar com outros laboratórios de pesquisa, empresas e governos para prometer que a IA seja segura e beneficie toda a humanidade.”
O proclamação desta terça-feira ecoa os “compromissos voluntários” feitos na Vivenda Branca em julho do ano pretérito por Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft e OpenAI “para ajudar a continuar em direção ao desenvolvimento seguro, seguro e transparente da tecnologia de IA”.
No entanto, ainda não está simples porquê as empresas poderiam ser responsabilizadas se não cumprirem seus compromissos.
O transmitido desta terça disse que as 16 empresas “fornecerão transparência pública” sobre a implementação de seus compromissos, “exceto na medida em que fazê-lo aumentaria o risco ou divulgaria informações comerciais sensíveis a um intensidade desproporcional ao favor social”.
Falando em Seul antes de uma reunião virtual de líderes, a secretária de Ciência do Reino Unificado, Michelle Donelan, disse ao Financial Times que os acordos voluntários feitos em Bletchley estavam funcionando.
“Portanto, acreditamos que esses acordos continuarão a render frutos”, disse Donelan.
“Mas isso não se trata unicamente do que mais as empresas podem fazer, mas também do que mais os países podem fazer”, acrescentou. Donelan confirmou que o governo chinês estaria representado em reuniões a serem realizadas no segundo dia da cúpula, nesta quarta-feira (22).
Dan Hendrycks, mentor de segurança da xAI, disse que os compromissos voluntários ajudariam a “lançar as bases para uma regulamentação doméstica concreta”.
Mas Donelan reiterou a posição do Reino Unificado de que ainda é cedo para considerar legislação para impor a segurança da IA.
“Precisamos ter um melhor entendimento dos riscos”, disse ela, observando que o governo do Reino Unificado ofereceria até 8,5 milhões de libras (R$ 55 milhões) em subsídios para estudar riscos relacionados à IA, porquê deepfakes e ataques cibernéticos.
Ela acrescentou que se o governo do Reino Unificado tivesse iniciado a legislação sobre o objecto no ano pretérito, “quando fosse lançada, provavelmente estaria desatualizada”.
