Percentagem temporária do Senado propôs novos usos de reconhecimento facial e acrescentou regulamentação de armas autônomas ao substitutivo do marco regulatório para lucidez sintético, divulgado no dia 24 do mês pretérito. O texto está em consulta pública até o próximo dia 23.
A inclusão dos novos pontos partiu do vice-presidente da CTIA (Percentagem Temporária Interna sobre Lucidez Sintético no Brasil), o senador Marcos Pontes (PL-SP). O trecho tem escora de parlamentares bolsonaristas e do senador Fabiano Contarato (PT-ES), único petista da percentagem.
O novo texto acrescentou a autorização para usar IA para a conquista de fugitivos e para o cumprimento de mandados de prisão e de medidas restritivas ordenadas pelo Judiciário.
O texto proposto pelo presidente do Senado, Rodrigo Pacheco (PSD-MG), já permitia a emprego desses sistemas em inquéritos investigativos mediante autorização judicial e na procura de vítimas de crimes e desaparecidos, mas não citava armas autônomas.
“Toda proposta de combate ao transgressão é, e sempre será, bem-vinda”, diz Contarato em nota enviada à Folha. O uso de tecnologias de reconhecimento facial precisa ser feito com segurança tecnológica para identificação dos criminosos, sem margem para qualquer discriminação por meio dos algoritmos, de consonância com o senador capixaba.
Embora tenha escora dos parlamentares, o uso de reconhecimento facial na segurança pública foi branco de oposição na percentagem de juristas convocada pelo Senado que propôs outro texto de marco regulatório em novembro de 2022. Pesquisadores da PUC-RS e a Coalização Direitos nas Redes pediram veto à prática.
Em março de 2022, 55 entidades da sociedade social pediram a proibição do uso de ferramentas de reconhecimento facial na segurança pública. O documento cita que o estado baiano instalou câmeras com essa tecnologia sob justificativa de combate à criminalidade ainda em 2018, durante o governo de Rui Costa (PT), atual ministro da Lar Social.
Hoje, há 225 projetos que utilizam técnicas de reconhecimento facial implementados por estados e municípios no país, segundo levantamento do projeto O Panóptico atualizado na última sexta (10). São 74 milhões de pessoas potencialmente vigiadas —36% da população brasileira—, segundo a metodologia do estudo, que soma a população das cidades onde há câmeras inteligentes instaladas.
“Sem as exigência adequadas para que a tecnologia seja o menos invasiva verosímil, sendo necessárias diversas balizas, só há a legitimação desse cenário caótico que a gente está vendo hoje na segurança pública”, diz o coordenador do Panóptico, Pablo Nunes.
Outro argumento contrário é o racismo algorítmico, viés de imprecisão contra pessoas negras presente em tecnologias de lucidez sintético devido à prevalência de brancos em bancos de imagens disponíveis.
Estudo de 2019, da Rede de Observatórios da Segurança mostrou que 90,5% das pessoas presas porque foram flagradas pelas câmeras eram negras. A Bahia liderava em número de abordagens e prisões baseadas na tecnologia.
Em consulta pública, a Polícia Federalista argumentou em prol da tecnologia, desde que haja um humano responsável pela decisão final de usar a força. A maior empresa de IA do mundo, a Microsoft, também se manifestou nesse sentido, o que está em risca com o texto proposto pela CTIA.
Empresas do setor dizem que a adoção de sistemas de identificação biométrica aliada à supervisão de profissionais certificados em reconhecimento maximizam a precisão na identificação de suspeitos. A certeza é corroborada por estudo publicado na revista Nature, que avaliou o uso da tecnologia em 14 países da Europa, África, Oriente Médio e Oceania.
Na proposta de regulação aprovada na Europa, os parlamentares preveem a implementação da tecnologia para prevenção de atentados, procura de desaparecidos e cumprimento de mandado judicial. Confuso no término do ano pretérito, o texto original vetava esse uso da tecnologia.
Associações representativas do setor privado uma vez que Abes (Associação Brasileira das Empresas de Software), Camara e.net, Febraban e CNI são em prol da autorregulação por secção das empresas no que toca à lucidez sintético.
“Um regramento principiológico associado ao conjunto normativo já existente no Brasil é o caminho para impulsionar o desenvolvimento da IA de forma segura nas mais variadas vertentes no Brasil”, afirma a Abes.
A Abranet (Associação Brasileira de Internet) diz que a inserção do tema do reconhecimento facial em locais públicos para finalidades ligadas à dimensão de segurança pública supre uma vácuo deixada pela Lei Universal de Proteção de Dados (LGPD), que não versa sobre assuntos penais.
ARMAS AUTÔNOMAS
As armas autônomas, mais lembradas e criticadas pelo tarefa em cenários de guerra, já foram propostas para o combate ao transgressão no Rio de Janeiro, pelo portanto candidato ao governo do estado Wilson Witzel. Ele disse, durante a campanha de 2018, que iria a Israel comprar drones capazes de atirar.
O texto proposto pela CTIA permite o uso de armas autônomas desde que haja “controle humano significativo” e respeitem o Recta Internacional Humanitário, responsável por ditar regras durante conflitos.
Segundo o texto, o controlador da arma autônoma deve poder:
- estabelecer limites de tempo e espaço para operação do equipamento;
- certificar confiabilidade na identificação de alvos;
- impedir alterações no sistemas sem validação humana;
- desativar funções quando necessário.
Os projetos de armas autônomas deverão passar por avaliação técnica e jurídica.
“Ao perfurar a possibilidade de inclusão desse tipo de tecnologia no Brasil, temos o pior dos dois mundos: uma tecnologia que já é enviesada e tem produzido diversos casos de erros gravíssimos uma vez que o reconhecimento facial, coligado com esse poderio bélico que marca esses drones que têm fuzis embarcados”, diz Nunes, do Panoptico.
Para a Abranet, que representa empresas de tecnologia, a inserção das armas autônomas no PL de IA parece ter se oferecido de forma apressada, criando um jabuti dentro do PL. “Há definições, condições e demais especificidades embarcadas em parágrafos ao final do item sobre sistemas de IA que representam ‘risco excessivo’.”
O relator do projeto, o senador Eduardo Gomes (PL-TO), disse à Folha que o projeto está desimpedido para contribuições da sociedade até o próximo dia 23. “Temos COP e G20 no Brasil neste ano e ter definições sobre lucidez sintético é uma prioridade; quem não enfrentar o risco de enfrentar o problema vai comprar o risco de ser controlado pelos outros.”
O colunista da Folha e cientista-chefe do ITS-Rio, Ronaldo Lemos, disse que limitar a consulta pública a três semanas prejudica o debate. “O texto precisa ser objeto de consulta pública ampla e transparente por um prazo de três meses.”
