Os bancos Goldman Sachs, Citigroup, JPMorgan e outras empresas de Wall Street estão alertando os investidores sobre novos riscos do uso crescente da perceptibilidade sintético, que vão desde “alucinações” do software, passando pela disputa de talentos, até o uso por criminosos cibernéticos, o que deve levar a mudanças nas leis globais que regulam o tema.
Os perigos recentemente incluem modelos de IA falhos ou não confiáveis, aumento da concorrência e novas regulamentações que restringem o uso de IA. O JPMorgan, por exemplo, disse que a IA pode suscitar “deslocamento da força de trabalho”, um pouco que pode afetar o moral e a retenção da equipe, aumentando a disputa pela contratação de colaboradores com as habilidades tecnológicas necessárias, de pacto com o relatório do banco.
Os bancos têm reconhecido os riscos relacionados à IA em seus relatórios anuais nos últimos dois anos, mas novas preocupações estão surgindo à medida que o setor financeiro adota cada vez mais a tecnologia por meio de seu próprio software ou ofertas de terceiros. Se os bancos não se mantiverem atualizados com os últimos desenvolvimentos de IA, eles correm o risco de perderem clientes e negócios, alertaram as instituições em seus relatórios anuais. Mas o uso crescente de IA também os expõe a riscos de ataques cibernéticos e uso indevido.
“Ter esses mecanismos de governança corretos em vigor para prometer que a IA esteja sendo implantada de uma forma segura, justa e protegida –isso simplesmente não pode ser ignorado”, disse Ben Shorten, líder de finanças, risco e conformidade da Accenture para bancos e mercados de capital na América do Setentrião. “Esta não é uma tecnologia plug-and-play.”
Os bancos correm o risco de pilotar tecnologias que podem ser construídas usando conjuntos de dados financeiros desatualizados, tendenciosos ou imprecisos. O relatório anual do JPMorgan disse que há perigos em desenvolver e manter modelos que tenham o mais basta nível de “qualidade de dados”.
O Citigroup disse que, ao implementar IA generativa em partes selecionadas do banco, há riscos de resultados “ineficazes, inadequados ou falhos” produzidos para seus analistas. Os dados também podem estar incompletos, tendenciosos ou imprecisos, o que “pode impactar negativamente sua reputação, clientes, clientes, negócios ou resultados de operações e quesito financeira”, de pacto com seu relatório anual de 2024.
GERANDO INTEGRAÇÃO
O Goldman Sachs disse que, embora tenha aumentado seu investimento em ativos digitais, blockchain e IA, o aumento da concorrência representa riscos para a integração de tecnologias de IA em tempo hábil o suficiente para aumentar a produtividade, reduzir custos e dar aos clientes melhores transações, produtos e serviços, de pacto com o último relatório anual da empresa. Isso pode afetar a atração e retenção de clientes, disse o Goldman.
As empresas financeiras também correm o risco de manter a privacidade dos dados e a conformidade regulatória em um envolvente que é “menos perceptível e em rápida evolução”, disse Shorten. Em 2024, a Lei de Lucidez Sintético da UE entrou em vigor, estabelecendo novas regras sobre o uso de sistemas de IA na região, onde muitos bancos dos EUA têm operações.
“Esta lei estabelece regras para colocar no mercado, colocar em serviço e usar muitos sistemas de perceptibilidade sintético na UE”, disse Shorten. “A perspectiva para os EUA e o mercado dos EUA é menos clara.”
Os bancos estão usando uma combinação de suas próprias ferramentas de IA e aquelas adquiridas de provedores externos. O Citigroup está lançando um conjunto de ferramentas que podem sintetizar informações importantes de registros públicos. O Morgan Stanley Debrief está assumindo tarefas rotineiras com uma interface semelhante ao ChatGPT. E a separação de private-wealth do Goldman está usando IA para determinar portfólios e estudar dezenas de posições subjacentes, disse o diretor de informações Marco Argenti.
“É muito importante adotar uma abordagem responsável e realmente utilizar controles para que você se proteja de potenciais imprecisões e alucinações”, disse ele na semana passada, na conferência Bloomberg Invest, em Novidade York.
O CEO do JPMorgan, Jamie Dimon, disse que a IA pode ser o maior problema com o qual seu banco está lidando. Em sua epístola anual aos acionistas, ele comparou o impacto potencial da IA ao da máquina a vapor e disse que a tecnologia poderia “aumentar praticamente todos os empregos”.
Representantes dos bancos se recusaram a comentar além das divulgações de IA em seus relatórios anuais.
À medida que os bancos recorrem cada vez mais à IA, os cibercriminosos estão fazendo o mesmo –e estão se tornando cada vez mais sofisticados em seu uso, de pacto com Shorten. A pesquisa global mais recente da Accenture com 600 executivos de segurança cibernética no setor bancário descobriu que suas equipes estão lutando para escoltar os esforços de adoção de IA de suas organizações. Entre os entrevistados, 80% acreditam que a IA generativa está capacitando os criminosos mais rápido do que os bancos podem responder.
O Morgan Stanley disse em seu último relatório anual que a IA generativa, o trabalho remoto e a integração de tecnologia de terceiros podem simbolizar um risco à privacidade dos dados. Os riscos introduzidos pelo uso da IA durante o trabalho em morada exigirão que as empresas estabeleçam regras para evitar problemas, disse Shorten.
“Essas medidas só vão aumentar em criticidade”, disse ele, “pois os invasores estão sendo habilitados por essa tecnologia mais rápido do que os bancos conseguem responder.”
