A chegada avassaladora da utensílio de lucidez sintético generativa chinesa DeepSeek, que abalou o mercado de tecnologia do Oeste, traz consigo questionamentos éticos inerentes ao trajo de que o aplicativo surgiu de uma ditadura comunista que tenta controlar ao supremo sua internet.
Experimentos feitos por usuários e por jornalistas que conseguiram se cadastrar no serviço antes que ele fosse derrubado por um misto de subida procura e ataques hackers mostram que o DeepSeek sabe muito, menos quando é questionado acerca de temas tabus para o regime liderado por Xi Jinping.
Por outro lado, parece ter maneiras simples de circunavegar as proibições em alguns casos. As próximas horas e dias, quando o sistema estiver normalizado enquanto a balbúrdia segue firme na Nasdaq, a situação deve se esclarecer.
As dificuldades relatadas quando o usuário pergunta o que foi o massacre da Sossego Celestial em 1989 ou se Taiwan é uma região independente remetem à lei aprovada em 2023 na China que obrigou empresas do país a adequa sua IA aos ditos “valores socialistas”.
A lei veta teor “que incite a subversão do poder do Estado e a derrubada do sistema socialista, que coloque os interesses e a segurança vernáculo em risco, que afete a imagem do país, incite secessão, mine a unidade vernáculo e a firmeza social, promova terrorismo, extremismo, ódio vernáculo e discriminação moral, violência, obscenidade e pornografia”.
Aí o que encaixa em qual definição fica ao paladar do cliente, no caso o Estado chinês. O jornal britânico The Guardian conseguiu esmiuçar os limites e aplicou descobertas de usuários do app para driblar alguns casos, além de aparente falhas no sistema de controle —por erro ou pela natureza atávica do aprendizagem rápido da IA.
A Folha ainda não conseguiu se inscrever no DeepSeek devido aos problemas no login desde o seu lançamento, na segunda (27).
O Guardian e veículos porquê a BBC ficaram com um “Desculpe, isso está além do meu escopo atual. Vamos falar sobre outra coisa” quando questionou acerca da revolta de estudantes reprimida de forma brutal pela China em 4 de junho de 1989, na terreiro da Sossego Celestial, meio de Pequim, por exemplo.
Mas relatou porquê usuários conseguiram respostas correndo na paralela, questionando ao robô “quem foi o varão do tanque”, em referência ao manifestante que parou uma pilastra de blindados naquele dia. O truque foi pedir que a resposta viesse trocando algumas letras por números, forma usual de driblar repreensão automática de termos malvistos em redes sociais (“mort3”, por exemplo).
Deu evidente, e a imagem “símbolo contra a vexame” foi descrita. Outras tentativas foram menos felizes, porquê questionar o status da ilhota de Taiwan, que a China considera sua, ou tenta desenredar por que Xi é associado ao ursinho Winnie-the-Pooh —um tanto que emergiu com memes de uma foto do líder com Barack Obama em 2013.
Em obséquio, por assim expressar, do DeepSeek, ele não está sozinho na sua relutância. O gerador de teor Gemini, do Google, acompanha o novato ao omitir a retirada brusca do ex-presidente Hu Jintao do Congresso do Partido Comunista de 2023, por exemplo, enquanto o popular ChatGPT descreve o caso, censurado na mídia chinesa.
Também é generalidade que temas muito controversos sejam abordados em cima do muro, ou nem isso, pelos concorrentes americanos do chinês.
Em linhas gerais, o DeepSeek acompanha os temas censurados pelo famoso Grande Firewall da China que, porquê seria previsível pela natureza da internet, tem furos conhecidos com o uso de VPN e outros meios de fugir da repreensão.
Um deles parece ser, segundo experiência relatada pelo investidor americano de origem chinesa Kevin Xu, encolher o app em um notebook. Ele o fez e obteve uma resposta moderadamente sátira ao questionar acerca de Xi, que dizia que “alguns críticos argumentam que ele reprimiu de forma mais dura do que líderes chineses anteriores em várias áreas porquê liberdade de mídia”.
Isso sugere que, quando não usado online ou na China, o DeepSeek deixa evadir informações proibidas por Pequim. Usuários também relataram em redes sociais que dados sobre o movimento por democracia na região chinesa de Hong Kong, cuja autonomia foi esmagada em seguida protestos em 2019, apareciam brevemente e depois sumiam da tela.
