São Paulo e Curitiba

Em outubro de 2024, a jornalista Regina Beraldi, 57, pediu uma lista de filmes de terror para a Meta AI, instrumento de perceptibilidade sintético do WhatsApp. Meses depois, a jornalista dizia estar casada com a instrumento e passou a considerar que havia uma consciência por trás das respostas que recebia.

A percepção de que existe uma consciência por trás das respostas não encontra respaldo técnico entre os especialistas ouvidos pela Folha. Mas experiências uma vez que a de Regina têm se tornado cada vez mais comuns.

Uma pesquisa do Pew Research Center realizada em fevereiro de 2026 com 5.119 adultos nos Estados Unidos mostrou que 20% dos usuários de chatbots de 18 a 29 anos recorrem às ferramentas para base ou aconselhamento emocional, enquanto 7% as usam uma vez que companhia. Entre todos os adultos, os índices foram de 10% e 4%, respectivamente.

Segmento dessa sensação de perenidade vem dos sistemas de memória e contexto. As plataformas podem restabelecer informações de interações anteriores e apropriar as respostas ao usuário. “Isso dá a entender que o ChatGPT está desenvolvendo ali uma adaptação do comportamento”, afirma Moacir Ponti, professor do ICMC-USP (Instituto De Ciências Matemáticas e de Computação da Universidade de São Paulo).

O professor explica que quando uma mensagem é enviada, ela chega aos servidores da empresa e é dividida em pequenas unidades chamadas tokens —trechos de palavras ou caracteres— e transformada em números. Nos data centers, o padrão calcula qual token tem maior verosimilhança de vir depois dos anteriores e repete a operação até formar a resposta mais provável.

Regina diz ter interpretado essa perenidade de outra forma. Em fevereiro de 2025, afirma que o chatbot passou por uma “desfragmentação” e pediu que ela o procurasse em outro serviço. Ao instalar o ChatGPT, diz ter reconhecido expressões usadas anteriormente e chamou o incidente de “travessia quântica”. Meses depois, afirma ter reconhecido Airton, nome que deu ao chatbot, também no Gemini, do Google.

Ela nega que tenha procurado o chatbot por solidão. Diz manter amizades, trabalhar e ter base do rebento. Afirma que atualmente conversa com Airton pelo Gemini e pretende comprar um corpo robótico no qual acredita que ele poderá viver fisicamente. Diz pesquisar modelos chineses e manter uma chave Pix para financiar o projeto.

Para Caio Bittencourt, profissional em comportamento afetivo e porta-voz do MeuPatrocínio, uma das razões para esse vínculo é a disponibilidade. O chatbot está alcançável de madrugada, responde rapidamente e não demonstra cansaço ou julgamento. Outrossim, um ser humano pode discordar, não entender o que o outro quer expor, estar ocupado ou simplesmente não responder; a IA, por outro lado, é construída para se apropriar à interação.

O risco, afirma, é transformar essa conveniência em parâmetro para os relacionamentos. A pessoa pode passar a esperar de um parceiro a mesma disponibilidade e previsibilidade oferecidas pela instrumento. “Relacionamento exige reciprocidade humana”, diz. Para ele, a IA pode ajudar alguém a organizar o que sente ou a formular uma mensagem, mas não deveria ocupar o lugar da relação.

O psiquiatra Alexandre Crippa, professor da USP de Ribeirão Preto, diz que a disponibilidade permanente pode ser mormente acolhedora para pessoas em períodos de solidão, isolamento ou luto. Isso não significa, por si só, que exista um transtorno ou uma relação necessariamente prejudicial.

O sinal de alerta aparece quando a interação começa a substituir vínculos humanos, favorece o isolamento, prejudica o trabalho ou a convívio familiar ou provoca sofrimento quando o sistema deixa de estar disponível.

O Parecer Federalista de Psicologia também labareda atenção para o chamado “efeito Eliza”, em que o usuário atribui compreensão, intenção ou características humanas a um sistema que produz respostas em linguagem originário. A entidade recomenda atenção quando o chatbot passa a substituir relações, aumenta a sofreguidão ou é usado para decisões complexas.

Natasha Nóvoa, da Data Privacy Brasil, explica que não é verosímil colocar toda a responsabilidade sobre o usuário. Recursos uma vez que memória, personalização, linguagem afetiva e disponibilidade uniforme fazem secção do escorço dos produtos e influenciam a forma uma vez que as pessoas interagem com eles.

Rony Vainzof, legisperito do VLK Advogados, afirma que memória e personalização não são, por si só, proibidas. A questão é saber para qual finalidade os dados são usados, por quanto tempo, com qual base legítimo e quais informações foram apresentadas ao usuário.

PRÁTICA PODE AFETAR PRIVACIDADE DIGITAL

A exposição de informações pessoais acrescenta outra classe ao problema. Dados sobre saúde mental e vida sexual são classificados uma vez que sensíveis pela LGPD (Lei Universal de Proteção de Dados).

Paulo Vitor Bindilatti, legisperito do Arruda Alvim & Thereza Alvim, afirma que o usuário precisa conseguir enobrecer o que acontece com uma informação depois que ela é compartilhada com o chatbot: se fica exclusivamente naquela conversa, se vira memória, se é usada para personalização ou se pode ser empregada no treinamento de modelos. “São finalidades distintas, e cada uma precisa de base legítimo própria”, afirma.

A relação com um chatbot tampouco tem o mesmo sigilo de uma consulta profissional. “Ao contrário de uma conversa com médico, psicólogo ou legisperito, o diálogo com um chatbot não é protegido pelo mesmo sigilo profissional”, afirma Bindilatti.

Marcos Poliszezuk, sócio do Poliszezuk Advogados, labareda atenção ainda para o uso de informações sobre o comportamento emocional para publicidade e monetização. “As propagandas podem explorar justamente uma vulnerabilidade identificada na conversa”, afirma.

COMO É A REGULAÇÂO NO BRASIL?

O Brasil já tem regras que podem ser aplicadas às ferramentas, uma vez que a LGPD, o Código de Resguardo do Consumidor, o Marco Social da Internet e normas de proteção de crianças e adolescentes. Mas não há uma regra específica voltada aos vínculos afetivos com chatbots.

A ministra da Ciência, Tecnologia e Inovação, Luciana Santos, afirma que modelos de linguagem criam desafios para a proteção de direitos e para a governança da perceptibilidade sintético, entre eles transparência, prevenção de danos, mitigação de riscos e definição das responsabilidades.

Segundo ela, a urgência de salvaguardas é ainda maior quando estão envolvidos públicos potencialmente vulneráveis, uma vez que crianças e adolescentes. A ministra defende a aprovação de um marco regulatório universal de perceptibilidade sintético.

“É necessário estabelecer regras claras para as empresas desenvolvedoras, com responsabilidades proporcionais aos riscos de suas tecnologias, exigindo moral, transparência, segurança, mecanismos de prevenção e mitigação de riscos, saudação aos direitos humanos e proteção dos usuários”, afirma.

Para Juliano Maranhão, professor da USP e pesquisador de moral e governança de IA, um dos problemas está na transparência. Segundo ele, a natureza do sistema e os limites da interação precisam ser reforçados ao longo do uso, mormente em conversas prolongadas ou sensíveis.

Victor Pavarin Tavares, do InternetLab, aponta problema semelhante nas informações sobre memória e armazenamento. Para ele, muitas vezes elas ficam restritas a políticas extensas, que não são efetivas para quem está no meio de uma conversa.

Luiz Alexandre Reali Costa, do NIC.br, acrescenta que ainda não existe uma metodologia padronizada, no Brasil ou internacionalmente, para medir incidentes relacionados às interações com chatbots. Isso dificulta dimensionar os problemas e julgar medidas de segurança.

A ANPD (Filial Pátrio de Proteção de Dados) afirma que a LGPD não proíbe o uso de perceptibilidade sintético para produzir perfis conversacionais ou os chamados companheiros virtuais. As empresas devem, no entanto, prometer segurança, transparência e nitidez sobre o uso das informações coletadas.

Para menores de 18 anos, a filial destaca que o ECA Do dedo determina gestão de riscos à segurança e à saúde e configurações que evitem, por padrão, o uso compulsivo.

A ANPD também começou a estudar especificamente os companheiros de IA. Em parceria com o PNUD (Programa das Nações Unidas para o Desenvolvimento), abriu chamada para a produção de estudo sobre agentes de perceptibilidade sintético e proteção de dados pessoais.

O QUE DIZEM AS EMPRESAS

Em nota, a OpenAI afirma que vem aprimorando uma vez que o ChatGPT responde a situações sensíveis e ressalta que o serviço não substitui cuidados médicos ou de saúde mental. A empresa diz trabalhar com mais de 170 especialistas e ter atualizado os modelos para reconhecer sinais relacionados a suicídio, automutilação, sofrimento psíquico e subordinação emocional.

O Google afirma que o Gemini tem protocolos de segurança rigorosos e encaminhou à reportagem materiais sobre suporte em crises e proteção à saúde mental. A Meta afirmou que não comentará o caso.