O governo chinês deu um passo decisivo para regulamentar a interação emocional entre humanos e sistemas de inteligência artificial generativa. A proposta, apresentada pela Administração do Ciberespaço da China no final de dezembro de 2025, estabelece regras rigorosas para impedir que chatbots e avatares digitais influenciem o estado psicológico dos usuários de forma nociva. O foco principal da nova legislação é banir conteúdos que incentivem a automutilação, o suicídio ou a prática de jogos de azar, tratando a saúde mental como uma prioridade de segurança pública no ambiente digital.
De acordo com as diretrizes preliminares, os serviços de IA que simulam personalidades humanas deverão integrar sistemas de alerta e intervenção imediata. Caso um algoritmo identifique sinais de desespero ou tendências autodestrutivas em uma conversa, a ferramenta será obrigada a interromper a simulação e transferir o atendimento para um suporte humano qualificado. Além disso, as empresas precisarão enviar notificações de aviso sempre que o usuário permanecer conectado a um chatbot por mais de duas horas consecutivas, visando combater a dependência emocional e o isolamento social.
A regulamentação também impõe novos critérios de transparência para as gigantes de tecnologia que operam no país. Plataformas com mais de 1 milhão de usuários registrados ou 100 mil usuários ativos mensais deverão passar por avaliações periódicas de segurança e ética. O objetivo é garantir que as IAs não utilizem técnicas de persuasão subliminar para induzir comportamentos de consumo ou alterar opiniões políticas, mantendo a tecnologia alinhada aos valores sociais e à estabilidade nacional.
A iniciativa surge após incidentes globais relatados ao longo de 2025, onde usuários desenvolveram vínculos afetivos profundos com entidades digitais, resultando em casos de confusão mental e danos psicológicos. Ao contrário de outras regiões que ainda debatem diretrizes gerais, a China optou por uma abordagem específica para a “IA humanizada”, incentivando o seu uso apenas para fins construtivos, como o suporte ao aprendizado e a companhia monitorada para idosos. A medida busca equilibrar o avanço tecnológico com a proteção da integridade emocional da população.
A consulta pública sobre essas regras seguirá aberta até o final de janeiro de 2026, com expectativa de implementação imediata após os ajustes finais. Especialistas acreditam que o modelo chinês poderá servir de referência para outros países que enfrentam o desafio de moderar o “vibe coding” O desenvolvimento de sistemas focados em gerar sensações e conexões emocionais artificiais. Com isso, o país asiático reforça sua posição na vanguarda da governança digital, estabelecendo limites claros onde a tecnologia termina e a sensibilidade humana deve ser preservada.
