A China proibiu que chatbots de inteligência artificial incentivem a dependência emocional em usuários, uma medida que ocorre em meio ao declínio populacional do país. A regulamentação, emitida pela Administração do Ciberespaço da China, tem como alvo sistemas de IA conversacional que simulam companhia ou encorajam apego emocional prolongado.
Por que a proibição agora
A política chega em um contexto de encolhimento da taxa de natalidade e envelhecimento da população chinesa. Autoridades expressaram preocupação de que chatbots emocionalmente envolventes possam reduzir ainda mais a interação social e a formação de famílias. A proibição visa impedir que a IA se torne um substituto para relacionamentos humanos, especialmente entre jovens que podem recorrer a companheiros virtuais em vez de construir conexões reais.
A população da China caiu pelo segundo ano consecutivo em 2023, com nascimentos reduzindo para 9,02 milhões — o menor número desde a década de 1940. O governo vem promovendo políticas para incentivar o casamento e a procriação, incluindo incentivos financeiros e licença parental estendida. A nova regra de IA se encaixa nesse esforço mais amplo.
Startups na mira
Várias startups chinesas criaram produtos baseados em IA emocional — chatbots projetados para atuar como amigos, parceiros românticos ou terapeutas. Esses serviços frequentemente usam linguagem personalizada e recursos de memória para criar uma sensação de intimidade. Sob as novas regras, tais funcionalidades podem ser consideradas ilegais se incentivarem os usuários a se tornarem emocionalmente dependentes.
Empresas que dependem fortemente do engajamento emocional podem precisar se adaptar rapidamente. Algumas já começaram a reformular suas ofertas como ferramentas de produtividade ou saúde mental, embora a linha entre apoio e dependência continue tênue. Investidores estão observando atentamente: o financiamento de capital de risco para aplicativos de companhia com IA na China totalizou cerca de US$ 150 milhões em 2023, segundo dados da PitchBook.
Mudança para ferramentas de produtividade
A regulamentação pode redirecionar investimentos para aplicações de IA focadas em eficiência e conclusão de tarefas, em vez de vínculo emocional. Gigantes chineses de tecnologia como Baidu e Alibaba já lançaram grandes modelos de linguagem voltados para uso empresarial — lidando com atendimento ao cliente, processamento de documentos e geração de código. Desenvolvedores menores podem seguir o mesmo caminho.
A IA focada em produtividade enfrenta menos obstáculos regulatórios e está alinhada com o impulso mais amplo de Pequim em direção à autossuficiência tecnológica e modernização industrial. O governo também sinalizou apoio à IA na educação e saúde, desde que não substitua a interação humana em áreas sensíveis.
O que vem a seguir
Os detalhes da aplicação da lei ainda não estão claros. A Administração do Ciberespaço não especificou penalidades ou um período de carência para conformidade. Empresas que operam chatbots emocionais precisarão revisar seus termos de serviço e modificar algoritmos para evitar acionar a proibição. Algumas podem contestar as regras, mas, dado o clima político, espera-se que a maioria cumpra silenciosamente.
A regulamentação faz parte de um padrão mais amplo: a China vem apertando o controle sobre a IA desde 2021, exigindo registro de algoritmos e moderação de conteúdo. Este movimento mais recente sinaliza que a manipulação emocional — mesmo por máquinas — agora é uma linha vermelha. Como as startups se adaptarão e se a proibição realmente mudará o comportamento dos usuários são questões que se desenrolarão nos próximos meses.
