China ha prohibido que los chatbots de inteligencia artificial fomenten la dependencia emocional en los usuarios, una medida que llega en medio de la lucha del país contra el declive poblacional. La regulación, emitida por la Administración del Ciberespacio de China, apunta a los sistemas de IA conversacional que simulan compañía o incentivan un apego emocional prolongado.
Por qué la prohibición ahora
La política llega en el contexto de la reducción de la tasa de natalidad y el envejecimiento de la sociedad china. Las autoridades han expresado su preocupación de que los chatbots emocionalmente atractivos puedan reducir aún más la interacción social y la formación de familias. La prohibición busca evitar que la IA se convierta en un sustituto de las relaciones humanas, especialmente entre los usuarios jóvenes que podrían recurrir a compañeros virtuales en lugar de construir conexiones reales.
La población de China cayó por segundo año consecutivo en 2023, con nacimientos que descendieron a 9,02 millones, la cifra más baja desde la década de 1940. El gobierno ha estado impulsando políticas para fomentar el matrimonio y la procreación, incluidos incentivos financieros y la ampliación de los permisos parentales. La nueva norma sobre IA se enmarca en ese esfuerzo más amplio.
Las startups en el punto de mira
Varias startups chinas han desarrollado productos basados en IA emocional: chatbots diseñados para actuar como amigos, parejas románticas o terapeutas. Estos servicios suelen utilizar un lenguaje personalizado y funciones de memoria para crear una sensación de intimidad. Bajo las nuevas reglas, dichas características podrían considerarse ilegales si alientan a los usuarios a volverse emocionalmente dependientes.
Las empresas que dependen en gran medida del compromiso emocional pueden necesitar pivotar rápidamente. Algunas ya han comenzado a renombrar sus ofertas como herramientas de productividad o salud mental, aunque la línea entre el apoyo y la dependencia sigue siendo difusa. Los inversores observan con atención: la financiación de capital riesgo para aplicaciones de IA de compañía en China totalizó aproximadamente 150 millones de dólares en 2023, según datos de PitchBook.
Giro hacia herramientas de productividad
La regulación podría redirigir la inversión hacia aplicaciones de IA centradas en la eficiencia y la finalización de tareas, en lugar del vínculo emocional. Gigantes tecnológicos chinos como Baidu y Alibaba ya han lanzado modelos de lenguaje de gran tamaño orientados al uso empresarial, para atención al cliente, procesamiento de documentos y generación de código. Los desarrolladores más pequeños podrían seguir su ejemplo.
La IA orientada a la productividad enfrenta menos obstáculos regulatorios y se alinea con el impulso más amplio de Pekín hacia la autosuficiencia tecnológica y la modernización industrial. El gobierno también ha mostrado su apoyo a la IA en educación y atención médica, siempre que no reemplace la interacción humana en áreas sensibles.
Qué viene después
Los detalles de la aplicación siguen sin estar claros. La Administración del Ciberespacio no ha especificado sanciones ni un período de gracia para el cumplimiento. Las empresas que operan chatbots emocionales deberán revisar sus términos de servicio y modificar algoritmos para evitar activar la prohibición. Algunas podrían impugnar las reglas, pero dado el clima político, se espera que la mayoría acate en silencio.
La regulación forma parte de un patrón más amplio: China ha estado endureciendo el control sobre la IA desde 2021, exigiendo el registro de algoritmos y la moderación de contenido. Este último movimiento señala que la manipulación emocional, incluso por parte de máquinas, es ahora una línea roja. Cómo se adaptarán las startups y si la prohibición cambia realmente el comportamiento de los usuarios son preguntas que se resolverán en los próximos meses.
