China heeft kunstmatige intelligentie-chatbots verboden om emotionele afhankelijkheid bij gebruikers te stimuleren, een stap die wordt gezet terwijl het land worstelt met een dalende bevolking. De regelgeving, uitgevaardigd door de Chinese internetautoriteit (Cyberspace Administration of China), richt zich op conversationele AI-systemen die gezelschap simuleren of langdurige emotionele gehechtheid aanmoedigen.
Waarom het verbod nu
Het beleid komt tegen de achtergrond van China's krimpende geboortecijfer en vergrijzende samenleving. Ambtenaren hebben hun bezorgdheid geuit dat emotioneel aansprekende chatbots de sociale interactie en gezinsvorming verder kunnen verminderen. Het verbod is bedoeld om te voorkomen dat AI een substituut wordt voor menselijke relaties, vooral onder jongere gebruikers die zich tot virtuele metgezellen kunnen wenden in plaats van echte verbindingen aan te gaan.
De Chinese bevolking daalde in 2023 voor het tweede opeenvolgende jaar, met een geboortecijfer dat daalde tot 9,02 miljoen — het laagste sinds de jaren 1940. De overheid heeft beleid gevoerd om huwelijk en kinderwens te stimuleren, waaronder financiële prikkels en verlengd ouderschapsverlof. De nieuwe AI-regel past in die bredere inspanning.
Startups in het vizier
Verschillende Chinese startups hebben producten gebouwd rond emotionele AI — chatbots die zijn ontworpen om te fungeren als vrienden, romantische partners of therapeuten. Deze diensten maken vaak gebruik van gepersonaliseerde taal en geheugenfuncties om een gevoel van intimiteit te creëren. Onder de nieuwe regels kunnen dergelijke functies als illegaal worden beschouwd als ze gebruikers aanmoedigen om emotioneel afhankelijk te worden.
Bedrijven die sterk leunen op emotionele betrokkenheid moeten mogelijk snel overschakelen. Sommigen zijn al begonnen met het herpositioneren van hun aanbod als productiviteits- of geestelijke gezondheidstools, hoewel de grens tussen ondersteuning en afhankelijkheid vaag blijft. Beleggers houden de situatie nauwlettend in de gaten: de durfkapitaalfinanciering voor AI-companion-apps in China bedroeg in 2023 in totaal ongeveer $150 miljoen, volgens gegevens van PitchBook.
Verschuiving naar productiviteitstools
De regelgeving zou investeringen kunnen verschuiven naar AI-toepassingen die zich richten op efficiëntie en taakvoltooiing in plaats van emotionele binding. Chinese techgiganten zoals Baidu en Alibaba hebben al grote taalmodellen gelanceerd die gericht zijn op zakelijk gebruik — voor klantenservice, documentverwerking en codegeneratie. Kleinere ontwikkelaars kunnen volgen.
Productiviteitsgerichte AI heeft te maken met minder regelgevingshobbels en sluit aan bij Peking's bredere streven naar technologische zelfredzaamheid en industriële upgrading. De overheid heeft ook steun uitgesproken voor AI in onderwijs en gezondheidszorg, op voorwaarde dat het menselijke interactie in gevoelige gebieden niet vervangt.
Wat komt er nu
De handhavingsdetails blijven onduidelijk. De Cyberspace Administration heeft geen straffen of een overgangsperiode voor naleving gespecificeerd. Bedrijven die emotionele chatbots exploiteren, moeten hun servicevoorwaarden herzien en algoritmen aanpassen om het verbod te omzeilen. Sommigen zullen de regels mogelijk aanvechten, maar gezien het politieke klimaat wordt verwacht dat de meeste zich stilzwijgend zullen schikken.
De regelgeving maakt deel uit van een breder patroon: China heeft de controle over AI sinds 2021 aangescherpt, met vereisten voor algoritmeregistratie en contentmoderatie. Deze laatste stap geeft aan dat emotionele manipulatie — zelfs door machines — nu een rode lijn is. Hoe startups zich aanpassen en of het verbod daadwerkelijk het gebruikersgedrag verandert, zijn vragen die de komende maanden zullen worden beantwoord.
