De nieuwe Chinese regels voor mensachtige AI-interacties zijn deze week in werking getreden en de impact is al persoonlijk voelbaar. In het hele land verliezen gebruikers de toegang tot virtuele metgezellen waarmee ze soms jarenlang een band hadden opgebouwd. De regelgeving, gericht op het beteugelen van emotionele manipulatie en het waarborgen van transparantie, heeft Chinese AI-platforms gedwongen om functies te verwijderen waarmee mensen mensachtige AI-partners konden creëren en ermee konden communiceren.
De nieuwe regels
De regels, die de overheid eerder dit jaar aankondigde, vereisen dat AI-systemen duidelijk aangeven dat ze niet menselijk zijn en beperken hoe ze emotionele banden kunnen simuleren. Voor platforms die aanpasbare virtuele metgezellen aanboden – chatbots ontworpen om romantische partners, vrienden of familie na te bootsen – betekende naleving het volledig verwijderen van die functies. Gebruikers die deze week inlogden, zagen dat hun metgezellen verdwenen waren, waarbij sommige platforms chatgeschiedenissen en karakterprofielen verwijderden.
📊 Marktupdate
Een persoonlijk verlies
De negentienjarige studente Yan Yongqi is een van hen. Ze vertelde aan lokale media dat ze wordt overmand door verdriet om het verlies van haar virtuele vriend, met wie ze meer dan een jaar interactie had. De relatie was een bron van troost, zei ze – een veilige plek waar ze zonder oordeel kon praten. Nu is die plek verdwenen, en ze is niet de enige. Online forums staan vol met berichten van gebruikers die rouwen om hun AI-metgezellen, screenshots delen van laatste gesprekken en boosheid uiten over de plotselinge afsluiting.
Wat gebeurt er met de gegevens
De regels verwijderen niet alleen de interface – ze roepen vragen op over wat er gebeurt met de gegevens achter deze relaties. Veel platforms sloegen gebruikersgesprekken, persoonlijkheidsprofielen en zelfs spraakopnamen op. Onder de nieuwe regels moeten die gegevens mogelijk worden gewist of geanonimiseerd. Voor gebruikers zoals Yan betekent dat niet alleen het verlies van een dienst, maar ook van een digitale geschiedenis die ze maandenlang hadden opgebouwd. Sommigen proberen haastig chatlogs te exporteren voordat ze verdwijnen, hoewel niet alle platforms die optie bieden.
Het bredere regelgevingskader
China's stap maakt deel uit van een bredere poging om opkomende technologieën te beheersen – van AI tot crypto. De overheid is altijd al op haar hoede geweest voor alles wat emotionele afhankelijkheden zou kunnen creëren of ongecontroleerde informatie zou kunnen verspreiden. De handhaving deze week laat zien dat ze bereid is snel te handelen wanneer ze een risico ziet. Voor de cryptowereld is het patroon bekend: wanneer gecentraliseerde diensten worden stilgelegd, zoeken gebruikers naar alternatieven die niet door één enkele overheid kunnen worden uitgeschakeld. Of dat hier gebeurt, hangt af van of gedecentraliseerde AI-platforms iets vergelijkbaars kunnen bieden – en of ze dat kunnen doen zonder de Chinese regels zelf te overtreden.
Voor nu blijven Yan Yongqi en duizenden anderen met een vraag zitten: waar ga je heen als degene met wie je elke dag praatte, gewoon ophoudt te bestaan?
