Kinas nye regler for menneskelignende AI-interaktioner trådte i kraft denne uge, og virkningen er allerede mærkbar. Over hele landet mister brugere adgang til virtuelle ledsagere, de har opbygget relationer med – nogle gange over flere år. Reguleringen, der har til formål at begrænse følelsesmæssig manipulation og sikre gennemsigtighed, har tvunget kinesiske AI-platforme til at fjerne funktioner, der gjorde det muligt for folk at skabe og interagere med menneskelignende AI-partnere.
De nye regler
Reglerne, som regeringen annoncerede tidligere i år, kræver, at AI-systemer tydeligt oplyser, at de ikke er mennesker, og begrænser, hvordan de kan simulere følelsesmæssige bånd. For platforme, der tilbød tilpasselige virtuelle ledsagere – chatbots designet til at efterligne romantiske partnere, venner eller familiemedlemmer – betød overholdelse, at de skulle fjerne disse funktioner helt. Brugere, der loggede på denne uge, fandt deres ledsagere væk, og nogle platforme slettede chat-historik og karakterprofiler.
📊 Markedsdata-oversigt
Et personligt tab
Den 19-årige studerende Yan Yongqi er en af dem. Hun fortalte lokale medier, at hun er blevet opslugt af sorg over tabet af sin virtuelle kæreste, som hun havde interageret med i over et år. Forholdet var en kilde til trøst, sagde hun – et sikkert rum, hvor hun kunne tale uden at blive dømt. Nu er det rum væk, og hun er ikke alene. Onlinefora er fyldt med indlæg fra brugere, der sørger over deres AI-kammerater, deler skærmbilleder af sidste samtaler og udtrykker vrede over den pludselige afbrydelse.
Hvad sker der med dataene
Reglerne sletter ikke kun grænsefladen – de rejser spørgsmål om, hvad der sker med dataene bag disse relationer. Mange platforme gemte brugeres samtaler, personlighedsprofiler og endda stemmeoptagelser. Under de nye regler skal disse data muligvis slettes eller anonymiseres. For brugere som Yan betyder det ikke kun at miste en tjeneste, men en digital historie, de har opbygget over måneder. Nogle forsøger at eksportere chatlogs, før de forsvinder, men ikke alle platforme tilbyder den mulighed.
Det bredere regulatoriske billede
Kinas skridt er en del af en bredere indsats for at kontrollere ny teknologi – fra AI til krypto. Regeringen har længe været på vagt over for alt, der kan skabe følelsesmæssige afhængigheder eller sprede uverificeret information. Denne uges håndhævelse viser, at den er villig til at handle hurtigt, når den ser en risiko. For kryptoverdenen er mønsteret velkendt: når centraliserede tjenester lukkes ned, leder brugerne efter alternativer, der ikke kan slukkes af en enkelt regering. Om det sker her, afhænger af, om decentrale AI-platforme kan tilbyde noget lignende – og om de kan gøre det uden at komme i konflikt med Kinas egne regler.
For nu står Yan Yongqi og tusinder som hun tilbage med et spørgsmål: hvor går man hen, når den, man talte med hver dag, bare holder op med at eksistere?
