Kina har forbudt kunstige intelligens-chatbots at fremme følelsesmæssig afhængighed hos brugerne, et skridt der kommer, mens landet kæmper med en faldende befolkning. Reguleringen, udstedt af Cyberspace Administration of China, retter sig mod chatbots, der simulerer selskab eller opmuntrer til langvarig følelsesmæssig tilknytning.
Hvorfor forbuddet nu
Politikken kommer på baggrund af Kinas faldende fødselsrate og aldrende samfund. Embedsmænd har udtrykt bekymring for, at følelsesmæssigt engagerende chatbots yderligere kan reducere social interaktion og familiedannelse. Forbuddet har til formål at forhindre AI i at blive en erstatning for menneskelige relationer, især blandt yngre brugere, der måske vender sig mod virtuelle ledsagere i stedet for at opbygge virkelige forbindelser.
Kinas befolkning faldt for andet år i træk i 2023, hvor fødslerne faldt til 9,02 millioner – det laveste siden 1940'erne. Regeringen har fremmet politikker for at opmuntre til ægteskab og børnefødsel, herunder økonomiske incitamenter og forlænget forældreorlov. Det nye AI-regulativ passer ind i den bredere indsats.
Startups i søgelyset
Flere kinesiske startups har bygget produkter omkring følelsesmæssig AI – chatbots designet til at fungere som venner, romantiske partnere eller terapeuter. Disse tjenester bruger ofte personligt sprog og hukommelsesfunktioner for at skabe en følelse af intimitet. Under de nye regler kan sådanne funktioner blive betragtet som ulovlige, hvis de opmuntrer brugere til at blive følelsesmæssigt afhængige.
Virksomheder, der i høj grad er afhængige af følelsesmæssig engagement, kan blive nødt til at ændre kurs hurtigt. Nogle er allerede begyndt at omdøbe deres tilbud som produktivitets- eller mentale sundhedsværktøjer, selvom grænsen mellem støtte og afhængighed forbliver uklar. Investorer følger nøje med: venturefinansiering til AI-følgesapps i Kina udgjorde cirka 150 millioner dollars i 2023, ifølge data fra PitchBook.
Skift mod produktivitetsværktøjer
Reguleringen kan omdirigere investeringer mod AI-applikationer, der fokuserer på effektivitet og opgavefuldførelse snarere end følelsesmæssig tilknytning. Kinesiske teknologigiganter som Baidu og Alibaba har allerede lanceret store sprogmodeller rettet mod erhvervsbrug – håndtering af kundeservice, dokumentbehandling og kodegenerering. Mindre udviklere kan følge trop.
Produktivitetsfokuseret AI står over for færre regulatoriske forhindringer og passer ind i Beijings bredere satsning på teknologisk selvhjulpenhed og industriel opgradering. Regeringen har også signaleret støtte til AI inden for uddannelse og sundhedspleje, så længe det ikke erstatter menneskelig interaktion på følsomme områder.
Hvad der kommer næste
Håndhævelsesdetaljerne forbliver uklare. Cyberspace Administration of China har ikke specificeret sanktioner eller en overgangsperiode for overholdelse. Virksomheder, der driver følelsesmæssige chatbots, bliver nødt til at gennemgå deres servicevilkår og ændre algoritmer for at undgå at udløse forbuddet. Nogle kan udfordre reglerne, men givet den politiske klima forventes de fleste at efterleve dem stille og roligt.
Reguleringen er en del af et bredere mønster: Kina har strammet kontrollen over AI siden 2021, med krav om algoritmeregistrering og indholdsmoderation. Dette seneste skridt signalerer, at følelsesmæssig manipulation – selv af maskiner – nu er en rød linje. Hvordan startups tilpasser sig, og om forbuddet faktisk ændrer brugeradfærd, er spørgsmål, der vil udfolde sig i de kommende måneder.
