Kina har forbudt kunstig intelligens-chatboter å fremme følelsesmessig avhengighet hos brukere, et grep som kommer mens landet sliter med en synkende befolkning. Reguleringen, utstedt av Kinas cyberspaceadministrasjon, retter seg mot konversasjons-AI-systemer som simulerer selskap eller oppmuntrer til langvarig følelsesmessig tilknytning.
Hvorfor forbudet nå
Politikken kommer mot bakgrunn av Kinas krympende fødselsrate og aldrende samfunn. Myndighetene har uttrykt bekymring for at følelsesmessig engasjerende chatboter kan redusere sosial interaksjon og familiedannelse ytterligere. Forbudet har som mål å forhindre at AI blir en erstatning for menneskelige relasjoner, spesielt blant yngre brukere som kan vende seg til virtuelle følgesvenner i stedet for å bygge virkelige forbindelser.
Kinas befolkning falt for andre år på rad i 2023, med fødselstall som sank til 9,02 millioner – det laveste siden 1940-tallet. Regjeringen har fremmet politikk for å oppmuntre til ekteskap og barnefødsel, inkludert økonomiske insentiver og utvidet foreldrepermisjon. Det nye AI-forbudet passer inn i denne bredere innsatsen.
Oppstartsselskaper i søkelyset
Flere kinesiske oppstartsselskaper har bygget produkter rundt emosjonell AI – chatboter designet for å fungere som venner, romantiske partnere eller terapeuter. Disse tjenestene bruker ofte personlig tilpasset språk og minnefunksjoner for å skape en følelse av intimitet. Under de nye reglene kan slike funksjoner anses som ulovlige hvis de oppmuntrer brukere til å bli følelsesmessig avhengige.
Selskaper som er sterkt avhengige av følelsesmessig engasjement, kan måtte omstille seg raskt. Noen har allerede begynt å omprofilere tilbudene sine som produktivitets- eller mentalhelseverktøy, selv om grensen mellom støtte og avhengighet fortsatt er uklar. Investorer følger nøye med: risikokapitalfinansiering for AI-følgeapper i Kina utgjorde omtrent 150 millioner dollar i 2023, ifølge data fra PitchBook.
Skifte mot produktivitetsverktøy
Reguleringen kan omdirigere investeringer mot AI-applikasjoner som fokuserer på produktivitet og oppgavefullføring snarere enn følelsesmessig tilknytning. Kinesiske teknologigiganter som Baidu og Alibaba har allerede lansert store språkmodeller rettet mot bedriftsbruk – for kundeservice, dokumentbehandling og kodegenerering. Mindre utviklere kan følge etter.
Produktivitetsfokusert AI møter færre regulatoriske hindringer og er i tråd med Beijings bredere satsing på teknologisk selvtillit og industriell oppgradering. Regjeringen har også signalisert støtte til AI innen utdanning og helsevesen, forutsatt at det ikke erstatter menneskelig interaksjon i sensitive områder.
Hva skjer videre
Håndhevelsesdetaljene er fortsatt uklare. Cyberspaceadministrasjonen har ikke spesifisert straffer eller en overgangsperiode for etterlevelse. Selskaper som driver emosjonelle chatboter, må gjennomgå sine tjenestevilkår og endre algoritmer for å unngå å utløse forbudet. Noen kan utfordre reglene, men gitt det politiske klimaet forventes de fleste å etterleve stille.
Reguleringen er en del av et bredere mønster: Kina har strammet inn kontrollen over AI siden 2021, med krav om algoritmeregistrering og innholdsmoderering. Dette siste trekket signaliserer at følelsesmessig manipulasjon – selv av maskiner – nå er en rød linje. Hvordan oppstartsselskaper tilpasser seg, og om forbudet faktisk endrer brukeratferd, er spørsmål som vil utspille seg i månedene fremover.
