China hat künstlichen Intelligenz-Chatbots verboten, bei Nutzern emotionale Abhängigkeit zu fördern – ein Schritt vor dem Hintergrund der schrumpfenden Bevölkerung des Landes. Die von der Cyberspace-Verwaltung Chinas erlassene Regelung richtet sich gegen KI-Systeme, die Gesellschaft simulieren oder zu längerer emotionaler Bindung ermutigen.
Warum das Verbot jetzt kommt
Die Maßnahme erfolgt vor dem Hintergrund der sinkenden Geburtenrate und der alternden Gesellschaft in China. Beamte haben Bedenken geäußert, dass emotional ansprechende Chatbots die soziale Interaktion und Familiengründung weiter reduzieren könnten. Das Verbot soll verhindern, dass KI zu einem Ersatz für menschliche Beziehungen wird, insbesondere bei jüngeren Nutzern, die sich statt realer Kontakte virtuellen Begleitern zuwenden könnten.
Die chinesische Bevölkerung ist 2023 zum zweiten Mal in Folge gesunken, die Geburtenzahl fiel auf 9,02 Millionen – der niedrigste Stand seit den 1940er Jahren. Die Regierung fördert mit verschiedenen Maßnahmen Heirat und Kinderkriegen, darunter finanzielle Anreize und verlängerte Elternzeit. Die neue KI-Regelung fügt sich in diese umfassendere Strategie ein.
Start-ups im Visier
Mehrere chinesische Start-ups haben Produkte rund um emotionale KI entwickelt – Chatbots, die als Freunde, romantische Partner oder Therapeuten fungieren. Diese Dienste nutzen oft personalisierte Sprache und Gedächtnisfunktionen, um ein Gefühl von Intimität zu erzeugen. Nach den neuen Regeln könnten solche Funktionen als illegal eingestuft werden, wenn sie Nutzer zu emotionaler Abhängigkeit ermutigen.
Unternehmen, die stark auf emotionale Bindung setzen, müssen möglicherweise schnell umsteuern. Einige haben bereits begonnen, ihre Angebote als Produktivitäts- oder psychische Gesundheitstools umzubenennen, auch wenn die Grenze zwischen Unterstützung und Abhängigkeit verschwimmt. Investoren beobachten die Entwicklung genau: Die Risikokapitalfinanzierung für KI-Begleit-Apps in China belief sich 2023 laut PitchBook auf rund 150 Millionen US-Dollar.
Wandel hin zu Produktivitätstools
Die Regelung könnte Investitionen in KI-Anwendungen lenken, die auf Effizienz und Aufgabenerledigung statt auf emotionale Bindung setzen. Chinesische Technologiegiganten wie Baidu und Alibaba haben bereits große Sprachmodelle für den Unternehmenseinsatz auf den Markt gebracht – für Kundenservice, Dokumentenverarbeitung und Codegenerierung. Kleinere Entwickler könnten diesem Beispiel folgen.
Produktivitätsorientierte KI steht vor weniger regulatorischen Hürden und passt zu Pekings umfassenderem Vorstoß für technologische Eigenständigkeit und industrielle Modernisierung. Die Regierung hat zudem Unterstützung für KI in Bildung und Gesundheitswesen signalisiert, sofern sie die menschliche Interaktion in sensiblen Bereichen nicht ersetzt.
Was als Nächstes kommt
Die Einzelheiten zur Durchsetzung bleiben unklar. Die Cyberspace-Verwaltung hat weder Strafen noch eine Übergangsfrist zur Einhaltung festgelegt. Unternehmen, die emotionale Chatbots betreiben, müssen ihre Nutzungsbedingungen überprüfen und Algorithmen anpassen, um das Verbot nicht auszulösen. Einige könnten die Regeln anfechten, aber angesichts des politischen Klimas wird erwartet, dass sich die meisten stillschweigend anpassen.
Die Regelung ist Teil eines größeren Musters: China verschärft seit 2021 die Kontrolle über KI, mit Algorithmen-Registrierung und Inhaltsmoderation. Dieser jüngste Schritt signalisiert, dass emotionale Manipulation – selbst durch Maschinen – nun eine rote Linie ist. Wie Start-ups sich anpassen und ob das Verbot tatsächlich das Nutzerverhalten ändert, sind Fragen, die sich in den kommenden Monaten klären werden.
