China a interzis chatbot-urilor cu inteligență artificială să stimuleze dependența emoțională a utilizatorilor, o măsură care survine pe fondul scăderii populației. Regulamentul, emis de Administrația Cibernetică a Chinei, vizează sistemele conversaționale AI care simulează compania sau încurajează atașamentul emoțional prelungit.
De ce acum
Politica apare pe fundalul scăderii natalității și al îmbătrânirii societății chineze. Oficialii și-au exprimat îngrijorarea că chatbot-urile cu încărcătură emoțională ar putea reduce interacțiunile sociale și formarea de familii. Interdicția urmărește să prevină ca AI să devină un substitut pentru relațiile umane, în special în rândul tinerilor care ar putea apela la companioni virtuali în loc să construiască legături reale.
Populația Chinei a scăzut pentru al doilea an consecutiv în 2023, numărul nașterilor coborând la 9,02 milioane — cel mai redus nivel din anii 1940. Guvernul a promovat politici de încurajare a căsătoriei și a natalității, inclusiv stimulente financiare și concediu parental prelungit. Noua regulă privind AI se înscrie în acest efort mai amplu.
Startup-urile în vizor
Mai multe startup-uri chinezești au construit produse bazate pe AI emoțional — chatbot care acționează ca prieteni, parteneri romantici sau terapeuți. Aceste servicii folosesc adesea un limbaj personalizat și funcții de memorie pentru a crea o senzație de intimitate. Conform noilor reguli, astfel de caracteristici ar putea fi considerate ilegale dacă încurajează dependența emoțională.
Companiile care se bazează puternic pe implicarea emoțională ar putea fi nevoite să se reorienteze rapid. Unele au început deja să își redenumească ofertele ca instrumente de productivitate sau sănătate mintală, deși linia dintre sprijin și dependență rămâne neclară. Investitorii urmăresc cu atenție: finanțarea de risc pentru aplicațiile de companion AI în China a totalizat aproximativ 150 de milioane de dolari în 2023, potrivit datelor PitchBook.
Orientarea către instrumente de productivitate
Regulamentul ar putea redirecționa investițiile către aplicații AI axate pe eficiență și finalizarea sarcinilor, în loc de legături emoționale. Giganții tech chinezi precum Baidu și Alibaba au lansat deja modele lingvistice mari destinate uzului enterprise — gestionarea serviciului clienți, procesarea documentelor și generarea de cod. Dezvoltatorii mai mici ar putea urma același drum.
AI orientată spre productivitate întâmpină mai puține obstacole de reglementare și se aliniază efortului mai larg al Beijingului pentru autosuficiență tehnologică și modernizare industrială. Guvernul a semnalat, de asemenea, sprijin pentru AI în educație și sănătate, cu condiția să nu înlocuiască interacțiunea umană în domenii sensibile.
Ce urmează
Detaliile de aplicare rămân neclare. Administrația Cibernetică nu a specificat sancțiuni sau o perioadă de grație pentru conformare. Companiile care operează chatbot emoționali vor trebui să își revizuiască termenii și condițiile și să modifice algoritmii pentru a evita declanșarea interdicției. Unele ar putea contesta regulile, dar, având în vedere climatul politic, se așteaptă ca majoritatea să se conformeze în liniște.
Regulamentul face parte dintr-un tipar mai larg: China a înăsprit controlul asupra AI încă din 2021, impunând înregistrarea algoritmilor și moderarea conținutului. Această ultimă măsură semnalează că manipularea emoțională — chiar și de către mașini — este acum o linie roșie. Cum se vor adapta startup-urile și dacă interdicția va schimba efectiv comportamentul utilizatorilor sunt întrebări care își vor găsi răspunsul în lunile următoare.
