La Cina ha vietato ai chatbot basati sull'intelligenza artificiale di favorire la dipendenza emotiva negli utenti, una mossa che arriva mentre il Paese affronta un calo demografico. La normativa, emanata dall'Amministrazione Cyberspaziale della Cina, prende di mira i sistemi di IA conversazionale che simulano compagnia o incoraggiano un attaccamento emotivo prolungato.
Perché il divieto ora
La politica arriva sullo sfondo del tasso di natalità in calo e dell'invecchiamento della società cinese. I funzionari hanno espresso preoccupazione che i chatbot emotivamente coinvolgenti possano ridurre ulteriormente l'interazione sociale e la formazione di famiglie. Il divieto mira a impedire che l'IA diventi un sostituto delle relazioni umane, specialmente tra gli utenti più giovani che potrebbero rivolgersi a compagni virtuali invece di costruire legami reali.
La popolazione cinese è diminuita per il secondo anno consecutivo nel 2023, con le nascite scese a 9,02 milioni — il minimo dagli anni '40. Il governo ha promosso politiche per incoraggiare il matrimonio e la procreazione, inclusi incentivi finanziari e congedi parentali estesi. La nuova regola sull'IA si inserisce in questo sforzo più ampio.
Le startup nel mirino
Diverse startup cinesi hanno sviluppato prodotti basati sull'IA emotiva — chatbot progettati per fungere da amici, partner romantici o terapeuti. Questi servizi spesso utilizzano un linguaggio personalizzato e funzionalità di memoria per creare un senso di intimità. Con le nuove regole, tali caratteristiche potrebbero essere considerate illegali se incoraggiano gli utenti a diventare emotivamente dipendenti.
Le aziende che fanno molto affidamento sul coinvolgimento emotivo potrebbero dover cambiare rapidamente rotta. Alcune hanno già iniziato a riposizionare i loro prodotti come strumenti di produttività o salute mentale, anche se il confine tra supporto e dipendenza rimane sfumato. Gli investitori osservano attentamente: i finanziamenti di venture capital per le app di compagnia basate sull'IA in Cina hanno totalizzato circa 150 milioni di dollari nel 2023, secondo dati di PitchBook.
Svolta verso gli strumenti di produttività
La regolamentazione potrebbe reindirizzare gli investimenti verso applicazioni di IA focalizzate sull'efficienza e sul completamento di compiti, piuttosto che sul legame emotivo. I giganti tecnologici cinesi come Baidu e Alibaba hanno già lanciato modelli linguistici di grandi dimensioni destinati all'uso aziendale — per la gestione del servizio clienti, l'elaborazione di documenti e la generazione di codice. Gli sviluppatori più piccoli potrebbero seguire l'esempio.
Le applicazioni di IA orientate alla produttività incontrano meno ostacoli normativi e si allineano con la spinta più ampia del governo cinese verso l'autosufficienza tecnologica e l'ammodernamento industriale. Il governo ha anche segnalato il suo sostegno all'IA nell'istruzione e nella sanità, a condizione che non sostituisca l'interazione umana in aree sensibili.
Cosa succederà dopo
I dettagli sull'applicazione rimangono poco chiari. L'Amministrazione Cyberspaziale non ha specificato sanzioni o un periodo di grazia per l'adeguamento. Le aziende che gestiscono chatbot emotivi dovranno rivedere i propri termini di servizio e modificare gli algoritmi per evitare di incorrere nel divieto. Alcune potrebbero contestare le regole, ma dato il clima politico, la maggior parte è prevista conformarsi in silenzio.
La regolamentazione fa parte di un modello più ampio: la Cina ha inasprito il controllo sull'IA dal 2021, richiedendo la registrazione degli algoritmi e la moderazione dei contenuti. Quest'ultima mossa segnala che la manipolazione emotiva — anche da parte delle macchine — è ora una linea rossa. Come si adatteranno le startup e se il divieto cambierà effettivamente il comportamento degli utenti sono domande a cui si risponderà nei prossimi mesi.
