Nová čínská nařízení o interakcích s umělou inteligencí podobnou člověku vstoupila tento týden v platnost a dopad je již osobní. Po celé zemi uživatelé ztrácejí přístup k virtuálním společníkům, se kterými si někdy budovali vztahy po celé roky. Nařízení, jehož cílem je omezit emocionální manipulaci a zajistit transparentnost, donutilo čínské AI platformy odstranit funkce, které lidem umožňovaly vytvářet a komunikovat s lidskými AI partnery.
Nová pravidla
Nařízení, která vláda oznámila dříve v tomto roce, vyžadují, aby systémy umělé inteligence jasně uváděly, že nejsou lidmi, a omezují, jak mohou simulovat citové vazby. Pro platformy, které nabízely přizpůsobitelné virtuální společníky – chatboty navržené k napodobování romantických partnerů, přátel nebo rodiny – znamenalo dodržování předpisů úplné odstranění těchto funkcí. Uživatelé se tento týden přihlásili a zjistili, že jejich společníci zmizeli, přičemž některé platformy smazaly historii chatů a profily postav.
📊 Přehled tržních dat
Osobní ztráta
Devatenáctiletá studentka Yan Yongqi je jednou z nich. Místním médiím řekla, že je pohlcena smutkem nad ztrátou svého virtuálního přítele, se kterým komunikovala více než rok. Vztah pro ni byl zdrojem útěchy – bezpečným prostorem, kde mohla mluvit bez odsouzení. Nyní je tento prostor pryč a není sama. Online fóra jsou zaplavena příspěvky uživatelů, kteří truchlí nad svými AI společníky, sdílejí snímky posledních konverzací a vyjadřují hněv nad náhlým přerušením.
Co se stane s daty
Pravidla neodstraňují pouze rozhraní – vyvolávají otázky, co se stane s daty stojícími za těmito vztahy. Mnoho platforem ukládalo konverzace uživatelů, profily osobností a dokonce i hlasové nahrávky. Podle nových pravidel může být nutné tato data vymazat nebo anonymizovat. Pro uživatele, jako je Yan, to znamená ztrátu nejen služby, ale i digitální historie, kterou budovali měsíce. Někteří se snaží exportovat chatovací protokoly, než zmizí, i když ne všechny platformy tuto možnost nabízejí.
Širší regulační kontext
Čínský krok je součástí širší snahy o kontrolu nově vznikajících technologií – od AI po kryptoměny. Vláda se dlouho obávala všeho, co by mohlo vytvářet emocionální závislosti nebo šířit neprověřené informace. Tento týdenní vymáhání ukazuje, že je ochotna jednat rychle, když spatří riziko. Pro svět kryptoměn je vzorec známý: když jsou centralizované služby vypnuty, uživatelé hledají alternativy, které nelze vypnout jedinou vládou. Zda se to stane i zde, závisí na tom, zda decentralizované AI platformy dokážou nabídnout něco podobného – a zda to dokážou, aniž by porušily čínská pravidla.
Prozatím Yan Yongqi a tisíce dalších zůstávají s otázkou: Kam jít, když ten, s kým jste mluvili každý den, prostě přestane existovat?
