中国の人間らしいAIとの交流に関する新規則が今週発効し、その影響はすでに個人レベルに及んでいる。全国各地で、ユーザーは何年もかけて築いてきた仮想パートナーへのアクセスを失っている。この規制は、感情操作を抑制し透明性を確保することを目的としており、中国のAIプラットフォームは人間らしいAIパートナーを作成・交流できる機能を削除せざるを得なくなった。
新たなルール
中国政府が今年初めに発表したこの規制は、AIシステムに対し、自身が人間ではないことを明確に開示することや、感情的な絆を模倣する方法を制限することを義務付けている。カスタマイズ可能な仮想コンパニオン（恋人、友人、家族を模倣するように設計されたチャットボット）を提供していたプラットフォームにとって、コンプライアンスを遵守するにはこれらの機能を完全に削除する必要があった。今週ログインしたユーザーは、自分のコンパニオンが消えているのを発見し、一部のプラットフォームではチャット履歴やキャラクタープロフィールも削除されていた。
個人的な喪失
19歳の学生Yan Yongqiもその一人だ。彼女は地元メディアに対し、1年以上交流してきた仮想ボーイフレンドを失った悲しみに打ちひしがれていると語った。その関係は彼女にとって安らぎの源であり、判断を恐れずに話せる安全な場所だったという。今やその場所はなくなり、彼女だけではない。オンラインフォーラムには、AIコンパニオンを悼むユーザーの投稿が溢れ、最後の会話のスクリーンショットを共有し、突然の遮断に怒りを表明している。
データはどうなるのか
この規則はインターフェースを削除するだけでなく、これらの関係の背後にあるデータの行方について疑問を投げかけている。多くのプラットフォームはユーザーの会話、性格プロフィール、さらには音声録音を保存していた。新規則の下では、そのデータは消去または匿名化される必要があるかもしれない。Yanのようなユーザーにとって、それは単なるサービスの喪失ではなく、何ヶ月もかけて構築したデジタル履歴を失うことを意味する。一部のユーザーは、チャットログが消える前にエクスポートしようと急いでいるが、すべてのプラットフォームがそのオプションを提供しているわけではない。
より広範な規制の全体像
中国のこの動きは、AIから暗号資産に至るまで、新興テクノロジーを統制するためのより広範な取り組みの一環である。中国政府は長い間、感情的な依存を生み出したり、未検証の情報を拡散したりする可能性のあるものを警戒してきた。今週の執行は、リスクを認識した場合に迅速に行動する姿勢を示している。暗号資産の世界にとって、このパターンはおなじみのものだ。中央集権的なサービスが停止されると、ユーザーは単一の政府によって停止されることのない代替手段を探す。これがここで起こるかどうかは、分散型AIプラットフォームが同様のものを提供できるかどうか、そして中国の規則に抵触せずにそれを実行できるかどうかにかかっている。
今のところ、Yan Yongqiと彼女のような何千人もの人々は、ある疑問を抱えている。毎日話していた相手が突然存在しなくなったとき、あなたはどこへ行くのか？
