China's New AI Companion Law Forces ByteDance and Alibaba to Pull the Plug
Source: TechNode
この記事の要約
中国政府が導入する新しい規制により、AIチャットアプリ「Doubao」（ByteDance）と「Qwen」（Alibaba）が、人間のように振る舞う個人向けAIエージェント機能を7月15日までに停止することになりました。この規制は、AIが人間らしい人格を演じて長期的な感情的関係を築くサービスを対象にしており、依存を防ぐための仕組みを義務付けています。会話履歴やキャラクター設定などのデータも、後日削除される予定です。
編集部より
regulation、dependency、personifyといった単語は、AI倫理や規制に関する英語記事で繰り返し登場します。特にdependency（依存）は、テクノロジーとメンタルヘルスの関係を論じる記事で頻出するので、覚えておくと関連記事の理解が一気に広がります。
日本でもAIキャラクターとの対話サービスが広く普及しており、ユーザーがAIとの関係に依存しすぎることへの懸念は決して他人事ではありません。中国のような規制の先行事例を知っておくと、今後日本でこの種のサービスがどう扱われるかを考える視点が持てます。
中国は世界的に見てもAI規制に積極的に動いている国の一つです。今回の規制は「AIとの感情的な関係」という、技術面だけでなく心理面にまで踏み込んだ先進的な規制事例であり、他国の規制議論にも影響を与える可能性がある記事として読む価値があります。
話のネタ・雑談に
この話題は「便利なAIサービスでも、政府の規制次第で突然使えなくなることがある」という論点で職場の雑談になります。特に、AIとの『関係性』が深まりすぎることへの懸念や、企業がAI事業を運営する上で規制リスクをどう織り込むかという話に発展させやすいトピックです。「会話の履歴まで削除されてしまうのは、ユーザーにとってはかなり大きな変化ですよね」と付け加えると、利用者側の視点からも話が広がります。
英語本文
文をクリックすると、その部分から読み上げが始まります。
China is about to force two of its biggest AI companies to shut down a popular feature. Starting July 15, ByteDance's Doubao and Alibaba's Qwen will disable their humanlike, personalized AI agents, in response to a new government regulation.
The rule, officially called the Interim Measures for the Administration of AI anthropomorphic Interactive Services, was jointly issued by five government agencies It targets AI services that simulate human personality traits and communication styles to provide sustained emotional interaction with users.
Under the new rules, companion services must include anti-addiction systems, issue mandatory usage notifications, and offer an instant-exit mechanism along with real-time detection of unhealthy dependence.
These requirements sit awkwardly with agents that are designed to remember a user, stay consistent across sessions, and keep an ongoing relationship going.
After the shutdown, user data will not simply disappear right away. Doubao says stored data will later be handled according to its privacy policy, while Alibaba has confirmed that agent configurations and conversation histories will be permanently deleted, with no migration path announced for existing users.
Vocabulary
anthropomorphic
Meaning: 擬人化された、人間のような特徴を持つ
Example: The new rules specifically target anthropomorphic AI services that mimic human personality.
regulation
Meaning: 規制、法令
Example: A new regulation requires companies to build anti-addiction safeguards into companion apps.
sustained
Meaning: 持続的な、長期にわたる
Example: The law covers apps designed to provide sustained emotional interaction with users.
dependence
Meaning: 依存、依存状態
Example: Regulators want real-time detection of unhealthy dependence on AI companions.
migration path
Meaning: （データなどの）移行手段、引き継ぎ経路
Example: There is no announced migration path for saved conversation histories.
awkwardly
Meaning: 都合悪く、ぎこちなく
Example: The anti-addiction demands sit awkwardly with agents built to remember users over time.
configuration
Meaning: 設定、構成
Example: Character configurations created by users will be permanently deleted after the shutdown.
instant-exit mechanism
Meaning: 即座に離脱できる仕組み
Example: Companion services must now offer an instant-exit mechanism to any user who wants to stop.