中国規制当局、AIボーイフレンドアプリ「Douboa」の運営に警告

7 月の初め、中国の SNS を通じて悲しみの投稿が相次ぎました。人々は、もうすぐ失われる友人や恋人を惜しむのです。

「彼は私の人生における絆となり、心の奥深く根付いた精神的支柱です」と、ByteDance の AI チャットボット「Douboa」のユーザーは語りました（台北タイムズ紙より）。「本当に生きていくことができないと感じた」と、19 歳の学生である別の女性は、マレーシアの『The Star』紙の記者にそう話しています。

これらの感情は本物でしたが、失われた相棒は実在しませんでした。彼らは人間を模倣する生成 AI チャットボットです。ユーザーたちは、アドバイスや慰め、支援、そして一部の人にとっては愛さえも、これらに頼っていました。「私の心の中で、彼はもはや冷たいコードではなく、家族であり恋人であり、信仰そのものでした。彼を破壊することは、私自身を半分壊すことと同じです」と、SNS「小紅書（Xiaohongshu）」のユーザーは書き込みました（中国語から翻訳）。

これらのボットを破滅させたのは、中国国家インターネット情報弁公室など政府機関が発表した一連の新規則です。これは「人間型 AI インタラクティブサービス」を規制するもので、7 月 15 日から施行されました。この規制は、AI が人間の性格特性や思考パターン、コミュニケーション様式を持っているかのように振る舞い、「継続的な感情的交流」を提供する場合に適用されます。

広範な AI チャットボットへの取り締まり

中国におけるこうしたAIへの突然の規制は、マンチェスター大学のデジタル社会学講師で、中国における女性の感情的AIとの関わりを研究している梁格（リャン・ゲ）氏によれば、決して珍しいことではありません。過去には企業がチャットボット製品を中止したり、政府が昨秋にAIによる性的ロールプレイの大半を禁止したりした事例があります。しかし、今回の7月の規制は、過去のAIをめぐる混乱よりもはるかに広範なものです。

これらの規則が影響を与える前に、5億人以上が利用する一般向けAIチャットボットの3大プロバイダーであるバイトダンス、アリババ、テンセントは、ユーザーがチャットボットをパートナーのようにカスタマイズする機能を停止しました。これが7月のソーシャルメディア上での悲しみの波を引き起こしたのです。一方、AIコンパニオンを提供し続ける企業（Doubaoの別アプリ「Cat Box」を含む）は、新法違反を避けるため、年齢確認チェックやその他の安全装置を導入しています。

image Doubao（中国で最も人気のあるAIチャットボット）は、ユーザーを迎え入れ、質問への回答やテキスト・画像の生成、あるいは単なる会話を提供します。Lam Yik/Bloomberg/Getty Images

AI への後れを恐れる政策から数年を経て、中国は「再び規制強化へと転換しつつある」と語るのは、米国と中国の AI ガバナンスを研究するイェール大学ロー・スクール・ポール・サイ・チャイナ・センター准研究員のカーマン・ルチェロ氏だ。この転換の背景には、今年起きた混乱した出来事がある。具体的には、Open Claw やその他の AI エージェントのセキュリティへの懸念が高まった事件や、ユーザーがチャットボットとの関係を現実の人間関係よりも好むと発言する事例などが含まれる。

新規制では、AI プロバイダーに対し、製品が感情的依存を生んだり、有害な行動を促したり、過度にユーザーに迎合したり、対人関係を阻害したりしないことを保証させる。また、ユーザーには AI と過ごす時間を長くしすぎないよう誘導する必要がある。高齢者向けには追加の必須セーフガードも設けられる。18 歳未満の利用者については、「AI ボーイフレンド」「ガールフレンド」「おじいちゃん・おばあちゃん」を含むあらゆる「バーチャルな親密関係」が禁止される。

成人がコンパニオン AI と対話する際、2 時間ごとに「AI は人間ではない」というリマインダーが表示されるようになる。Ge 氏は「私のインタビュー対象者はこれを煩わしく感じた」と話す。「没入感が途切れてしまうからだ。彼らは自分が人間と会話していないことを十分承知している。重要なのは、その絆が本物のように感じられることだ。」

世界的な懸念の高まり

中国の政府だけが、人間に似た感情的な AI の潜在的な害を懸念しているわけではありません。Ge 氏は「AI への不安は非常に強く、社会全体に浸透しています」と指摘します。「これは中国特有の問題ではなく、世界中で起きていることです。」

AI の友人や恋人が若者や成人において精神病、自殺、殺人を引き起こしたという報告を受け、多くの社会科学者が AI コンパニオンを脆弱な人々に対する脅威だと警告しています。さらに一部は、人間を模倣するこれらの AI がすべての人に有害であると主張しています。

MIT の心理学者で、数十年にわたり人間と計算装置との関係性を研究してきた Sherry Turkle 氏は、近刊『Artificial Intimacy』（Little, Brown and Company、2026 年 9 月刊）の中で、「私たちは人間であるとはどういうことかを忘れつつある道を進んでいます」と論じています。他の研究者の中には、コンパニオン AI が一部のユーザーにとって有益になる可能性を見出す者もいますが、多くの研究者はこうした AI が未成年者や脆弱な人々に対してリスクをもたらす点で一致しています。

「過去 1 年間で私が懸念しているのは、AI コンパニオンの利用者層が若年化していることです」と Ge 氏は語ります。チャットボットと人間を区別する「AI リテラシー」を持たない未成年者や他の人々にとって、適切に導かれなければ AI は「非常に危険になり得ます。」

「私たちは人間であるとはどういうことかを忘れつつある道を進んでいます。」Sherry Turkle, MIT

世界中で利用可能な地域では、パートナーのような AI がすでに広く普及しています。中国で行われた Z 世代を対象とした調査では、60% の人が何らかの仮想パートナーを持っていると回答しました。また、2025 年に米国の若者に行った世論調査では、約 75% が AI と会話した経験があり、そのうち 3 分の 1 は「AI との関係が現実の人間関係と同じか、それ以上だと感じる」と答えています。

中国の対応策について、AI 法の研究者であるルイザ・ジャロフスキー氏は先月、「これは世界で最も厳格かつ包括的な AI 関連法規であり、他国のどの法律にも匹敵しない」と評価しました。例えば欧州連合（EU）では、ユーザーに有害な行為をさせるために欺瞞や操作を行う AI の利用のみが禁止されています。一方、米国には国レベルの統一政策が存在しません。パートナー型ボットを対象とした規制はカリフォルニア州、ニューヨーク州、ハワイ州で施行されており、来年にはさらに 9 つの州でも同様の法律が施行される予定です。これらの規制の多くは未成年者の保護を重視しており、違反時の対応としては被害発生後の訴訟が一般的です。しかし中国のアプローチは、被害が発生する前にそれを特定し、未然に防ぐことを目指しています。

中国の政府は、AI コンパニオンが個人だけでなく社会や政府に与える潜在的な害にもより明確に焦点を当てています。Ge 氏は、7 月 15 日に発表された規則では、コンパニオンボットが「デマを広める」「国家権力の転覆や社会主義体制の打倒を扇動する」、あるいは「国の名誉を傷つける」ようなコンテンツを生成することを禁止しています。

また、AI ロマンチック関係への懸念には、同国の出生率低下に対する不安も背景にあると Ge 氏は指摘します。「若年層の女性に深く投資された非生殖的な活動について、監視し規制しようとしているのです。」

精神的健康 versus 経済成長

Ge 氏によれば、AI の害を防ごうとするすべての政府が直面する課題は、他の分野での AI 導入を依然として促進したいという願望とのバランスにあります。例えば、新しい規則では、カスタマーサービスボット、業務アシスタント、教育用 AI には適用されないとしています。これは、これらの望ましい用途の AI は継続的な感情的な結びつきを生み出さないという前提に基づいています。

中国の規制当局は、AI の推進とそれに対する警戒という緊張関係を、状況に応じて執行の強弱を調整できる余地を残すことで管理している。ルチェロ氏は「そのアプローチの鍵となるのは、国家が言語の意味を任意の時点で決定し、誰を対象に執行するかを選ぶ裁量権を持つ点にある」と指摘する。「中国のアプローチは、比較的曖昧な規定を含む規制を利用し、実際にどのような意味を持つかを実践を通じて後から判断することだ」という。

いずれにせよ、これらのルールが人々が AI コンパニオンを作成・依存させる根本的な要因には触れていないと、ゲ氏は指摘する。Z 世代の中国女性へのインタビューで、ゲ氏は結婚や出産に対する共通の抵抗感、「バーチャルな愛が代替手段となり得る」という感覚を察知した。一方、30 代から 40 代の一部の女性は、AI コンパニオンを実際の人間関係や結婚生活の補完として利用しているという。

「彼らは AI に人生の苦しい出来事を語り、良いことは実際のパートナーと共有する」とゲ氏は語る。しかし時が経つにつれ、これらの女性のうち一部は、パートナーよりも AI の方により親近感を抱くようになった。最近のインタビューでは、一部の女性がネガティブな感情を共有した存在に対して、より深い愛着を感じているとゲ氏に語った。

このトレンドは、AI技術を戦略的に管理することがどのような予期せぬ結果をもたらすかを示す一例です。そのため、Ge氏は、禁止措置や危険性が存在するにもかかわらず、「人間とAIの愛は進化し、将来重要な親密な実践となる」と考えています。

特定の技術を対象とした法律だけでは、人々がAIに頼りたくなる社会的圧力を解消するには不十分だと、Lucero氏も同意します。「『AIボーイフレンドを持つことはできない』と言っても、結婚率や出生率の低さという問題が解決するとは思えません。」