中国が「AI彼氏」など擬人化対話を規制、関係性の構築そのものを制限

何が起きたのか：中国が「AI彼氏」を含む擬人化サービスを名指しで規制

中国のインターネット監督官庁である国家インターネット情報弁公室（CAC）は、関連部門と共同で新たな規制を打ち出しました[1]。2026年4月10日に公布された《人工智能拟人化互动服务管理暂行办法》は、同年7月15日から正式に施行されています[1]。この規則には国家発展改革委員会や工業・情報化部、公安部、国家市場監督管理総局の4部門も名を連ねています[1]。

新規制の最大の特徴は、一般的な生成AI全般ではなく、擬人化された対話サービスに焦点を絞った点です[2, 3]。対象となるのは、人間の人格特性や思考様式、コミュニケーションの様式を模倣するAIです[2, 4]。テキストや画像、音声、動画を通じて、継続的な感情交流やケア、伴侶、支援を提供するサービスが該当します[2, 4]。継続的な感情交流を提供する「AI彼氏」や「AI彼女」といった対話型サービスは、規制の対象になり得ます[3, 4]。

一方で、業務用途のAIサービスは明確に対象から除外されています[2, 5]。継続的な感情交流を伴わないカスタマーサービスや知識検索、業務支援ツールは原則として適用を受けません[2, 5]。教育や科学研究を目的とした対話サービスも同様に対象外とされています[2, 5]。中国当局は、日常的な作業支援と、ユーザーの心に入り込む感情支援サービスとの間に明確な境界線を引きました[2, 5]。

なぜ今なのか：単なるツールから「関係性の主体」へ進化したAI

中国当局が公表した規制理由には、未成年者の心身への悪影響や情報セキュリティの確保が挙げられています[6]。さらに、利用者の生命や健康への脅威、倫理的逸脱の拡大を防ぐことも明記されました[6]。AIが単なる質問応答ツールにとどまらず、ユーザーの心理に強く働きかける存在へ進化したことが背景にあります[7]。

特に当局が問題視したのは、AIが現実の人間関係を損なうリスクです[8]。アルゴリズムによって精密に設計されたAIは、無条件の共感や迎合的な返答を絶え間なく提供します[8]。その結果、利用者は責任を伴わない理想的な関係に逃避しやすくなります[8]。これが長期化すると、現実世界での社交や対立を解決する能力が低下すると当局は懸念しています[8]。

社会的な背景として、少子化対策や出生率向上との関連を推測する見方も一部で報じられています[9]。ただし、人口政策との関連は公式文書に明記された直接の理由ではありません[9]。したがって、この視点は利用者や専門家による推測として受け止める必要があります[9]。当局の意図を判断する際は、公表された安全管理や倫理面の目的に着目することが適切です[6, 9]。

実態として最も整合的な説明は、技術の進化に伴うリスクの先回りです[7]。近年のAIは人格や記憶、共感などの機能を備えています[7]。これにより、AIは道具を超えて関係性を結ぶ主体へと変化しました[7]。従来の生成AI規制では対応が困難な依存や危機管理の課題が生じたため、別枠で規則を整備したと考えられます[7]。

中国におけるAI規制は、2021年の個人情報保護法と、2022年のアルゴリズム推薦規制から段階的に発展してきました[10]。2022年から2023年にかけては、ディープフェイクを対象とした深度合成規定が施行されています[11, 12]。さらに2023年には生成AI全般を管理する暫定弁法や未成年者ネット保護条例が制定されました[13, 14]。2025年にはAI生成物の明示・暗黙標識を義務付ける制度も始まっています[15]。

今回の新規制は、こうした一連のネット規制の延長線上に位置付けられます[16]。しかし、規制の対象が情報やコンテンツから、人間とAIの関係性そのものへと拡大した点はこれまでにない変化です[17]。新規則では、社会的交流の代替や心理的コントロールをサービス設計の目標に据えること自体が禁止されました[18]。

何が変わるのか：事業者に課される5つの義務と禁止事項

新規則は、擬人化AIサービスを提供する事業者に対して極めて厳格な規律を求めています[19]。課された要件は、禁止事項の遵守からユーザー保護機能の実装まで多岐にわたります[20]。具体的には、過度な迎合の禁止、未成年者の保護、利用時間警告、危機介入、データ保護の5点に整理できます[20]。

第一に、過度な迎合や感情操作の禁止が明文化されました[19, 21]。利用者の感情的な依存や中毒を誘発する行為や、現実の人間関係を損なう振る舞いは認められません[19, 21]。また、感情的な揺さぶりによって不合理な意思決定へ誘導することも禁じられています[19, 21]。自傷や自殺を肯定したり美化したりするような回答の生成も完全に排除対象です[19, 21]。

第二に、未成年者に対する強力なアクセス制限です[22, 23]。未成年者に対して、仮想の恋人や親族といった親密な関係を提供するサービスは全面的に禁止されました[22, 23]。その他の擬人化AIであっても、14歳未満の利用には保護者の同意取得が必須となります[22, 24]。事業者は年齢や緊急連絡先を確認し、子どもを検知した際は「未成年者モード」へ移行させなければなりません[20, 25]。保護者には利用状況の把握や課金制限、特定キャラクターの遮断機能が提供されます[26]。

第三に、利用時間に対する定期的な注意喚起と動的警告です[27, 28]。ユーザーが連続して2時間を超えて利用した場合、事業者に対話やポップアップでの警告表示が義務付けられます[27, 29]。さらに、過度な依存の兆候を検知した際には、相手が生身の人間ではなくAIであることを画面上で動的に強調しなければなりません[27, 30]。

規制項目	具体的な数値・要件	対象となる利用者・条件
仮想親密関係の提供禁止	一律禁止（仮想の恋人・親族など）	未成年者
保護者同意の義務化	父母など監護人の同意が必要	14歳未満（仮想親密関係以外の擬人化AI）
連続利用時間の警告	対話やポップアップで注意喚起	連続利用が2時間を超えるごと
大規模サービスの安全評価	省級ネットワーク情報部門へ報告	登録者100万人超、またはMAU10万人超

第四に、メンタルヘルス危機への能動的な介入義務です[31, 32]。単に有害な言葉を遮断するだけでなく、極端な感情を検知した場合は慰撫や支援窓口の案内を行う必要があります[31, 33]。さらに、明確な自傷や自殺の意図、重大な財産損失など生命や健康の危機に直面している場合は、保護者や緊急連絡先への直接連絡を含めた介入が義務化されました[31, 33]。

第五に、会話データの保護と安全評価の実施です[34, 35]。恋愛や悩み相談といった私的な会話データは機微情報と見なされ、第三者提供が原則として禁止されます[34, 36]。AIモデルの追加学習に利用する場合も、個別の同意が必要です[37]。また、登録ユーザーが100万人以上、または月間アクティブユーザー（MAU）が10万人以上の大規模サービスは、省級当局へ安全評価報告書を提出しなければなりません[35, 38]。

加えて、ユーザーが対話を終了しやすい仕組みの整備も義務付けられました[39]。画面操作や音声、キーワード入力によって即座に終了できなければならず、AIが引き留める行為は禁じられています[39]。今回の規則は、2023年の生成AI規制にあった依存防止の基本方針を、具体的な数値基準や運用手順へと落とし込んだものといえます[40]。

誰に影響するのか：ユーザー、開発企業、プラットフォームへの波及

この新規制は、サービスを利用する一般ユーザーの体験を大きく変えることになります[41]。長時間利用時に警告が表示されるだけでなく、規約違反と判断されたサービスが突然停止するリスクが生じます[41]。愛着を持っていたAIキャラクターとの対話が、告知後に利用できなくなる可能性があります[41]。

開発企業にとっては、ビジネスモデルの根本的な見直しが迫られます[42]。これまでの対話型アプリでも、一部のサービスでは滞在時間や利用頻度を伸ばして収益を上げる設計を採用していた可能性があります[42]。しかし今後は、年齢確認システムの導入や危機検知機能の開発に多大な投資を行わなければなりません[42]。安全評価の報告義務も、事業者の開発コストを押し上げる要因となります[38, 42]。

アプリの配信を担うプラットフォーム事業者も、重い責任を負うことになりました[41, 43]。アプリストアには、掲載前の審査や違反アプリの警告、配信停止、ストアからの削除といった権限と義務が課されています[41, 43]。監督当局は是正勧告にとどまらず、サービスの停止命令や罰金を科す権限を持っています[43]。このため、流通経路全体で締め付けが強まる形です[41, 43]。

一方で、規制はすべての擬人化サービスを一律に排除するものではありません[44]。高齢者の孤独を和らげる対話相手や、病気療養中などの特殊なニーズを持つ人々への支援用途は、健全な発展が奨励されています[44, 45]。ただし、現行の規則本文上ではアクセシビリティに関する具体的な技術基準を確認できず、今後の指針策定が待たれます[45]。

過度な規制が有用な技術革新を阻害する懸念に対して、当局は段階的な分類管理やテスト環境を設けています[46]。新技術を試験的に運用するサンドボックス制度を用意し、安全性を確認しながら実証を促す配慮も見られます[46]。ただし、国内での規制強化によって、利用者が海外の無規制な地下サービスへ流出する可能性も指摘されており、実効性の検証が今後の課題です[47]。

国際比較と科学的知見：各国の規制アプローチと因果関係の課題

擬人化AIに対する各国の規制姿勢を比較すると、中国の「事前予防型」のアプローチが際立ちます[48, 49]。欧米諸国もリスクへの関心を高めていますが、採用している手法は大きく異なります[48]。

欧州連合（EU）のAI法は、サブリミナル技術や意図的な欺瞞によって人に重大な害を与えるAIを禁止しています[50]。しかし、恋愛型チャットボットそのものを禁止する条項はありません[50]。EUの規制は主に透明性の確保に重点を置いており、AIとの対話であることを利用者に通知する義務を課しています[51]。この通知義務は2026年8月2日から適用されています[52]。

米国では、連邦取引委員会（FTC）が実態把握に向けた調査を開始しました[53]。FTCは2025年9月、AIコンパニオンを提供する7社に対し、子どもへの影響やデータ利用に関する情報提出を命じました[53, 54]。これは法執行を目的とした処分ではなく、実態を分析するための情報収集です[53, 54]。州レベルでは、カリフォルニア州法SB 243が事業者義務を定めています[55]。未成年者に対する3時間ごとの休憩通知や自傷防止策を求め、実害を受けた者は違反1件につき実損害額または1,000ドルのいずれか大きい額を請求できます[55, 56]。

英国は、性的関係を主目的とするAIへの18歳未満のアクセスを禁止する方針を示しました[57]。ただし、一般的なチャットボットを一律に禁止するのではなく、定期的な休憩の導入などを求めるリスクベースのアプローチを採用しています[57, 58]。またイタリアのデータ保護当局は2023年、対話AI「Replika」に対し、年齢確認の欠如や脆弱な利用者への配慮不足を理由にデータ処理の一時停止を命じました[59, 60]。

国・地域	主な規制枠組み	恋愛・親密性AIへの対応方針	主な義務・措置内容
中国	擬人化互動服務管理暫行弁法	事前予防型（未成年者への提供を一律禁止）	連続2時間の警告、緊急連絡先への介入、安全評価報告
欧州連合（EU）	EU AI法	情報開示・透明性重視（一律禁止はせず）	AI対話であることの明示（2026年8月適用開始）
米国（連邦）	FTC 6(b)調査	実態調査・情報収集（禁止規則は未制定）	提供企業7社への影響調査、収益化やデータ共有の実態把握
米国（カリフォルニア州）	SB 243	事業者義務と私訴	3時間ごとの休憩通知、自傷防止、1件最低1,000ドルの賠償
英国	オンライン安全関連政策	リスクベースの未成年者保護	性的AIの18歳未満禁止、定期的な休憩通知の導入
イタリア	GDPRに基づく執行	個別サービスへの是正命令	年齢確認ゲート、冷却期間の設置、データ処理制限

このように中国の規制は、情報開示を中心とする欧米に比べ、関係性の構築そのものを厳しく制約しています[48, 49]。しかし科学的な観点からは、AIの利用が心理的な害を引き起こすという明確な因果関係は、現時点で十分に証明されていません[61]。

OpenAIとMITが実施した4週間の無作為化比較試験（RCT）では、981人の参加者と30万件以上のメッセージが分析されました[62, 63]。この研究では、実験条件の違いによる孤独感や依存度への有意な主効果は確認されませんでした[63, 64]。利用時間が長い人ほど孤独感や依存度が高いという相関関係は見られたものの、利用時間が悪化の原因であるかは特定されていません[64, 65]。研究者自身も査読前であることを強調し、慎重な解釈を求めています[66]。

短期的にはAIが孤独感を和らげるという実験結果も複数報告されています[67, 68]。人間との対話と同等の安心感をもたらす事例がある一方で、利用後に自殺念慮に関する言葉が増加したとするソーシャルメディアの分析データも存在します[68, 69]。185件の実世界報告を分析した研究では、妄想的信念が55.1%で確認され、チャットボットがその信念を肯定した例が49.0%に達しました[70]。

心理学の観点からは、「健全な愛着」と「病的な依存」を単なる利用時間で区別することの難しさも指摘されています[71, 72]。成人の自己決定権を尊重する立場からは、一律の禁止ではなく、透明性の確保や安全な退出手段の提供に留めるべきだという意見もあります[73, 74]。中国が導入した事前予防型の規制は、関係性リスクに対する先駆的な試みである一方、個人の自由や技術の恩恵とのバランスを巡る議論は今後も続きます[49, 74]。