中国がAI偽情報に本腰――改正ネット安全法で何が変わるのか

2025年11月12日付の報道によれば、中国では「AIの嘘」に対する摘発強化を打ち出しており、インターネット安全法の改正案が2025年10月28日に全国人民代表大会常務委員会で採択され、2026年1月1日施行予定とされています。生成AIによる偽画像・偽動画の拡散が背景にあり、例えば震災被災地の幼児救助画像と称する AI 合成画像が流通したとする報道もあります。農村部の高齢者がそれを「真実」と信じて感情を揺さぶられることがあるなど、情報インフラと社会認識の断絶が懸念されます。そして「人民を支配する手段としてのAGI（汎用人工知能）」という視点も、国家開発モデルの構図を示唆しています。国家による管理体制下の AI が西側の民間開発モデルと「対峙」するという構図は、表面には出ていなくとも確実に動き出しています。本稿では、① 改正法の背景と内容、② 偽情報・生成AIの実害、③ 日本および国際社会が取るべき対応――の三章構成で、できるだけ明確に整理していきます。

1：改正「ネット安全法＋生成AI規制」の狙いと構造
2：生成AIによる「偽情報」の現実と被害の構図
3：日本および国際社会が取るべき対応と今後の視点
全体のまとめ（再掲）
〆最後に〆

1：改正「ネット安全法＋生成AI規制」の狙いと構造

中国政府が改正を進める背景には、生成AIの普及によって偽情報、ディープフェイク広告、社会的動揺を引き起こすリスクが急激に高まったという危機感があります。2023年8月には「生成式人工知能サービス管理暫行办法」が施行され、広告や情報サービスへの AI 活用に初の規制が入りました。この度採択された改正法案では、AIサービス・生成コンテンツに対して「ラベル明示」「リスク監視」「提供者責任追及」といった条項が新設される見込みです。国家安全・社会統制・国民感情操作の観点からも、生成AIは管理すべき「情報基盤」の一部と見なされており、その構造転換を読み解くことが重要です。

1.1：法改正のポイント一覧

中国政府が2023年8月15日に発効した生成式人工智能服务管理暂行办法（“Generative AI Measures”）及びそれ以降の改正動向において、主なポイントは以下のとおりです。

「生成AIサービス」の定義：テキスト・画像・音声・動画を生成可能なモデルを用いて、国民向け（public）に提供するサービスを対象とする。China Briefing+1
訓練データおよび基盤モデルの正当取得義務：知的財産権・個人情報保護・データ出所の合法性が明記。kwm.com+1
生成コンテンツのラベリング義務：「AI生成である」旨の明示義務および内容モニタリング義務。ホワイト＆ケース+1
社会動員・世論影響力を持つサービスに対する「算法備案・安全評価」義務。Future of Privacy Forum+1
国家安全・社会公共利益を守るとの法目的を明記。ウィキペディア+1

このように、法改正／措置強化の方向性は「技術開発を阻まない範囲での統制強化」と整理できます。開発支援を打ち出しつつも、情報生成の社会影響を抑える枠組みが明確になっています。

1.2：生成AIサービス管理暫行办法から改正までの流れ

中国の生成AI規制は、以下のようなフェーズで進展しています。

2023年4月11日：草案 “Draft Measures” 公表。chinalawtranslate.com+1
2023年7月13日：正式版 “Interim Measures” 公表。Reuters+1
2023年8月15日：発効。www.hoganlovells.com+1
2025年9月1日：さらにコンテンツラベリング義務の全国基準適用。ホワイト＆ケース
将来課題：包括的な AI 法制 (“AI Law”) の準備段階。Future of Privacy Forum

この流れから、規制は「暫定措置」から始まり、段階的・漸進的に監視・適用範囲を拡大してきたことが分かります。技術発展の速度を受け、法律・指針が追随している構図が見て取れます。

1.3：国家安全・情報統制と生成AIの関係

生成AIの登場は、技術的創造の自由と国家統制の間に新たな緊張を生み出しました。中国では「社会主义核心价值观（社会主義核心価値観）」を掲げ、AI生成コンテンツにもそれを反映させる義務があります。China Briefing
さらに、生成AIサービスが「世論を操作」「社会動員力を持つ」と認定された場合、厳格な監査・登録義務が生じます。Future of Privacy Forum
このように、技術革新を促進しつつも、国家モデルとしての情報統制を強化する構図が形成されており、「AGI（汎用人工知能）時代」を見据えた制御モデルが浮かび上がります。

2：生成AIによる「偽情報」の現実と被害の構図

生成AI技術は、偽画像・偽動画・虚偽広告を極めて高精度で作成可能にし、社会の脆弱性を突いています。例えば、中国では AI 生成コンテンツのラベリング義務への対応策が報じられており、Tom’s Hardware は「中国のソーシャルメディア各社が ‘AI生成’ と明示する規則に対応中」だとしています。また、CNNIC の調査では中国国内の生成AIユーザー数が5億人級に達したともされ、情報拡散の母数そのものが膨大です。こうした状況で「田舎の高齢者がAI生成画像を何の疑いもなく真実だと信じる」ような社会的インパクトが語られています。偽情報は単なる技術の悪用ではなく、社会信頼や民主的プロセスを揺さぶる潜在的な攻撃手段でもあるのです。

2.1：生成AIユーザー数と情報拡散規模

中国国内では、生成AIサービスの利用者数が数億人規模に達しているとされます。例えば、調査によれば5億人超とも報じられていますが、詳細な公開データは未確認です。
また、利用者数が増えることで「偽情報」「生成偽画像・偽動画」の流通母数も拡大しており、国家・企業・個人レベルでリスクが顕在化しています。
この母数と拡散構造が、規制強化の背景として重要です。

2.2：偽画像・偽動画の実例と報道

生成AIによる偽画像・偽動画の代表的な事例として、中国ではその“ラベリング義務化”が報じられています。Tom’s Hardware は「画像・音声・動画・仮想シーンに対して ‘AI生成’ の明示が義務化された」と報じています。ホワイト＆ケース
また、Deep Synthesis（深度合成）として報じられてきた技術は、震災や社会事件を装った偽情報の手法としても注目されています。これらが「信頼できる情報かどうか」を揺るがす要因となっています。

2.3：高齢・地方層の情報リテラシーと偽情報の影響

地方・高齢層を中心に、「生成AIで作られた画像や動画を真実と思い込む」リスクがあります。特に、スマートフォン操作に慣れていない世代は、出所や真偽を検証する手段が限られるためです。
こうした層がターゲットとなった偽情報拡散は、社会的信頼を損ない、地域の情報格差を一層深める恐れがあります。

3：日本および国際社会が取るべき対応と今後の視点

日本を含む国際社会は、中国のような国家主導型AI管理モデルと、西側の民間主導型AIモデルとの間で価値観の対立軸を意識せざるを得ません。国内では生成AIを利用したコンテンツの信頼性確保、学習データの透明性、プライバシー・倫理規範の整備が急務です。日本企業・自治体も「インハウスAI（社内運用）への移行」や「クラウドAIの脆弱性を回避する設計」に関心を寄せています。AGI（汎用人工知能）が実現した未来において、国家による制御されたモデルと自由に発展するモデルの“対峙構図”は、我々の情報環境にとって根本的な選択となるでしょう。

3.1：日本企業のインハウスAI導入メリットと課題

日本企業において「クラウドAIの脆弱性を感じ、インハウスAI運用を検討する」という動きが出ています。メリットとしては、機密情報の社外流出リスク低減、自社データ活用の最適化、制御権の確保などが挙げられます。一方、課題としては初期投資、運用コスト、モデルの継続的チューニング、専門人材確保が挙げられます。
こうした“社内運用型AI”は、国家制御型モデルと対峙するうえでも重要な選択肢となるでしょう。

3.2：国際規制・倫理ガバナンスの潮流

生成AIに対しては、欧州連合（EU）の人工知能法（AI Act）や、米国のガイドライン整備などが進んでいます。中国のモデルが「国家統制＋技術推進」を両立しようとする中、国際社会では「透明性・説明責任・偏見排除・人権尊重」がキーワードとなっています。これにより、日本企業もグローバル展開を視野に入れた「倫理的AI設計」を求められています。

3.3：“AGIモデル1号 vs モデル2号”という将来シナリオをどう捉えるか

将来、汎用人工知能（AGI）が実用化される段階において、① 民間主導・複数企業競合型モデル（モデル1号）と、② 国家主導・一党体制下で統制されたモデル（モデル2号）という構図が浮上する可能性があります。技術・制度・価値観の異なるこの二者対立は、情報の信頼性・主権・社会統制といったテーマを内包しています。われわれはこの構図を“遠未来ではなく近未来”としてとらえておくべきです。

全体のまとめ（再掲）

中国が、生成AIを背景とする偽情報の拡散を抑え込むため、ネット安全法を改正し、AIサービスの管理と監視強化に動いている事実は、技術発展と社会制度の両輪が今まさに転換点にあることを示しています。偽画像や偽動画が瞬時に作られ、社会を動揺させ得るいま、単に「技術を利用する」段階から、「技術をどう制御し、どう理解し、どう使うか」を問われる時代です。国家・企業・個人それぞれが「情報インフラとしてのAI」を前提に行動しなければ、信頼・民主・公平という価値そのものが揺らぎます。西側の民間主導型モデルと、一党支配のもとで国家が制御するモデルという二つの流れが構えられつつあり、われわれはその渦中に暮らしているという認識を持つ必要があります。情報を受け取る立場としても、見せかけではない「真正な知識」をどう見極めるかが、次の時代の文明的課題なのです。