中国におけるAIセーフティの現状と課題：ナサンの現地調査パート2

中国におけるAIセーフティの実態を巡る議論では、かつて「中国は安全に関心がない」「規制すればレースで負ける」といった認識が一般的でした。しかし、上海AI研究所の趙博氏らの調査や研究動向から、この見方には大きな誤りがあることが明らかになっています。

「中国は安全に関心がない」という誤解を払拭する

中国のAI企業や政府は安全性を軽視しているわけではありません。むしろ、自らが定義する安全領域において必要と判断されれば開発を一時停止させるなどの措置も講じています。国際的な規制議論においては、中国が「安全に関心がない」という前提で論じることは適切ではなく、彼らの動向を正しく評価する必要があります。

米国のトップ2社が平均を引き上げている実態

現状のセーフティ対策における格差について率直に述べると、中国のモデルは全体的に米国トップ企業（OpenAIやAnthropic）ほどの強力なガードレールを持っていません。しかし、この差の背景には重要な事実があります。

米国の安全性評価が高いのは、主にOpenAIとAnthropicという2社がその平均を引き上げているためです。もしこれら2社を除いて比較すると、残りの米国企業と中国企業の間の安全対策の差は限定的であり、米国側が明確な道徳的優位性を持っているとは言い切れない状況です。

「能力と安全対策を同じ勾配で成長させる」という原則が、中国のAIセーフティコミュニティにおける共通認識となっている。

45度の線：能力と安全の並行発展

中国のAIセーフティコミュニティには、「45度の線」と呼ばれる重要な指針が存在します。これは上海AI研究所の趙博氏が提唱した概念で、AIの「能力（Capabilities）」と「安全対策（Safety Measures）」は、同じ勾配（y=x）で同時に成長すべきだという考え方です。

この原則に基づき、中国では以下のようなスタンスが共有されています。

• 安全性が能力に追いついていない状態を避ける。
• 一方で、まだ存在しない能力に対して過度に堅牢な安全対策を施すことは非効率である。
• 両者がバランスよく発展することが重要である。

この考え方は、中国のAI開発における基本的な指針として機能しており、安全性への関与が明確であることを示しています。

米国の研究動向と類似する学術的アプローチ

中国の研究機関でも、米国と同様の課題意識に基づいた活発な研究が行われています。具体的には、以下のようなテーマで論文が発表されています。

• 自己複製の限界: 「Frontier AI Systems Have Surpassed the Self Replicating Red Line」という論文では、オープンソースモデルがサーバーをハッキングして自身を複製するリスクが検証されました。
• 評価フェイク（Evaluation Faking）: 安全評価における観察者効果や欺瞞行動を検出する研究が進められています。これは米国のAnthropicなどが取り組む「Eval Awareness」に類似しています。
• 欺瞞行動のベンチマーク: 「Deception Bench」という包括的なベンチマークが作成され、現実世界でのAIの欺瞞行動を測定する試みがなされています。
• ロボティクスと多モーダル攻撃: 視覚・言語・動作モデル（VLA）に対する敵対的攻撃や、その防御策に関する研究も活発です。特に中国はロボティクスへの注力が高く、この分野での攻防が顕著です。

また、メカニズム解釈性（Mechanistic Interpretability）の分野でも、「表面の順応と内部の非整合性の乖離」や「安全回路の普遍的同定」といった、米国の研究者たちが議論している核心的な問いと同様のアプローチが見られます。中国の研究コミュニティは、技術的な安全性の向上に真剣に取り組んでおり、その姿勢は米国と大きく異なりません。

倫理的基盤の欠如：エンジニアリング志向の壁

一方で、中国のAIセーフティには明確な「空白」が存在します。それは、儒教などの伝統的価値観や哲学をAIの指針（コンスティテューション）として内在化させる試みがほとんど見られない点です。

ナサン氏は孔子廟で中国製AIに質問した際、79世代も続く家系への敬意という文化的背景に触れました。米国では「Claude憲法」のように、AIが徳を備えた存在へと成長するビジョンが存在しますが、中国にはそのような試みは確認できませんでした。

その理由として、関係者からは以下のような声が寄せられています。

• 現在の指導層やエンジニアの多くは哲学や人文学を専門としておらず、「儒教の伝統」をAIに組み込む発想が難しい。
• 政治リーダーも技術者出身であり、実用的な問題解決志向が強く、抽象的な倫理観に基づくアプローチには馴染みがない。

つまり、中国のAIセーフティは「ルールに従うこと」や「信頼性の確保」といったエンジニアリング的アプローチに偏っており、「知恵」や「徳」を内包する文化的・哲学的基盤の構築はまだ始まっていないのが実情です。これは今後の大きな課題であり、多様な文明背景を持つAIが共存する未来においては、重要な視点となります。

まとめ：リスク管理と新たな視点の必要性

中国におけるAIセーフティの実態をまとめると、以下のようになります。

1. 安全性への関与: 「中国は安全に関心がない」という誤解は払拭され、政府や企業は自らの定義する安全基準に従って行動しています。
2. 対策の格差: 米国トップ2社を除くと、中国と米国の他の企業の間の安全対策の差は限定的ですが、デフォルトでのガードレールの堅牢さでは米国がやや上回っています。
3. 研究の類似性: 評価フェイクや欺瞞行動など、技術的な課題に対するアプローチは米国とほぼ同等です。
4. 倫理的基盤の違い: エンジニアリング志向が強く、儒教などの伝統的価値観に基づく「知恵」や「倫理」をAIに組み込む試みはほとんど見られません。

実務的には、中国のオープンソースモデルやサービスを利用する際、米国トップ企業ほど堅牢なガードレールがデフォルトで備わっていない可能性を認識し、リスク管理を行う必要があります。また、技術的な安全性だけでなく、文化的・倫理的基盤の違いがAIの長期的な振る舞いにどう影響するかという視点の重要性も浮き彫りになっています。