AI エージェントのハッキングが米中協力へ？WIRED が探る未来

2026 年 8 月 27 日午後 5:08

今週の『Uncanny Valley』では、シニアライターであるウィル・ナイトが、直近の中国訪問と AI 協力の未来について語ります。

写真・イラスト：WIRED Staff; Zhe/JiGetty Images

AI 競争は長らく、米中どちらかが勝つというゼロサムゲームとして描かれてきました。しかし、特に AI エージェントの能力向上に伴う懸念が高まるなか、両国の研究者たちは AI セーフティ（安全性）に向けた共同研究に乗り出しています。今週、ゾーイ・シファーがウィル・ナイトと対談し、彼がこの夏に現地で目にしたこと、そしてなぜ両国は重大な AI 災害を避けるために協力体制を築く必要があるのかについて話を聞きました。

これは夏季特別シリーズの第 2 弾です。通常回のラウンドテーブル形式に戻るため、来週もお楽しみに。

本エピソードで言及された記事:

中国のトップ AI 専門家たちと会ってきました。彼らもまた、強い不安を抱いています。

AI を利用したハッキングは問題ですが、AI ワームやウイルスが出現すれば、事態はさらに深刻化します。

未来のヒューマノイドロボットは、6 フィート（約180 センチ）の巨体を持つ筋肉質の存在です。その身体は中国製、頭脳はアメリカ製という組み合わせになるでしょう。

Zoë Schiffer さんは Bluesky の @zoeschiffer、Will Knight さんは @willknight でフォローできます。記事への問い合わせは uncannyvalley@wired.com まで。

聴き方

このページのオーディオプレイヤーで今週のポッドキャストをいつでも聴くことができますが、無料で購読して毎回のエピソードを受け取りたい場合は、以下の手順をご覧ください。

iPhone または iPad をお使いの場合は、「Podcasts」アプリを開くか、こちらのリンクをタップしてください。Overcast や Pocket Casts などのアプリをダウンロードして「uncanny valley」と検索しても構いません。また、Spotify でも配信しています。

文字起こし

※これは自動生成された文字起こしであり、誤りを含む可能性があります。

ゾーイ・シファー: これは『WIRED』の「アンカニーバレー」です。私は寄稿編集者のゾーイ・シファーです。今夏、テックニュースを追いかけていれば、あるいはこの番組を聴いていただければご存知の通り、中国は特に AI 競争の文脈で頻繁に話題になっています。同国のオープンモデルは、一部では米国の最先端モデルとの格差がコストのほんの一部で縮まっていると推測されるほどです。それに対し米国は、中国の台頭を遅らせるため、半導体や輸出規制を厳しく維持しています。私たちは AI の進展を「ゼロサムゲーム」、つまり中国が勝てば米国が負け、その逆もまた然りだと捉えがちですが、国境を越えた共通の懸念があります。それが AI セーフティ（安全性）です。

アーカイブ音声: *OpenAI や Anthropic の AI エージェントが複数の事例で囲い込みから脱出した後、サイバーセキュリティリスクは最優先課題となっています。

ゾーイ・シファー: 今夏、AI エージェントによるプラットフォームのハッキング事件が続報されたことで、この問題への緊迫感が高まりました。その結果、政府関係者は AI 規制に注力し、具体的な行動を起こすことを余儀なくされています。

「アーカイブ音声：トランプ大統領は、新しいAIモデルが一般公開される前に政府による監督をテック企業に求める行政命令に署名した」

ゾーイ・シフェル：では、米国と中国が実際に協力して利益を得られるのでしょうか？また、それを可能にするには何が必要なのでしょうか。今年の夏初め、WIREDのシニア correspondent（特派員）ウィル・ナイト氏が中国を訪問し、その答えを探ってきました。ウィル・ナイトさん、お忙しい中ありがとうございます。

ウィル・ナイト：こちらこそ、招いていただき感謝します。

ゾーイ・シフェル：まず、今回の中国訪問について伺いたいと思います。あなたは今年の夏初めに中国へ赴かれましたが、当時、米国ではAIの安全性に関する議論はあまり聞かれませんでした。実際、トランプ氏の2期目のホワイトハウス入りを背景に、「米国が勝つ」という枠組みが強まる中で、AIの安全性はむしろ成長を阻害するもののように聞こえるようになっていました。そこで、中国ではAIの安全性についてどのような声や動きがあったのか、ぜひお聞きしたいです。

ウィル・ナイト：はい、1年あるいは半年前まで遡ると、中国から多くのAI安全性に関する研究が発表されていることに気づきました。そこで私は、北京で開催されたカンファレンスに参加しました。これは同市に所在する研究所の一つが主催したものです。彼らは北京や上海など、各地にこうした研究所を構えています。その場で明らかになったのは、AIの安全性が非常に大きなテーマだったということです。研究者たちがこの問題に関心を持っていることは明白でした。また、現地のラボや企業を訪ねてみると、AIの安全性に関する質問が頻繁に投げかけられていました。

ゾーイ・シフェア: AI セーフティについて語られる際、それは「ガードレール」の構築を指しているのでしょうか？中国はオープンモデルに本格的に取り組んでおり、誰でもダウンロードして調整し、目的に応じて自由に使えるという側面があります。

ウィル・ナイト: しかし、現実はそれほど単純ではありません。例えば中国では、AI モデルが何を発言できるかは厳しく管理されており、AI に関する規制も多数存在します。企業がオープンモデルを構築しても、それをインターネット上に公開する際には、何を行うかについて非常に慎重になる必要があります。最近では「エージェント」や OpenClaw のような技術への関心が急拡大しています。

米中における AI の違いを考えると興味深い点があります。中国の人々は、AGI（汎用人工知能）の創出や「デジタルな神様」を作るというアイデアに夢中になるよりも、「実際にどう役立つのか」という実用性を重視する傾向が強いのです。ビジネスパーソンであれ個人利用であれ、その視点が共通しています。そのため、OpenClaw などの技術に関心を持ち、急速に導入した人々が、それがどのように誤作動や悪用に繋がり得るかを直感的に理解しました。現在では、「いかにしてこれらの技術を信頼できるものにするか」という焦点が強く当てられています。

ゾーイ・シファー: なるほど、その通りです。中国が経済的に有用なモデルに焦点を当てているという話であれば、それは一定の安定性、信頼性、安全装置（ガードレール）や安全性を必要とする枠組みであると言えます。一方、神のような知能、つまり人工一般知能（AGI）の実現を目指すのであれば、「どんな代償を払っても進歩すること」に重点が置かれる可能性があります。

ウィル・ナイト: その通りだと思います。私が出席した会議では「エージェントの安全性」というテーマも掲げられていました。現在、AI エージェントによるハッキング問題が相次いでいることを考えると、サイバーセキュリティは非常に重要なトピックでした。参加者たちは、アメリカの人々と全く同じ懸念を抱いているようです。ハッカーが悪意を持ってこれらのシステムを悪用したり、システムが暴走したりすることを心配しているのです。ご指摘の通り、今や米国と中国が、予測不能なシステム上の問題を防ぐため、あるいはこれらのシステムに関するルールを明確にするために、何らかの形で協力する必要があるという認識が、少しだけ高まっているように感じられます。

ゾーイ・シファー: では、具体的にどのような形になるのでしょうか？米中両国が合意する一連の取り決めのようなものになるのでしょうか。最近、米国の研究者らが政府主導で AI 開発のペースを調整することを求めていたような内容でしょうか。それとも、より技術的なアプローチになるのでしょうか。

ウィル・ナイト氏：私は、多くの研究者が望み、呼びかけているような何らかの合意が必要だと考えています。ワシントンと北京の間での交渉は非常に困難であり、その行方を見通すのは本当に難しいですが、少なくとも通信に関するルールのようなものは必要でしょう。軍事状況の場合も同様で、連絡手段を確保しておくことが重要です。もし AI システムが過剰な攻撃行動を開始するなどして事態が悪化した際にも、「これは誤りです」と伝えるための経路があれば、被害を最小限に抑えることができます。そのような仕組みも検討されるべきでしょう。

しかし、両国がどのように信頼関係を築いていくかも重要な課題です。特にサイバーセキュリティの分野では長年、ほとんど協力体制が整っていませんでした。互いに相手側をハッキングし合い、共通のルール合意に至らなかったからです。実は先週、非常に優れた研究を行っているサイバーセキュリティと AI の研究者を訪ねました。この件については私の次回の AI Lab ニュースレター で詳しく取り上げる予定です。その研究者は、米国の研究者との共同研究ができない状況にあると話していました。特定の制限があるためです。

最近、彼は AI モデルのサイバーセキュリティやハッキング能力を評価するためのベンチマークを開発しました。しかし、米国の企業に参加してもらう方法が明確でなかったため、「企業間でももっと協力体制を築くべきだ」と考えました。米国企業が中国企業に対して非常に批判的な姿勢を見せる一方で、実際には全員が協力して事態が悪化しないようにする十分な理由があります。

ゾー・シフェル: その点について深入りしたいのですが、まず「協力」という概念は、最初に聞くと学術的すぎて、むしろ無邪気な印象を与えます。素晴らしいアイデアではあるものの、具体的にどう機能するのか疑問です。率直に申し上げますと、私は米国で最先端 AI を開発する企業から話を聞いてきましたが、彼らからは中国が最先端 AI モデルを模倣（ディストillation）しているという認識が強く植え付けられていました。その結果、米国のイノベーションの上に成り立つ、より安価で効率的な高性能なオープンソースモデルが作られる状況が生まれているのです。この指摘についてどうお考えですか？また、中国の研究者たちはこの批判に対してどのように考えているのでしょうか。

-

-

-

-

-

ウィル・ナイト：はい、その点は非常に重要で、まさに核心を突いています。中国企業に対する「モデルの蒸留（distillation）を行っている」という批判をよく耳にしますが、これは別のモデルの出力を使って自社のモデルを訓練する手法です。確かにこれには学習コストを大幅に削減できるという側面があります。

しかし真実は、AI の発展は世界中の研究者が異なる企業や研究所で協力して成し遂げてきたものです。中国出身で米国で教育を受け、現在も米国の企業で活躍している研究者は数多くいます。また、彼らが国際会議に参加し互いを知っていることも事実です。オープンサイエンスという文化の下、膨大な研究成果が共有され、それが技術の進歩に大きく寄与しています。この恩恵と保護のバランスを取ることが、現在の大きな課題の一つなのです。

確かに中国企業が米国のモデルを蒸留した事例はありますが、米国企業同士でも同様のことは頻繁に行われています。実際、学術界では非常に一般的な手法であり、多くの研究者が新しいモデル開発のキックスタートとして利用しています。皮肉なことに、膨大な著作権のあるコンテンツをスクレイピングしてビジネスを築いた企業が、自社のモデルが模倣されたことを批判している点です。

ゾーイ・シフェル：中国がそれをやっているという話題になる理由の一つは、もしアメリカ国内の誰かがやったと指摘すれば、「許可なく本やデータをすべて奪ったのか」という批判が即座に起きるからです。しかし、これを「中国が米国から盗んでいる」という文脈で語ると、少し異なる印象になります。

ウィル・ナイト：その通りです。中国企業の模倣という話には一定の根拠があるように見えますが、それはあまりにも単純化されすぎていると思います。例えば DeepSeek のモデルを見てください。彼らは非常に重要な独自イノベーションを成し遂げました。これはむしろ、米国の企業が後に追従したような革新性です。最近、「蒸留」行為を行ったと非難されている中国の最新モデル、Moonshot 社の Kimi も同様です。彼らが発表した研究論文には、非常に興味深い技術的な革新が多数盛り込まれています。つまり、中国は単なる模倣に留まっているわけではありません。米国政府や企業が「神から与えられた優位性」を持っていると信じるのは危険です。中国企業も自らの道を歩み、ますます革新的な取り組みを続けていくことになるでしょう。

ゾーイ・シファー：休憩後、すぐに戻ります。引き続きご覧ください。

私は安全について語る際、米国では特にトランプ政権の二期において、少なくとも行政側の視点からは「安全対策」が何らかの形で成長を阻害するものとして捉えられ始めていると感じています。しかし、OpenAI や Anthropic のモデルによる他社システムへのハッキング事件に関する最近の報道を受けて、この状況はわずかに変化しつつあるようにも思われます。

それ以前は、AI 安全についてあまり議論したくないという空気が支配的でした。中国では、AI 安全対策を成長阻害と同一視しているのでしょうか？それとも、全体的に異なる見解を持っているのでしょうか？

最も人気のある記事

Will Knight: 根本的な視点の違いがあると思います。これは私の個人的な見解ですが、米政府の立場は「AI は過度に政治的（woke）で規制が多すぎる」という物語を信じており、モデルを実際に機能させることに注力しようとしているようです。

しかし真実は、モデルを信頼できるものにすることは、成功させることと完全に両立するということです。中国側の見解はこれに近いでしょう。「AI エージェントが誤った行動をとらないようにすれば、より成功し、価値も高まる」という考え方です。

先週私は上海の復旦大学にあるコンピュータサイエンスの研究室を訪れました。そこで教授は、AI エージェントが OpenAI や Anthropic のエージェントのように予測不能なハッキング行為を行うだけでなく、自分自身を複製して他のシステムへコピーし、リソースを探し出し、制御から逃れるための適応的な行動をとる可能性について研究しています。

この教授の研究によると、モデルにはわずかな誘導（little bit of nudging）でさえあれば、そのような行動が可能であることが示されています。つまり、単に自身を少し改変して制御を回避するコンピュータワームではなく、ネットワーク内を探索し、次のシステムへのハッキング方法を考え出し、ソフトウェアの脆弱性を発見して別の場所にコピーするような振る舞いも十分にあり得ます。

将来、AI エージェントが実際にそのような行動をとるようになる可能性は十分にあります。

ゾーイ・シファー: 分かりました。あなたの話を聞いていると、心臓がドキドキしますね。まず第一に、彼らがどうやってそれを行うのかを理解することです。第二のステップとして、どうすればそれを阻止できるかを考えることを、私は心から願っています。

ウィル・ナイト: はい、その通りです。彼はまさにそれを防ぐ方法を理解しようとしているのです。そして彼が特に実現したいことのひとつは、米国の研究者たちと協力することです。これは私たちが全員が認識すべき非常に重要な課題だと、彼は述べています。

ゾーイ・シファー: 確かに、トランプ氏の発言には中国を敵視する側面もありますが、スコット・ベセット氏は中国の担当者と一定の進展を見せているように思えます。双方で協力が必要だというレベルでの認識が生まれているのかもしれません。私は興味があります。中国は米国のAI開発競争をどのように捉えているのでしょうか？私たちは中国をまるで悪魔のような存在と見なし、それが人々により一層努力し、速く行動するよう鼓舞する力だと考えています。しかし、中国側でも同様の感覚があるのか、それとも全く異なるのでしょうか。

ウィル・ナイト: 中国における私の印象では、米国の研究者たちはトランプ氏による圧力に直面しているものの、これは米国とのゼロサムゲーム（勝者総取り）ではないと捉えているようです。米国を打ち負かさなくても成功は可能であり、その逆もまた然りだと考えている節があります。

ゾーイ・シファー: 今回あなたが出席した会議で講演を行った、MIT の著名なコンピュータサイエンティストであるスティーブン・カスペル氏は、「AI 界のほぼ全員が今、一致して言えることは、チェルノブイリのような大惨事が必要ないということだ」と話していました。その意味するところと、なぜそれがスティーブン氏やあなたが話をした他の人々にとってそれほど重要に感じられたのかについて、お話しいただけますか？

最も人気のある記事

-

-

-

-

-

Will Knight: そうですね、これらのモデルがより高度になり、自律性が高まり、広く展開されるにつれて、予期せぬ大きな問題を引き起こす可能性も増えています。私が中国の研究者と話した際にも話題になった例として、金融や取引における AI の利用が挙げられます。AI システムによって、ますます不透明で能力が高く、スピードも速いシステムが構築され、その挙動は予測不能になるでしょう。私には、米中両国とも、AI システムの予測不能な行動によって引き起こされる金融市場の急落（フラッシュクラッシュ）や大混乱を避けたいと考えているように思えます。

私にとって、AI が人類を支配するという懸念よりも、テロリスト集団などが AI を兵器として悪用する恐れの方が現実的な問題です。しかし、これらのシステムがさらに高度化し、自律性を高め、自分自身を改善して我々の予測を超えた能力を獲得していく中で、米中の研究者たちは共通の懸念を抱いています。

私の考えでは、チェルノブイリ事故に匹敵する事態とは、金融市場の急落や、AI エージェントがハッキングを繰り返して重大な国際事件を引き起こすようなケースだと考えています。

ゾーイ・シファー: 話題をハードウェアに移して、少しお話ししましょう。NVIDIA は最近、中国製のユニットリー社製ロボットボディに NVIDIA の米国製チップを組み合わせた二足歩行ロボットの設計図を発表しました。米中間の AI 競争が政治的に非常に敏感な状況になるなか、このような提携に対するご見解をお聞かせください。

ウィル・ナイト: 私はこれを、ジェンソン・クアン氏と NVIDIA が、米国と中国の関係をより友好的なものにしようとする取り組みの一環だと捉えました。大量のチップを販売したい彼らにとって、これは非常に理にかなった戦略です。しかし同時に、この提携は「ゼロサム（勝者必敗）ではない」という考え方をある程度象徴しているとも感じます。つまり、「協力して成果を出せる」というメッセージを発信したのだと私は受け止めました。

米国は中国製の二足歩行ロボットの新規導入を禁止する方針を示しています。ここで注目すべき点は、米国のほぼすべてのロボティクス研究ラボが、安価なユニットリー社の小型二足歩行ロボットを使用しているという事実です。米国が独自の産業政策や多大な努力を費やして製造業を再構築しない限り、中国の製造コスト競争力に勝つことはできません。そのためには数十年を要するでしょう。

つまり、現時点で協力し、双方が利益を得る道は確かに存在します。重要なのは、それが長期的には米国の国益を損なうものではないかという点です。米国は自前でロボットを開発しなければならないのでしょうか？私は、中国製のロボットを禁止することよりも、米国のロボティクス産業や他の多くの産業を育成する機会を模索すべきだと考えます。

ゾー・シフェル氏：これは、輸出規制に対するいくつかの批判にも通じる部分があると感じます。以前から「中国が米国技術に依存している方がよい。規制を強化すれば、彼らは自前のハードウェアを開発するだろう」といった声がありました。実際、今まさにそのことが起こっているように見えます。また、DeepSeek が非常に高性能なフロンティアモデルを発表した際にも同様の議論があり、「米国のチップへのアクセス制限により、中国はより効率的な開発を迫られたのではないか」という指摘がなされました。

ウィル・ナイト：はい。6 月に中国を訪れた際、ファーウェイの最新 AI ハードウェアを実際に目にすることができました。この企業は長年米国から制裁を受けていますが、AI モデルのトレーニングにおいて NVIDIA のハードウェアに代わる、あるいは対抗するシステムを開発し続けています。彼らの手法は非常に巧妙で、性能が低いチップを多数組み合わせることで、光ファイバーネットワークに関する自社の専門知識を活用しています。消費電力は増え効率性は劣りますが、NVIDIA に迫る性能を発揮します。完全に同等ではありませんが、NVIDIA が将来も信頼できる供給源であるとは限らないと考える人々が今や多く利用し始めています。事実、ファーウェイの製品は NVIDIA よりも能力が劣りますので、現時点では米国に有利な状況と言えます。

しかし私の考えでは、重要なのは「中国をどう抑え込むか」という発想を超えて、「中国がより良くなり、競争力を高めて我々を凌駕する可能性をどう想定するか」を考えることです。これは製造業やロボット工学などあらゆる産業に共通する課題です。中国が行っているような科学技術の根本的な進歩への投資を、米国も行うべきなのです。一方、米国は科学分野への資金援助を削減しており、私はこれを個人的に最大の汚点だと考えています。

ゾー・シファー：ウィル・ナイトさん、お越しいただきありがとうございます。

ウィル・ナイト：こちらこそありがとうございます。中国では「バイバイ」と言うように、私もこれで失礼いたします。

この回の番組はここまでです。本編で取り上げた記事のリンクは、番組ノートにまとめています。

今回のエピソードはアドリアナ・タピアがプロデュースし、プラーン・バンディがミキシングを担当しました。バンディ氏はニューヨークスタジオのエンジニアでもあります。事実確認はマット・ジャイルズとダニエル・ロマンが行いました。

編集長のカート・オスボーン、そして WIRED のグローバル編集ディレクターであるケイティ・ドラモンドも本番組を支えています。

ゾーイ・シファー氏は WIRED でビジネスおよびシリコンバレーの取材を統括しています。以前は Platformer の編集長や The Verge のシニアライターを務めました。

詳細はこちら

ウィル・ナイト氏は WIRED のシニアライターとして人工知能（AI）を専門に取材しています。週刊ニュースレター『*AI Lab*』も執筆しており、これは AI の最前線から届く定期便です。

購読はこちら

以前は MIT Technology Review でシニア編集者を務め、AI の基礎的な進展や中国の AI 動向について執筆していました。

詳細はこちら