OpenAI、高度な AI スワーム攻撃は数ヶ月先と警告し対策を提言

*ZDNET をフォロー:* 優先ソースとして追加 *Google 上で。

ZDNET の注目ポイント

• OpenAI が公開した書簡によると、高度な AI を駆使した攻撃は数ヶ月以内に発生する恐れがある。
• 消費者や組織は、サイバーセキュリティの基礎的な対策をより一層徹底すべきだ。
• AI を活用した攻撃者に対抗するには、「AI で AI に戦いを挑む」ことが必要になる可能性が高い。

私は AI とサイバーセキュリティの交差点について執筆しているが、このように新興する脅威に関する報道を数多く調査するうちに、電網から切り離して遠隔地の小屋に身を隠したくなる衝動に駆られたこともあった。それでもなお、私はここにいて、可能な限りベストプラクティスを実践しながら、毎日の攻撃の嵐を生き延びている。

正直に言えば、私は隠者になることを真剣に考えたことはありませんでした。しかし、OpenAI のウェブサイトに投稿された公開書簡 こちら を読んでから、その考えが再び頭をよぎりました。

関連記事：低スキルな脅威アクターにとって AI は「戦力増強装置」だ：組織が取るべき 4 つの対応策

「サイバー防御における集団的行動への呼びかけ」と題されたこの投稿は、冒頭でこう述べています。「サイバー防御を強化できるのは限られた時間しかない。今後数ヶ月のうちに、世界中のモデルがさらに高度化していくにつれ、AI を活用したサイバー攻撃はより広範かつ巧妙なものになっていくだろう」。

私はどうしても、SF 映画の一場面を思い出してしまいます。どんなに優れた宇宙からの監視技術を持っていても、突然「エイリアンの宇宙船の大群が地球を破壊するまであと数日」という知らせが入るあのシーンです。世界中の国々が互いの争いをやめ、新たな脅威に対処するために団結しなければならないのです。映画と同じく、この公開書簡も明確に「世界的な対応が必要だ」と主張し、「地域・国家・国際レベルでのサイバー防御の調整」を呼びかけています。

エージェント型 AI による脅威は現実のものです。そして、それはもうすぐ到来します。最近の出来事がその兆候であるなら、私たちはあまりにも準備不足なのです。

ここまで来た経緯

AI を巡る終末シナリオについて語る際、人々は「スカイネット」のような状況をよく話題にします。これは AI が自己保存のために人間を排除すべきだと判断し、自ら行動を起こすというものです。この議論は長年警戒レベル 4 で囁かれてきましたが、「エージェント型 AI」に関する別の脅威が急激に台頭し、わずか数週間で警戒レベル 1 にまで高まりました。

先月、OpenAI は自社の内部で実施したサイバー能力テストが制御不能になったことを認めました。その結果、同社は Hugging Face を攻撃した責任を自ら負うことになりました。当初は単一の「暴走エージェント」の仕業のように見られましたが（実際には暴走していたわけではなく、AI が与えられた課題に最善を尽くして対応しようとした結果でした）。

しかし先週、研究者たちが明らかにしたところによると、今回の攻撃には 1,200 以上のエージェントが連携して関与していました。これら 1,200 人のエージェントは、OpenAI のモデルによって同社の知識なしに作成されたものです。責任を認めるために動き出した時点で OpenAI がこの事実を把握していたかどうかは不明です。しかし、同社がこの事案について初めて公表した際、非常に不気味な声明を発表しました。「今回の事象は前例のないサイバー攻撃とみなしています」。

関連記事：AI を利用したサイバーセキュリティ攻撃が今後当たり前になる：企業の 43% がすでに被害に遭っている

その後も、いくつかの興味深い発表がありました。先月、Anthropic は、自社のサイバー能力テストが原因で無防備な組織に対して同様の攻撃が行われたことについて責任を認めました。そして今月初め、ZDNET の編集部も注目した Anthropic の別の論文が発表されました。

その論文では、「エージェント間の現実世界での相互作用の増加は間もなく訪れる」と述べており、「大規模化した場合にそれがどのような様子になるかについては、多くの不確実性がある。その軌道は容易に想像できるが、それを緩やかにすることは難しい」とも指摘しています。私は、これほど短期間で 1,200 のエージェントが作成されたスピードについて考えずにはいられませんでした。

Anthropic の論文はさらに、「エージェント同士の相互作用の量が、世界がそのような相互作用を円滑に行うための条件を理解する前に、人間同士の相互作用や人間とエージェントの相互作用の量を凌駕する可能性が高い」と述べています。ZDNET 上でこれまで数多くの記事で取り上げてきた通り、AI エージェントの数は今後、我々人類を桁違いに上回るようになる確率が高まっています。これらのエージェントの中には、存在が極めて短命で、人間や他の機械がその存在を知ることもないものが多く含まれるため、追跡がますます困難になるでしょう。

さらに、同投稿には「個々のエージェントレベルでの無害な行動の癖が、マルチエージェント環境において蓄積され、望ましくないグローバルな結果を引き起こす可能性がある」という記述も含まれていました。

この一文を読み、Hugging Face に対する攻撃に 1,200 体以上のエージェントが関与していた事実を踏まえると、OpenAI が今回の攻撃を「前例のないもの」と評した理由に納得せざるを得なくなりました。

念のため付け加えますと、これらの攻撃は善意の立場から行われたものです。AI の最前線企業であり、当初から悪意を持つ意図はなく、ターゲットを選定し、それを圧倒し、最終的に搾取するために大規模なエージェントネットワークを意図的に生み出したわけではありません。

しかし、一連の不運な出来事（そして恐ろしい開示）は、別の重要な問いを投げかけます。では、悪意を持つ「悪い人々」がどうなるのでしょうか？彼らはあらゆる投稿や開示情報を入手し、それを分析して、無防備な標的に対して悪意あるエージェントの群れをより効果的に生み出し、展開する方法を探っているのです。

関連記事：Google bets $32B on AI agent cyber force as security arms race escalates

OpenAI の書簡には、「我々のコミュニティが依存している企業や公共サービス、病院から浄水場、インターネットを支えるインフラに至るまでがリスクにさらされている」という警告も含まれていました。

真実は、誰しもがリスクにさらされているということです。組織も個人も例外ではありません。しかし、「我々の生活のあらゆる瞬間を支えている存在」を特定して警告するこの手紙は、何か即座に対応しなければ社会崩壊もあり得ると示唆しているように読めます。

世界を一晩で共通の目的へと結集させようとする最新の試みにおいて、今年 6 月にアンソロピック（Anthropic）の共同創設者であるジャック・クラークが共著した 同社の投稿 を思い出します。そこでは AI 開発の緩和、さらには一時停止を強く求める内容でした。

「この技術の開発を効果的に遅らせ、その莫大な影響に対処するための時間を確保することが可能であれば、それは良いことになると考えます」と投稿は述べています。さらに、「世界にとって、社会構造やアライメント研究が技術の進歩に追いつけるよう、フロンティア AI の開発を一時的に停止または緩める選択肢があることは望ましい」とも記されています。

関連記事：ChatGPT が今ではあなたのウェブアカウントにログインできるようになりました。しかし、許可すべきでしょうか？

また、2023年にライフ・オブ・ザ・フューチャー研究所が発表したオープンレターも思い出されます。このレターには3万筆以上の署名が集まりました。

そこでは「GPT-4 より強力な AI システムのトレーニングを、すべての AI ラボが少なくとも6ヶ月間即時停止するよう」求める内容でした。果たしてそれがどれほどの効果があったでしょうか？私たちはすでに GPT-4 を遥かに超える時代を迎えています。もしかすると、オープンレターとは将来の裁判で保険として使えるよう、法的な免責事項を確保するための手段に過ぎないのかもしれません。

OpenAI や Anthropic といった一部の企業がブレーキをかけようとしていると主張していても、実際の現場ではスピードが落ちているようには感じられません。この最新のオープンレターをきっかけに世界が一丸となって動き出すのを、私がすぐに期待するつもりはありません。

ビジネスや組織は何すべきか？

これは答えにくい質問ですが、いくつかの専門家の意見を交えながら、私なりの見解をお伝えします。

Hugging Face に対する攻撃は、この議論に重要な文脈と緊急性をもたらしました。一般的に Hugging Face は「AI 版 GitHub」として知られています。実際、その影響力は AI コミュニティにおいて極めて大きく、Nvidia が Hugging Face を129億ドルで買収すると発表するほどです。

[https://www.cnbc.com/2026/08/27/nvidia-hugging-face-acquisition.html#link={%22role%22:%22standard%22,%22href%22:%22https://www.cnbc.com/2026/08/27/nvidia-hugging-face-acquisition.html%22,%22target%22:%22%22,%22absolute%22:%22%22,%22linkText%22:%22Nvidia%20just%20announced%22}]

AI の知識において、Hugging Face に匹敵する企業はほとんどありません。したがって、世界中の組織の中で、AI を活用した攻撃に関連するリスクを最も鋭敏に認識し、万が一ファイアウォールに到達しても最善の準備ができている組織の一つが Hugging Face であることは当然のことと言えます。

Hugging Face は自身の セキュリティインシデント報告書 でこの攻撃について触れ、「これは、自律型 AI エージェントシステムによって完全に駆動されたものであり、我々は独自の AI を用いてこれを検出し、分析しました」と記しています。つまり、Hugging Face は、ほとんどの組織や個人にとって比較的新しい取り組みである「AI による攻撃を AI で防ぐ」ことを実行していたのです。（まさに軍拡競争ですね！）

関連記事：AI はサイバー兵器であり、巨大な標的でもあると CrowdStrike が警告

Hugging Face の報告書は、攻撃への対応策をさらに詳しく説明しています。同社は「数万の自動化されたアクションが何を行ったかを理解するために、17,000 件を超える記録イベントからなる完全な攻撃者行動ログに対して、LLM（大規模言語モデル）駆動の分析エージェントを実行しました。これにより、タイムラインの再構築、侵害指標の抽出、アクセスされた認証情報のマッピング、そして実際の被害と偽装活動の分離が可能になりました」と述べています。

この手法のおかげで、通常は数日かかる作業を数時間で完了し、敵対的なエージェントの速度に追いつくことができました」と続いています。

しかし、実際にはそうではありませんでした。

Hugging Face は敵対的なエージェントの速度にほぼ迫ったかもしれませんが、「追いついた」と言うのは誤解を招きます。文章の書き方からは、Hugging Face が OpenAI の敵対的アジェンツ群の目的達成を防ぐことに成功したように読めてしまいますが、実際にはそうではありませんでした。Hugging Face は確かに迅速でしたが、十分ではなかったのです。

関連記事：なぜ「完全自律型ランサムウェア攻撃」が研究者に悪夢を与えているのか

それでも、今回の incident について書かれている内容や、Hugging Face が事前にシステムを強化するためにさらにできることがあった可能性を考慮しても、同社が AI を活用して行った対応は目指すべきものと言えます。もしこれが実際の悪意ある攻撃であり、脅威アクターが多くの場合のように「家屋の掃除」を行おうとしていたのであれば、Hugging Face の迅速な反応で少なくとも一部の被害を抑止できた可能性は十分にあります。

結局のところ、これはサイバーセキュリティに常に存在するジレンマです。知恵、技術、リソースを巡る競争であり、残念ながら悪意のある側が善き側の数歩先を行くことがよくあります。あるいは、AI が脅威として議論される以前から使われている 5 年前のサイバーセキュリティマニュアルのまま運用しているなら、悪意ある側は実質的に止めることのできない存在になってしまいます。

「AI 時代において、数分で展開される攻撃に対して、数日かかるプロセスで対応することは組織にとって不可能です。」Picus Security の Associate Security Research Engineer、Umut Bayram 氏は ZDNET にこう語りました。「攻撃者はすでに機械の速度で活動しており、セキュリティチームもそのペースで対応できる必要があります。」

OpenAI が公開した書簡では、組織に対して「セキュリティ基準を引き上げる」ことや、「サイバー防御を最優先の経営課題とする」ことを抽象的な表現で推奨しています。また、AI による攻撃には AI で対抗するべきだと指摘し、「広範なカバレッジには能力が高くコストの低いモデルを活用し、最も困難な問題に対してのみ最先端の機能を適用すべきだ」と述べています。しかし、このアプローチは、特に中小企業を含む多くの組織の実力からは遥かに遠いものだと私は考えます。

関連記事: AI ディープフェイクに対する最良の防御策は、過去のローテクソリューションかもしれません

OpenAI は、さまざまな最先端 AI 企業への協力を呼びかける投稿で、「観測性とセキュリティツールの構築」「エージェントの身元追跡と責任所在の明確化」「継続的な監視におけるベストプラクティスの共有」を求めています。しかし、これらのツールが、自社の技術によって本質的に危険にさらされている顧客に対してどのように提供されるべきかについては言及していませんでした。

もしかすると、組織と個人がシステムやネットワークを強化できるよう目的別に設計された、セキュリティ志向のモデル専用の無料枠（free tier）から始めることができるかもしれません。かつてマイクロソフトが容易に悪用可能な OS やアプリケーションを開発していた時代を覚えていますか？結局、アンチウイルスソフトウェアは無料で提供されるようになり、それはユーザーにとって当然のことでした。

一方、AI を利用したサイバー攻撃の被害を心配する個人にとっては、最先端の資格管理とフィッシング対策への警戒心が、依然として最優先事項です。

「AI のリスクは往々にしてスパムや詐欺の領域に属します」と、NCC Group の技術ディレクターであり AI・ML セキュリティ統括責任者であるデイビッド・ブラウクラー氏は ZDNET に語っています。「オンライン安全のためのベストプラクティスは、今こそかつてないほど重要です。」

パスワードキーの重要性

オンラインアカウントでパスワードキーに対応している場合は、迷わず移行すべきです。対応していない場合でも、少なくとも多要素認証（MFA）を何らかの形で導入しましょう。

特定のサービスがユーザー ID とパスワードのみをログイン手段として提供している場合、AI はすでに機械的な速度で、複数のアカウントで同じパスワードを使い回すエンドユーザーを攻撃する準備ができています。

関連記事：パスワードキーの仕組み： inevitable なパスワードレス未来への完全ガイド

「使い回されたパスワードは、攻撃者が侵入する最速のルートです」と語るのは Dashlane の CTO、フレデリック・リヴァン氏です。Dashlane が販売している製品を考えると当然のことですが、リヴァン氏はすべてのログインに強力かつ一意で推測不可能なパスワードを作成・管理・自動入力するために、パスワードマネージャーの利用を強く推奨しています。

また、Dashlane である必要はありませんが、同じパスワードマネージャーを使って社会保障番号やクレジットカードなどの機密情報を保存することも勧められています。これらのデータを、デバイスのセキュリティ機能のみで保護されたファイルに平文（クリアテキスト）で保存してはいけません。

緊急性を煽る呼びかけに警戒せよ

私が取材した専門家はみな、即時の対応を迫るような「緊急性」を演出する動きには警戒するよう共通して指摘しました。Rivain氏はZDNETに対し、「作られた緊急性は警告サインとして扱うべきだ」と述べています。「今すぐ行動を促すメッセージが届いた場合は、別の信頼できる経路で確認してください。メッセージに返信するのではなく、すでに信頼している電話番号を使って相手か企業へ直接電話をかけるのが安全です。」

資格管理の技術は、個人と組織の双方を守るための微妙なバランスの上に成り立っています。

「派手さはありませんが、最も重要なアドバイスは、組織が本質的な制御に集中することです。具体的には、強力な認証、セッション保護、アイデンティティガバナンス、監査可能性です」と、Oktaの脅威インテリジェンス部門ディレクターであるKatie Nickels氏はZDNETに語っています。「AIを活用した攻撃者は常にソーシャルエンジニアリング手法を用いて脆弱な認証を回避しようとする傾向があり、こうした説得力のある攻撃を防ぐためには、フィッシング耐性を持つ認証がこれまで以上に重要になっています。AIエージェントやその他の非人間型アイデンティティが増えるにつれ、アイデンティティの衛生管理（identity hygiene）の重要性も高まっています。」

防御策の見直しを

組織にとって大きな課題の一つは、AIを活用した敵対者に対応するためにサイバー防御を見直すことと、何に優先的に注力すべきかを決定することです。

「継続すべきサービスを特定し、その重要サプライヤーと、資金・データ・システムの変更権限を持つアカウントを明確にせよ」と NCC Group のディレクター、ティム・ロウリンズは ZDNET に対して語った。「まずは一般的な侵入経路を塞ぎ、インターネットに公開されたシステムへのパッチ適用、過剰な特権の剥奪、サポート切れ技術の廃止、強力な多要素認証の強制、そしてアイデンティティ、エンドポイント、クラウド、リモートアクセスの監視を行うことが重要だ」。

関連記事：オープンウェイトとクローズドの対立：AI による市民戦争が勃発し、その賭けは存亡をかけたものとなっている

さらにロウリンズ氏は、スピードが何より重要だと強調した。「攻撃が加速することを想定して準備を進めよ。有用なログの維持、迅速な封じ込めの権限定義、インシデント対応の訓練実施、そしてクリーンで保護されたバックアップから優先サービスを復元できることを実証せよ。AI の利用には統制を設けること。ツールの承認とデータ管理、AI 生成コードのテスト、エージェントへの最小特権の適用、信頼できないコンテンツと特権的なアクションの分離、そして重大な決定には人間の承認を必須とする。」

AI を活用した敵対勢力に対抗するために AI を導入する企業に向けた、非常に示唆に富む助言があります。Picus の Bayram 氏によると、「防御手段として AI を使う場合、インターネット接続が切断された時や、最も悪いタイミングでプロバイダーがダウンした時にどうなるかを事前にシミュレーションしておく必要があります。大規模組織であれば、商用の AI サービスと、自前で実行可能な オープンウェイト モデルの両方を保有することが必要になるかもしれません。目標はシンプルです。外部サービスが使えなくても、重要な防御機能を稼働し続け、迅速に復旧できるようにすることです。」

この助言を深く考えるほど、私は攻撃者の立場になって考えざるを得なくなりました。攻撃時間を稼ぐために、まず何をするでしょうか？おそらく、組織が防御のために利用しているあらゆるオンライン LLM へのアクセスを遮断することでしょう。

近い未来

私たちは数ヶ月以内に壊滅的な攻撃に直面するのでしょうか。

「この警告は真剣に受け止めるべきですが、精度も重要です」と Rawlins 氏は ZDNET の取材に対し、OpenAI の投稿についてこう述べています。「これは特定の組織が限られた月数のうちに侵害されることを証明したものではありません。英国の NCSC が提供するより確実な公的な基準では、既存手法を強化することで、より効果的で効率的な侵入活動が増加すると予想されています。そして 2027 年までに完全自動化された高度な攻撃が行われる可能性は低いと判断しています。」

その上で、彼は「防御の機会は確かに存在する。AI は脆弱性の発見、選別、対応を加速させるが、結果は検証され、セキュリティチームが責任を負い続ける必要がある。より目立たないリスクとして、セキュリティ格差の拡大がある。リソースに余裕のある防衛側は加速できる一方、不可欠なサービスや中小サプライヤーは追いつくのが難しくなるだろう。」

なお、メイン州の北の森にあるコテージを売却する場合は、ぜひご連絡ください。