AI バグポカリス到来、今後は？

AI バグポカリスの到来：パッチ適用から「設計段階」への転換を迫る緊急提言

AI コーディングツールの普及により、ソフトウェア開発は劇的な変革期を迎えています。しかし、その光の裏側には、攻撃側も防御側も LLM を活用するようになり、脆弱性の発見と悪用が自動化される「バグポカリス（Bug Pocalypse）」という新たな危機が迫っています。

従来の「脆弱性が見つかったらパッチを当てる」という対応では、もはや追いつくことができません。今こそ、Rust や Go などのメモリ安全な言語への移行や、オープンソース基盤の根本強化といった「設計段階からのセキュリティ（Secure by Design）」への投資が急務です。

AI による攻撃と防御の二極化：自動化された悪用チェーン

現在、AI コーディングツールは歴史上いかなるソフトウェアカテゴリーよりも急速に拡大しています。Stack Overflow のデータによると、昨年の開発者約 84% が AI ツールを使用しており、企業の推奨率も 30〜40% に達しました。

重要なのは、これらのツールの進化が「単なる自動補完」から「自律的なコーディングエージェント」へと移行している点です。Cursor や Claude Code のようなツールは、開発者が指示するだけで数時間にわたり大規模なコード変更を実行します。一方で、フロンティアモデル（例：Anthropic の Mythos）の能力も著しく向上しており、脆弱性の発見から悪用までの全プロセスを自動化できるようになっています。

「敵対者は単に脆弱性を発見するだけでなく、攻撃プロセスのあらゆる部分を自動化していきます。」

この結果、攻撃対象領域は劇的に拡大しています。AI モデルは人間よりもはるかに効率的に脆弱性を見つけ出し、それを即座に悪用コードに変換します。防御側も AI を活用して対応せざるを得ない状況ですが、攻撃のスピードと自動化レベルが圧倒的に上回るリスクが高まっています。

解決策は「設計段階からのセキュリティ」：メモリ安全な言語への移行

多くの人が懸念する「AI による脆弱性の爆発」に対し、朗報があります。AI モデルが発見する脆弱性の多くは、実は「新しいもの」ではないのです。

MITRE や CISA のデータを見ると、悪用されている脆弱性の大半は、数十年も前から知られている基本的なクラスに属しています。例えば、30 年以上前に文書化された「バッファオーバーフロー」などは、現在でも AI モデルによって頻繁に見つかり、悪用されています。

これらの脆弱性は、C や C++ といったメモリ不安全な言語でコードを書く際に発生しやすいものです。しかし、Rust や Go などのメモリ安全な言語（Memory-safe Languages）を採用すれば、これらの脆弱性の多くを根本から防ぐことが可能です。

「既存の CVE データに基づくと、およそ 60〜70% のメモリ不安全な言語で書かれた製品における脆弱性は、メモリ安全な言語を使用することで完全に防止できます。」

Google のデータがその有効性を証明しています。Android オペレーティングシステムでは、新しいコードを Rust で書くよう移行しただけで、メモリ関連の脆弱性発生率が 2019 年の約 75% から現在では約 30% まで劇的に低下しました。

これは「書き換え」ではなく、「新しいコードを安全な言語で書く」という戦略でも十分な効果があることを示しています。企業は、単発的なパッチ適用に予算を使うのではなく、Rust や Go への移行や、重要ライブラリの書き換えといった構造的なセキュリティ投資を急ぐ必要があります。

オープンソース基盤の保護と米政府への提言

攻撃者にとって、オープンソースライブラリは「実験場」であり、脆弱性を悪用する格好の標的です。AI モデルがこれらのライブラリをスキャンし、新たな脆弱性を見つけ出すスピードは加速しています。

この状況を打開するには、政府と民間企業が協力して基盤のセキュリティを強化する必要があります。単発的な脆弱性発見やパッチ適用ではなく、オープンソースプロジェクト全体を保護する体系的なアプローチが必要です。

また、米政府に対しては以下の 3 つの提言がなされています：

1. 開発加速に伴うセキュリティ確保: AI の導入で開発スピードが上がる中で、セキュリティ対策が取り残されないようガバナンス枠組みを整備すること。
2. オープンソース基盤の強化: 攻撃者の実験場となっているライブラリを保護し、根本的な脆弱性リスクを低減する書き換えを推進すること。
3. アメリカ発オープンウェイトモデルの育成: クローズドなモデルだけでなく、微調整（ファインチューニング）が可能なオープンウェイトモデルの生態系を育成することが競争力維持に不可欠です。

「防御者にとっての便益はリスクを遥かに上回ります。強力なオープンウェイトモデルが存在することは、システムを保護するためにも、そして米国 AI の競争力を維持するためにも極めて重要です。」

現在、クローズドモデルの出力を学習する「蒸留攻撃」により、オープンウェイトモデルがクローズドモデルに追いつくまでの時間が短縮されています。攻撃側はすでに強力なモデルにアクセスしているため、防御側も同様に強力なツールを利用できる環境を整える必要があります。

まとめ：パッチ適用から「レジリエントな設計」へ

AI バグポカリスの時代において、従来のセキュリティ対策では追いつきません。企業は Rust や Go への移行やオープンソース基盤の強化といった構造的な投資を急務としなければ、大規模なインフラ障害やデータ漏洩が頻発するリスクがあります。

重要なのは、AI が導入する文脈依存性の脆弱性に対処するため、「設計段階からのセキュリティ」を徹底し、システム自体を攻撃に対して強靭（レジリエント）にすることです。技術の進化に合わせて、セキュリティの考え方を根本から転換させる時が来ています。