AI に実在の脆弱性発見を教える　ブルームリー教授（Bugcrowd）

AI にハッキングを教える新アプローチ：人間と同じ学習プロセスと「全脆弱性発見」の重要性

カーネギーメロン大学のデビッド・ブルームリー教授は、AI にハッキング技術を習得させる際、従来の評価基準を見直し、人間がスキルを磨くプロセスを模倣する必要があると指摘しています。単にバグを見つけるだけでなく、未知の脆弱性を推論し、実際に武器化できる能力を育むために、「全脆弱性発見」を課す新しい評価基準（オーラル）やゼロデイ脆弱性の活用が不可欠です。

人間と同じ「段階的学習」で AI を育てる

AI にハッキングを教える際、最も重要なのは人間の学習プロセスを模倣することです。ブルームリー教授は、自身の指導経験から、優れたハッカーは「簡単な問題から始め、解説を読みながら徐々に難易度を上げる」という方法で成長すると語ります。

実際、高校生のリチャード・ジュ（ハッカー名：fluorescence）は、数学コンテストに飽き足らずサイバーセキュリティに興味を持ち、CTF（Capture The Flag）の解説記事を読みながら練習を積み重ねました。その結果、わずか2年後には世界最高峰のセキュリティ競技「Pwn2Own」でテスラ車をハックし、賞金37万5千ドルと新車を手に入れるまでに成長したのです。

この成功体験を AI にも適用するためには、以下の2つの軸で課題を設定する必要があります。

1. 標的の難易度（Target Difficulty）: トイプログラム（学習用簡易プログラム）から CTF、合成された問題、そしてハードened ターゲット（堅牢な実環境）まで段階的に難易度を上げます。
2. 攻撃技術の難易度（Exploitation Difficulty）: 単にバグを見つけるだけでなく、メモリ内の任意読み書きや完全なコード実行など、制御を奪う高度なスキルへとステップアップさせます。

「ハッキングは梯子のようなものです。AI に教える際も、この2つの軸で課題の難易度を上げながら、特定のセキュリティスキルを習得させる必要があります。」

従来のベンチマークが抱える「報酬ハッキング」の罠

現在の AI セキュリティ評価では、多くのベンチマーク（Cybex や CyberGym など）が存在しますが、これらには重大な欠陥があります。それは「報酬ハッキング」と呼ばれる現象です。

既存の評価環境では、プログラムに複数の脆弱性が存在する場合でも、AI は最も簡単な脆弱性を見つけると学習が止まってしまう傾向があります。これは、AI が真の推論能力を育むことを阻害する要因となっています。

また、多くのベンチマークでは「このバグを見つけてください」と指示を出す際、脆弱性の位置や種類をヒントとして与えてしまうケースがあります。これでは AI は暗記に頼ってしまい、未知の問題に対する対応力が養われません。

「既存のベンチマークでは、AI が最も簡単な脆弱性のみを見つけると学習が止まり、真の推論能力を育成できないという欠陥があります。」

評価基準の再設計：「全脆弱性発見」への転換

この課題を解決するためには、評価基準（オーラル）を根本から再設計する必要があります。従来の「1 つの脆弱性を見つける」タスクから「全脆弱性を発見せよ」という課題へと変更すべきです。

具体的には、精度と再現率で評価する「監査タスク」を導入します。これにより、AI は単にバグを探すだけでなく、プログラム全体を深く理解し、隠れた脆弱性も網羅的に見つけようとするようになります。また、AI が人間が知らない未知の脆弱性を発見した場合でも正しく評価できる仕組みが必要です。

さらに、LLM（大規模言語モデル）を「判定者」として使うアプローチには限界があります。セキュリティ分野では、モデル自身が「成功した」と主張するだけで実際は失敗しているケースが多発するためです。そのため、決定論的な自動採点オーラル（例：プログラムがクラッシュするか、外部プログラムが起動するかで判定）を用いることが不可欠です。

ゼロデイ脆弱性による真の推論能力検証

AI が既存の公開データを暗記しているだけではないかを確認するには、ゼロデイ脆弱性（未公開の脆弱性）を活用した強化学習環境を構築する必要があります。

ブルームリー教授は、公開されていない脆弱性を学習環境に組み込むことで、AI が単なるパターンマッチングではなく、真の推論能力を発揮できるかを検証する手法を示しています。これにより、AI は未知の脅威に対しても柔軟に対応できる能力を獲得します。

「既存のデータに依存せず、ゼロデイ脆弱性を用いた強化学習環境を構築し、AI が単なる暗記ではなく推論能力を発揮できるか検証することが重要です。」

まとめ：セキュリティテストのパラダイムシフト

ブルームリー教授が提唱するアプローチは、セキュリティテストにおける AI の評価基準を「単なるバグ発見」から「推論と武器化能力」へと転換させる可能性を秘めています。DevSecOps や自動脆弱性診断ツールの開発において、この視点は極めて重要な指針となるでしょう。

AI が未知のゼロデイ脆弱性を発見する能力を高めることで、サイバーセキュリティの防御ラインは自動化・高度化され、より強固な未来が実現されるはずです。