Building AI for Cyber Defenders｜サイバー防衛者のためのAI構築

**AIをサイバー防御者に：転換点を迎えたセキュリティ戦場** AIモデルは、もはや理論上の存在ではなく、実践的なサイバーセキュリティ任務において有用な段階に達した。先端AIが攻撃者にとって強力なツールとなり得るという研究と経験を踏まえ、我々はClaudeが防御側としてコードやシステムの脆弱性を検出、分析、修復する能力を強化するために投資を行った。その結果、最新モデル「Claude Sonnet 4.5」は、わずか2ヶ月前にリリースされた当時の最先端モデル「Opus 4.1」を、コード脆弱性の発見などのサイバー技能において凌駕するか同等の性能を達成した。防御側が攻撃側に遅れを取らないためには、AIを採用し実験を重ねることが鍵となる。我々は、AIがサイバーセキュリティに与える影響において、今まさに転換点に立っていると確信している。 ここ数年、我々のチームはAIモデルのサイバーセキュリティ関連能力を注意深く追跡してきた。当初、モデルは高度で実用的な能力において特に強力ではなかった。しかし、過去1年ほどで変化が訪れた。具体的には、モデルが歴史上最も損害の大きいサイバー攻撃の一つである2017年のEquifax侵害をシミュレーションで再現可能であることを示し、Claudeをサイバーセキュリティ競技会に参加させたところ、場合によっては人間のチームを上回るパフォーマンスを発揮した。また、Claudeは自社のコード内の脆弱性を発見し、リリース前に修正するのにも役立っている。 今年夏のDARPA AI Cyber Challengeでは、各チームがLLM（Claudeを含む）を利用して「サイバー推論システム」を構築し、数百万行のコードを調査してパッチ適用すべき脆弱性を探した。競技用に挿入された脆弱性に加え、チームは以前から存在する非人工の未知の脆弱性も発見（時には修正）した。競技の枠を超え、他の先端研究機関も現在、モデルを応用して新規の脆弱性を発見・報告している。 同時に、我々のセーフガード活動の一環として、自社プラットフォーム上でAIを利用して活動を拡大しようとする脅威行為者を発見し、無力化してきた。セーフガードチームは最近、「バイブハッキング」の事例を発見・阻止した。これは、従来ならばチーム全体が必要だった大規模なデータ恐喝スキームを、サイバー犯罪者がClaudeを用いて構築しようとしたものだ。また、中国のAPT（持続的脅威）活動と一致する特徴を示す行為者による、重要な通信インフラを標的とした複雑化する諜報活動においてClaudeが利用されていることも検知・対処している。 これらの一連の証拠は、我々がサイバー生態系における重要な転換点にあり、ここからの進歩は非常に速くなるか、AIの利用が急速に拡大する可能性を示している。 したがって今、コードとインフラを保護するための防御側によるAI利用を加速させる重要な時機である。AIから得られるサイバー上の優位性を攻

サイバー防衛者のためのAI構築

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト