AIとサイバーセキュリティの未来：オープン性が重要な理由

記事一覧へ戻る Mythosとは何か？ オープンさが構造的優位性となる理由 オープンなツールと半自律型エージェントを用いた防御の構築 なぜこれが特に高リスクな組織にとって重要なのか 今後の道筋 MythosおよびProject Glasswingの発表を受け、世界中の機関がサイバーセキュリティの新時代の幕開けの可能性と向き合っています。本稿では、現在の状況を分解し、オープンさの役割について議論するとともに、サイバーセキュリティの未来をより大きなAIエコシステムの中に位置づけます。 What is Mythos? Mythosは「フロンティアAIモデル（frontier AI model）」であり、ソフトウェアコードの処理（その他多くの用途を含む）に使用できる大規模言語モデル（LLM: Large Language Model）です。これはLLM開発における一般的な傾向に沿うもので、コード関連タスクにおけるLLMの性能が最近急激に向上しています。Mythosにとって特に重要なのは、それが組み込まれているシステムです：モデル単体ではなく、そのシステムこそがMythosにソフトウェアの脆弱性（software vulnerability）を迅速に見つけ、パッチを当てる能力を与えています。この区別を理解することが、現在のAIサイバーセキュリティの状況を知る鍵となります。 What Mythos demonstrates is that the following system recipe is powerful: 十分な計算資源（compute power） ソフトウェア関連の膨大なデータで訓練されたモデル ソフトウェア脆弱性のプロービングとパッチ適用を処理するために構築された基盤（scaffolding） その計算資源（および背後の資金）によって可能になる速度 ある程度のシステム自律性 Together, these ingredients can uncover software vulnerabilities, find exploits, and build patches. It’s in this recipe — not in any one model — that both the benefits and the risks come in. これらの要素を組み合わせることで、ソフトウェアの脆弱性を発見し、エクスプロイト（exploit）を見つけ、パッチを構築することができます。このレシピの中にこそ、そして特定のモデル単体ではなく、利益とリスクの両方が存在します。 This matters because others can build comparable systems. Smaller models embedded in systems built with deep security expertise and expansive compute access could potentially produce similar outcomes more cheaply, which is particularly promising for defense. AI cybersecurity capability is jagged: It doesn’t scale smoothly with model size or general benchmark performance. The system the model is embedded within matters a lot. これが重要なのは、他の組織も同等のシステムを構築できる可能性があるからです。深いセキュリティ専門知識と広範な計算資源へのアクセスを備えたシステムに組み込まれた小規模モデルは、より低コストで同様の結果を生み出す可能性があり、これは国防分野において特に有望です。AIサイバーセキュリティの能力は不均一です：モデルサイズや一般的なベンチマーク性能に滑らかに比例してスケールするわけではありません。モデルが組み込まれているシステムこそが、非常に重要なのです。 So what Mythos has demonstrated is that it’s possible to build an AI system that finds and addresses software vulnerabilities. We already knew this was possible and there has been increasing work on this, but we’re just beginning to explore what it means in the context of agentic AI: Systems that can rapidly and autonomously take action. つまり、Mythosが実証したのは、ソフトウェアの脆弱性を見つけ、対応するAIシステムを構築可能であるということです。私たちはすでにこれが可能であることを知っており、この分野での取り組みは増え続けていますが、急速かつ自律的に行動できるシステムであるエージェント型AI（agentic AI）の文脈においてそれが何を意味するかを探り始めたばかりです。 How Openness Can Be a Structural Advantage オープンさが構造的優位性となる理由 ソフトウェアの脆弱性を特定する自律型システム（autonomous systems）が普及していくにつれて（そして普及していくでしょう）、オープンなコードとツールは、競争条件を平等にするのに役立ちます。ソフトウェアセキュリティ（Software security）は、検出（detection）、検証（verification）、調整（coordination）、パッチ伝播（patch propagation）の4つの段階にわたるスピードレースとなっています。オープンなエコシステムは、これらをコミュニティ全体に分散させます。一方、よりクローズドなソースプロジェクトでは、これらの4つの段階すべてにおける知識とアクションが単一のベンダー内に集中し、コードを確認して修正できる組織が1つだけという「単一障害点（single point of failure）」を生み出しています。オープンな開発の分散的な性質は、こうした制約に対して堅牢であり、Linuxカーネルセキュリティチーム、Open Source Security Foundation（OSS-F）、そしてモデルおよびサプライチェーンセキュリティに取り組むHugging Faceのチームなど、専門のセキュリティ専門家を抱えるコミュニティでは特に強力な力を発揮します。 よりクローズドなシステムを支持する一般的な議論は「プロプライエタリ・オブスキュリティ（proprietary obscurity）」であり、これはシステムを構成するコードへのアクセスが不可能であるというものです。残念ながら、これはかつてほど保護を提供しなくなっています。AIシステムは、ストリppedバイナリ（stripped binaries）のリバースエンジニアリングを支援する能力をますます高めており、これは重要です。なぜなら、ほとんどのレガシーファームウェア（legacy firmware）や組み込みコードはクローズドでバイナリのみ公開されており、もはやメンテナンスされていないからです。これらのコードは巨大な攻撃面（attack surface）を形成しており、AIツールの進化に伴い、より可読性が高くアクセスしやすいものになりつつあります。 また、クローズドなコードベース内でAIがどのように使用されているかによって生じるリスクもあります。企業が間違ったインセンティブ（例えば、コードの品質ではなく、リリースされる機能の量でエンジニアを評価するなど）の下でAIコーディングツールを採用する場合、AI加速型開発は従来の開発よりもプロプライエタリコードにより多くの脆弱性（vulnerabilities）をもたらす可能性があります。その後、それらの脆弱性は単一の組織だけが発見・修正できるクローズドなコードベース内に留まることになりますが、AIを活用した攻撃者は外部からそれらを発見する能力をますます高めています。より速くより多くの脆弱性が生成され、単一組織のファイアウォール（firewall）の背後に隠れるという組み合わせは、オープンなエコシステムが回避するよう設計されているまさにそのような不均衡です。 これらすべての基盤にあるのは、攻撃者と防御者の間の「能力の非対称性（capability asymmetry）」です。オープンモデルとオープンツールは、防御者に攻撃者が利用可能なのと同じクラスの能力へのアクセスを提供することで、この格差を縮小します。これらは本来、資金力のある限られた数のエンティティに集中するはずだった能力です。 ## Building Defenses with Open Tools and Semi-Autonomous Agents オープンソースとAIエージェントが連携して重要な役割を果たせるのが、サイバーセキュリティの防御分野です。システムカード（System Card）に基づくと、Mythosはほぼ完全な自律性を持って動作できるようですが、制御喪失のリスクがあるため、私たちはこれを避けるよう助言しています。その代わり、半自律型（semi-autonomous）のAIエージェントは、実行可能なアクションの種類を事前に指定し、特定のステップには人間の承認を必要とするものであり、利益とリスクの絶妙なバランス（sweet spot）を実現します。半自律型システムでは人間が制御を維持し、AIエージェントは特定のサブタスクを担当します。これは、組織が自らの機関内でプライベートに実行できるオープンコードを用いて、許可されたツール、スキル、システムアクセス権限を指定することで可能になります。この構成により、AIエージェントは防御的に展開され、組織独自の管理下で脆弱性（vulnerability）の発見とパッチ適用を支援できます。 半自律型アプローチは、人間がAIエージェントが行ったこととその理由を実際に理解できることに依存しています。ブラックボックス（black box）である場合と比較して、オープンエージェントスキャフォールディング（open agent scaffolding）、オープンルールエンジン（open rule engine）、監査可能な意思決定ログおよびトレース（auditable decision logs and traces）といったオープンなコンポーネントを基盤として構築されている方が、はるかに実現可能です。「ヒューマン・イン・ザ・ループ（human in the loop）」が意味を成すのは、人間がそのループの中身を見られる場合に限られます。 企業がこれらの機能をすべてゼロから構築する必要はありません。脆弱性スキャナー（vulnerability scanner）、侵入検知システム（intrusion detection system）、ログアナライザー（log analyzer）、ファズイングフレームワーク（fuzzing framework）など、セキュリティツールリングの豊富なオープンソースエコシステムが存在し、AIエージェントはこれらと統合することができます。 なぜこれが特に高リスク組織にとって重要なのか 高リスク組織にとって、オープンで監査可能な基盤から始めることは、単一のベンダーの主張を信頼するのではなく、セキュリティチームが実際にモニタリングの仕組みを検証できることを意味します。機密データやプロセスが関わる場合、また機密情報が一般的に外部のAIプロバイダーを通過すべきではない場合に、これは特に重要です。オープンなシステムは社内セキュリティ専門家によって厳密に分析でき、組織固有の安全なデータでファインチューニングされ、組織固有の監視メカニズムを生成するように修正され、適切なファイアウォールの背後にすべてのデータを保持しつつ、組織独自のインフラ内で完全に実行できます。 今後の道筋 アタッカーは脆弱性を悪用するモデルを開発していくでしょう。答えの重要な部分は、透明性の高い実践に依存することです：オープンなセキュリティレビュー、公開された脅威モデル（threat model）、共有された脆弱性データベース（vulnerability database）、そしてどのチームでも採用できるオープンなツールリング。対照的に、各組織が独自のプロプライエタリツールで孤立して自衛しようとする代替案は、独自のコミュニティ内で連携し技術を共有するアタッカーに対してスケールしません。 AIサイバーセキュリティの未来は、単一のモデルよりも、それを取り巻くエコシステムによってより多く形作られるでしょう。オープン性は、防御側が先を行くために必要な可視性、制御、コミュニティ、そして共有インフラを提供します。

AIとサイバーセキュリティの未来：オープン性が重要な理由

背景や根拠まで確認しますか？

調べる

選ぶ

サイト